Source: OJ L, 2024/1689, 12.7.2024Consolidated text

Current language: DE

Artikel 76 Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden

Summary What does Article 76 of the AI act regulation say?

This article establishes the oversight role of market surveillance authorities specifically in the context of real-world testing of AI systems.

It connects directly to Articles 60 and 61, which set out the conditions for real-world testing, and to Article 58 on AI regulatory sandboxes.

Essentially, this article gives market surveillance authorities the tools to monitor, intervene in, and if necessary halt real-world testing activities where conditions are not being met or where serious incidents arise.

Important points:

  • Market surveillance authorities are empowered to suspend, terminate, or require modifications to real-world testing of AI systems where conditions are breached or a serious incident is reported.
  • Where a decision or objection is issued, market surveillance authorities must state the grounds and explain how the provider or prospective provider can challenge it.
  • Market surveillance authorities must share the grounds for any such decision with their counterparts in other Member States where the same AI system has been tested.

Springlex's summary of the article is a reading aid, not a substitute for the legal text.

    1. Marktüberwachungsbehörden müssen über die Kompetenzen und Befugnisse verfügen, um sicherzustellen, dass Tests unter Realbedingungen gemäß dieser Verordnung erfolgen.

    2. ▼M1

      Beruht der Test unter Realbedingungen auf Artikel 60a, so gilt jede Bezugnahme auf eine Marktüberwachungsbehörde in diesem Artikel als Bezugnahme auf die zuständige nationale Behörde oder die gemäß den in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union zuständige Behörde, und Bezugnahmen auf Artikel 60 gelten entsprechend als Bezugnahmen auf Artikel 60a.

    1. Wenn ein Test unter Realbedingungen für KI-Systeme durchgeführt wird, die in einem KI-Reallabor gemäß Artikel 58 beaufsichtigt werden, überprüfen die Marktüberwachungsbehörden im Rahmen ihrer Aufsichtsaufgaben für das KI-Reallabor die Einhaltung des Artikels 60. Die Behörden können gegebenenfalls gestatten, dass der Anbieter oder zukünftige Anbieter den Test unter Realbedingungen in Abweichung von den in Artikel 60 Absatz 4 Buchstaben f und g festgelegten Bedingungen durchführt.

    1. Wenn eine Marktüberwachungsbehörde vom zukünftigen Anbieter, vom Anbieter oder von einem Dritten über einen schwerwiegenden Vorfall informiert wurde oder Grund zu der Annahme hat, dass die in den Artikeln 60 und 61 festgelegten Bedingungen nicht erfüllt sind, kann sie — je nachdem, was angemessen ist — in ihrem Hoheitsgebiet gegebenenfalls entscheiden, entweder

      1. den Test unter Realbedingungen auszusetzen oder abzubrechen oder

      2. den Anbieter oder zukünftigen Anbieter und die Betreiber oder zukünftigen Betreiber zur Änderung eines beliebigen Aspekts des Tests unter Realbedingungen zu verpflichten.

    1. Wenn eine Marktüberwachungsbehörde eine Entscheidung nach Absatz 3 des vorliegenden Artikels getroffen oder Einwände im Sinne des Artikels 60 Absatz 4 Buchstabe b erhoben hat, sind im Rahmen der Entscheidung oder der Einwände die Gründe dafür zu nennen sowie anzugeben, wie der Anbieter oder zukünftige Anbieter die Entscheidung oder die Einwände anfechten kann.

    1. Wenn eine Marktüberwachungsbehörde eine Entscheidung nach Absatz 3 getroffen hat, teilt sie ihre Gründe dafür gegebenenfalls den Marktüberwachungsbehörden anderer Mitgliedstaaten mit, in denen das KI-System gemäß dem Plan für den Test getestet wurde.

Table of contents

We're continuously improving our platform to serve you better.

Your feedback matters! Let us know how we can improve.

Contact us:

springlex@springflod.se

Found a bug?

Springflod is a Swedish boutique consultancy firm specialising in cyber security within the financial services sector.

We offer professional services concerning information security governance, risk and compliance.

Crafted with ❤️ by Springflod