Preamble Recitals

Zur Unterstützung der Durchsetzungsmaßnahmen im Rahmen der Verordnung (EU) 2024/1689 und zur Beratung und Unterstützung des Europäischen Büros für Künstliche Intelligenzdie Aufgabe der Kommission, zur Umsetzung, Beobachtung und Überwachung von KI-Systemen und KI-Modellen mit allgemeinem Verwendungszweck und zu der im Beschluss der Kommission vom 24. Januar 2024 vorgesehenen KI-Governance beizutragen; Bezugnahmen in dieser Verordnung auf das Büro für Künstliche Intelligenz gelten als Bezugnahmen auf die Kommission; (im Folgenden „KI-Büro“) bei der Wahrnehmung seiner Aufgaben sollte ein wissenschaftliches Gremium unabhängiger Sachverständiger auf dem Gebiet der künstlichen Intelligenz (im Folgenden „wissenschaftliches Gremium“) eingerichtet werden.

Die Mitglieder des wissenschaftlichen Gremiums sollten auf der Grundlage objektiver Kriterien und im Anschluss an eine öffentliche Aufforderung zur Interessenbekundung ernannt werden. Die in der Aufforderung zur Interessenbekundung enthaltenen Auswahlkriterien sollten sicherstellen, dass hoch qualifizierte multidisziplinäre und interdisziplinäre Sachverständige mit einem ausreichenden aktuellen wissenschaftlichen, soziotechnischen oder technischen Fachwissen zu verschiedenen Aspekten im Zusammenhang mit künstlicher Intelligenz (KI), den Auswirkungen von KI oder anderen für die wirksame Durchsetzung der Verordnung (EU) 2024/1689 relevanten Themen, einschließlich Fachwissen in Anwendungsbereichen sowie über Grundrechte und Gleichstellung, ausgewählt werden und dass sie in der Lage sind, unabhängig und im öffentlichen Interesse zu handeln. In der Aufforderung zur Interessenbekundung sollte das Bewerbungsverfahren festgelegt werden. Als Nachweise können Erklärungen einer Behörde eines Mitgliedstaats der Union oder eines Mitglieds der Europäischen Freihandelsassoziation, das dem Europäischen Wirtschaftsraum angehört, beigefügt werden, in denen das wissenschaftliche, soziotechnische oder technische Fachwissen der Bewerber bescheinigt wird.

Um eine wirksame Arbeitsweise und gleichzeitig die Vielfalt des Fachwissens zu gewährleisten, sollte die Zahl der Sachverständigen, die als Mitglieder des wissenschaftlichen Gremiums zu ernennen sind, in Abstimmung mit dem Europäischen Gremium für Künstliche Intelligenz (im Folgenden „Gremium“) nicht mehr als 60 betragen. Für jede Amtszeit sollte die Zahl der Sachverständigen, die als Mitglieder des wissenschaftlichen Gremiums ernannt werden, von Fall zu Fall unter Berücksichtigung der erwarteten Arbeitsbelastung und des erforderlichen Fachwissens in Abstimmung mit dem Gremium bestimmt und in der Aufforderung zur Interessenbekundung angegeben werden. Die Kommission sollte die Höchstzahl von Sachverständigen auf der Grundlage der gewonnenen Erfahrungen bewerten und im Rahmen einer möglichen Überarbeitung dieser Verordnung eine Änderung in Erwägung ziehen.

Es sollten Grundsätze für die Auswahl einer vielfältigen Sachverständigengruppe festgelegt werden. Die Kommission sollte bei der Auswahl der Sachverständigen so weit wie möglich für eine ausgewogene Vertretung der Geschlechter und eine gerechte geografische Verteilung sorgen. Um eine gerechte geografische Verteilung zu erreichen, sollte mindestens ein Staatsangehöriger aus jedem Mitgliedstaat der Union und von jedem Mitglied der Europäischen Freihandelsassoziation, das dem Europäischen Wirtschaftsraum angehört, ernannt werden, sofern es einen Bewerber aus diesen Ländern gibt, der die Kriterien der Aufforderung zur Interessenbekundung erfüllt. In jedem Fall sollten aus jedem Land höchsten drei Sachverständige kommen. Angesichts der Bedeutung, die der Einbringung unterschiedlicher Perspektiven in das wissenschaftliche Gremium zukommt, sollten Drittstaatsangehörige als Sachverständige ernannt werden können. Mindestens vier Fünftel der Sachverständigen des wissenschaftlichen Gremiums sollten jedoch Staatsangehörige der Mitgliedstaaten der Union oder eines Mitglieds der Europäischen Freihandelsassoziation, das dem Europäischen Wirtschaftsraum angehört, sein.

Um die wirksame Arbeitsweise des wissenschaftlichen Gremiums zu gewährleisten, sollte sein Sekretariat vom KI-Büro und der Gemeinsamen Forschungsstelle der Europäischen Kommission gemeinsam gestellt werden.

Die Organisation des wissenschaftlichen Gremiums sollte so flexibel sein, dass besondere Fachkenntnisse nach Maßgabe der jeweiligen Erfordernisse eingesetzt werden können. Zu diesem Zweck sollten der Vorsitz und das Sekretariat einen Berichterstatter und einschlägige Beitragende für die einzelnen Aufgaben des wissenschaftlichen Gremiums benennen, wobei unter anderem Fachwissen, einschließlich sektorspezifischer Fachkenntnisse, Verfügbarkeit, mögliche Interessenkonflikte und Sicherheitsbedenken zu berücksichtigen sind.

Angesichts des Beitrags des wissenschaftlichen Gremiums zur Verwirklichung der Ziele der Unionspolitik durch Unterstützung von Durchsetzungstätigkeiten im Rahmen der Verordnung (EU) 2024/1689 sollten Sachverständige auf Antrag des KI-Büros eine angemessene Vergütung für die Ausführung von Aufgaben im wissenschaftlichen Gremium erhalten. Die Vergütung sollte im Einklang mit den für die Kommission geltenden Bestimmungen festgelegt werden, insbesondere mit Artikel 237 der Verordnung (EU) 2018/1046 des Europäischen Parlaments und des Rates(²)Verordnung (EU, Euratom) 2018/1046 des Europäischen Parlaments und des Rates vom 18. Juli 2018 über die Haushaltsordnung für den Gesamthaushaltsplan der Union, zur Änderung der Verordnungen (EU) Nr. 1296/2013, (EU) Nr. 1301/2013, (EU) Nr. 1303/2013, (EU) Nr. 1304/2013, (EU) Nr. 1309/2013, (EU) Nr. 1316/2013, (EU) Nr. 223/2014, (EU) Nr. 283/2014 und des Beschlusses Nr. 541/2014/EU sowie zur Aufhebung der Verordnung (EU, Euratom) Nr. 966/2012 (ABl. L 193 vom 30.7.2018, S. 1, ELI: http://data.europa.eu/eli/reg/2018/1046/oj)..

Um Interessenkonflikte bei der Wahrnehmung ihrer Aufgaben zu vermeiden, sollten die Sachverständigen des wissenschaftlichen Gremiums von allen Anbietern von KI-Systemen oder KI-Modellen mit allgemeinem Verwendungszweck unabhängig sein und unabhängig, unparteilich und objektiv handeln. Damit das Vertrauen in die Arbeit des wissenschaftlichen Gremiums gewährleistet ist, sollten die Sachverständigen Interessen- und Verpflichtungserklärungen abgeben, nach denen sie im öffentlichen Interesse handeln und die öffentlich zugänglich gemacht werden sollten. Zu demselben Zweck sollten die Aufgaben des wissenschaftlichen Gremiums auf transparente Weise wahrgenommen und sollte seine Zusammensetzung öffentlich zugänglich gemacht werden.

Um eine Stärkung der für die wirksame Durchsetzung der Verordnung (EU) 2024/1689 erforderlichen nationalen Kapazitäten zu ermöglichen, sollten die Marktüberwachungsbehörden der Mitgliedstaaten für ihre Durchsetzungstätigkeiten im Rahmen dieser Verordnung auf die Unterstützung des wissenschaftlichen Gremiums zurückgreifen können. Das KI-Büro sollte die praktischen Mittel vorsehen, mit denen die Mitgliedstaaten solche Unterstützungsersuchen stellen können. Die Ersuchen sollten erforderlich und verhältnismäßig sein und vom KI-Büro zeitnah bearbeitet werden.

Damit das wissenschaftliche Gremium gegenüber dem KI-Büro wirksam qualifizierte Warnungen gemäß Artikel 90 der Verordnung (EU) 2024/1689 ausgeben kann, sollten die Bedingungen, Verfahren und detaillierten Regelungen für die Ausgabe solcher qualifizierten Warnungen festgelegt werden. Das KI-Büro sollte eine sichere Schnittstelle bereitstellen, über die das wissenschaftliche Gremium qualifizierte Warnungen und die Nachweise, auf die sich diese Warnungen stützen, übermitteln kann. Angesichts der großen Bedeutung und der möglichen Auswirkungen einer qualifizierten Warnung für einen Anbietereine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich; eines KI-Modells mit allgemeinem Verwendungszweckein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine erhebliche allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann, ausgenommen KI-Modelle, die vor ihrem Inverkehrbringen für Forschungs- und Entwicklungstätigkeiten oder die Konzipierung von Prototypen eingesetzt werden; sollte eine solche Warnung von mindestens der einfachen Mehrheit der Mitglieder des wissenschaftlichen Gremiums beschlossen werden.

Damit das wissenschaftliche Gremium in der Lage ist, seine Aufgaben gemäß Artikel 68 Absatz 3 der Verordnung (EU) 2024/1689 wirksam wahrzunehmen, sollten die Bedingungen, Verfahren und detaillierten Regelungen festgelegt werden, nach denen das wissenschaftliche Gremium und seine Mitglieder beim KI-Büro Unterstützung bei der Wahrnehmung ihrer Aufgaben beantragen können. Insbesondere sollte festgelegt werden, wie das wissenschaftliche Gremium bei der Kommission beantragen kann, gemäß Artikel 91 Absatz 3 der Verordnung (EU) 2024/1689 ein Informationsersuchen an einen Anbietereine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich; eines KI-Modells mit allgemeinem Verwendungszweckein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine erhebliche allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann, ausgenommen KI-Modelle, die vor ihrem Inverkehrbringen für Forschungs- und Entwicklungstätigkeiten oder die Konzipierung von Prototypen eingesetzt werden; zu richten.

Ein solcher Antrag sollte von einem Mitglied des wissenschaftlichen Gremiums gestellt werden, das als Berichterstatter für eine Aufgabe des wissenschaftlichen Gremiums benannt wurde, und von mindestens einem Drittel der Mitglieder des wissenschaftlichen Gremiums unterstützt werden. In dem Antrag sollte hinreichend begründet werden, warum ein Informationsersuchen und der Zugang zu den angeforderten Informationen für die Wahrnehmung der Aufgaben des wissenschaftlichen Gremiums erforderlich sind. Das KI-Büro sollte die Erforderlichkeit und Verhältnismäßigkeit des Antrags prüfen und dabei berücksichtigen, dass Geschäftsgeheimnisse und vertrauliche Geschäftsinformationen geschützt werden müssen. Wenn das KI-Büro beschließt, dem Antrag nachzukommen, sollte es ein an einen Anbietereine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich; gerichtetes Informationsersuchen ausarbeiten, das dann von der Kommission übermittelt wird, und den betreffenden Mitgliedern des wissenschaftlichen Gremiums die erhaltenen Informationen zur Verfügung stellen. Das KI-Büro sollte sichere technische Mittel einrichten, die zweckmäßig sein und einen angemessenen hohen Standard gewährleisten sollten, um Zugang zu diesen Informationen zu gewähren, der auf die beantragenden Mitglieder des wissenschaftlichen Gremiums — also den benannten Berichterstatter und die zu der Aufgabe des wissenschaftlichen Gremiums Beitragenden — beschränkt sein sollte. Die beantragenden Mitglieder sollten vor Erhalt der Daten eine Eigenerklärung vorlegen, aus der hervorgeht, dass sie die verlangten Informationen ausschließlich für den angegebenen Zweck verwenden wollen, und in der sie die Modalitäten und Schutzvorkehrungen zur Gewährleistung einer vertraulichen Datenverarbeitung beschreiben. Das KI-Büro sollte einen Antrag ablehnen können, wenn es anhand der von einem Mitglied des wissenschaftlichen Gremiums vorgelegten Informationen Grund zu der Annahme hat, dass nach vernünftigem Ermessen vorhersehbare Risiken im Zusammenhang mit der Datensicherheit oder -vertraulichkeit bestehen.

Die in dieser Verordnung vorgesehenen Maßnahmen entsprechen der Stellungnahme des Ausschusses für Künstliche Intelligenz —