Artikel 34 Risikobewertung

Die Art und Weise, in der sehr große Online-Plattformen und sehr große Online-Suchmaschinen genutzt werden können, hat großen Einfluss auf die Online-Sicherheit, die öffentliche Meinungsbildung und den öffentlichen Diskurs sowie den Online-Handel. Die Gestaltung der Dienste ist im Allgemeinen auf eine Optimierung ihres oft werbegestützten Geschäftsmodells ausgerichtet und kann Anlass zu gesellschaftlichen Bedenken geben. Es bedarf einer wirksamen Regulierung und Durchsetzung, damit die Risiken und der gesellschaftliche und wirtschaftliche Schaden, die möglicherweise entstehen können, wirksam ermittelt und gemindert werden können. Im Rahmen dieser Verordnung sollten Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen daher prüfen, welche systemischen Risiken mit der Gestaltung, Funktionsweise und Nutzung ihrer Dienste sowie mit einem möglichen Missbrauch durch die Nutzer verbunden sind, und sollten unter Achtung der Grundrechte angemessene Gegenmaßnahmen treffen. Bei der Bestimmung der Bedeutung möglicher negativer Wirkungen und Auswirkungen sollten die Anbieter die Schwere der möglichen Auswirkungen und die Wahrscheinlichkeit all dieser systemischen Risiken berücksichtigen. So könnten sie beispielsweise prüfen, ob die möglichen negativen Auswirkungen eine große Zahl von Personen betreffen können, ihre mögliche Unumkehrbarkeit oder wie schwierig es ist, die möglichen Auswirkungen zu beheben und die vorherige Situation wiederherzustellen.

Dabei sollten vier Kategorien systemischer Risiken von Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen eingehend geprüft werden. Eine erste Kategorie betrifft die Risiken, die durch Verbreitung rechtswidriger Inhalte entstehen können, darunter die Verbreitung von Darstellungen von sexuellem Missbrauch von Kindern oder von rechtswidriger Hassrede oder andere Arten von Missbrauch ihrer Dienste für Straftaten sowie rechtswidrige Tätigkeiten wie ein nach Unions- oder nationalem Recht untersagter Verkauf von Waren oder Dienstleistungen, wie z. B. gefährlicher oder gefälschter Güter oder rechtswidrig gehandelter Tiere. Eine solche Verbreitung oder solche Aktivitäten können beispielsweise ein erhebliches systemisches Risiko darstellen, wenn sich der Zugang zu rechtswidrigen Inhalten über Konten mit besonders großer Reichweite oder andere Möglichkeiten der Verstärkung rasch und weit verbreitet. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten das Risiko der Verbreitung rechtswidriger Inhalte unabhängig davon bewerten, ob die Informationen auch mit ihren allgemeinen Geschäftsbedingungen unvereinbar sind oder nicht. Diese Bewertung lässt die persönliche Verantwortlichkeit des Nutzers sehr großer Online-Plattformen oder der Inhaber von Websites, die von sehr großen Online-Suchmaschinen indexiert werden, für eine mögliche Rechtswidrigkeit ihrer Tätigkeit nach geltendem Recht unberührt.

Eine zweite Kategorie betrifft die tatsächlichen oder absehbaren Auswirkungen des Dienstes auf die Ausübung der durch die Charta der Grundrechte geschützten Grundrechte, einschließlich, aber nicht beschränkt auf Menschenwürde, Freiheit der Meinungsäußerung und Informationsfreiheit, einschließlich der Freiheit und des Pluralismus der Medien, Recht auf Achtung des Privatlebens, Datenschutz, Recht auf Nichtdiskriminierung, Rechte des Kindes und Verbraucherschutz. Diese Risiken können beispielsweise auf die Gestaltung der algorithmischen Systeme sehr großer Online-Plattformen oder sehr großer Online-Suchmaschinen oder auf den Missbrauch ihres Dienstes für die Übermittlung missbräuchlicher Nachrichten oder auf andere Methoden zur Verhinderung der freien Meinungsäußerung oder zur Behinderung des Wettbewerbs zurückzuführen sein. Bei der Bewertung der Risiken für die Rechte des Kindes sollten die Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen beispielsweise prüfen, wie leicht es für Minderjährige ist, die Gestaltung und die Funktionsweise des Dienstes zu verstehen und in welcher Weise Minderjährige durch ihren Dienst Inhalten ausgesetzt sein können, die ihre Gesundheit oder ihre körperliche, geistige oder sittliche Entwicklung beeinträchtigen können. Solche Risiken können beispielsweise im Zusammenhang mit der Gestaltung von Online-Schnittstellen entstehen, die absichtlich oder unabsichtlich die Schwächen und Unerfahrenheit von Minderjährigen ausnutzen oder die zu Suchtverhalten führen können.

Eine dritte Kategorie von Risiken betrifft die tatsächlichen oder absehbaren negativen Auswirkungen auf demokratische Prozesse, die gesellschaftliche Debatte und Wahlprozesse sowie auf die öffentliche Sicherheit.

Eine vierte Risikokategorie ergibt sich aus ähnlichen Bedenken in Bezug auf die Gestaltung, die Funktionsweise oder die Nutzung sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen, auch durch Manipulation, mit tatsächlichen oder absehbaren negativen Auswirkungen auf den Schutz der öffentlichen Gesundheit oder von Minderjährigen und schwerwiegenden negativen Folgen für das körperliche und geistige Wohlbefinden einer Person oder in Bezug auf geschlechtsspezifische Gewalt. Solche Risiken können sich auch aus koordinierten Desinformationskampagnen im Zusammenhang mit der öffentlichen Gesundheit oder aus der Gestaltung von Online-Schnittstellen, die verhaltensbezogene Abhängigkeiten der Nutzer stimulieren können, ergeben.

Bei der Bewertung solcher systemischen Risiken sollten sich die Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen auf die Systeme oder andere Elemente konzentrieren, die zu den Risiken beitragen können, einschließlich aller algorithmischen Systeme, die relevant sein können, insbesondere ihre Empfehlungssysteme und Werbesysteme, wobei die entsprechenden Datenerhebungs- und -nutzungspraktiken zu berücksichtigen sind. Sie sollten auch prüfen, ob ihre allgemeinen Geschäftsbedingungen und deren Durchsetzung sowie ihre Verfahren zur Moderation von Inhalten und die entsprechenden technischen Instrumente und zugewiesenen Ressourcen angemessen sind. Bei der Bewertung der in dieser Verordnung ermittelten systemischen Risiken sollten sich diese Anbieter auch auf die Informationen konzentrieren, die zwar nicht rechtswidrig sind, aber zu den in dieser Verordnung ermittelten systemischen Risiken beitragen. Solche Anbieter sollten daher besonders darauf achten, wie ihre Dienste zur Verbreitung oder Verstärkung irreführender oder täuschender Inhalte, einschließlich Desinformation, genutzt werden. Wenn die algorithmische Verstärkung von Informationen zu den systemischen Risiken beiträgt, sollten diese Anbieter dies in ihren Risikobewertungen gebührend berücksichtigen. Wo Risiken lokal begrenzt sind oder sprachliche Unterschiede bestehen, sollten diese Anbieter dies auch bei ihren Risikobewertungen berücksichtigen. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten insbesondere prüfen, wie die Gestaltung und Funktionsweise ihres Dienstes sowie die vorsätzliche und häufig koordinierte Manipulation und Nutzung ihrer Dienste oder die systemische Verletzung ihrer Nutzungsbedingungen zu diesen Risiken beitragen. Solche Risiken können beispielsweise auf die unauthentische Nutzung des Dienstes, wie die Einrichtung von Scheinkonten, die Nutzung von Bots oder die irreführende Nutzung eines Dienstes und andere automatisierte oder teilautomatisierte Verhaltensweisen zurückzuführen sein, die zu einer schnellen und umfangreichen öffentlichen Verbreitung von Informationen führen können, die rechtswidrige Inhalte darstellen oder mit den Geschäftsbedingungen einer Online-Plattform oder einer Online-Suchmaschine unvereinbar sind und zu Desinformationskampagnen beitragen.

Um es zu ermöglichen, dass nachfolgende Risikobewertungen aufeinander aufbauen und die Entwicklung der ermittelten Risiken aufzeigen, sowie um Untersuchungen und Durchsetzungsmaßnahmen zu erleichtern, sollten Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen alle Belege für die von ihnen durchgeführten Risikobewertungen, wie etwa Informationen über deren Vorbereitung, zugrunde liegende Daten und Daten über die Tests ihrer algorithmischen Systeme, aufbewahren.

Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten sicherstellen, dass ihr Konzept für die Risikobewertung und -minderung auf den besten verfügbaren Informationen und wissenschaftlichen Erkenntnissen beruht und dass sie ihre Annahmen mit den Gruppen überprüfen, die von den Risiken und den von ihnen ergriffenen Maßnahmen am stärksten betroffen sind. Zu diesem Zweck sollten sie, soweit angemessen, bei ihren Risikobewertungen und bei der Gestaltung ihrer Risikominderungsmaßnahmen Vertreter der Nutzer und der möglicherweise von ihren Diensten betroffenen Gruppen sowie unabhängige Sachverständige und zivilgesellschaftliche Organisationen einbeziehen. Sie sollten bestrebt sein, solche Konsultationen in ihre Methoden zur Bewertung der Risiken und zur Gestaltung von Risikominderungsmaßnahmen zu integrieren, gegebenenfalls einschließlich Erhebungen, Fokusgruppen, Rundtischgesprächen und anderen Konsultations- und Gestaltungsmethoden. Bei der Bewertung, ob eine Maßnahme angemessen, verhältnismäßig und wirksam ist, sollte ein besonderes Augenmerk auf das Recht auf freie Meinungsäußerung gelegt werden.