Article 34 Évaluation des risques

Les très grandes plateformes en ligne et les très grands moteurs de recherche en ligne peuvent être utilisés d’une manière qui a une influence considérable sur la sécurité en ligne, sur la formation de l’opinion publique et du discours, ainsi que sur le commerce en ligne. La façon dont ils conçoivent leurs services est généralement optimisée au bénéfice de leurs modèles économiques souvent axés sur la publicité et peut susciter des préoccupations sociétales. Une réglementation et une exécution efficaces sont nécessaires pour déterminer et atténuer efficacement les risques et le préjudice sociétal et économique potentiels. En vertu du présent règlement, les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient donc évaluer les risques systémiques découlant de la conception, du fonctionnement et de l’utilisation de leurs services, ainsi que des abus potentiels par les destinataires du service, et devraient prendre des mesures d’atténuation appropriées, dans le respect des droits fondamentaux. Pour déterminer l’ampleur des effets et impact négatifs potentiels, les fournisseurs devraient examiner la gravité de l’impact potentiel et la probabilité de tous ces risques systémiques. Par exemple, ils pourraient évaluer si l’impact négatif potentiel peut toucher un grand nombre de personnes, déterminer son éventuelle irréversibilité ou apprécier à quel point il est difficile de remédier au problème et de revenir à la situation antérieure à l’impact potentiel.

Quatre catégories de risques systémiques devraient être évaluées de manière approfondie par les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne. Dans la première catégorie figurent les risques associés à la diffusion de contenus illicites, tels que la diffusion de matériel pédopornographique, de discours haineux illégaux ou d’autres types d’usage abusif de leurs services dans le cadre d’infractions pénales, et la poursuite d’activités illégales, telles que la vente de produits ou de services interdits par le droit de l’Union ou le droit national, y compris des produits dangereux ou de contrefaçon, ou des animaux commercialisés illégalement. Par exemple, cette diffusion ou ces activités peuvent constituer un risque systémique important lorsque l’accès à des contenus illicites peut se propager rapidement et largement grâce à des comptes d’une portée particulièrement large ou à d’autres moyens d’amplification. Les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient évaluer le risque de diffusion de contenus illicites, que l’information soit ou non également incompatible avec leurs conditions générales. Cette évaluation est sans préjudice de la responsabilité personnelle du destinataire du service de très grandes plateformes en ligne ou des propriétaires de sites internet indexés par de très grands moteurs de recherche en ligne du fait de l’éventuelle illégalité de leur activité au regard du droit applicable.

La deuxième catégorie concerne l’incidence réelle ou prévisible du service sur l’exercice des droits fondamentaux, tels qu’ils sont protégés par la Charte, ce qui comprend, sans s’y limiter, la dignité humaine, la liberté d’expression et d’information, dont la liberté et le pluralisme des médias, le droit à la vie privée, la protection des données, le droit à la non-discrimination, les droits de l’enfant et la protection des consommateurs. De tels risques peuvent découler, par exemple, de la conception des systèmes algorithmiques utilisés par la très grande plateforme en ligne ou par le très grand moteur de recherche en ligne, ou de l’usage abusif de leur service par la soumission de notifications abusives ou d’autres méthodes visant à réduire au silence ou à entraver la concurrence. Lorsqu’ils évaluent les risques pour les droits de l’enfant, les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient examiner par exemple à quel point la conception et le fonctionnement du service sont faciles à comprendre pour les mineurs, ainsi que la manière dont ces derniers peuvent être exposés, par le biais de leur service, à des contenus pouvant nuire à leur santé ainsi qu’à leur épanouissement physique, mental et moral. Ces risques peuvent résulter, par exemple, de la conception des interfaces en ligne qui exploitent intentionnellement ou non les faiblesses et l’inexpérience des mineurs ou qui peuvent entraîner un comportement de dépendance.

La troisième catégorie de risques concerne les effets négatifs réels ou prévisibles sur les processus démocratiques, le discours civique et les processus électoraux, ainsi que sur la sécurité publique.

Une quatrième catégorie de risques découle de préoccupations similaires relatives à la conception, au fonctionnement ou à l’utilisation, y compris par manipulation, de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne ayant un effet négatif réel ou prévisible sur la protection de la santé publique et des mineurs, ainsi que des conséquences négatives graves sur le bien-être physique et mental d’une personne, ou sur la violence à caractère sexiste. Ces risques peuvent également résulter de campagnes de désinformation coordonnées liées à la santé publique ou de la conception d’interfaces en ligne susceptibles de stimuler les dépendances comportementales des destinataires du service.

Lors de l’évaluation de ces risques systémiques, les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient se concentrer sur les systèmes ou autres éléments susceptibles de contribuer aux risques, y compris tous les systèmes algorithmiques qui peuvent être concernés, en particulier leurs systèmes de recommandation et leurs systèmes publicitaires, en étant attentifs aux pratiques connexes en matière de collecte et d’utilisation des données. Ils devraient également évaluer si leurs conditions générales et la mise en application de ces dernières sont appropriées, ainsi que leurs processus de modération des contenus, leurs outils techniques et les ressources affectées. Lors de l’évaluation des risques systémiques recensés dans le présent règlement, ces fournisseurs devraient également se concentrer sur les informations qui ne sont pas illicites mais alimentent les risques systémiques recensés dans le présent règlement. Ces fournisseurs devraient donc accorder une attention particulière à la manière dont leurs services sont utilisés pour diffuser ou amplifier des contenus trompeurs ou mensongers, et notamment à la désinformation. Lorsque l’amplification algorithmique des informations contribue aux risques systémiques, ces fournisseurs devraient en tenir dûment compte dans leurs évaluations des risques. Lorsque les risques sont localisés ou qu’il existe des différences linguistiques, il y a lieu que ces fournisseurs en rendent compte également dans leurs évaluations des risques. Les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient, en particulier, examiner la manière dont la conception et le fonctionnement de leurs services, ainsi que l’utilisation et la manipulation intentionnelles et, souvent, coordonnées de leurs services, ou la violation systémique de leurs conditions d’utilisation, contribuent à ces risques. Ces risques peuvent résulter, par exemple, de l’utilisation non authentique du service, telle que la création de faux comptes, l’utilisation de robots ou l’utilisation trompeuse d’un service, et d’autres comportements automatisés ou partiellement automatisés, susceptibles de conduire à la diffusion rapide et généralisée au public d’informations qui constituent un contenu illicite ou qui sont incompatibles avec les conditions générales d’une plateforme en ligne ou d’un moteur de recherche en ligne et qui contribuent à des campagnes de désinformation.

Afin que les évaluations des risques ultérieures puissent s’appuyer les unes sur les autres et montrer l’évolution des risques recensés, ainsi que pour faciliter les enquêtes et les mesures d’exécution, les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient conserver tous les documents justificatifs relatifs aux évaluations des risques qu’ils ont effectuées, tels que les informations relatives à leur préparation, les données sous-jacentes et les données sur les essais de leurs systèmes algorithmiques.

Les fournisseurs de très grandes plateformes en ligne et de très grands moteurs de recherche en ligne devraient veiller à ce que leur approche de l’évaluation et de l’atténuation des risques soit fondée sur les meilleures informations et connaissances scientifiques disponibles et à mettre à l’essai leurs hypothèses auprès des groupes les plus affectés par les risques et les mesures prises. Il convient à cette fin que les fournisseurs procèdent, le cas échéant, à leurs évaluations des risques et conçoivent leurs mesures d’atténuation des risques avec la participation de représentants des destinataires du service, de représentants de groupes potentiellement affectés par leurs services, d’experts indépendants et d’organisations de la société civile. Ils devraient s’efforcer d’intégrer ces consultations, comprenant, le cas échéant, des enquêtes, des groupes de réflexion, des tables rondes et d’autres méthodes de consultation et de conception, dans leurs méthodes d’évaluation des risques et de conception des mesures d’atténuation. Lors de l’évaluation du caractère raisonnable, proportionné et efficace d’une mesure, il convient d’accorder une attention particulière au droit à la liberté d’expression.