Scientific panel of independent experts

Il convient de définir les principes de sélection d’un groupe d’experts diversifié. La Commission devrait veiller, dans la mesure du possible, à l’équilibre entre les hommes et les femmes et à une représentation géographique équitable lors de la sélection des experts. Afin d’assurer une représentation géographique équitable, il convient de nommer au moins un ressortissant de chaque État membre de l’Union et de chaque membre de l’Association européenne de libre-échange qui est membre de l’Espace économique européen, à condition qu’il y ait un candidat de ces pays qui satisfasse aux critères de l’appel. En tout état de cause, il ne devrait pas y avoir plus de trois experts de chacun de ces pays. Compte tenu de l’importance d’intégrer des points de vue divers au sein du groupe scientifique, les ressortissants de pays tiers devraient pouvoir être désignés experts. Toutefois, au moins les quatre cinquièmes des experts du groupe scientifique devraient être des ressortissants des États membres de l’Union ou d’un membre de l’Association européenne de libre-échange qui est membre de l’Espace économique européen.

Afin d’assurer le bon fonctionnement du groupe scientifique, le Bureau de l’IA, la fonction de la Commission consistant à contribuer à la mise en œuvre, au suivi et à la surveillance des systèmes d’IA et de modèles d’IA à usage général et de la gouvernance de l’IA, établi par la décision de la Commission du 24 janvier 2024; les références faites au Bureau de l’IA dans le présent règlement s’entendent comme faites à la Commission; et le Centre commun de recherche de la Commission européenne devraient assurer conjointement son secrétariat.

L’organisation du groupe scientifique devrait être suffisamment flexible pour permettre le déploiement de connaissances spécialisées en fonction des besoins. À cette fin, le président et le secrétariat devraient désigner un rapporteur et des contributeurs pertinents pour les différentes tâches du groupe scientifique, en tenant compte, entre autres, de l’expertise, y compris l’expertise sectorielle, de la disponibilité, des éventuels conflits d’intérêts et des préoccupations en matière de sécurité.

Compte tenu de la contribution du groupe scientifique à la réalisation des objectifs des politiques de l’Union, par le soutien aux activités de contrôle de l’application de la législation au titre du règlement (UE) 2024/1689, les experts devraient recevoir une rémunération adéquate pour l’exécution de tâches du groupe scientifique à la demande du Bureau de l’IA, la fonction de la Commission consistant à contribuer à la mise en œuvre, au suivi et à la surveillance des systèmes d’IA et de modèles d’IA à usage général et de la gouvernance de l’IA, établi par la décision de la Commission du 24 janvier 2024; les références faites au Bureau de l’IA dans le présent règlement s’entendent comme faites à la Commission;. Cette rémunération devrait être déterminée conformément aux dispositions en vigueur à la Commission, notamment à l’article 237 du règlement (UE) 2018/1046 du Parlement européen et du Conseil(²)Règlement (UE, Euratom) 2018/1046 du Parlement européen et du Conseil du 18 juillet 2018 relatif aux règles financières applicables au budget général de l’Union, modifiant les règlements (UE) n^o 1296/2013, (UE) n^o 1301/2013, (UE) n^o 1303/2013, (UE) n^o 1304/2013, (UE) n^o 1309/2013, (UE) n^o 1316/2013, (UE) n^o 223/2014, (UE) n^o 283/2014 et la décision n^o 541/2014/UE, et abrogeant le règlement (UE, Euratom) n^o 966/2012 (JO L 193 du 30.7.2018, p. 1, ELI: http://data.europa.eu/eli/reg/2018/1046/oj)..

Afin d’éviter les conflits d’intérêts dans l’exécution de leurs tâches, les experts du groupe scientifique devraient être indépendants de tout fournisseur, une personne physique ou morale, une autorité publique, une agence ou tout autre organisme qui développe ou fait développer un système d’IA ou un modèle d’IA à usage général et le met sur le marché ou met le système d’IA en service sous son propre nom ou sa propre marque, à titre onéreux ou gratuit; de systèmes d’IA, un système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels; ou de modèles d’IA à usage général, un modèle d’IA, y compris lorsque ce modèle d’IA est entraîné à l’aide d’un grand nombre de données utilisant l’auto-supervision à grande échelle, qui présente une généralité significative et est capable d’exécuter de manière compétente un large éventail de tâches distinctes, indépendamment de la manière dont le modèle est mis sur le marché, et qui peut être intégré dans une variété de systèmes ou d’applications en aval, à l’exception des modèles d’IA utilisés pour des activités de recherche, de développement ou de prototypage avant leur mise sur le marché; et agir en toute indépendance, impartialité et objectivité. Afin de garantir la confiance dans les travaux du groupe scientifique, les experts devraient établir des déclarations de conflit d’intérêts et des déclarations d’engagement à agir dans l’intérêt public, qui devraient être rendues publiques. Dans le même but, les tâches du groupe scientifique devraient être exécutées de manière transparente et sa composition devrait être rendue publique.

Afin de permettre le renforcement des capacités nationales nécessaires à l’application effective du règlement (UE) 2024/1689, les autorités de surveillance du marché des États membres devraient pouvoir faire appel au soutien du groupe scientifique pour leurs activités de contrôle de l’application au titre dudit règlement. Le Bureau de l’IA, la fonction de la Commission consistant à contribuer à la mise en œuvre, au suivi et à la surveillance des systèmes d’IA et de modèles d’IA à usage général et de la gouvernance de l’IA, établi par la décision de la Commission du 24 janvier 2024; les références faites au Bureau de l’IA dans le présent règlement s’entendent comme faites à la Commission; devrait prévoir les moyens pratiques permettant aux États membres d’introduire une telle demande de soutien. Les demandes devraient être nécessaires et proportionnées et être traitées par le Bureau de l’IA, la fonction de la Commission consistant à contribuer à la mise en œuvre, au suivi et à la surveillance des systèmes d’IA et de modèles d’IA à usage général et de la gouvernance de l’IA, établi par la décision de la Commission du 24 janvier 2024; les références faites au Bureau de l’IA dans le présent règlement s’entendent comme faites à la Commission; en temps utile.

Afin de faire en sorte que le groupe scientifique puisse effectivement adresser des alertes qualifiées au Bureau de l’IA, la fonction de la Commission consistant à contribuer à la mise en œuvre, au suivi et à la surveillance des systèmes d’IA et de modèles d’IA à usage général et de la gouvernance de l’IA, établi par la décision de la Commission du 24 janvier 2024; les références faites au Bureau de l’IA dans le présent règlement s’entendent comme faites à la Commission; conformément à l’article 90 du règlement (UE) 2024/1689, il convient de définir les conditions, les procédures et les modalités détaillées d’émission de ces alertes qualifiées. Le Bureau de l’IA, la fonction de la Commission consistant à contribuer à la mise en œuvre, au suivi et à la surveillance des systèmes d’IA et de modèles d’IA à usage général et de la gouvernance de l’IA, établi par la décision de la Commission du 24 janvier 2024; les références faites au Bureau de l’IA dans le présent règlement s’entendent comme faites à la Commission; devrait fournir une interface sécurisée permettant au groupe scientifique de transmettre des alertes qualifiées et les éléments de preuve étayant ces alertes. Compte tenu de la pertinence et des implications possibles d’une alerte qualifiée pour un fournisseur, une personne physique ou morale, une autorité publique, une agence ou tout autre organisme qui développe ou fait développer un système d’IA ou un modèle d’IA à usage général et le met sur le marché ou met le système d’IA en service sous son propre nom ou sa propre marque, à titre onéreux ou gratuit; d’un modèle d’IA à usage général, un modèle d’IA, y compris lorsque ce modèle d’IA est entraîné à l’aide d’un grand nombre de données utilisant l’auto-supervision à grande échelle, qui présente une généralité significative et est capable d’exécuter de manière compétente un large éventail de tâches distinctes, indépendamment de la manière dont le modèle est mis sur le marché, et qui peut être intégré dans une variété de systèmes ou d’applications en aval, à l’exception des modèles d’IA utilisés pour des activités de recherche, de développement ou de prototypage avant leur mise sur le marché;, une telle alerte devrait nécessiter une décision au moins à la majorité simple des membres du groupe scientifique.

Afin d’habiliter le groupe scientifique à s’acquitter efficacement de ses tâches énoncées à l’article 68, paragraphe 3, du règlement (UE) 2024/1689, il convient de définir les conditions, les procédures et les modalités détaillées permettant au groupe scientifique et à ses membres de demander l’assistance du Bureau de l’IA, la fonction de la Commission consistant à contribuer à la mise en œuvre, au suivi et à la surveillance des systèmes d’IA et de modèles d’IA à usage général et de la gouvernance de l’IA, établi par la décision de la Commission du 24 janvier 2024; les références faites au Bureau de l’IA dans le présent règlement s’entendent comme faites à la Commission; pour l’exécution de ses tâches. Il convient notamment de préciser comment le groupe scientifique peut demander à la Commission d’adresser une demande d’informations à un fournisseur, une personne physique ou morale, une autorité publique, une agence ou tout autre organisme qui développe ou fait développer un système d’IA ou un modèle d’IA à usage général et le met sur le marché ou met le système d’IA en service sous son propre nom ou sa propre marque, à titre onéreux ou gratuit; d’un modèle d’IA à usage général, un modèle d’IA, y compris lorsque ce modèle d’IA est entraîné à l’aide d’un grand nombre de données utilisant l’auto-supervision à grande échelle, qui présente une généralité significative et est capable d’exécuter de manière compétente un large éventail de tâches distinctes, indépendamment de la manière dont le modèle est mis sur le marché, et qui peut être intégré dans une variété de systèmes ou d’applications en aval, à l’exception des modèles d’IA utilisés pour des activités de recherche, de développement ou de prototypage avant leur mise sur le marché; conformément à l’article 91, paragraphe 3, du règlement (UE) 2024/1689.

Cette demande devrait être formulée par un membre du groupe scientifique qui est désigné rapporteur pour une tâche du groupe scientifique, avec le soutien d’au moins un tiers des membres du groupe scientifique. La demande devrait dûment indiquer les raisons pour lesquelles une demande d’informations et d’accès aux informations demandées est nécessaire à l’accomplissement des tâches du groupe scientifique. Le Bureau de l’IA, la fonction de la Commission consistant à contribuer à la mise en œuvre, au suivi et à la surveillance des systèmes d’IA et de modèles d’IA à usage général et de la gouvernance de l’IA, établi par la décision de la Commission du 24 janvier 2024; les références faites au Bureau de l’IA dans le présent règlement s’entendent comme faites à la Commission; devrait évaluer la nécessité et la proportionnalité de la demande, en tenant compte de la nécessité de protéger les secrets d’affaires et les informations commerciales confidentielles. Si le Bureau de l’IA, la fonction de la Commission consistant à contribuer à la mise en œuvre, au suivi et à la surveillance des systèmes d’IA et de modèles d’IA à usage général et de la gouvernance de l’IA, établi par la décision de la Commission du 24 janvier 2024; les références faites au Bureau de l’IA dans le présent règlement s’entendent comme faites à la Commission; décide de donner une suite favorable à la demande, il devrait préparer une demande d’informations adressée à un fournisseur, une personne physique ou morale, une autorité publique, une agence ou tout autre organisme qui développe ou fait développer un système d’IA ou un modèle d’IA à usage général et le met sur le marché ou met le système d’IA en service sous son propre nom ou sa propre marque, à titre onéreux ou gratuit;, devant être envoyée par la Commission, et mettre les informations reçues à la disposition des membres concernés du groupe scientifique. Le Bureau de l’IA, la fonction de la Commission consistant à contribuer à la mise en œuvre, au suivi et à la surveillance des systèmes d’IA et de modèles d’IA à usage général et de la gouvernance de l’IA, établi par la décision de la Commission du 24 janvier 2024; les références faites au Bureau de l’IA dans le présent règlement s’entendent comme faites à la Commission; devrait mettre en place des moyens techniques sécurisés, adaptés à leur finalité et fonctionnant à un niveau de qualité approprié, pour donner accès à ces informations, accès qui devrait être restreint aux membres du groupe scientifique à l’origine de la demande, à savoir le rapporteur désigné et les contributeurs à une tâche du groupe scientifique. Les membres à l’origine de la demande devraient, avant de recevoir les données, soumettre une déclaration sur l’honneur indiquant qu’ils ont uniquement l’intention d’utiliser les informations demandées aux fins indiquées et décrivant les modalités et les garanties permettant d’assurer le traitement confidentiel des données. Le Bureau de l’IA, la fonction de la Commission consistant à contribuer à la mise en œuvre, au suivi et à la surveillance des systèmes d’IA et de modèles d’IA à usage général et de la gouvernance de l’IA, établi par la décision de la Commission du 24 janvier 2024; les références faites au Bureau de l’IA dans le présent règlement s’entendent comme faites à la Commission; devrait pouvoir rejeter une demande si, sur la base des informations soumises par un membre du groupe scientifique, il a des raisons de supposer qu’il existe des risques, la combinaison de la probabilité d’un préjudice et de la sévérité de celui-ci; raisonnablement prévisibles liés à la sécurité ou à la confidentialité des données.

Les mesures prévues par le présent règlement sont conformes à l’avis du comité de l’intelligence artificielle,