Recital 42 Prohibition of using (solely) AI-predicted behaviour for judgement

Conformément à la présomption d’innocence, les personnes physiques dans l’Union devraient toujours être jugées sur leur comportement réel. Une personne physique ne devrait jamais être jugée sur la base d’un comportement prédit par l’IA uniquement sur la base de son profilage, le profilage au sens de l’article 4, point 4), du règlement (UE) 2016/679;, de ses traits de personnalité ou de ses caractéristiques, telles que la nationalité, le lieu de naissance, le lieu de résidence, le nombre d’enfants, le niveau d’endettement ou le type de voiture, sans qu’il existe un motif raisonnable de soupçonner que cette personne est impliquée dans une activité criminelle sur la base de faits objectifs vérifiables et sans évaluation humaine de ceux-ci. Par conséquent, il convient d’interdire les évaluations des risques, la combinaison de la probabilité d’un préjudice et de la sévérité de celui-ci; effectuées en ce qui concerne des personnes physiques dans le but d’évaluer la probabilité que ces dernières commettent une infraction ou de prévoir la survenance d’une infraction pénale, réelle ou potentielle, sur la seule base du profilage, le profilage au sens de l’article 4, point 4), du règlement (UE) 2016/679; de ces personnes physiques ou de l’évaluation de leurs traits de personnalité et caractéristiques. En tout état de cause, cette interdiction ne vise ni ne concerne l’analyse des risques, la combinaison de la probabilité d’un préjudice et de la sévérité de celui-ci; non fondée sur le profilage, le profilage au sens de l’article 4, point 4), du règlement (UE) 2016/679; des personnes ou sur les traits de personnalité et les caractéristiques des individus, tels que les systèmes d’IA, un système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels; utilisant l’analyse des risques, la combinaison de la probabilité d’un préjudice et de la sévérité de celui-ci; pour évaluer la probabilité de fraude financière de la part d’entreprises sur la base de transactions suspectes ou d’outils d’analyse des risques, la combinaison de la probabilité d’un préjudice et de la sévérité de celui-ci; permettant de prédire la probabilité de la localisation de stupéfiants ou de marchandises illicites par les autorités douanières, par exemple sur la base de voies de trafic connues.