Artikel 10 Data och dataförvaltning

AI-systemett maskinbaserat system som är utformat för att fungera med varierande grad av autonomi och som kan uppvisa anpassningsförmåga efter införande och som, för uttryckliga eller underförstådda mål, drar slutsatser härledda från den indata det tar emot, om hur utdata såsom förutsägelser, innehåll, rekommendationer eller beslut som kan påverka fysiska eller virtuella miljöer ska genereras. med hög riskkombinationen av sannolikheten för skada och denna skadas allvarlighetsgrad. som använder teknik som inbegriper träning av AI-modeller med data ska utvecklas på grundval av tränings-, validerings- och testdataset som uppfyller de kvalitetskriterier som avses i punkterna 2–5 när sådana dataset används.

1. relevanta utformningsval,

2. datainsamlingsprocesser och uppgifternas ursprung samt, när det gäller personuppgifterpersonuppgifter enligt definitionen i artikel 4.1 i förordning (EU) 2016/679., datainsamlingens ursprungliga ändamål,

3. relevanta åtgärder för datapreparering, såsom annotation, märkning, rensning, uppdatering, förädling och aggregering,

4. formulering av antaganden, särskilt när det gäller den information som berörda data förväntas beskriva och representera,

5. en bedömning av tillgängligheten, mängden och lämpligheten avseende de dataset som behövs,

6. undersökning med avseende på eventuella biaser som sannolikt kommer att påverka människors hälsa och säkerhet, inverka negativt på grundläggande rättigheter eller leda till diskriminering som är förbjuden enligt unionsrätten, särskilt när utdata påverkar indatadata som lämnas till eller anskaffas direkt av ett AI-system och som utgör den grund på vilken systemet producerar utdata. för framtida drift,

7. lämpliga åtgärder för att upptäcka, förebygga och begränsa eventuella biaser som identifierats enligt led f,

8. identifiering av relevanta dataluckor eller brister som hindrar efterlevnad av denna förordning, och hur dessa luckor och brister kan åtgärdas.

Tränings-, validerings- och testdataset ska vara relevanta, tillräckligt representativa, och så långt som möjligt fria från fel och fullständiga i förhållande till det avsedda ändamålet. De ska ha lämpliga statistiska egenskaper, inbegripet, i förekommande fall, vad gäller de personer eller grupper av personer med avseende på vilka AI-systemet med hög riskkombinationen av sannolikheten för skada och denna skadas allvarlighetsgrad. är avsett att användas. Egenskaperna hos dessa dataset kan uppfyllas på nivån för enskilda dataset eller på nivån av en kombination av dessa.

Dataseten ska, i den mån som krävs med hänsyn till det avsedda ändamålet, beakta de egenskaper eller element som är utmärkande för just den specifika geografiska, kontextuella, beteendemässiga eller funktionsmässiga situation där AI-systemet med hög riskkombinationen av sannolikheten för skada och denna skadas allvarlighetsgrad. är avsett att användas.

1. Upptäckt och korrigering av bias kan inte uppnås på ett effektivt sätt genom behandling av andra data, inbegripet syntetiska eller anonymiserade data.

2. De särskilda kategorierna av personuppgifterpersonuppgifter enligt definitionen i artikel 4.1 i förordning (EU) 2016/679. omfattas av tekniska begränsningar för vidareutnyttjande av personuppgifterpersonuppgifter enligt definitionen i artikel 4.1 i förordning (EU) 2016/679. samt säkerhetsåtgärder och integritetsbevarande åtgärder på en nivå som motsvarar den senaste utvecklingen, inbegripet pseudonymisering.

3. De särskilda kategorierna av personuppgifterpersonuppgifter enligt definitionen i artikel 4.1 i förordning (EU) 2016/679. omfattas av åtgärder för att säkerställa att de personuppgifterpersonuppgifter enligt definitionen i artikel 4.1 i förordning (EU) 2016/679. som behandlas är säkra, skyddade, omfattas av lämpliga skyddsåtgärder, inbegripet strikta kontroller och dokumentation av åtkomsten, för att undvika missbruk och säkerställa att endast personer som är behöriga har tillgång till dessa personuppgifterpersonuppgifter enligt definitionen i artikel 4.1 i förordning (EU) 2016/679. med lämpliga konfidentialitetsskyldigheter.

4. De särskilda kategorierna av personuppgifterpersonuppgifter enligt definitionen i artikel 4.1 i förordning (EU) 2016/679. får inte översändas, överföras eller på annat sätt göras tillgängliga för andra parter.

5. De särskilda kategorierna av personuppgifterpersonuppgifter enligt definitionen i artikel 4.1 i förordning (EU) 2016/679. raderas när biasen har korrigerats eller personuppgifternas lagringstid har löpt ut, beroende på vilket som inträffar först.

6. Registren över behandling enligt förordningarna (EU) 2016/679 och (EU) 2018/1725 och direktiv (EU) 2016/680 innehåller skälen till varför behandlingen av särskilda kategorier av personuppgifterde kategorier av personuppgifter som avses i artikel 9.1 i förordning (EU) 2016/679, artikel 10 i direktiv (EU) 2016/680 och artikel 10.1 i förordning (EU) 2018/1725. var absolut nödvändig för att upptäcka och korrigera biaser och varför detta mål inte kunde uppnås genom behandling av andra data.

För utvecklingen av AI-systemett maskinbaserat system som är utformat för att fungera med varierande grad av autonomi och som kan uppvisa anpassningsförmåga efter införande och som, för uttryckliga eller underförstådda mål, drar slutsatser härledda från den indata det tar emot, om hur utdata såsom förutsägelser, innehåll, rekommendationer eller beslut som kan påverka fysiska eller virtuella miljöer ska genereras. med hög riskkombinationen av sannolikheten för skada och denna skadas allvarlighetsgrad. som inte använder teknik som inbegriper träning av AI-modeller är punkterna 2–5 endast tillämpliga på testdataset.