Artikel 17 Kvalitetsstyrningssystem

1. En strategi för efterlevnad av regelverket, inklusive efterlevnad av förfaranden för bedömning av överensstämmelseprocessen att visa om kraven i kapitel III avsnitt 2 avseende ett AI-system med hög risk har uppfyllts. och för hantering av ändringar av AI-systemet med hög riskkombinationen av sannolikheten för skada och denna skadas allvarlighetsgrad..

2. Tekniker, förfaranden och systematiska åtgärder som ska användas för utformning av AI-systemet med hög riskkombinationen av sannolikheten för skada och denna skadas allvarlighetsgrad. samt för kontroll och verifikation av utformningen.

3. Tekniker, förfaranden och systematiska åtgärder som ska användas för utveckling, kvalitetskontroll och kvalitetssäkring av AI-systemet med hög riskkombinationen av sannolikheten för skada och denna skadas allvarlighetsgrad..

4. Undersöknings-, test- och valideringsförfaranden som ska utföras före, under och efter utvecklingen av AI-systemet med hög riskkombinationen av sannolikheten för skada och denna skadas allvarlighetsgrad. och hur ofta de ska utföras.

5. Tekniska specifikationer, inbegripet standarder, som ska tillämpas och, om de relevanta harmoniserade standarderna inte tillämpas fullt ut, eller inte omfattar alla relevanta krav i avsnitt 2, de medel som ska användas för att säkerställa att AI-systemet med hög riskkombinationen av sannolikheten för skada och denna skadas allvarlighetsgrad. uppfyller dessa krav.

6. System och förfaranden för datahantering, inbegripet datafångst, datainsamling, dataanalys, datamärkning, datalagring, datafiltrering, datautvinning, dataaggregering, lagring av uppgifter och varje annan åtgärd som avser data och som utförs före och med avseende på utsläppandet på marknaden eller ibruktagandet av AI-systemett maskinbaserat system som är utformat för att fungera med varierande grad av autonomi och som kan uppvisa anpassningsförmåga efter införande och som, för uttryckliga eller underförstådda mål, drar slutsatser härledda från den indata det tar emot, om hur utdata såsom förutsägelser, innehåll, rekommendationer eller beslut som kan påverka fysiska eller virtuella miljöer ska genereras. med hög riskkombinationen av sannolikheten för skada och denna skadas allvarlighetsgrad..

7. Det riskhanteringssystem som avses i artikel 9.

8. Upprättande, genomförande och underhåll av ett system för övervakning efter utsläppande på marknadenall verksamhet som bedrivs av leverantörer av AI-system för att samla in och granska erfarenheter från användningen av AI-system som de släpper ut på marknaden eller tar i bruk, i syfte att fastställa ett eventuellt behov av att omedelbart vidta eventuella nödvändiga korrigerande eller förebyggande åtgärder. i enlighet med artikel 72.

9. Förfaranden som berör rapportering av en allvarlig incidenten incident eller ett fel i ett AI-system som direkt eller indirekt orsakar något av följande:Dödsfall eller allvarlig skada på en persons hälsa.En allvarlig och oåterkallelig störning av förvaltningen eller driften av kritisk infrastruktur.Åsidosättande av skyldigheter enligt unionsrätten avsedda att skydda grundläggande rättigheter.Allvarlig skada på egendom eller på miljön. i enlighet med artikel 73.

10. Hantering av kommunikation med nationella behöriga myndigheter, andra relevanta myndigheter, inbegripet de som tillhandahåller eller stöder tillgången till uppgifter, anmälda organ, andra operatörer, kunder eller andra berörda parter.

11. System och förfaranden för arkivering av all relevant dokumentation och information.

12. Resurshantering, inbegripet åtgärder som berör försörjningstrygghet.

13. En ram för ansvarsutkrävande som fastställer ledningens och övrig personals ansvar vad gäller samtliga aspekter som anges i denna punkt.

Genomförandet av de aspekter som avses i punkt 1 ska stå i proportion till storleken på leverantörens organisation. Leverantörer ska i alla händelser iaktta den grad av noggrannhet och den skyddsnivå som krävs för att säkerställa att deras AI-systemett maskinbaserat system som är utformat för att fungera med varierande grad av autonomi och som kan uppvisa anpassningsförmåga efter införande och som, för uttryckliga eller underförstådda mål, drar slutsatser härledda från den indata det tar emot, om hur utdata såsom förutsägelser, innehåll, rekommendationer eller beslut som kan påverka fysiska eller virtuella miljöer ska genereras. med hög riskkombinationen av sannolikheten för skada och denna skadas allvarlighetsgrad. står i överensstämmelse med denna förordning.

Leverantörer av AI-systemett maskinbaserat system som är utformat för att fungera med varierande grad av autonomi och som kan uppvisa anpassningsförmåga efter införande och som, för uttryckliga eller underförstådda mål, drar slutsatser härledda från den indata det tar emot, om hur utdata såsom förutsägelser, innehåll, rekommendationer eller beslut som kan påverka fysiska eller virtuella miljöer ska genereras. med hög riskkombinationen av sannolikheten för skada och denna skadas allvarlighetsgrad. som omfattas av skyldigheter avseende kvalitetsstyrningssystem eller en likvärdig funktion enligt relevant sektorsspecifik unionsrätt får inkludera de aspekter som anges i punkt 1 i de kvalitetsstyrningssystem som fastställs enligt den unionsrätten.

För leverantörer som är finansinstitut som omfattas av krav avseende interna styrelseformer, arrangemang eller processer enligt unionsrätten om finansiella tjänster ska skyldigheten att införa ett kvalitetsstyrningssystem, med undantag för punkt 1 g, h och i) i denna artikel, anses vara uppfylld genom att reglerna om interna styrelseformer, arrangemang eller processer efterlevs enligt relevant unionsrätt om finansiella tjänster. I detta syfte ska alla harmoniserade standarder som avses i artikel 40 beaktas.