Scientific panel of independent experts

Det bör fastställas principer för urval av en diversifierad expertgrupp. Kommissionen bör i möjligaste mån säkerställa en jämn könsfördelning och rättvis geografisk representation vid urvalet av experter. För att uppnå en rättvis geografisk representation bör det utses minst en medborgare från varje unionsmedlemsstat och från varje Eftamedlemsstat som är medlem Europeiska ekonomiska samarbetsområdet, förutsatt att det finns en sökande från dessa länder som uppfyller kriterierna för inbjudan. Det bör under alla omständigheter vara högst tre experter från vart och ett av dessa länder. Eftersom det är viktigt att införa olika perspektiv i den vetenskapliga panelen bör medborgare i tredjeländer kunna utses till experter. Minst fyra femtedelar av den vetenskapliga panelens experter bör dock vara medborgare i unionens medlemsstater eller i en Eftamedlemsstat som är medlem i Europeiska ekonomiska samarbetsområdet.

För att säkerställa att den vetenskapliga panelen fungerar effektivt bör AI-byrånkommissionens funktion att bidra till genomförandet, övervakningen och tillsynen av AI-system samt AI-modeller för allmänna ändamål, och AI-styrning, enligt kommissionens beslut av den 24 januari 2024; hänvisningar i denna förordning till AI-byrån ska anses som hänvisningar till kommissionen. och Europeiska kommissionens gemensamma forskningscentrum gemensamt tillhandahålla panelens sekretariat.

Den vetenskapliga panelens organisation bör garantera flexibilitet, så att specialiserad kunskap kan sättas in efter behov. Ordföranden och sekretariatet bör därför utse en föredragande och relevanta bidragslämnare för den vetenskapliga panelens enskilda uppgifter, med beaktande av bland annat sakkunskap, inklusive sektorsspecifik expertis, tillgänglighet, möjliga intressekonflikter och säkerhetsaspekter.

Med tanke på att den vetenskapliga panelen bidrar till uppnåendet av målen för unionens politik genom att stödja verksamhet för efterlevnadskontroll enligt förordning (EU) 2024/1689, bör experterna få lämplig ersättning för att utföra den vetenskapliga panelens uppgifter på AI-byrånskommissionens funktion att bidra till genomförandet, övervakningen och tillsynen av AI-system samt AI-modeller för allmänna ändamål, och AI-styrning, enligt kommissionens beslut av den 24 januari 2024; hänvisningar i denna förordning till AI-byrån ska anses som hänvisningar till kommissionen. begäran. Ersättningen bör fastställas i enlighet med kommissionens gällande bestämmelser, särskilt artikel 237 i Europaparlamentets och rådets förordning (EU) 2018/1046(²)Europaparlamentets och rådets förordning (EU, Euratom) 2018/1046 av den 18 juli 2018 om finansiella regler för unionens allmänna budget, om ändring av förordningarna (EU) nr 1296/2013, (EU) nr 1301/2013, (EU) nr 1303/2013, (EU) nr 1304/2013, (EU) nr 1309/2013, (EU) nr 1316/2013, (EU) nr 223/2014, (EU) nr 283/2014 och beslut nr 541/2014/EU samt om upphävande av förordning (EU, Euratom) nr 966/2012 (EUT L 193, 30.7.2018, s. 1, ELI: http://data.europa.eu/eli/reg/2018/1046/oj)..

För att undvika intressekonflikter i samband med utförandet av den vetenskapliga panelens uppgifter bör panelens experter vara oberoende i förhållande till leverantörer av AI-systemett maskinbaserat system som är utformat för att fungera med varierande grad av autonomi och som kan uppvisa anpassningsförmåga efter införande och som, för uttryckliga eller underförstådda mål, drar slutsatser härledda från den indata det tar emot, om hur utdata såsom förutsägelser, innehåll, rekommendationer eller beslut som kan påverka fysiska eller virtuella miljöer ska genereras. eller AI-modeller för allmänna ändamål och bör agera oberoende, opartiskt och objektivt. För att säkerställa förtroende för den vetenskapliga panelens arbete bör experterna utarbeta intresseförklaringar och ett åtagande om att handla i allmänhetens intresse, vilka bör göras allmänt tillgängliga. Av samma skäl bör den vetenskapliga panelens uppgifter utföras på ett transparent sätt och panelens sammansättning bör offentliggöras.

För att göra det möjligt att stärka den nationella kapacitet som krävs för en effektiv kontroll av efterlevnaden av förordning (EU) 2024/1689 bör medlemsstaternas marknadskontrollmyndigheter kunna begära stöd från den vetenskapliga panelen för sin verksamhet för efterlevnadskontroll enligt den förordningen. AI-byrånkommissionens funktion att bidra till genomförandet, övervakningen och tillsynen av AI-system samt AI-modeller för allmänna ändamål, och AI-styrning, enligt kommissionens beslut av den 24 januari 2024; hänvisningar i denna förordning till AI-byrån ska anses som hänvisningar till kommissionen. bör tillhandahålla praktiska medel som gör det möjligt för medlemsstaterna att begära sådant stöd. Begäranden bör vara nödvändiga och proportionella och behandlas av AI-byrånkommissionens funktion att bidra till genomförandet, övervakningen och tillsynen av AI-system samt AI-modeller för allmänna ändamål, och AI-styrning, enligt kommissionens beslut av den 24 januari 2024; hänvisningar i denna förordning till AI-byrån ska anses som hänvisningar till kommissionen. i god tid.

För att säkerställa att den vetenskapliga panelen effektivt kan utfärda kvalificerade varningar till AI-byrånkommissionens funktion att bidra till genomförandet, övervakningen och tillsynen av AI-system samt AI-modeller för allmänna ändamål, och AI-styrning, enligt kommissionens beslut av den 24 januari 2024; hänvisningar i denna förordning till AI-byrån ska anses som hänvisningar till kommissionen. i enlighet med artikel 90 i förordning (EU) 2024/1689 bör det fastställas villkor, förfaranden och närmare arrangemang för utfärdande av sådana kvalificerade varningar. AI-byrånkommissionens funktion att bidra till genomförandet, övervakningen och tillsynen av AI-system samt AI-modeller för allmänna ändamål, och AI-styrning, enligt kommissionens beslut av den 24 januari 2024; hänvisningar i denna förordning till AI-byrån ska anses som hänvisningar till kommissionen. bör tillhandahålla ett säkert gränssnitt genom vilket den vetenskapliga panelen kan skicka kvalificerade varningar och bevis till stöd för dessa varningar. Med tanke på betydelsen och de möjliga konsekvenserna av en kvalificerad varning för en leverantören fysisk eller juridisk person, en offentlig myndighet, en byrå eller ett annat organ som utvecklar ett AI-system eller en AI-modell för allmänna ändamål eller som har ett AI-system eller en AI-modell för allmänna ändamål och släpper ut det eller den på marknaden eller tar AI-systemet i bruk i eget namn eller under eget varumärke, antingen mot betalning eller kostnadsfritt. av en AI-modell för allmänna ändamålen AI-modell, även när en sådan AI-modell tränas med en stor mängd data med hjälp av självövervakning i stor skala, som uppvisar betydande generalitet och på ett kompetent sätt kan utföra ett brett spektrum av distinkta uppgifter oavsett hur modellen släppts ut på marknaden och som kan integreras i en rad system eller tillämpningar i efterföljande led, utom AI-modeller som används för forsknings-, utvecklings- eller prototypverksamhet innan de släpps ut på marknaden. bör en sådan varning kräva ett beslut med minst enkel majoritet av den vetenskapliga panelens medlemmar.

För att göra det möjligt för den vetenskapliga panelen att effektivt kunna utföra sina uppgifter enligt artikel 68.3 i förordning (EU) 2024/1689 bör det fastställas villkor, förfaranden och närmare arrangemang för hur den vetenskapliga panelen och dess medlemmar begär bistånd från AI-byrånkommissionens funktion att bidra till genomförandet, övervakningen och tillsynen av AI-system samt AI-modeller för allmänna ändamål, och AI-styrning, enligt kommissionens beslut av den 24 januari 2024; hänvisningar i denna förordning till AI-byrån ska anses som hänvisningar till kommissionen. för utförandet av sina uppgifter. Framför allt bör det anges hur den vetenskapliga panelen kan begära att kommissionen utfärdar en begäran om information till en leverantören fysisk eller juridisk person, en offentlig myndighet, en byrå eller ett annat organ som utvecklar ett AI-system eller en AI-modell för allmänna ändamål eller som har ett AI-system eller en AI-modell för allmänna ändamål och släpper ut det eller den på marknaden eller tar AI-systemet i bruk i eget namn eller under eget varumärke, antingen mot betalning eller kostnadsfritt. av en AI-modell för allmänna ändamålen AI-modell, även när en sådan AI-modell tränas med en stor mängd data med hjälp av självövervakning i stor skala, som uppvisar betydande generalitet och på ett kompetent sätt kan utföra ett brett spektrum av distinkta uppgifter oavsett hur modellen släppts ut på marknaden och som kan integreras i en rad system eller tillämpningar i efterföljande led, utom AI-modeller som används för forsknings-, utvecklings- eller prototypverksamhet innan de släpps ut på marknaden. i enlighet med artikel 91.3 i förordning (EU) 2024/1689.

En sådan begäran bör göras av en av den vetenskapliga panelens medlemmar som utsetts till föredragande för en av den vetenskapliga panelens uppgifter, med stöd av minst en tredjedel av den vetenskapliga panelens medlemmar. Begäran bör vederbörligen motivera varför en begäran om information och tillgång till den begärda informationen är nödvändig för den vetenskapliga panelens utförande av sina uppgifter. AI-byrånkommissionens funktion att bidra till genomförandet, övervakningen och tillsynen av AI-system samt AI-modeller för allmänna ändamål, och AI-styrning, enligt kommissionens beslut av den 24 januari 2024; hänvisningar i denna förordning till AI-byrån ska anses som hänvisningar till kommissionen. bör bedöma om begäran är nödvändig och proportionell och ta hänsyn till behovet av att skydda företagshemligheter och konfidentiell affärsinformation. Om AI-byrånkommissionens funktion att bidra till genomförandet, övervakningen och tillsynen av AI-system samt AI-modeller för allmänna ändamål, och AI-styrning, enligt kommissionens beslut av den 24 januari 2024; hänvisningar i denna förordning till AI-byrån ska anses som hänvisningar till kommissionen. beslutar att tillmötesgå begäran bör den utarbeta en begäran om information från en leverantören fysisk eller juridisk person, en offentlig myndighet, en byrå eller ett annat organ som utvecklar ett AI-system eller en AI-modell för allmänna ändamål eller som har ett AI-system eller en AI-modell för allmänna ändamål och släpper ut det eller den på marknaden eller tar AI-systemet i bruk i eget namn eller under eget varumärke, antingen mot betalning eller kostnadsfritt., vilken utfärdas av kommissionen, och göra den mottagna informationen tillgänglig för relevanta medlemmar i den vetenskapliga panelen. AI-byrånkommissionens funktion att bidra till genomförandet, övervakningen och tillsynen av AI-system samt AI-modeller för allmänna ändamål, och AI-styrning, enligt kommissionens beslut av den 24 januari 2024; hänvisningar i denna förordning till AI-byrån ska anses som hänvisningar till kommissionen. bör införa säkra tekniska medel, vilka bör vara ändamålsenliga och fungera enligt en tillräckligt hög standard, för att ge tillgång till sådan information. Denna tillgång bör begränsas till begärande medlemmar i den vetenskapliga panelen, som bör ha utsetts till föredragande, och bidragslämnarna till en av den vetenskapliga panelens uppgifter. Innan de begärande medlemmarna tar emot data bör de lämna in en egen försäkran om att de endast avser att använda den begärda informationen för det angivna ändamålet, och beskriva metoder och skyddsåtgärder för att säkerställa konfidentiell datahantering. AI-byrånkommissionens funktion att bidra till genomförandet, övervakningen och tillsynen av AI-system samt AI-modeller för allmänna ändamål, och AI-styrning, enligt kommissionens beslut av den 24 januari 2024; hänvisningar i denna förordning till AI-byrån ska anses som hänvisningar till kommissionen. bör kunna avslå en begäran om den, på grundval av den information som lämnats av en medlem i den vetenskapliga panelen, har skäl att anta att det rimligen finns förutsebara risker som rör datasäkerhet eller datasekretess.

De åtgärder som föreskrivs i denna förordning är förenliga med yttrandet från kommittén för artificiell intelligens.