Artikel 34 Riskbedömning

Mycket stora onlineplattformar och mycket stora onlinesökmotorer kan användas på ett sätt som starkt påverkar säkerheten online, hur den allmänna opinionen och debatten formas samt onlinehandeln. Det sätt på vilket de utformar sina tjänster optimeras i allmänhet för att gynna deras ofta annonseringsdrivna affärsmodeller, vilket kan leda till samhällsproblem. Effektiv reglering och kontroll av efterlevnaden behövs för att effektivt identifiera och minska riskerna och den samhälleliga och ekonomiska skada som kan uppstå. Enligt denna förordning bör därför leverantörer av mycket stora onlineplattformar och av mycket stora onlinesökmotorer bedöma de systemrisker som härrör från utformningen, driften och användningen av deras tjänster, liksom från eventuell felaktig användning från tjänstemottagarnas sida, och bör vidta lämpliga motåtgärder, med respekt för grundläggande rättigheter. När leverantörerna fastställer betydelsen av potentiella negativa effekter bör de beakta hur allvarlig den potentiella effekten är och sannolikheten för alla sådana systemrisker. De skulle till exempel kunna bedöma om den potentiella negativa effekten kan beröra ett stort antal personer, dess potentiella oåterkallelighet eller hur svårt det är att åtgärda och återställa situationen såsom den var före den potentiella effekten.

Fyra kategorier av systemrisker bör bedömas ingående av leverantörerna av mycket stora onlineplattformar och av mycket stora onlinesökmotorer. En första kategori rör de risker som är förknippade med spridning av olagligt innehåll, såsom spridning av material med sexuella övergrepp mot barn eller olaglig hatpropaganda eller andra typer av missbruk av deras tjänster för brottslig verksamhet, och olaglig verksamhet, såsom försäljning av produkter eller tjänster som är förbjudna enligt unionsrätten eller nationell rätt, inbegripet farliga eller förfalskade produkter, eller olaglig handel med djur. Sådan spridning eller sådan verksamhet kan till exempel utgöra en betydande systemrisk om tillgången till olagligt innehåll kan utökas snabbt och med stor utbredning genom konton med särskilt stor räckvidd eller andra förstärkningsmetoder. Leverantörerna av mycket stora onlineplattformar och av mycket stora onlinesökmotorer bör bedöma risken för spridning av olagligt innehåll oberoende av huruvida informationen också är oförenlig med deras allmänna villkor. Denna bedömning påverkar inte det personliga ansvaret för mycket stora onlineplattformars tjänstemottagare eller ägarna av webbplatser som indexerats av mycket stora onlinesökmotorer för eventuell olaglig verksamhet enligt tillämplig rätt.

En andra kategori rör tjänstens faktiska eller förutsebara inverkan på utövandet av grundläggande rättigheter som skyddas av stadgan, inbegripet men inte begränsat till människans värdighet, yttrande- och informationsfrihet, inklusive mediernas frihet och mångfald, rätten till privatliv, dataskydd, rätten till icke-diskriminering, barnets rättigheter och konsumentskydd. Sådana risker kan exempelvis uppstå i samband med utformningen av de algoritmiska system som används av den mycket stora onlineplattformen eller av den mycket stora onlinesökmotorn eller missbruk av deras tjänster genom inlämning av oskäliga anmälningar eller andra metoder för att tysta åsikter eller hämma konkurrens. Vid bedömningen av riskerna för barnets rättigheter bör leverantörerna av mycket stora onlineplattformar och av mycket stora onlinesökmotorer beakta till exempel hur lätt det är för minderåriga att förstå tjänstens utformning och funktion samt hur minderåriga genom tjänsten kan exponeras för innehåll som kan skada minderårigas hälsa och deras fysiska, mentala och moraliska utveckling. Sådana risker kan exempelvis uppstå i samband med utformningen av onlinegränssnitt som avsiktligt eller oavsiktligt utnyttjar minderårigas svagheter och oerfarenhet eller som kan orsaka beroendebeteende.

En tredje riskkategori rör de faktiska eller förutsebara negativa effekterna på demokratiska processer, samhällsdebatten och valprocesser samt den allmänna säkerheten.

En fjärde riskkategori härrör från liknande farhågor som rör utformning, funktion eller användning, även genom manipulering, av mycket stora onlineplattformar och av mycket stora onlinesökmotorer med en faktisk eller förutsebar negativ effekt på skyddet av folkhälsan och minderåriga och allvarliga negativa konsekvenser för en persons fysiska och psykiska välbefinnande eller för könsrelaterat våld. Sådana risker kan också härröra från samordnade desinformationskampanjer som rör folkhälsan, eller från utformning av onlinegränssnitt som kan bidra till beroendebeteende hos tjänstemottagarna.

Vid bedömningen av sådana systemrisker bör leverantörer av mycket stora onlineplattformar och av mycket stora onlinesökmotorer fokusera på de system eller andra inslag som kan bidra till riskerna, inbegripet alla algoritmiska system som kan vara relevanta, särskilt deras rekommendationssystem och system för annonsering, med beaktande av tillhörande datainsamlings- och användningsmetoder. De bör också bedöma huruvida deras allmänna villkor och upprätthållandet av dem är lämpliga, liksom deras processer för innehållsmoderering, tekniska verktyg och anslagna medel. Vid bedömningen av de systemrisker som identifieras i denna förordning bör de leverantörerna också fokusera på information som inte är olaglig men som bidrar till de systemrisker som identifieras i denna förordning. Sådana leverantörer bör därför ägna särskild uppmärksamhet åt hur deras tjänster används för att sprida eller förstärka vilseledande eller bedrägligt innehåll, inbegripet desinformation. Om den algoritmiska förstärkningen av information bidrar till systemriskerna bör de leverantörerna vederbörligen återspegla detta i sina riskbedömningar. Om riskerna lokaliserats eller om det föreligger språkliga skillnader bör de leverantörerna också ta hänsyn till detta i sina riskbedömningar. Leverantörer av mycket stora onlineplattformar och av mycket stora onlinesökmotorer bör i synnerhet bedöma hur deras tjänsters utformning och funktion samt den avsiktliga och, i många fall, samordnade manipuleringen och användningen av deras tjänster, eller systemiska överträdelser av deras villkor för tjänsten, bidrar till sådana risker. Sådana risker kan exempelvis uppstå genom icke-autentisk användning av tjänsten, såsom skapande av falska konton, användning av bottar eller vilseledande användning av en tjänst, och andra automatiserade eller delvis automatiserade beteenden, vilket kan leda till snabb och omfattande spridning till allmänheten av information som utgör olagligt innehåll eller som är oförenlig med de allmänna villkoren för en onlineplattform eller onlinesökmotor och som bidrar till desinformationskampanjer.

För att möjliggöra att efterföljande riskbedömningar bygger på varandra och visar hur de identifierade riskerna utvecklas, samt för att underlätta undersökningar och åtgärder för efterlevnadskontroll, bör leverantörer av mycket stora onlineplattformar och av mycket stora onlinesökmotorer bevara alla styrkande handlingar som rör de riskbedömningar som de har utfört, såsom information om utarbetandet av dessa, underliggande data och data om testningen av deras algoritmiska system.

Leverantörer av mycket stora onlineplattformar och av mycket stora onlinesökmotorer bör säkerställa att deras strategi för riskbedömning och riskreducering bygger på bästa tillgängliga information och vetenskapliga rön och att de testar sina antaganden på de grupper som påverkas mest av riskerna och de åtgärder de vidtar. I detta syfte bör de, när så är lämpligt, genomföra sina riskbedömningar och utforma sina riskreducerande åtgärder tillsammans med företrädare för tjänstemottagarna, företrädare för grupper som potentiellt påverkas av deras tjänster, oberoende experter och civilsamhällesorganisationer. De bör sträva efter att integrera sådana samråd i sina metoder för riskbedömning och utformning av riskreducerande åtgärder, inbegripet, när så är lämpligt, undersökningar, fokusgrupper, rundabordssamtal och andra samråds- och utformningsmetoder. Vid bedömningen av huruvida en åtgärd är rimlig, proportionell och effektiv bör särskild hänsyn tas till rätten till yttrandefrihet.