MEDDELELSE FRA KOMMISSIONEN TIL EUROPA-PARLAMENTET, RÅDET, DET EUROPÆISKE ØKONOMISKE OG SOCIALE UDVALG OG REGIONSUDVALGET Fremme af en europæisk tilgang til kunstig intelligens

DA DA
EUROPA-
KOMMISSIONEN
Bruxelles, den 21.4.2021
COM(2021) 205 final
MEDDELELSE FRA KOMMISSIONEN TIL EUROPA-PARLAMENTET, RÅDET,
DET EUROPÆISKE ØKONOMISKE OG SOCIALE UDVALG OG
REGIONSUDVALGET
Fremme af en europæisk tilgang til kunstig intelligens
Europaudvalget 2021
KOM (2021) 0205 - Meddelelse
Offentligt
1
Kommunikation: Fremme af en europæisk tilgang til kunstig intelligens
1. Indledning
Kunstig intelligens (AI) vil have enorm indflydelse på den måde, mennesker lever og arbejder på
i de kommende årtier. Dette ræsonnement er grundlaget for den europæiske strategi for kunstig
intelligens, som blev lanceret i april 2018 og er blevet bekræftet siden da. Kunstig intelligens
indebærer mange potentielle fordele for vores samfund, fra mindre forurening til færre
trafikdræbte, fra bedre lægehjælp og forbedrede muligheder for personer med handicap og ældre
til bedre uddannelse og flere måder at inddrage borgerne i demokratiske processer på, fra
hurtigere beslutningstagning til en mere effektiv bekæmpelse af terrorisme og kriminalitet, både
online og offline, samt forbedring af cybersikkerheden. Kunstig intelligens har vist sit
potentiale ved at bidrage til at bekæmpe covid-19, hjælpe med at forudsige sygdommens
geografiske spredning, diagnosticere infektionen ved hjælp af CT-scanninger og udvikle de
første vacciner og lægemidler mod virusset. Mere end noget andet har kunstig intelligens udvist
en alsidighed, som kun få andre teknologier kan stå mål med. Samtidig indebærer brugen af
kunstig intelligens også visse risici, såsom potentielt at udsætte mennesker, herunder børn,1
for
risikoen for væsentlige fejl, der kan underminere grundlæggende rettigheder og sikkerhed og
vores demokratiske processer.
I lyset af den hurtige teknologiske udvikling inden for kunstig intelligens og en global politisk
kontekst, hvor flere og flere lande investerer kraftigt i kunstig intelligens, må EU's medlemsstater
stå sammen om at udnytte de mange muligheder og tackle de udfordringer, der er forbundet med
kunstig intelligens, på en fremtidssikret måde. Med lanceringen af den europæiske strategi for
kunstig intelligens i april 20182
har Kommissionens tostrengede politik været fokuseret på at
gøre EU til et AI-knudepunkt i verdensklasse og samtidig sikre, at kunstig intelligens er
menneskecentreret og pålidelig. Kommissionens hvidbog om kunstig intelligens3
, der blev
offentliggjort i februar 2020, indeholder en klar vision for kunstig intelligens i Europa: et
ekspertisemiljø og et tillidsskabende økosystem for kunstig intelligens.
Den pakke om kunstig intelligens, der fremlægges i dag, udgør en vigtig milepæl i begge
politiske dimensioner. For at fremme udviklingen af kunstig intelligens og imødegå de
potentielle store risici, som kunstig intelligens udgør for såvel sikkerheden som for
grundlæggende rettigheder, fremlægger Kommissionen både et forslag til en
lovgivningsmæssig ramme for kunstig intelligens og en revideret koordineret plan for
kunstig intelligens.
1
Se også UNCRC's generelle bemærkning den 25. februar 2021
2
Kommissionens meddelelse om strategien for kunstig intelligens i Europa COM(2018) 237
3
Europa-Kommissionen, Hvidbog om kunstig intelligens, februar 2020, COM(2020) 65
2
2. To sider af kunstig intelligens: muligheder og risici
Den Europæiske Union søger at fremme udviklingen og udbredelsen af kunstig intelligens på
grund af det potentiale, som kunstig intelligens frembyder. Kommissionen planlægger gennem
programmet for et digitalt Europa og Horisont Europa at investere 1 mia. EUR om året i kunstig
intelligens og mobilisere yderligere investeringer fra den private sektor og medlemsstaterne for
at nå op på 20 mia. EUR om året inden for dette årti.
Styrkelsen af Europas færdigheder inden for kunstig intelligens er et centralt element i den
bredere strategi, der går ud på at gøre Europa klar til den digitale tidsalder og omdanne de næste
ti år til det digitale årti som fastlagt i det digitale kompas4
. Fremme af AI-drevet innovation er
navnlig tæt forbundet med gennemførelsen af den europæiske datastrategi, herunder det nylige
forslag til en forordning om datastyring5
, eftersom kunstig intelligens kun udnyttes fuldt ud, når
der er nem adgang til data. Særlig små og mellemstore virksomheder vil have brug for rimelig
adgang til data for at muliggøre en bred optagelse af kunstig intelligens i EU's økonomi. Den
foreslåede lovgivningsmæssige ramme for kunstig intelligens vil også fungere parallelt med den
gældende produktsikkerhedslovgivning, navnlig revisionen af maskindirektivet6
, der bl.a.
omhandler sikkerhedsrisici ved nye teknologier, herunder de risici, der opstår i forbindelse med
samarbejde mellem mennesker og robotter, cyberrisici med sikkerhedsmæssige konsekvenser og
selvkørende maskiner. Rammen er ligeledes en tilføjelse til strategien for EU's sikkerhedsunion,
den nye strategi for cybersikkerhed7
, handlingsplanen for digital uddannelse 2021-20278
og den
nyligt foreslåede retsakt om digitale tjenester og retsakten om digitale markeder9
samt den
europæiske handlingsplan for demokrati10
. Endelig vil den foreslåede ramme blive suppleret med
lovgivning med henblik på at tilpasse EU's rammer for erstatningsansvar, såsom revision af
direktivet om produktansvar, for at imødegå ansvarsspørgsmål i forbindelse med nye
teknologier, herunder kunstig intelligens, og med en revision af direktivet om produktsikkerhed i
almindelighed.
Den nyligt vedtagne genopretnings- og resiliensfacilitet (RRF) vil sætte Europa i stand til at
hæve sit ambitionsniveau og blive den første aktør til at indføre kunstig intelligens.
Genopretnings- og resiliensfaciliteten, som vil være i centrum af EU's genopretningsplan, vil
stille et hidtil uset beløb på 672,5 mia. EUR til rådighed i form af lån og tilskud til støtte for
medlemsstaternes reformer og investeringer i genopretningens første afgørende år. Mindst 20 %
4
2030 Digital Compass: the European way for the Digital Decade, COM(2021) 118
5
COM(2020) 767
6
COM(2021) 202
7
EU's strategi for cybersikkerhed, offentliggjort den 16. december 2020, JOIN(2020) 18
8
Handlingsplan for digital uddannelse 2021-2027, COM(2020) 624
9
Pressemeddelelse om de nye regler for digitale platforme, offentliggjort den 15. december 2020, IP /20/2347
10
COM(2020) 790.
3
af de disponible midler, som udgør 134 mia. EUR i genopretnings- og resiliensfacilitetens
livscyklus11
, afsættes til foranstaltninger til fremme af den digitale omstilling.
Genopretnings- og resiliensfaciliteten kan forventes at sætte skub i medlemsstaternes
investeringer i kunstig intelligens og støtte førende forsknings-, innovations- og testkapacitet, så
den fremskyndede udvikling og anvendelse af kunstig intelligens kan bidrage til økonomisk og
social genopretning og forbedre konkurrenceevnen på længere sigt. Mulighederne er så meget
desto større, fordi finansieringen af genopretnings- og resiliensfaciliteten lægges oven i
programmet for et digitalt Europa og Horisont Europa samt betydelig
innovationsfinansiering gennem programmerne under samhørighedspolitikken.
Kunstig intelligens og andre digitale teknologier kan bidrage til en vedvarende genopretning
efter covid-19 på grund af deres potentiale til at øge produktiviteten i alle økonomiske sektorer,
åbne nye markeder og skabe enorme muligheder for Europas økonomiske vækst. AI-teknologier
bidrager til at optimere industrielle processer, gøre dem mere modstandsdygtige, effektive og
grønnere og muliggør innovativ selvlæring og realtidsløsninger, lige fra prædiktiv
vedligeholdelse til kollaborative robotter, fra digitale tvillinger til udvidet virkelighed
("augmented reality"). Nye forretningsmuligheder og øget økonomisk dynamik forventes at
skabe nye beskæftigelsesmuligheder og opveje de potentielle tab af arbejdspladser. Kunstig
intelligens kan bidrage til at forbedre mulighederne for, at personer med handicap og ældre kan
leve uafhængigt ved at give dem kompenserende og understøttende løsninger12
. Kunstig
intelligens har desuden potentiale til at spille en vigtig rolle med hensyn til at informere borgerne
og styrke borgerinitiativer.
En styrkelse af kapaciteten inden for kunstig intelligens vil bidrage til større
modstandsdygtighed over for fremtidige chok, eftersom europæiske virksomheder vil have
tilstrækkelig ekspertise til hurtigt at kunne anvende kunstig intelligens til nye udfordringer.
Kunstig intelligens kan desuden bidrage væsentligt til målene i den europæiske grønne pagt og
hjælpe industriforetagender, virksomheder, myndigheder og borgere med at træffe mere
bæredygtige valg for at integrere vedvarende energikilder i energisystemet gennem en mere
intelligent netforvaltning eller for at reducere drivhusgasemissionerne gennem intelligent
mobilitet, optimeret ressourceanvendelse og præcisionslandbrug for blot at nævne nogle få
eksempler.
Kunstig intelligens kan bidrage væsentligt til målene i strategien for EU's sikkerhedsunion. Det
kan være et strategisk redskab til at imødegå aktuelle trusler og foregribe både fremtidige risici
— herunder hybride trusler — og muligheder. Kunstig intelligens kan bidrage til at bekæmpe
kriminalitet og terrorisme og sætte de retshåndhævende myndigheder i stand til at holde trit med
11
Europa-Kommission har fastlagt strategiske retningslinjer for gennemførelsen af genopretnings- og
resiliensfaciliteten i sin årlige strategi for bæredygtig vækst for 2021, COM(2020) 575.
12
Strategi for rettigheder for personer med handicap, COM(2021) 101
4
de hurtigt udviklende teknologier, som kriminelle anvender til deres grænseoverskridende
aktiviteter.
For at udnytte fordelene ved kunstig intelligens kan Europa bygge videre på sine eksisterende
stærke sider. Europa har en førende position på verdensplan inden for robotteknologi og
konkurrencedygtige industrielle økosystemer. Disse aktiver sætter sammen med en stadig mere
avanceret databehandlingsinfrastruktur (f.eks. højtydende computere) og store mængder data fra
det offentlige og fra erhvervslivet Europa i stand til at skabe en kapacitet inden for kunstig
intelligens, der er førende på verdensplan, på grundlag af dets enestående forskningscentre og et
stigende antal innovative nystartede virksomheder. For at udnytte disse stærke sider med
tilgængelige midler vil EU's medlemsstater og Kommissionen samle ekspertise, koordinere tiltag
og i fællesskab mobilisere yderligere ressourcer. Kommissionen fremlægger således i dag — på
grundlag af det samarbejde, den har etableret med medlemsstaterne siden 2018 — en revideret
koordineret plan for kunstig intelligens.
Brugen af kunstig intelligens skaber samtidig risici, der skal imødegås. Visse egenskaber ved
kunstig intelligens, såsom uklarheden ved mange algoritmer, som gør det vanskeligt at undersøge
årsagssammenhænge, udgør specifikke og potentielt store risici for sikkerheden og de
grundlæggende rettigheder, som den eksisterende lovgivning enten ikke kan regulere, eller
som gør det til en udfordring at håndhæve den eksisterende lovgivning. I mange tilfælde er det
f.eks. ikke muligt at fastslå, hvorfor et AI-system er nået frem til et bestemt resultat. Som følge
heraf kan det blive vanskeligt at vurdere og påvise, om en person er blevet dårligt stillet på en
urimelig måde som følge af, at der er anvendt AI-systemer, f.eks. i forbindelse med en afgørelse
om ansættelse eller forfremmelse eller en ansøgning om støtte fra det offentlige. Brugen af AI-
systemer kan give berørte personer store problemer med at rette forkerte beslutninger.
Ansigtsgenkendelse i offentlige rum kan have en meget indgribende virkning på privatlivets fred,
medmindre det er ordentligt reguleret. Desuden kan dårlig uddannelse og den måde, AI-systemer
designes på, give anledning til betydelige fejl, der kan underminere privatlivets fred og
ikkeforskelsbehandling13
. AI-baserede robotter og intelligente systemer skal konstrueres og
udformes således, at de opfylder de samme høje standarder for sikkerhed og beskyttelse af
grundlæggende rettigheder, som gælder for traditionelle teknologier i EU-retten.
Som reaktion på disse udfordringer inden for kunstig intelligens har Europa-Parlamentet og Det
Europæiske Råd gentagne gange opfordret til lovgivningsmæssige tiltag for at sikre et
velfungerende indre marked for AI-systemer, hvor både fordelene og risiciene ved kunstig
intelligens inddrages på en passende og vedvarende måde. Kommissionens forslag til en
lovgivningsmæssig ramme14
for kunstig intelligens udgør et vigtigt stadium på vejen hen imod
13
Se også EU's ligestillingsstrategi, COM(2020) 152 (marts 2020), EU-handlingsplan mod racisme, COM(2020) 565
(september 2020), EU's LGBTIQ-ligestillingsstrategi, COM(2020) 698 (november 2020) og strategien for
rettigheder for personer med handicap, COM(2021) 101 (marts 2021).
14
COM(2021) 206. De lovgivningsmæssige rammer vil ikke omfatte udvikling og anvendelse af kunstig intelligens
til militære formål.
5
beskyttelse af sikkerhed og grundlæggende rettigheder og sikrer, at man kan have tillid til
udviklingen og optagelsen af kunstig intelligens.
Den koordinerede plan og forslaget til en lovgivningsmæssig ramme er en del af Den
Europæiske Unions bestræbelser for at være en aktiv deltager i internationale og multilaterale
fora inden for digitale teknologier og en global leder inden for fremme af pålidelig kunstig
intelligens og for at sikre sammenhæng mellem EU's foranstaltninger udadtil og dets interne
politikker. Kunstig intelligens er i global sammenhæng blevet et område af strategisk betydning i
forbindelse med geopolitiske, kommercielle og sikkerhedsmæssige aspekter. Lande overalt i
verden vælger at bruge kunstig intelligens til at opnå tekniske fremskridt på grund af dens
nytteværdi og potentiale. Reguleringen af kunstig intelligens er i sin vorden, og der står meget på
spil for, at EU kan stå i spidsen for udviklingen af nye ambitiøse globale normer,
internationale standardiseringsinitiativer og samarbejdsrammer vedrørende kunstig intelligens15
i
overensstemmelse med det regelbaserede multilaterale system og de værdier, det står for. I
overensstemmelse med den fælles meddelelse om styrkelse af EU's bidrag til regelbaseret
multilateralt samarbejde16
agter EU at uddybe partnerskaber, koalitioner og alliancer med
tredjelande — navnlig ligesindede partnere — og med multilaterale og regionale
organisationer17
. Den har også til hensigt at indgå i et emnebaseret samarbejde med andre lande
og at holde igen, når disse værdier er truet.
3. En milepæl på vejen mod en europæisk tilgang til kunstig intelligens
Den pakke, der offentliggøres i dag, er resultatet af tre års intensiv politikudformning inden
for kunstig intelligens på europæisk plan. Efter Europa-Kommissionens offentliggørelse af den
europæiske strategi for kunstig intelligens i april 2018 og efter en omfattende høring af
interessenter udarbejdede Ekspertgruppen på Højt Niveau vedrørende Kunstig Intelligens sine
retningslinjer for pålidelig kunstig intelligens18
i april 2019 og en evalueringsliste for pålidelig
15
Initiativer såsom OECD's principper om kunstig intelligens, som OECD-medlemslandene vedtog i OECD-Rådets
henstilling om kunstig intelligens (OECD/LEGAL/0449) i maj 2019, det saudiarabiske G20-formandskabs dialog
om kunstig intelligens under Digital Economy Task Force (DETF) som led i dets bestræbelser på at fremme G20's
principper for kunstig intelligens, 2019, UNESCOs udkast til henstilling om etik inden for kunstig intelligens eller
ITU's verdenstopmøde om AI for Good, den førende handlingsorienterede, globale og inklusive FN-platform om
kunstig intelligens. Internationale standardiseringsorganisationer såsom ISO og IEEE er også involveret i AI-
standardiseringsaktiviteter (f.eks. ISO/IEC JTC 1/SC 42 og IEEE's Global Initiative on Ethics of
Autonomous and Intelligent Systems)
16
Denne fremgangsmåde med flere aktører vil også omfatte civilsamfundsorganisationer.
17
Fælles meddelelse til Europa-Parlamentet og Rådet om styrkelse af EU's bidrag til regelbaseret multilateralt
samarbejde, februar 2021, JOIN(2021) 3.
18
Ethics Guidelines for Trustworthy AI, et dokument der anlægger en menneskecentreret tilgang til kunstig
intelligens, og som indeholder en liste over de centrale krav, som AI-systemer skal opfylde for at kunne betragtes
som pålidelige.
6
kunstig intelligens i juli 2020. Desuden dannedes AI-alliancen ("AI Alliance")19
som en platform
for ca. 4 000 interessenter til at drøfte de teknologiske og samfundsmæssige konsekvenser af
kunstig intelligens, hvilket kulminerede i en årlig AI-forsamling. Parallelt hermed udgør den
første koordinerede plan for kunstig intelligens20
, der blev offentliggjort i december 2018, et
fælles tilsagn med medlemsstaterne om at fremme udviklingen og anvendelsen af kunstig
intelligens i Europa og koordinere den europæiske og nationale indsats inden for kunstig
intelligens.
De to arbejdsområder blev kombineret i Kommissionens hvidbog om kunstig intelligens, som
blev offentliggjort sammen med en rapport om sikkerheds- og ansvarsaspekter af kunstig
intelligens, tingenes internet (IoT) og robotteknologi21
. I hvidbogen foreslås en række
foranstaltninger til fremme af et ekspertisemiljø, hvilket har banet vejen for den seneste revision
af den koordinerede plan. Hvidbogen indeholder ligeledes politiske løsningsmodeller for en
fremtidig EU-lovramme, der skal værne om et tillidsmiljø i Europa, og lægger grunden for
nærværende forslag til en reguleringsmæssig ramme for kunstig intelligens. Den offentlige
høring om hvidbogen om kunstig intelligens22
, som fandt sted fra februar til juni 2020, havde
bred deltagelse, og gjorde det muligt for europæiske borgere, medlemsstater og interessenter at
give deres mening til kende og bidrage til at forme EU's tilgang til og politiske valgmuligheder
vedrørende kunstig intelligens.
4. Mod pålidelighed: forslag til en lovramme for kunstig intelligens
Som det fremgår af hvidbogen om kunstig intelligens, og som det i vid udstrækning blev
bekræftet ved den efterfølgende offentlige høring, skaber brugen af kunstig intelligens en række
store risici, som den eksisterende lovgivning ikke dækker i tilstrækkelig grad. Omend der
allerede findes en solid lovgivningsramme på EU-plan og nationalt plan for at beskytte
grundlæggende rettigheder23
og værne om sikkerheds-24
og forbrugerrettigheder,25
herunder især
den generelle databeskyttelsesforordning26
og retshåndhævelsesdirektivet27
, kan visse specifikke
19
AI-alliancen er et multiinteressentforum, der blev lanceret i juni 2018, https://ec.europa.eu/digital-single-
market/en/european-ai-alliance
20
Europa-Kommissionen, Koordineret plan om kunstig intelligens, december 2018, COM(2018) 795
21
Europa-Kommissionen, Rapport om sikkerhed og ansvar i forbindelse med kunstig intelligens: tingenes internet
(IoT) og robotteknologi, 19. februar 2020, COM(2020) 64
22
Europa-Kommissionen,Offentlig høring om hvidbogen om kunstig intelligens, februar-juni 2020
23
F.eks. direktiv 2000/43/EF om gennemførelse af princippet om ligebehandling af alle uanset race eller etnisk
oprindelse eller direktiv 2000/78/EF om bekæmpelse af forskelsbehandling på arbejdspladsen på grund af religion
eller tro, handicap, alder eller seksuel orientering.
24
F.eks. direktivet om produktsikkerhed i almindelighed, 2001/95/EF, maskindirektivet, 2006/42/EF, samt
sektorspecifik lovgivning såsom forordningen om medicinsk udstyr (EU), 2017/745/EU, eller EU-rammen for
godkendelse og markedsovervågning af motorkøretøjer.
25
F.eks. direktiv 2005/29/EF om urimelig handelspraksis
26
Forordning (EU) 2016/679
27
Direktiv (EU) 2016/680.
7
træk ved AI-teknologier (f.eks. opacitet) gøre det mere udfordrende at anvende og håndhæve en
sådan lovgivning og skabe store risici, der nødvendiggør et skræddersyet lovgivningsmæssigt
initiativ. Med forslaget indføres derfor et sæt harmoniserede regler for udformning, udvikling og
anvendelse af visse AI-systemer forbundet med høj risiko samt begrænsninger for visse
anvendelser af biometriske fjernidentifikationssystemer.
Ved at sikre befolkningens tillid burde den planlagte risikobaserede lovgivning fremme
optagelsen af kunstig intelligens i hele Europa og styrke Europas konkurrenceevne.
Kommissionens forslag forfølger derfor de to mål om at imødegå de risici, der er forbundet med
bestemte AI-applikationer, på en forholdsmæssig måde og fremme optagelsen af kunstig
intelligens. For at være fremtidssikret og innovationsvenlig er de foreslåede retlige rammer kun
udformet med henblik på at gribe ind, når det er strengt nødvendigt og på en måde, der
minimerer byrden for de økonomiske aktører med en let forvaltningsstruktur.
Den foreslåede forordning om kunstig intelligens indeholder regler, der skal øge
gennemsigtigheden og minimere risiciene for sikkerheden og de grundlæggende rettigheder, før
der kan anvendes AI-systemer i Den Europæiske Union. Arkitekturen er baseret på en række
centrale komponenter, der som helhed bygger på en forholdsmæssig og risikobaseret
europæisk lovgivningsmæssig tilgang. Den indeholder for det første en teknologineutral
definition af AI-systemer, der er fremtidssikret, i den forstand, at den kan omfatte teknikker og
tilgange, som endnu ikke er kendt eller udviklet.
For det andet fokuserer forslaget på såkaldte "højrisikotilfælde" af kunstig intelligens for at
undgå overdreven regulering, dvs. hvor de risici, som AI-systemerne repræsenterer, er særlig
høje. Om et AI-system klassificeres som et højrisikosystem afhænger af systemets formål og af,
hvor stor skade det kan forårsage, og sandsynligheden for, at det indtræffer. Højrisikosystemer
omfatter f.eks. AI-systemer, der er beregnet til at rekruttere arbejdstagere eller evaluere
personers kreditværdighed28
eller til retsafgørelser. For at sikre, at reglerne er fremtidssikrede og
kan tilpasses nye anvendelser og AI-systemapplikationer forbundet med høj risiko, er der
mulighed for at klassificere nye AI-systemer som højrisikosystemer inden for visse
foruddefinerede anvendelsesområder.
For det tredje angives det i forslaget, at AI-systemer med høj risiko skal overholde en række
specifikt udformede krav, som omfatter brug af datasæt af høj kvalitet, udarbejdelse af
passende dokumentation for at forbedre sporbarheden, udveksling af relevante oplysninger med
brugeren, udformning og gennemførelse af passende tilsynsforanstaltninger foretaget af
mennesker og opnåelse af de højeste standarder med hensyn til robusthed, sikkerhed,
cybersikkerhed og nøjagtighed. Det skal vurderes, om AI-systemer med høj risiko stemmer
28
Europa-Parlamentet har også foreslået at sondre mellem højrisikoanvendelser og andre AI-applikationer og
inkluderede f.eks. rekruttering af arbejdstagere eller vurdering af personers kreditværdighed blandt
højrisikoapplikationerne.
8
overens med disse krav, inden de markedsføres eller tages i brug. For at sikre en gnidningsløs
integration i de eksisterende retlige rammer tager forslaget, hvor det er relevant, hensyn til de
sektorspecifikke sikkerhedsregler, så der er sammenhæng mellem retsakterne og forenkling for
de økonomiske aktører.
Det foreslåede udkast til forordning fastlægger et forbud mod visse anvendelser af kunstig
intelligens, der er i strid med Den Europæiske Unions værdier eller krænker grundlæggende
rettigheder. Forbuddet omfatter AI-systemer, der ændrer en persons adfærd ved hjælp af
subliminale teknikker eller ved at udnytte specifikke sårbarheder på en måde, der forårsager eller
sandsynligvis vil forårsage fysisk eller psykisk skade. Det omfatter også social bedømmelse af
AI-systemer i almindelighed fra de offentlige myndigheders side.
For så vidt angår biometriske fjernidentifikationssystemer (f.eks. til ansigtsgenkendelse af
forbipasserende i offentlige rum) anlægger den foreslåede forordning en strengere tilgang.
Anvendelse i realtid til retshåndhævelsesformål vil i princippet være forbudt på offentligt
tilgængelige områder, medmindre loven undtagelsesvis tillader det29
. Enhver tilladelse er
underlagt særlige sikkerhedsforanstaltninger. Alle AI-systemer, der er beregnet til biometrisk
fjernidentifikation af fysiske personer, skal desuden gennemgå en forudgående
overensstemmelsesvurderingsprocedure, der afholdes af et bemyndiget organ, for at kontrollere,
at kravene til højrisiko-AI-systemer overholdes, og vil i øvrigt være underlagt strengere krav til
journalføring og menneskelig kontrol.
I henhold til den foreslåede forordning er andre anvendelser af AI-systemer kun underlagt
minimale gennemsigtighedskrav, f.eks. ved chatbots, systemer til følelsesgenkendelse eller
deep fakes. Dette vil give folk mulighed for at træffe informerede valg eller trække sig ud i en
given situation. Endelig vil den foreslåede forordning tilskynde til anvendelse af
reguleringsmæssige sandkasser, hvor der stilles et kontrolleret system til rådighed for at teste
innovative teknologier i et begrænset tidsrum, adgang til digitale innovationsknudepunkter og
adgang til test- og forsøgsfaciliteter, der vil hjælpe innovative virksomheder, SMV'er og
nystartede virksomheder med at blive ved med at innovere i overensstemmelse med det nye
udkast til forordning. Det kan overvejes at tage yderligere skridt til at udbygge
sandkassesystemet i forbindelse med revisionen af forordningen.
Den foreslåede forordning om kunstig intelligens kombinerer således øget sikkerhed og
beskyttelse af grundlæggende rettigheder, samtidig med at den støtter innovation og skaber tillid
uden at forhindre innovation.
5. Oprettelse af et globalt lederskab i EU: den reviderede koordinerede plan for
kunstig intelligens
29
I andre sammenhænge finder forbuddet og undtagelserne i artikel 9 i den generelle forordning om databeskyttelse
(EU) 2016/679 anvendelse.
9
Kunstig intelligens er et sæt teknologier af strategisk relevans, og Den Europæiske Union må stå
sammen om at udnytte fordelene ved kunstig intelligens. Hvis det skal lykkes, er det afgørende at
koordinere AI-politik og -investeringer på europæisk plan. Det vil sammen med Europas
globale konkurrenceevne og lederskab gøre det muligt at udvikle og indføre de nyeste
teknologier. En sådan koordinering vil gøre Europa i stand til at udnytte fordelene ved kunstig
intelligens for økonomien, samfundet og miljøet og bidrage til at fremme europæiske værdier på
verdensplan.
Derfor forpligtede Kommissionen og medlemsstaterne sig i 2018 til at samarbejde og vedtog den
koordinerede plan for kunstig intelligens som et første skridt. Den koordinerede plan lagde
fundamentet for samordning af politikker vedrørende kunstig intelligens og tilskyndede
medlemsstaterne til at udvikle nationale strategier. Siden den koordinerede plan blev vedtaget i
slutningen af 2018, har den teknologiske, økonomiske og politiske kontekst for kunstig
intelligens imidlertid udviklet sig betydeligt. For at den koordinerede plan kan forblive
fleksibel og egnet til formålet fremlægger Kommissionen hermed revisionen af den koordinerede
plan for 202130
.
2021-revisionen af den koordinerede plan giver mulighed for at skabe yderligere europæisk
merværdi og styrke EU's globale rolle inden for kunstig intelligens. Den indeholder fire
centrale forslag til, hvordan Europa-Kommissionen sammen med medlemsstaterne og private
aktører gennem fremskyndelse, handling og tilpasning kan udnytte de muligheder, som AI-
teknologier giver, og lette den europæiske tilgang til kunstig intelligens. Disse fire centrale
forslag er beskrevet nedenfor.
For det første fastsætte de grundlæggende forudsætninger for udvikling og optagelse af
kunstig intelligens i EU ved at fokusere på en samarbejdsramme og en infrastruktur for data og
databehandling. De grundlæggende forudsætninger skal udformes på en SMV-venlig måde, så
små virksomheder kan bidrage til at udvikle og udbrede kunstig intelligens i hele EU.
Medlemsstaterne opfordres til i samarbejde med EU at fremskynde de tiltag, der lægges op til i
de nationale strategier for kunstig intelligens, og gøre brug af genopretnings- og
resiliensfaciliteten og Samhørighedsfonden, når det er nødvendigt. Dette omfatter investering i
støtteinfrastruktur såsom dataområder og databehandlingsressourcer.
For det andet gøre EU til et sted, hvor ekspertise trives, lige fra laboratoriet til markedet.
Kommissionen vil derfor fokusere på at finansiere netværk af ekspertisecentre for kunstig
intelligens og etablere et europæisk partnerskab om kunstig intelligens, data og
robotteknologi under Horisont Europa for at fremme ekspertise inden for forskning. For at sikre,
at der kan udføres test og forsøg i forbindelse med innovation og hurtig optagelse, vil
medlemsstaterne i samarbejde med Kommissionen medfinansiere innovative test- og
30
Kommissionen forpligtede sig til at forelægge medlemsstaterne en revision af den koordinerede plan i hvidbogen
om kunstig intelligens fra 2020 og i den koordinerede plan for kunstig intelligens fra 2018.
10
forsøgsfaciliteter for kunstig intelligens gennem programmet for et digitalt Europa samt et
netværk af europæiske digitale innovationsknudepunkter, der vil at hjælpe SMV'er og
offentlige forvaltninger med at indføre kunstig intelligens.
For det tredje sørge for, at kunstig intelligens er til gavn for mennesker og udgør en positiv
kraft i samfundet. Kommissionen vil fortsat træffe foranstaltninger for at sikre, at kunstig
intelligens, der udvikles og markedsføres i EU, er menneskecentreret, bæredygtig, sikker,
inklusiv, tilgængelig og pålidelig. For at nå disse mål er det afgørende at have den
lovgivningsmæssige ramme på plads for at sikre tillid til AI-systemer og samtidig fremme EU's
værdibaserede tilgang til kunstig intelligens på globalt plan. Medlemsstaterne opfordres også
kraftigt til at pleje talenter og øge udbuddet af de færdigheder, der er nødvendige for at gøre
det muligt at udvikle pålidelig kunstig intelligens.
For det fjerde gøre fremskridt med hensyn til at opbygge et strategisk lederskab i sektorer
med stor indvirkning31
, herunder klimaændringer og miljø, sundhed, den offentlige sektor,
robotteknologi, mobilitet, sikkerhed og indre anliggender samt landbrug.
EU's økonomiske og lovgivningsmæssige beføjelser har med udgangspunkt i fælles aktioner,
koordinering og investeringer et enormt potentiale med hensyn til at give den europæiske
industri en konkurrencefordel og styrke det indre marked. EU's indsats kan desuden fremme
vedtagelsen af EU-standarder for pålidelig kunstig intelligens på globalt plan og sikre, at
udviklingen, optagelsen og formidlingen af kunstig intelligens er bæredygtig og baseret på de
værdier, principper og rettigheder, der beskyttes i EU til gavn for alle og for vores miljø.
6. Bane vej for nye muligheder
En fremskyndet udvikling og udbredelse af avanceret og pålidelig kunstig intelligens i Europa er
en forudsætning for Europas fremtidige konkurrenceevne og velstand. Den pakke, der
fremlægges i dag, er en milepæl på vejen mod dette mål, idet den udnytter de muligheder, som
kunstig intelligens stiller til rådighed, samtidig med at den imødegår de tilknyttede risici. Der
skal en hurtig og beslutsom indsats til fra Den Europæiske Unions, Europa-Parlamentets og
medlemsstaternes side for at omsætte ambitionerne til virkelighed.
31
Dette er et supplement til de horisontale indsatsområder, der bygger på de indsatsområder, som blev foreslået i
den koordinerede plan for 2018.