EU og kunstig intelligens

A person shaking a robot's hand Kunstig intelligens kan bidrage til at finde løsninger på mange af samfundets problemer. Dette kan kun opnås, hvis teknologien er af høj kvalitet og udvikles og anvendes på måder, der vinder folks tillid. Derfor vil en strategisk EU-ramme, der bygger på EU's værdier, give borgerne tillid til at acceptere løsninger baseret på kunstig intelligens, samtidig med at virksomhederne tilskyndes til at udvikle og udbrede dem.

Derfor har Kommissionen foreslået en række tiltag til at øge ekspertisen inden for kunstig intelligens samt regler, der skal sikre, at teknologien er pålidelig.

Forordningen om en europæisk strategi for kunstig intelligens og ajourføringen af den koordinerede plan for kunstig intelligens vil garantere borgernes og virksomhedernes sikkerhed og grundlæggende rettigheder og samtidig øge investeringer og innovation i hele EU.

Opbygning af tillid gennem verdens første juridiske ramme for kunstig intelligens

Kommissionen foreslår nye regler for at sikre, at systemer med kunstig intelligens, som anvendes i EU, er sikre, gennemsigtige, etiske, objektive og under menneskelig kontrol. De kategoriseres derfor efter risiko: 

Uacceptabelt

Alt, hvad der betragtes som en klar trussel mod EU-borgerne, vil blive forbudt: fra systemer, der gør det muligt for regeringer at indføre sociale pointsystemer ("social scoring"), til legetøj med indbygget taleassistent, der tilskynder børn til farlig adfærd.

Høj risiko

  • Kritisk infrastruktur (f.eks. transport), der kan bringe borgernes liv og helbred i fare
  • Uddannelse, der kan være afgørende for menneskers adgang til uddannelse og karrieremuligheder (f.eks. bedømmelse af eksamener)
  • Produktsikkerhedskomponenter (f.eks. anvendelse af kunstig intelligens i robotassisteret kirurgi)
  • Beskæftigelse, forvaltning af arbejdskraft og adgang til selvstændig erhvervsvirksomhed (f.eks. software til sortering af CV'er ved ansættelsesprocedurer)
  • Vigtige private og offentlige tjenester (f.eks. kreditvurderinger, der kan forhindre borgere i at foretage visse investeringer)
  • Retshåndhævelse, der kan gribe ind i folks grundlæggende rettigheder (f.eks. kontrol af bevismateriales ægthed)
  • Migration, asyl og grænsekontrol (f.eks. kontrol af rejsedokumenters ægthed)
  • Retspleje og demokratiske processer (f.eks. vurdering af, hvordan loven anvendes på konkrete fakta)

De vil alle blive vurderet omhyggeligt forud for markedsføringen og gennem hele deres livscyklus.

Pyramid of AI risks

Begrænset risiko

Systemer med kunstig intelligens som f.eks. chatbots er underlagt minimale gennemsigtighedsforpligtelser, der skal gøre det muligt for personer, der interagerer med indholdet, at træffe informerede beslutninger. Brugeren kan på dette grundlag beslutte at anvende systemet eller lade være.

Minimal risiko

Fri anvendelse af applikationer som f.eks. videospil eller spamfiltre med kunstig intelligens. Langt størstedelen af de systemer med kunstig intelligens, der i øjeblikket anvendes i EU, falder ind under denne kategori, hvor de udgør en minimal eller ingen risiko for borgernes rettigheder eller sikkerhed og derfor ikke er underlagt de nye regler.

 

Nye regler for udbydere af højrisikosystemer med kunstig intelligens

Trin 1

AI icon

Trin 2

AI icon conformity

Trin 3

AI icon requirements

Trin 4

AI icon market

 

Der udvikles et højrisikosystem med kunstig intelligens

Det skal gennemgå en overensstemmelsesvurdering og overholde alle krav til kunstig intelligens

For visse systemers vedkommende er et bemyndiget organ involveret

Registrering af selvstændige systemer med kunstig intelligens i en EU-database

Der skal underskrives en overensstemmelseserklæring, og systemet skal være forsynet med CE-mærkning. Systemet kan markedsføres

Gå tilbage til trin 2, hvis der sker væsentlige ændringer i systemets livscyklus

 

Når først systemet er på markedet, er myndighederne ansvarlige for markedsovervågning, brugerne sikrer den menneskelige kontrol og overvågning, og udbyderne vil have indført et system til overvågning efter markedsføringen. Udbydere og brugere skal også indberette alvorlige hændelser og funktionsfejl.

Sådan styrker vi ekspertisen inden for kunstig intelligens

I 2018 tog Kommissionen og EU-medlemslandene det første skridt ved at gå sammen om en koordineret plan for kunstig intelligens, som lagde grunden til nationale strategier og politiske tiltag.

Ajourføringen i 2021 af den koordinerede plan for kunstig intelligens omsætter strategien i handling og er nøje afstemt med Kommissionens digitale og grønne prioriteter samt EU's reaktion på coronaviruspandemien. 

Med henblik på at fremme ekspertisen inden for kunstig intelligens fra laboratoriet til markedet skitserer den koordinerede plan en vision om at fremskynde investeringer i kunstig intelligens, sørge for rettidig gennemførelse af strategier for kunstig intelligens og afstemme politikkerne i EU.

AI coordinated plan compass

De vigtigste politiske målsætninger:

  1. At definere grundforudsætningerne for udvikling og udbredelse af kunstig intelligens
  2. At opbygge strategisk lederskab inden for vigtige sektorer
  3. At gøre EU til det rette sted for kunstig intelligens
  4. Sikre, at teknologier med kunstig intelligens fungerer for mennesker

Som led i disse bestræbelser planlægger Kommissionen at etablere:

  • et offentlig-privat partnerskab om kunstig intelligens, data og robotteknologi med henblik på at definere, gennemføre og investere i en fælles strategisk forsknings-, innovations- og udbredelsesdagsorden for Europa
  • yderligere netværk af ekspertisecentre for kunstig intelligens med henblik på at fremme udveksling af viden og ekspertise, udvikle samarbejde med industrien og fremme mangfoldighed og inklusion
  • test- og forsøgsfaciliteter, som kan eksperimentere og teste den nyeste teknologi i den virkelige verden
  • digitale innovationsknudepunkter, der kan fungere som kvikskranker, som giver adgang til teknisk ekspertise og afprøvning, så virksomheder kan foretage "test før investering"
  • en on-demand-platform for kunstig intelligens, der kan udgøre en central europæisk værktøjskasse af ressourcer (f.eks. ekspertise, algoritmer, softwarerammer og udviklingsværktøjer) til brug for industrien og den offentlige sektor.

EU-finansierede projekter inden for kunstig intelligens

EU har allerede finansieret en række projekter inden for kunstig intelligens, som tilbyder løsninger inden for alle områder af samfundet, fra landbrug og sundhedspleje til fremstillingsvirksomhed og transport.

Sundhed, miljø og bekæmpelse af bevidst misinformation er tre eksempler på områder, hvor brugen af teknologi med kunstig intelligens har været særlig gavnlig.

Medical scan machine

Neurorehabilitering i forbindelse med covid-19-intensivpatienters rekonvalescens
CDAC-projektet har bidraget til udvikling og klinisk validering af innovative teknologier, som allerede havde været anvendt til rehabilitering af over 3.000 hjerneblødningspatienter.

Flere EU-finansierede projekter på sundhedsområdet

A mobile phone taking pictures of a field

Brug af intelligente sensorer til at brødføde verdens voksende befolkning
ANTARES-projektet udvikler intelligente sensor- og big data-teknologier, som kan hjælpe landbrugerne med at producere flere fødevarer på en måde, som er bæredygtig for samfundet, landbrugsindkomsterne og miljøet.

Flere EU-finansierede projekter på dette område

 A woman wearing a mask

Onlineværktøjer til faktatjek og aflivning af myter
WeVerify leverer verifikationssystemer såsom plugin, der kan hjælpe faktatjekkere, journalister, menneskerettighedsaktivister og borgere med at aflive myter og faktatjekke videoer og billeder på nettet.

Flere EU-finansierede projekter i kampen mod misinformation

Fordele ved kunstig intelligens

EU har potentiale til at blive leder på verdensplan inden for sikker kunstig intelligens. Ved at udvikle et stærkt regelsæt baseret på menneskerettigheder og grundlæggende værdier kan EU udvikle et system med kunstig intelligens, der gavner mennesker, virksomheder og det offentlige.

 

AI og EU i tal

  • research and innovation
    1 mia. euroKommissionen planlægger at investere 1 mia. euro om året i kunstig intelligens under programmerne for det digitale Europa og Horisont Europa.
  • AI research
    20 mia. euroMålet er at tiltrække over 20 mia. euro i samlede investeringer i kunstig intelligens om året i EU i løbet af dette årti. Genopretnings- og resiliensfaciliteten vil bidrage til at fremskynde investeringerne og nå ud over dette mål.
  • industrial and personal service robots
    > 25 % af alle industrielle og personlige servicerobotter fremstilles i Europa.

Dokumenter

DownloadPDF - 612.7 KB