Excellentie en vertrouwen in kunstmatige intelligentie

Betrouwbare KI kan veel voordelen opleveren, zoals betere gezondheidszorg, schoner en goedkoper vervoer, efficiëntere productiemethoden en goedkopere en duurzamere energie.

Op deze pagina

EU en KI

Iemand die een robot een hand geeft Kunstmatige intelligentie (KI) kan helpen allerlei maatschappelijke problemen op te lossen. Maar de technologie moet dan wel zo goed zijn en zo worden ingezet dat je erop kunt vertrouwen. Een strategisch EU-kader op basis van de EU-waarden moet ons dat vertrouwen geven en bedrijven aanmoedigen KI-oplossingen te ontwikkelen en toe te passen.

Het omvat acties die de excellentie op het gebied van KI stimuleren en regels die garanderen dat we op deze technologie kunnen vertrouwen.

De verordening met betrekking tot een Europese aanpak van kunstmatige intelligentie en de actualisering van het gecoördineerd plan inzake KI zullen de veiligheid en de grondrechten van mensen en bedrijven garanderen, en tegelijk ook de investeringen en innovatie in de hele EU stimuleren.

Vertrouwen kweken via het allereerste rechtskader voor KI

De Commissie stelt nieuwe regels voor die moeten garanderen dat in de EU toegepasye KI-systemen veilig, transparant, ethisch verantwoord en vrij van voordelen zijn en door mensen gecontroleerd worden. Daarom worden ze ingedeeld naar risico: 

Onaanvaardbaar
Alles wat als een duidelijke bedreiging voor EU-burgers wordt beschouwd, wordt verboden: van sociale scoringtoepassingen van overheden tot spraakgestuurd speelgoed dat risicogedrag van kinderen aanmoedigt

Hoog risico
  • Kritieke infrastructuur (bijv. vervoer) waarbij het leven en de gezondheid van burgers op het spel kan staan
  • Onderwijs of beroepsopleidingen: wanneer iemands toegang tot onderwijs of een beroepsopleiding ervan afhangt (bijv. examenresultaten)
  • Veiligheidscomponenten van producten (bijv. KI-toepassingen voor chirurgie met robotondersteuning)
  • Arbeidsmarkt: personeelsbeheer en toegang tot zelfstandige beroepen (zoals cv-selectiesoftware bij sollicitatieprocedures)
  • Essentiële particuliere en publieke diensten (bijv. kredietwaardigheidsbeoordeling bij het aanvragen van leningen)
  • Rechtshandhaving, wanneer iemands grondrechten in het geding zijn (bijv. beoordeling van de betrouwbaarheid van bewijzen)
  • Migratie-, asiel- en grenscontrolebeheer (bijv. controle op de echtheid van reisdocumenten)
  • Beheer van justitiële en democratische processen (zoals toepassing van de wet op concrete verzamelingen feiten)

Al deze toepassingen moeten zorgvuldig worden beoordeeld, niet alleen vóór ze in de handel worden gebracht, maar ook tijdens de rest van hun levenscyclus.

 KI-risicopiramide

Beperkt risico
Voor AI-systemen zoals chatbots gelden minimale transparantieverplichtingen zodat de contentgebruikers van die systemen zelf met kennis van zaken kunnen beslissen of ze de applicatie al of niet gaan of blijven gebruiken.

Minimaal risico
Gratis applicaties, zoals op KI gebaseerde videogames of spamfilters. De overgrote meerderheid van KI-systemen valt in deze categorie, waarvoor de nieuwe regels geen gevolgen hebben omdat ze geen enkel of slechts een uiterst klein risico vormen voor de rechten of veiligheid van de burger.

 

Nieuwe regels voor leveranciers van KI-systemen met een hoog risico

Stap 1

KI-icoontje

Stap 2

Icoontje KI-conformiteit

Stap 3

Icoontje KI-eisen

Stap 4

Icoontje KI-markt

 

Ontwikkeling van een KI-systeem met een hoog risico

Het systeem moet een conformiteitsbeoordeling ondergaan en aan specifieke KI-eisen

Soms is hier een aangemelde instantie bij betrokken

Registratie van het autonome KI-systeem in een EU-databank

De fabrikant moet een conformiteitsverklaring ondertekenen en op het KI-systeem de CE-markering aanbrengen, waarna het systeem op de markt kan worden gebracht

 Bij aanzienlijke veranderingen in de levenscyclus van het KI-systeem, moet de procedure vanaf stap 2 worden herhaald.

 

Ook wanneer het eenmaal op de markt is, wordt er nog toezicht op zo'n KI-systeem gehouden, zowel door de autoriteiten belast met het markttoezicht als door de gebruikers en de leveranciers zelf. Leveranciers en gebruikers zijn verplicht ernstige incidenten en storingen te melden.

Excellentie bevorderen

In 2018 hebben de Commissie en de EU-lidstaten met het "gecoördineerd plan inzake KI" de eerste stap gezet om hun krachten te bundelen. Dat plan vormde de basis voor nationale strategieën en beleidsontwikkelingen.

Met de actualisering van dit plan in 2021 wordt de strategie vertaald naar concrete acties, maar tegelijk ook afgestemd op de prioriteiten ten aanzien van de digitale en de groene transitie van de Commissie en op de respons op de coronapandemie. 

Door van lab tot markt de excellentie op KI-gebied te bevorderen, mikt het gecoördineerd plan op versneld investeren in KI om de KI-strategieën tijdig te kunnen uitrollen en het KI-beleid in de hele EU op elkaar af te stemmen.

Kompas van het gecoördineerd plan inzake KI

Voornaamse beleidsdoelstellingen:

  1. Randvoorwaarden voor de ontwikkeling en toepassing van KI-systemen vastleggen
  2. Strategisch leiderschap opbouwen in sectoren met een hoge impact
  3. Van de EU een plek maken waar KI tot bloei kan komen
  4. Ervoor zorgen dat KI mensen helpt

Het plan van de Commissie voorziet daarom in:

  • een publiek-privaat partnerschap voor kunstmatige intelligentie, data en robotica om voor Europa een gemeenschappelijke strategische onderzoeks-, innovatie en uitrolagenda vast te stellen, uit te voeren en te financieren
  • aanvullende netwerken van KI-kenniscentra om de uitwisseling van kennis en expertise, de samenwerking met de industrie, en de diversiteit en inclusie te bevorderen
  • test- en experimenteerfaciliteiten voor het experimenteren met en testen van geavanceerde technologie in de praktijk
  • digitale-innovatiehubs en one-stop-shops voor toegang tot technische expertise en experimenten, zodat bedrijven kunnen testen voor ze besluiten om te investeren
  • een on-demandplatform voor KI dat als centrale toolbox fungeert voor KI-hulpmiddelen (expertise, algoritmes, software frameworks, ontwikkelingstools enz.) die de industrie en de overheid nodig hebben

KI-projecten met financiële steun van de EU