EÚ a umelá inteligencia

A person shaking a robot's hand Umelá inteligencia (AI) môže pomôcť nájsť riešenia mnohých problémov spoločnosti. To možno dosiahnuť len vtedy, ak majú technológie vysokú kvalitu a vyvíjajú sa a používajú spôsobom, ktorý vzbudzuje dôveru u občanov. Strategický rámec EÚ založený na hodnotách EÚ preto dodá občanom dôveru potrebnú na akceptovanie riešení založených na AI a podniky podporí pri ich vývoji a zavádzaní.

Európska komisia preto navrhla súbor opatrení na podporu excelentnosti v oblasti AI a pravidlá na zaistenie dôveryhodnosti technológií.

Nariadením o európskom prístupe k umelej inteligencii a aktualizáciou koordinovaného plánu v oblasti umelej inteligencie sa zaručí bezpečnosť a základné práva ľudí a podnikov a zároveň sa posilnia investície a inovácie vo všetkých krajinách EÚ.

Budovanie dôvery prostredníctvom vôbec prvého právneho rámca v oblasti umelej inteligencie

Komisia navrhuje nové pravidlá s cieľom zabezpečiť, aby systémy umelej inteligencie používané v EÚ boli bezpečné, transparentné, etické, nezaujaté a pod kontrolou ľudí. Preto sa kategorizujú podľa rizika: 

Neprijateľné

Zakáže sa všetko, čo sa bude považovať za jednoznačnú hrozbu pre občanov EÚ: od sociálneho hodnotenia vo verejnej správe až po hračky vybavené hlasovou asistenciou, ktorá nabáda k nebezpečnému správaniu detí.

Vysoké riziko

  • Kritické infraštruktúry (napr. doprava), ktoré by mohli ohroziť život a zdravie občanov
  • Vzdelávanie alebo odborná príprava, ktoré by mohli rozhodnúť o prístupe k vzdelávaniu a profesijnej dráhe v niekoho živote (napr. bodovaním skúšok)
  • Bezpečnostné prvky výrobkov (napr. aplikácia AI v roboticky asistovanej chirurgii)
  • Zamestnanosť, personálny manažment a prístup k samostatnej zárobkovej činnosti (napr. softvér na triedenie životopisov v rámci náborových postupov)
  • Dôležité súkromné a verejné služby (napr. úverové bodovanie, ktoré by občanom zabránilo získať úver)
  • Presadzovanie práva, ktoré by mohlo zasiahnuť do základných ľudských práv (napr. hodnotenie spoľahlivosti dôkazov)
  • Migrácia, azyl a kontrola hraníc (napr. overovanie pravosti cestovných dokladov)
  • Výkon spravodlivosti a demokratických procesov (napr. uplatňovanie práva na konkrétny súbor skutočností)

Všetky systémy AI sa pred uvedením na trh a počas celého životného cyklu dôkladne posudzujú.

Pyramid of AI risks

Obmedzené riziko

Na systémy umelej inteligencie, ako sú konverzačné roboty (tzv. chatboty), sa vzťahujú minimálne povinnosti týkajúce sa transparentnosti, ktorých cieľom je umožniť osobám komunikujúcim s obsahom prijímať informované rozhodnutia. Používateľ sa potom môže rozhodnúť pokračovať v používaní aplikácie alebo ju prestať používať.

Minimálne riziko

Bezplatné používanie aplikácií, ako sú videohry podporované umelou inteligenciou alebo spamové filtre. Prevažná väčšina systémov AI sa radí do tejto kategórie. Nové pravidlá sa teda nevzťahujú na tieto systémy, ktoré predstavujú len minimálne alebo žiadne riziko pre práva alebo bezpečnosť občanov.

 

Nové pravidlá pre poskytovateľov vysokorizikových systémov AI

Krok 1

AI icon

Krok 2

AI icon conformity

Krok 3

AI icon requirements

Krok 4

AI icon market

 

Vysokorizikový systém umelej inteligencie sa vyvíja.

Systém musí prejsť postupom posudzovania zhody a splniť požiadavky na AI.

Pri niektorých systémoch sa zapojí notifikovaná osoba.

Registrácia samostatných systémov AI v databáze EÚ

Vyhlásenie o zhode musí byť podpísané a systém AI by mal niesť označenie CE. Systém sa môže uviesť na trh.

Ak dôjde k podstatným zmenám v životnom cykle systému umelej inteligencie, prejdite späť na krok 2.

 

Keď sa systém AI uvedie na trh, orgány sú zodpovedné za dohľad nad trhom, používatelia zaisťujú ľudský dohľad a monitorovanie a poskytovatelia uplatňujú zavedený systém monitorovania po uvedení na trh. Poskytovatelia a používatelia budú takisto hlásiť závažné incidenty a nesprávne fungovanie.

Podpora excelentnosti v oblasti AI

V roku 2018 Komisia a členské štáty EÚ urobili prvý krok tým, že spojili svoje sily prostredníctvom koordinovaného plánu v oblasti umelej inteligencie, ktorý pomohol položiť základy pre národné stratégie a politický vývoj.

Aktualizácia koordinovaného plánu v oblasti umelej inteligencie z roku 2021 prináša stratégiu do praxe a je v súlade s úzko súvisiacimi prioritami Komisie v oblasti digitálnych technológií a ekológie, ako aj s reakciou Európy na pandémiu koronavírusu. 

Koordinovaný plán podporuje excelentnosť v oblasti AI od laboratória až po trh a predstavuje víziu o tom, ako urýchliť investície do umelej inteligencie, konať na základe stratégií v oblasti AI v záujme ich včasného vykonávania a zosúladiť politiky týkajúce sa AI v celej EÚ.

AI coordinated plan compass

Kľúčové politické ciele:

  1. Stanovenie základných podmienok na rozvoj a zavádzanie AI
  2. Vybudovanie strategického vedenia v odvetviach so značným vplyvom
  3. Vytvoriť z EÚ to správne miesto, v ktorom AI prosperuje
  4. Zabezpečiť, aby technológie AI fungovali pre ľudí

V rámci tohto úsilia Komisia plánuje vytvoriť:

  • verejno-súkromné partnerstvo v oblasti umelej inteligencie, údajov a robotiky s cieľom definovať, spoločný strategický program v oblasti výskumu, inovácií a zavádzania pre Európu, vykonávať ho investovať do neho,
  • ďalšie siete centier excelentnosti v oblasti AI na podporu výmeny poznatkov a odborných znalostí, rozvoj spolupráce s odvetvím a podporu rozmanitosti a začlenenia,
  • testovacie a experimentálne zariadenia na skúšanie a testovanie pokročilých technológií v reálnom prostredí,
  • centrá digitálnych inovácií, jednotné kontaktné miesta na poskytovanie prístupu k technickým odborným znalostiam a experimentovaniu, aby spoločnosti mohli „testovať pred investovaním“,
  • platformu umelej inteligencie na požiadanie ako centrálny európsky súbor nástrojov pre umelú inteligenciu (napr. odborné znalosti, algoritmy, softvérové rámce, vývojové nástroje) potrebnú na použitie v priemysle a verejnom sektore.

Projekty v oblasti AI s finančnou podporou EÚ

EÚ už financovala škálu projektov v oblasti AI, ktoré ponúkajú riešenia vo všetkých oblastiach spoločnosti, od poľnohospodárstva až po zdravotnú starostlivosť, výrobu alebo dopravu.

Tri príklady oblastí, v ktorých je využívanie technológie umelej inteligencie osobitne prínosné, sú zdravie, životné prostredie a boj proti dezinformáciám.

Medical scan machine

Neurorehabilitácia pomáha pri zotavovaní pacientov s COVID-19, ktorí si vyžadujú intenzívnu starostlivosť
Projekt CDAC prispel k vývoju a klinickej validácii inovačných technológií, ktoré sa už použili na rehabilitáciu vyše 3 000 pacientov s mozgovou príhodou v celej Európe.

Ďalšie projekty v oblasti zdravia s finančnou podporou EÚ

A mobile phone taking pictures of a field

Inteligentné snímače na pomoc pri zabezpečení výživy pre rastúcu svetovú populáciu
V rámci projektu ANTARES sa vyvíjajú technológie inteligentných snímačov a veľkých dát, ktoré by mohli pomôcť poľnohospodárom vyrábať väčšie množstvo potravín spôsobom, ktorý je udržateľný pre spoločnosť, príjmy poľnohospodárskych podnikov a životné prostredie.

Ďalšie projekty v tejto oblasti s finančnou podporou EÚ

 A woman wearing a mask

Online nástroje na overovanie faktov a odhaľovanie skutočnosti
WeVerify poskytuje overovacie systémy, akými sú doplnky (plug-in), ktoré môžu pomôcť overovateľom faktov, novinárom, ľudskoprávnym aktivistom a občanom pri odhaľovaní skutočnosti a overovaní videí a obrázkov na internete.

Ďalšie projekty zamerané na boj proti dezinformáciám s finančnou podporou EÚ

Prínosy umelej inteligencie

EÚ má potenciál stať sa svetovým lídrom v bezpečnej umelej inteligencii. Vývojom silného regulačného rámca založeného na ľudských právach a základných hodnotách môže EÚ vytvoriť systém AI, ktorý bude prínosom pre ľudí, podniky a vlády.

 

AI a EÚ v číslach

  • research and innovation
    1 mld. EURKomisia plánuje investovať 1 miliardu EUR ročne do AI zo svojich programov Digitálna Európa a Horizont Európa.
  • AI research
    20 mld. EURCieľom je v priebehu týchto desiatich rokov prilákať ročne investície do AI v objeme vyše 20 miliárd EUR v EÚ. Mechanizmus na podporu obnovy a odolnosti pomôže urýchliť investície a presiahne rámec tohto cieľa.
  • industrial and personal service robots
    > 25 % všetkých robotov používaných v priemysle a na poskytovanie osobných služieb sa vyrába v Európe.

Dokumenty

StiahnuťPDF - 861.2 KB