Sztuczna inteligencja w UE

A person shaking a robot's hand Sztuczna inteligencja (AI) może nam pomóc znaleźć rozwiązanie wielu problemów społecznych. Będzie to jednak możliwe tylko, jeśli technologia będzie wysokiej jakości i będzie rozwijana i wykorzystywana w sposób godny zaufania. Unijne ramy strategiczne oparte na wartościach UE sprawią, że obywatele z większym zaufaniem zaakceptują rozwiązania oparte na sztucznej inteligencji. Ramy takie będą jednocześnie stanowić dla przedsiębiorstw zachętę do wprowadzania tego rodzaju rozwiązań.

Dlatego Komisja Europejska zaproponowała szereg działań, które mają zapewnić doskonałość w dziedzinie sztucznej inteligencji, oraz przepisy gwarantujące wiarygodność technologii.

Rozporządzenie w sprawie europejskiego podejścia do sztucznej inteligencji oraz aktualizacja skoordynowanego planu w sprawie sztucznej inteligencji zagwarantują bezpieczeństwo i ochronę praw podstawowych obywateli i przedsiębiorstw, a jednocześnie wzmocnią inwestycje i innowacje we wszystkich krajach UE.

Budowanie zaufania przez pierwsze w historii ramy prawne dotyczące sztucznej inteligencji

Komisja proponuje nowe przepisy, dzięki którym systemy sztucznej inteligencji stosowane w UE będą bezpieczne, przejrzyste, etyczne, bezstronne i kontrolowane przez człowieka. Systemy wykorzystujące sztuczną inteligencją kategoryzowane są według poziomu ryzyka: 

Niedopuszczalne ryzyko

Zakazane będzie wszystko, co zostanie uznane za wyraźne zagrożenie dla obywateli UE: od prowadzonej przez rządy oceny punktowej obywateli (tzw. social scoring) po zabawki z asystentem głosowym, które zachęcającą dzieci do niebezpiecznych zachowań.

Wysokie ryzyko

  • infrastruktura krytyczna (np. transport) – zagrożenie dla życia i zdrowia obywateli
  • kształcenie lub szkolenie zawodowe – możliwość decydowania o dostępie do kształcenia i szkolenia zawodowego danej osoby (np. punktacja egzaminów)
  • elementy bezpieczeństwa produktów (np. zastosowanie sztucznej inteligencji w chirurgii wspomaganej robotami)
  • zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia (np. oprogramowanie do sortowania CV na potrzeby procedur rekrutacji)
  • podstawowe usługi prywatne i publiczne (np. punktacja kredytowa uniemożliwiająca obywatelom uzyskanie pożyczki)
  • egzekwowanie prawa – kolizja z prawami podstawowymi osób (np. weryfikacja autentyczności dokumentów potwierdzających)
  • zarządzanie migracją, azylem i kontrolą granic (np. punktacja wniosków o udzielenie azylu)
  • sprawowanie wymiaru sprawiedliwości i procesy demokratyczne (np. stosowanie prawa do konkretnego zbioru faktów).

Wszystkie te zastosowania będą dokładnie oceniane przed wprowadzeniem do obrotu i przez cały cykl rynkowy.

Pyramid of AI risks

Ograniczone ryzyko

Systemy sztucznej inteligencji, takie jak chatboty, podlegają minimalnym obowiązkom w zakresie przejrzystości, które mają umożliwić podejmowanie świadomych decyzji osobom wchodzącym w interakcję z tego rodzaju treściami. Użytkownik może wówczas podjąć decyzję o kontynuowaniu lub rezygnacji z korzystania z danej aplikacji.

Minimalne ryzyko

Swobodne korzystanie z zastosowań takich jak gry wideo z wykorzystaniem sztucznej inteligencji lub filtry spamu. Zdecydowana większość systemów sztucznej inteligencji należy do tej kategorii, na którą nowe przepisy nie mają wpływu. Systemy te charakteryzują się minimalnym a nawet zerowym zagrożeniem dla praw i bezpieczeństwa obywateli.

 

Nowe przepisy obowiązujące dostawców systemów sztucznej inteligencji wysokiego ryzyka

Krok 1

AI icon

Krok 2

AI icon conformity

Krok 3

AI icon requirements

Krok 4

AI icon market

 

Opracowywany jest system AI obarczony wysokim ryzykiem

Musi on zostać poddany ocenie zgodności i spełniać wymogi w zakresie AI.

W przypadku niektórych systemów niezbędny jest udział jednostki notyfikowanej.

Rejestracja samodzielnych systemów AI w unijnej bazie danych

Konieczne jest podpisanie deklaracji zgodności dla danego systemu AI, który powinien być również opatrzony oznakowaniem CE. System może zostać wprowadzony do obrotu

Jeżeli w cyklu życia systemu AI nastąpią istotne zmiany, należy wrócić do kroku 2.

 

Po wprowadzeniu systemu AI do obrotu organy publiczne odpowiadają za nadzór rynku, użytkownicy zapewniają nadzór i monitorowanie przez człowieka, a dostawcy stosują system monitorowania po wprowadzeniu do obrotu. Dostawcy i użytkownicy będą również zgłaszać poważne incydenty i nieprawidłowe działanie.

Doskonałość w dziedzinie sztucznej inteligencji

W 2018 r. Komisja i państwa członkowskie UE rozpoczęły działanie w tej dziedzinie i połączyły siły w ramach skoordynowanego planu w sprawie sztucznej inteligencji, który pomógł stworzyć podstawy dla krajowych strategii i rozwoju polityki.

Przedstawiona w 2021 r. aktualizacja skoordynowanego planu w sprawie sztucznej inteligencji daje impuls do działania i jest dostosowana do priorytetów Komisji w zakresie cyfryzacji i ekologii oraz do europejskiej reakcji na pandemię koronawirusa. 

Skoordynowany plan wspiera doskonałość w dziedzinie sztucznej inteligencji na wszystkich etapach (od laboratorium po rynek) oraz przedstawia wizję przyspieszenia inwestycji w AI, realizacji strategii AI w celu ich terminowego wdrożenia oraz harmonizacji polityki w zakresie AI w całej UE.

AI coordinated plan compass

Główne cele polityki:

  1. Stworzenie warunków podstawowych sprzyjających rozwojowi i wykorzystaniu sztucznej inteligencji
  2. Budowanie strategicznego przywództwa w sektorach o dużym znaczeniu
  3. Sprawienie, aby UE była miejscem szybkiego rozwoju sztucznej inteligencji
  4. Dbanie o to, aby technologia AI służyła ludziom

W związku z tym Komisja planuje utworzyć:

  • partnerstwo publiczno-prywatne w dziedzinie sztucznej inteligencji, danych i robotyki, które ma określić i wdrożyć wspólny europejski program badań naukowych, innowacji i wdrożeń oraz inwestować w działania w ramach tego programu
  • dodatkowe sieci centrów doskonałości w dziedzinie sztucznej inteligencji, które będą odpowiadać za wymianę wiedzy, rozwój współpracy z sektorem przemysłu oraz propagowanie różnorodności i włączenia społecznego
  • placówki testowo-doświadczalne, które będą zajmować się działalnością doświadczalną i testowaniem najnowocześniejszej technologii w warunkach rzeczywistych
  • ośrodki innowacji cyfrowych, które będą pełnić funkcję punktów kompleksowej obsługi zapewniających dostęp do wiedzy technicznej i możliwości doświadczalnych, aby przedsiębiorstwa mogły testować technologię przed dokonaniem inwestycji
  • platformę „Sztuczna inteligencja na żądanie”, która będzie centralnym europejskim repozytorium zasobów AI (takich jak wiedza fachowa, algorytmy, ramy oprogramowania, narzędzia rozwojowe) niezbędnych użytkownikom biznesowym i publicznym.

Projekty finansowane przez UE w dziedzinie sztucznej inteligencji

UE sfinansowała do tej pory wiele projektów w dziedzinie AI, które oferują rozwiązania we wszystkich obszarach życia społecznego, takich jak rolnictwo, opieka zdrowotna, produkcja czy transport.

Trzy przykłady obszarów, w których zastosowanie technologii AI przyniosło szczególne korzyści, to opieka zdrowotna, środowisko i walka z dezinformacją.

Medical scan machine

Rehabilitacja neurologiczna pacjentów intensywnej terapii, którzy przeszli COVID-19
Projekt CDAC przyczynił się do opracowania i walidacji klinicznej innowacyjnych technologii, które zostały już wcześniej wykorzystane w rehabilitacji ponad 3 tys. pacjentów z udarem mózgu w całej Europie.

Więcej projektów finansowanych przez UE w dziedzinie zdrowia

A mobile phone taking pictures of a field

Inteligentne czujniki pomagające wyżywić coraz liczniejszą ludność świata
W ramach projektu ANTARES opracowuje się technologie inteligentnych czujników i dużych zbiorów danych, które mogą pomóc rolnikom w produkcji większej ilości żywności w sposób zrównoważony dla społeczeństwa, dochodów gospodarstw rolnych i środowiska.

Więcej projektów finansowanych przez UE w tej dziedzinie

 A woman wearing a mask

Narzędzia online do weryfikacji faktów i obalania mitów
WeVerify to projekt oferujący systemy weryfikacji, np. plugin pomagający weryfikatorom faktów, dziennikarzom, działaczom na rzecz praw człowieka oraz użytkownikom internetu w obalaniu mitów i weryfikacji faktów w nagraniach wideo i obrazach udostępnianych w internecie.

Więcej projektów finansowanych przez UE w dziedzinie walki z dezinformacją

Zalety sztucznej inteligencji

UE dysponuje potencjałem, który może jej zapewnić pozycję światowego lidera w dziedzinie bezpiecznej sztucznej inteligencji. Przez opracowanie solidnych ram regulacyjnych opartych na prawach człowieka i podstawowych wartościach UE może rozwinąć system sztucznej inteligencji, który będzie przynosił korzyści Europejczykom, przedsiębiorstwom i rządom.

 

Sztuczna inteligencja w UE w liczbach

  • research and innovation
    1 mld euroKomisja planuje inwestować w sztuczną inteligencją 1 mld euro rocznie w ramach programów „Cyfrowa Europa” i „Horyzont Europa”.
  • AI research
    20 mld euroCelem jest przyciągnięcie w tym dziesięcioleciu w UE łącznych inwestycji w sztuczną inteligencję o wartości ponad 20 mld euro rocznie. Instrument na rzecz Odbudowy i Zwiększania Odporności przyczyni się do przyspieszenia inwestycji i przekroczenia wyznaczonego celu.
  • industrial and personal service robots
    > 25 proc. wszystkich usługowych robotów przemysłowych i osobistych będzie produkowanych w Europie.

Dokumenty

PobierzPDF - 946.1 KB