EU und KI

A person shaking a robot's hand Künstliche Intelligenz (KI) kann zur Lösung vieler gesellschaftlicher Probleme beitragen. Das gelingt allerdings nur bei qualitativ hochwertiger Technologie, die so entwickelt und genutzt wird, dass die Menschen Vertrauen zu ihr haben. Um dieses Vertrauen zu stärken, stützt sich die EU-Strategie auf die Werte der EU und erhöht damit nicht nur die Akzeptanz KI-basierter Lösungen bei den Bürgerinnen und Bürgern, sondern spornt auch Unternehmen zu deren Entwicklung und Verbreitung an.

Deshalb hat die EU-Kommission Maßnahmen zur Förderung der Exzellenz im Bereich KI und Regeln vorgeschlagen, die eine vertrauenswürdige Technologie gewährleisten.

Die Verordnung über ein europäisches Konzept für künstliche Intelligenz und die Aktualisierung des Koordinierten Plans für KI werden die Sicherheit und die Grundrechte von Menschen und Unternehmen gewährleisten und gleichzeitig Investitionen und Innovation in allen EU-Ländern fördern.

Vertrauensbildung durch ersten KI-Rechtsrahmen überhaupt

Die Kommission schlägt neue Vorschriften vor, um sicherzustellen, dass KI-Systeme, die in der EU verwendet werden, sicher, transparent, ethisch, unparteiisch und unter menschlicher Kontrolle sind. Sie werden daher nach Risiko eingeteilt: 

Unzulässig

Alles, was als eindeutige Bedrohung für EU-Bürger angesehen wird, wird verboten: von der behördlichen Bewertung des sozialen Verhaltens (Social Scoring) bis hin zu Spielzeug mit Sprachassistent, das Kinder zu riskantem Verhalten verleitet.

Hohes Risiko

  • Kritische Infrastrukturen (z. B. im Verkehr), in denen das Leben und die Gesundheit der Bürger gefährdet werden könnten
  • Schul- oder Berufsausbildung, wenn der Zugang einer Person zur Bildung und zum Berufsleben beeinträchtigt werden könnte (z. B. Bewertung von Prüfungen)
  • Sicherheitskomponenten von Produkten (z. B. eine KI-Anwendung für die roboterassistierte Chirurgie)
  • Beschäftigung, Personalmanagement und Zugang zu selbstständiger Tätigkeit (z. B. Software zur Auswertung von Lebensläufen für Einstellungsverfahren)
  • Zentrale private und öffentliche Dienstleistungen (z. B. Bewertung der Kreditwürdigkeit, wodurch Bürgern Darlehen verwehrt werden)
  • Strafverfolgung, die in die Grundrechte der Menschen eingreifen könnte (z. B. Überprüfung der Echtheit von Beweismitteln)
  • Migration, Asyl und Grenzkontrolle (z. B. Überprüfung der Echtheit von Reisedokumenten)
  • Rechtspflege und demokratische Prozesse (z. B. Anwendung der Rechtsvorschriften auf konkrete Sachverhalte)

Alle Systeme werden sorgfältig geprüft, bevor sie in Verkehr gebracht werden — und auch während ihres gesamten Lebenszyklus.

Pyramid of AI risks

Begrenztes Risiko

Für KI-Systeme wie „Chatbots“ gelten minimale Transparenzverpflichtungen, die es den mit ihnen interagierenden Nutzern ermöglichen sollen, fundierte Entscheidungen zu treffen, Die Nutzer können dann entscheiden, ob sie die Anwendung weiter nutzen oder nicht.

Minimales Risiko

Kostenlose Nutzung von Anwendungen wie KI-gestützten Videospielen oder Spamfiltern. Unter diese Kategorie, in der die neuen Vorschriften nicht greifen, fällt die große Mehrzahl der KI-Systeme, weil diese Systeme nur ein minimales oder kein Risiko für die Bürgerrechte oder die Sicherheit darstellen.

 

Neue Vorschriften für Anbieter von KI-Systemen mit hohem Risiko

Schritt 1

AI icon

Schritt 2

AI icon conformity

Schritt 3

AI icon requirements

Schritt 4

AI icon market

 

Ein KI-System mit hohem Risiko wird entwickelt.

Es muss der Konformitätsbewertung unterzogen werden und den KI-Anforderungen genügen.

Bei einigen Systemen wird eine notifizierte Stelle einbezogen.

Registrierung eigenständiger KI-Systeme in einer EU-Datenbank

Eine Konformitätserklärung ist notwendig. Das KI-System muss die CE-Kennzeichnung tragen. Das System kann in Verkehr gebracht werden.

Bei wesentlichen Änderungen im Lebenszyklus des KI-Systems greift Schritt 2.

 

Sobald das KI-System auf dem Markt ist, überwachen die Behörden den Markt, sorgen die Nutzer für die Aufsicht durch einen Menschen sowie für Kontrolle. Die Anbieter richten ein System zur Überwachung nach dem Inverkehrbringen ein. Anbieter und Nutzer sind gehalten, schwere Vorfälle und Fehlfunktionen zu melden.

Für mehr Exzellenz im Bereich KI

2018 taten die Kommission und die EU-Mitgliedstaaten den ersten Schritt und bündelten ihre Kräfte in Form eines Koordinierten Plans für KI, der half, den Weg für nationale Strategien und politische Entwicklungen zu ebnen.

Mit der 2021 erfolgten Aktualisierung des Koordinierten Plans für KI wird die Strategie umgesetzt. Sie spiegelt die digitale und die grüne Priorität der Kommission ebenso wider wie Europas Corona-Krisenreaktion. 

Der Koordinierte Plan fördert KI-Exzellenz vom Labor bis hin zum Markt. Er zeigt auf, wie Investitionen in KI beschleunigt, KI-Strategien zwecks rechtzeitiger Umsetzung angegangen und KI-Strategien EU-weit aufeinander abgestimmt werden sollten.

AI coordinated plan compass

Zentrale politische Ziele:

  1. Schaffung günstiger Voraussetzungen für die Entwicklung und Verbreitung von KI
  2. Aufbau einer strategischen Führungsrolle in hochwirksamen Sektoren
  3. Die EU zum richtigen Standort für eine erfolgreiche KI machen
  4. Sicherstellen, dass KI-Technologien den Menschen dienen

Im Rahmen dieser Ziele plant die Kommission folgende Maßnahmen:

  • Eine öffentlich-private Partnerschaft für künstliche Intelligenz, Daten und Robotik zur Festlegung, Umsetzung und Förderung einer gemeinsamen strategischen Forschungs-, Innovations- und Einführungsagenda für Europa
  • Zusätzliche Netze von KI-Exzellenzzentren für einen breiteren Austausch von Wissen und Know-how, zur Zusammenarbeit mit der Industrie sowie für mehr Vielfalt und Inklusion
  • Test- und Versuchseinrichtungen zur Erprobung modernster Technologien unter realen Bedingungen
  • Digitale Innovationszentren, zentrale Anlaufstellen für den Zugang zu technischem Fachwissen und Experimenten, damit Unternehmen „vor der Investition testen“ können
  • Eine KI-Plattform auf Abruf als zentrales europäisches Instrumentarium für KI-Ressourcen (z. B. Fachwissen, Algorithmen, Softwarerahmen, Entwicklungstools), die von der Industrie und vom öffentlichen Sektor genutzt werden können

EU-geförderte KI-Projekte

Die EU hat bereits eine Vielzahl von KI-Projekten gefördert, die Lösungen in allen gesellschaftlichen Bereichen anbieten — von der Landwirtschaft über Gesundheitsversorgung und Fertigung bis hin zum Verkehr.

Drei Beispiele für Bereiche, in denen sich der Einsatz von KI-Technologie besonders bewährt hat, sind Gesundheit, Umwelt und die Bekämpfung von Desinformation.

Medical scan machine

Neurorehabilitation hilft bei der Behandlung von Corona-Intensivpatienten
Das CDAC-Projekt half bei der Entwicklung und klinischen Validierung innovativer Technologien, die zur Behandlung von über 3 000 Schlaganfallpatienten bereits EU-weit eingesetzt wurden.

Weitere EU-geförderte Projekte im Gesundheitsbereich

A mobile phone taking pictures of a field

Intelligente Sensoren zur Ernährung der wachsenden Weltbevölkerung
Das Projekt ANTARES entwickelt intelligente Sensor- und Big-Data-Technologien, die Landwirten helfen könnten, ohne Nachteile für Gesellschaft, landwirtschaftliche Betriebe oder Umwelt mehr Lebensmittel zu produzieren.

Weitere EU-geförderte Projekte in diesem Bereich

 A woman wearing a mask

Online-Tools für Faktencheck und Richtigstellung
WeVerify bietet Prüfsysteme wie Plug-ins, die Faktenprüfern, Journalisten, Menschenrechtsaktivisten und Bürgern helfen, Videos und Bilder im Internet zu überprüfen und zu widerlegen.

Weitere EU-geförderte Projekte zur Bekämpfung von Desinformation

Nutzen der künstlichen Intelligenz

Die EU hat das Potenzial, im Bereich der sicheren künstlichen Intelligenz eine weltweite Führungsrolle zu übernehmen. Durch die Entwicklung eines starken Regelungsrahmens, der auf Menschenrechten und Grundwerten basiert, kann die EU künstliche Intelligenz so ausrichten, dass sie Menschen, Unternehmen und Regierungen Vorteile bringt.

 

Die EU und KI – Fakten und Zahlen

  • research and innovation
    1 Mrd. EURDie Kommission will jährlich 1 Mrd. EUR aus ihren Programmen „Digitales Europa“ und „Horizont Europa“ in KI investieren.
  • AI research
    20 Mrd. EURZiel ist es, in diesem Jahrzehnt KI-Investitionen von mehr als 20 Mrd. EUR pro Jahr in der EU zu mobilisieren. Die Aufbau- und Resilienzfazilität wird dabei helfen, Investitionen zu beschleunigen und über dieses Ziel hinauszugehen.
  • industrial and personal service robots
    > 25 % aller Industrie- und Haushaltsroboter werden in Europa produziert.

Dokumente

HerunterladenPDF - 950.8 KB