EU-Gesetzvorschlag für Künstliche Intelligenz

10.08.2022

Die Kommission schlägt eine Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz vor, die Europa zum globalen Zentrum für vertrauenswürdige künstliche Intelligenz (KI) machen sollen. Durch die Kombination aus dem weltweit ersten Rechtsrahmen für KI und einem neuen, mit den Mitgliedstaaten koordinierten, Plan sollen die Sicherheit und die Grundrechte der Menschen und Unternehmen gewährleistet und gleichzeitig die KI-Verbreitung gefördert sowie Investitionen und Innovationen im Bereich der KI in der gesamten EU verstärkt werden.

Ergänzt wird dieses Konzept durch neue Vorschriften für Maschinen zur Anpassung der Sicherheitsvorschriften, um so das Vertrauen der Nutzer in die neue, vielseitige Produktgeneration zu stärken.

Die neue KI-Verordnung wird sicherstellen, dass die Europäerinnen und Europäer dem vertrauen können, was die KI zu bieten hat. Verhältnismäßige und flexible Vorschriften werden den spezifischen Risiken gerecht, die von KI-Systemen ausgehen, und werden hohe Standards setzen. Ein Unterteilung in Risikoklassen wird erfolgen:

Unzulässige KI-Systeme

Alles, was als eindeutige Bedrohung für EU-Bürger angesehen, wird, wird verboten: von der behördlichen Bewertung des sozialen Verhaltens (Social Scoring) bis hin zu Spielzeug mit Sprachassistent, das Kinder zu riskantem Verhalten verleitet.

KI-Systeme mit hohem Risiko

Kritische Infrastrukturen (z.B. im Verkehr), in denen das Leben und die Gesundheit der Bürger gefährdet werden könnten,
Schul- oder Berufsausbildung, wenn der Zugang einer Person zur Bildung und zum Berufsleben beeinträchtigt werden könnte (z. B. Bewertung von Prüfungen),
Sicherheitskomponenten von Produkten (z.B. eine KI-Anwendung für die roboterassistierte Chirurgie),
Beschäftigung, Personalmanagement und Zugang zu selbstständiger Tätigkeit (z.B. Software zur Auswertung von Lebensläufen für Einstellungsverfahren),
Zentrale private und öffentliche Dienstleistungen (z. B. Bewertung der Kreditwürdigkeit, wodurch Bürgern Darlehen verwehrt werden)
Strafverfolgung, die in die Grundrechte der Menschen eingreifen könnte (z.B. Überprüfung der Echtheit von Beweismitteln)
Migration, Asyl und Grenzkontrolle (z.B. Überprüfung der Echtheit von Reisedokumenten,
Rechtspflege und demokratische Prozesse (z.B. Anwendung der Rechtsvorschriften auf konkrete Sachverhalte)

Alle KI-Systeme mit hohem Risiko werden sorgfältig geprüft und mit der CE-Kennzeichnung versehen, bevor sie in Verkehr gebracht werden — und auch während ihres gesamten Lebenszyklus.

KI-Systeme mit begrenztem Risiko

Für KI-Systeme wie „Chatbots“ gelten minimale Transparenzverpflichtungen, die es den mit ihnen interagierenden Nutzern ermöglichen sollen, fundierte Entscheidungen zu treffen. Die Nutzer können dann entscheiden, ob sie die Anwendung weiter nutzen oder nicht.

KI-Systeme mit minimalem Risiko

kostenlos Nutzung von Anwendungen wie KI-gestützten Videospielen oder Spamfiltern. Unter diese Kategorie, in der die neuen Vorschriften nicht greifen, fällt die große Mehrzahl der KI-Systeme, weil diese Systeme nur ein minimales oder kein Risiko für die Bürgerrechte oder die Sicherheit darstellen.

Mit diesen Regelungen soll Europas Führungsposition bei der Entwicklung einer auf den Menschen ausgerichteten, nachhaltigen, sicheren, inklusiven und vertrauenswürdigen KI gestärkt werden.

Weitere Informationen zum Rechtrahmen für KI finden Sie hier.