Europäisches Parlament hat am 13.März 2024 die Verordnung über künstliche Intelligenz (im Folgenden „Verordnung“ genannt) verabschiedet. Zugleich handelt es sich um den weltweit ersten Rechtsakt, der die Ambition hat, künstliche Intelligenz (im Folgenden AI) umfassend zu regulieren. Die formelle Verabschiedung des endgültigen Wortlauts der Verordnung durch den Rat wird für Ende April erwartet; anschließend wird die Verordnung im Amtsblatt veröffentlicht. Der Großteil der Verordnung wird 24 Monate nach Veröffentlichung in Kraft treten. Wir erinnern Sie auch daran, dass die Verordnung unmittelbare Wirkung hat, was bedeutet, dass sich daraus die Rechte und Pflichten für Personen im Gebiet der Tschechischen Republik direkt ergeben, unabhängig von der nationalen Gesetzgebung.

Die Verordnung harmonisiert die Regeln für die IA-Vermarktung auf den EU-Markt, die Inbetriebnahme und die IA-Verwendung. Ein wesentlicher Teil der Verordnung widmet sich auch Systemen, deren Praktiken die Europäische Union (im Folgenden „EU“) als so schädlich ansieht, dass sie deren Vermarktung, Inbetriebnahme oder Nutzung im Rahmen der Verordnung ausdrücklich verbietet.

In diesem Artikel erklären wir Ihnen, welche Personen unter das Verbot fallen und welche AI-Systeme in der EU verboten werden. Sie können sich auch auf weitere Veröffentlichungen zur AI-Verordnung freuen, in denen wir uns auf zulässige AI-Systeme und die Bedingungen für deren Vermarktung, Betrieb und Verwendung in der EU je nach Risikograd konzentrieren.

Verantwortliche Personen

Zu den Personen, die gemäß der Verordnung für die Einhaltung des Verbots der Vermarktung, der Inbetriebnahme oder der Verwendung von AI mit gefährlichen Praktiken verantwortlich sind, gehören insbesondere folgende:

• Personen, die künstliche Intelligenz in der EU bereitstellen, einsetzen oder importieren und vertreiben;
• autorisierte Vertreter von Anbietern künstlicher Intelligenz, die nicht in der EU ansässig sind;
• Personen, die künstliche Intelligenz zusammen mit ihrem Produkt auf den Markt bringen.

Unter Einsatz versteht man jede Nutzung des AI-Systems, mit Ausnahme der Nutzung zur rein privaten, nicht beruflichen Nutzung. Mit anderen Worten: Ein gewöhnlicher Internetnutzer – ein Verbraucher – ist keine verantwortliche Person im Sinne der Verordnung, selbst wenn er unter AI-Verwendung zur Generierung und Verbreitung gefährlicher Inhalte, z.B. von alarmierenden Meldungen oder anderweitig irreführenden Informationen, einsetzt. Eine strafrechtliche oder zivilrechtliche Verantwortung dieser Personen kann jedoch nicht ausgeschlossen werden.

Im Gegensatz dazu, diejenigen Personen, die AI im Rahmen ihrer Geschäftstätigkeit nutzen, um z.B.  mit einem Verbraucher zu kommunizieren oder Inhalte zu generieren, sind für die Einhaltung des Verbots gefährlicher AI-Funktionen verantwortlich, unabhängig davon, ob sie Zugriff auf den Quellcode des jeweiligen Systems – und damit die tatsächliche Möglichkeit haben, das Fungieren des verwendeten Systems zu beeinflussen.

Ausnahmen

Ausdrücklich vom Geltungsbereich der Verordnung – einschließlich der Bestimmungen zu verbotenen Praktiken – sind ausgeschlossen:

• Systeme, die ausschließlich für militärische oder Verteidigungszwecke sowie für Zwecke
  der nationalen Sicherheit bestimmt sind;
• Systeme, die ausschließlich für Zwecke der wissenschaftlichen Forschung und Entwicklung bestimmt sind;
• Einsatz von AI im Rahmen der internationalen und der justiziellen Zusammenarbeit oder der Zusammenarbeit im Bereich der Arbeitsdurchsetzung mit Drittländern oder internationalen Organisationen, vorausgesetzt, dass dieses Drittland oder die internationale Organisation angemessene Garantien für den Schutz der Grundrechte und Grundfreiheiten des Einzelnen bietet;
• Forschungs-, Test- und Entwicklungsaktivitäten von AI, vor derer Vermarktung oder Inbetriebsetzung, mit Ausnahme von Tests unter realen Bedingungen.

Verbotene Praktiken

Die Verordnung verbietet grundsätzlich solche AI-Funktionen, die eine Person zu ihrem Nachteil oder zum Nachteil anderer Personen manipulieren oder einen unzumutbaren Eingriff in die Privatsphäre einer Person darstellen.

Manipulative AI

Es sind verboten AI-Funktionen, die unterschwellige Techniken außerhalb des Bewusstseins einer Person oder absichtlich manipulative oder irreführende Techniken verwenden, mit dem Ziel oder der Wirkung, das Verhalten einer Person oder einer Personengruppe erheblich zu stören.

Als erhebliche Beeinträchtigung des Verhaltens einer Person gilt eine erhebliche Beeinträchtigung der Fähigkeit einer Person, fundierte Entscheidungen zu treffen, wodurch die Person eine Entscheidung trifft, die sie sonst nicht getroffen hätte, wodurch entweder die betroffene Person oder eine andere Person oder Personengruppe einen erheblichen Schaden erleidet.

In der Praxis könnten in diese Kategorie insbesondere folgende Systeme fallen:

• Systeme, die unterschwellige oder anderweitig manipulative Werbung erzeugen;
• Systeme, die Fake News generieren;
• Systeme, die Nachrichten generieren, die Hass gegen bestimmte Personen oder Personengruppen schüren.

Beleidigende AI

Das Verbot gilt auch für AI-Funktionen, die die Schwäche einer Person oder Personengruppe aufgrund des Alters, einer Behinderung oder einer besonderen sozialen oder wirtschaftlichen Situation ausnutzen, wenn das Ziel oder die Wirkung dieses Missbrauchs darin besteht, das Verhalten dieser Person oder Personengruppe erheblich in einer Weise zu stören, die ihnen schadet oder erheblichen Schaden anrichten kann.

In diese Kategorie fallen insbesondere Systeme, die Inhalte generieren, die leicht beeinflussbare Menschen zu einem für sie schädlichen Verhalten verleiten, wie etwa dem Konsum von Suchtmitteln oder dem Glücksspiel. In diese Kategorie fällt auch die Generierung von Inhalten mit dem Ziel oder der Wirkung, von einer leicht zu beeinflussenden Person unberechtigterweise eine monetäre oder nichtmonetäre Gegenleistung zu erpressen.

Profilierende AI

Die Verordnung verbietet die Verwendung von AI-Systemen mit folgender Wirkung:

• Bewertung/Evaluation und Klassifizierung natürlicher Personen anhand ihrer bekannten
  oder vermuteten persönlichen Merkmale zum Zwecke der sog. sozialen Profilierung;
• Vorhersage der Wahrscheinlichkeit, dass eine Straftat begangen wird, allein auf der Grundlage der persönlichen Merkmale der betreffenden Person;
• Kategorisierung von Personen anhand ihrer biometrischen Daten, um vertrauliche Daten
  über diese Personen abzuleiten.

Gemäß der Verordnung sollte in der EU kein ähnliches System wie in China sein Jahren fungierendes System eingeführt werden, das auf der kontinuierlichen Bewertung des sozioökonomischen Verhaltens der Menschen basiert und die Verhängung von Strafen, Disziplinarmaßnahmen und Einschränkungen ohne direkten Zusammenhang mit dem beobachteten Verhalten ermöglicht.

Verfolgende AI

Das Verbot gilt auch für Systeme mit folgender Wirkung

• biometrische Identifizierung von Personen in Echtzeit, mit Ausnahme der Identifizierung zu einem genau definierten Zweck im Rahmen der Bekämpfung besonders schwerer Straftaten und ihrer Verhinderung (z.B. Menschenhandel, Terroranschläge, Gewaltkriminalität einschließlich sexueller Gewalt);
• Erstellung oder Erweiterung von Gesichtserkennungsdatenbanken durch Gewinnung
  von Gesichtsbildern aus dem Internet oder aus Kameraaufzeichnungen.

Strafen

Ein Verstoß gegen die oben genannten Verbote ist mit strengen empfindlichen Geldstrafen verbunden. Verantwortliche Personen können mit einer Geldstrafe von bis zu 35 000 000 EUR bestraft werden, oder, wenn es sich bei dem Täter um ein Unternehmen handelt, von bis zu 7 % des gesamten weltweiten Jahresumsatzes für den vorangegangenen Abrechnungszeitraum, je nachdem, welcher Betrag höher ist. Darüber hinaus lässt die Verordnung ausdrücklich zu, dass die Geldbuße mit anderen Strafen nach nationalem Recht gleichzeitig verhängt werden kann.