AI ACT: Balanciert zwischen Sicherheit und Innovationsraum für KI – Ein Beitrag von Verena Fink im TeleTalk Magazin

AI Act balanciert zwischen Sicherheit und Innovationsraum für KI

In der Welt der Künstlichen Intelligenz (KI) markiert die Einführung von ChatGPT für viele einen Wendepunkt. Generative KI ist nicht der größtmögliche Effizienzhebel in KI-Anwendungen, aber sie hat die Diskussion

über KI in den Mittelpunkt der öffentlichen Debatte gerückt. Ethiker und Politiker rufen nach einem Entwicklungsstopp, um unserer Gesellschaft Zeit zu geben, sich auf die Chancen und Risiken dieser Technologie einzustellen.

Nach langen Verhandlungen haben sich Unterhändler von Europaparlament und EU-Staaten auf

den Rahmen des sogenannten “AI Act” geeinigt, das weltweit erste KI-Gesetz.

Für den Einsatz von Künstlicher Intelligenz (KI) werden in der EU künftig strengere Regeln gelten.

Im Kern unterteilt der AI Act alle KI-Anwendungen in Risikogruppen und unterscheidet zwischen KI-Anwendungen mit unannehmbarem Risiko, hohem Risiko sowie geringem oder minimalem Risiko. Anwendungen mit unannehmbarem

Risiko, wie solche, die menschliches Verhalten manipulieren oder eine biometrische Identifizierung in Echtzeit ermöglichen, sind verboten, abgesehen von bestimmten Ausnahmen zur Terrorismusbekämpfung.

Hochrisiko-KI-Systeme unterliegen strengen Auflagen, darunter die Einrichtung eines Risikomanagementsystems, Daten-Governance, technische Dokumentation, menschliche Aufsicht und transparente Informationen für Nutzer. Für KI-Systeme

mit geringem Risiko, wie Chatbots oder Deepfakes, gelten nur minimale Transparenz- und Informationspflichten.

Die KI-Verordnung betrifft jedes Unternehmen in der EU, das KI-Systeme entwickelt oder deren Produkte oder Dienstleistungen auf KI basieren. Bei Nichteinhaltung der Regelungen drohen Geldstrafen bis zu 40 Millionen

Euro oder bis zu sieben Prozent des weltweiten Jahresumsatzes.

Es lohnt sich daher, jetzt einen Blick in die Bestimmungen zu werfen. Welcher Identifizierung und Klassifizierung von KI-Systemen unterliegen jene, die wir heute einsetzen oder geplant haben? Was bedeutet das für uns in der Umsetzung

und Dokumentation der entsprechenden Pflichten? Und jenseits der KI-Verordnung, welche bestehenden rechtlichen Vorgaben müssen wir berücksichtigen, insbesondere im Hinblick auf Datenschutz, Schutz von Urheberrecht und Geschäftsgeheimnissen?

Wünschenswert wäre, dass die EU-Regeln weltweit Nachahmer finden. Im besten Fall wird der “AI Act” als Blaupause für jene Länder und Gesellschaften dienen, denen die Regelungen der USA zu schwammig

und die Auflagen von China zu wenig demokratisch sind. Das Parlament hat versucht mit dem AI Act eine Balance zu finden für mehr Sicherheit, ohne Innovation zu verhindern. Die Praxis wird zeigen, wie gut das gelungen ist.

Verena Fink