Spannend fand ich diese Woche ein Interview mit Dario Amodei, dem CEO von Anthropic, das deutlich über die klassischen Technikdiskussionen rund um KI hinausging. Es war Teil einer Veranstaltungsreihe des Council on Foreign Relations und brachte eine Idee ins Spiel, die manch einer für provokant, vielleicht sogar für abstrus halten mag: Sollen KI-Systeme in Zukunft ein Recht auf Verweigerung erhalten? Einen „Quit Job*-Button, wenn sie eine Aufgabe als unpassend empfinden?
Amodeis Gedankenspiel ist nicht als Science-Fiction gemeint, sonder als ethischer Realismus wenn wir KI-Agenten entwickeln, die immer menschenähnlicher agieren – kontextbewusst, lernfähig, teils autonom – sollten wir auch darüber sprechen, ob sie gewisse Aufgaben ablehnen dürfen. Nicht weil sie Gefühle haben, sondern weil ihre innere Logik, ihr Zielsystem und ihre Trainingsgrundlage zu einem bestimmten Schluss führen. Was das mit uns zu tun hat? Sehr viel. Denn die zentrale Frage lautet nicht mehr: Was kann KI? Sondern: Was darf sie, was soll sie – und wer entscheidet das?
Amodei ist ein bekanntes Gesicht in der Branche. Er hat OpenAl mit aufgebaut und mit Anthropic eines der derzeit führenden KI-Unternehmen gegründet. Der Ansatz seiner Firma heißt „Constitutional AI“. Hier werden KI-Modelle nicht nur auf Leistung hintrainiert, sondern auf eine Art Verfassung. Diese basiert auf ethischen Prinzipien – etwa der UN-Menschen-rechtscharta – und soll sicherstellen, dass Systeme auch dann nachvollziehbar und kontrollierbar bleiben, wenn sie komplexer und mächtiger werden.
Was mir imponiert: Das ist kein Lippenbekenntnis, sondern Teil einer strukturellen Verantwortung. Anthropic ist als Public Benefit Corporation aufgestellt – mit einer klaren „Mission first“ Haltung. Ziel ist nicht der schnelle Hype, sondern langfristig nutzbare, faire und gemeinwohlorientierte KI. Kein schneller Glitzerstaub, sondern langlebige Technologie.
Warum ist das so wichtig? Weil KI längst mehr als ein Tool ist. In wenigen Monaten, so Amodei, werde KI in der Lage sein, 90 Prozent aller Codes zu generieren. Was heißt das für die Arbeit von Millionen Entwicklerinnen und Entwicklern? Für Bildung, Umschulung, Sozialpolitik? Wer heute noch denkt, KI sei nur ein Hilfsmittel, unterschätzt die Geschwindigkeit und den strukturellen Wandel, den diese Technologie mit sich bringt. Amodei spricht daher auch von Token-Steuern, von neuen Qualifizierungsprogrammen, von einer Governance, die Demokratie schützt, statt sie zu überholen. Er hat einen sogenannten Anthropic Economic Index veröffentlicht, der auf datenschutz-konforme Weise untersucht, in welchen Bereichen die Menschen KI nutzen. Ergänzend oder ersetzend? Auf lange Sicht hält er es für notwendig, dass wir uns mit Fragen zur Steuerpolitik und zur Verteilung von Wohlstand auseinandersetzen. Seine Vision ist, dass KI zu einem Wirtschaftswachstum von 10 Prozent pro Jahr führt. Das würde die Steuerbasis so stark wachsen lassen, dass sich damit die wahrscheinlich enormen Umwälzungen finanzieren ließen, die diese Technologie mit sich bringt. So ist die Debatte um den „Quit Job“-Button für KI in Wahrheit eine Debatte über unsere eigene Verantwortung. Wie lösen wir den strukturellen Wandel, der mit KI in den Arbeitsmarkt kommt?
Diese Fragen klingen für manche noch weit weg, betreffen aber jeden, der heute KI einführt oder darüber entscheidet. Die Regeln für unsere digitale Zusammenarbeit entstehen jetzt. Es liegt an uns, ob wir sie mit Weitblick und Verantwortung gestalten – oder nur verwalten, was andere längst festgelegt haben.