QUIT-THE-JOB-BUTTON FÜR DIE KI? – Verena Fink für das TeleTalk Magazin
Spannend fand ich diese Woche ein Interview mit Dario Amodei, dem CEO von Anthropic, das deutlich über die klassischen Technikdiskussionen rund um KI hinausging. Es war Teil einer Veranstaltungsreihe des Council on Foreign Relations und brachte eine Idee ins Spiel, die manch einer für provokant, vielleicht sogar für abstrus halten mag: Sollen KI-Systeme in Zukunft ein Recht auf Verweigerung erhalten? Einen „Quit Job*-Button, wenn sie eine Aufgabe als unpassend empfinden? Amodeis Gedankenspiel ist nicht als Science-Fiction gemeint, sonder als ethischer Realismus wenn wir KI-Agenten entwickeln, die immer menschenähnlicher agieren – kontextbewusst, lernfähig, teils autonom – sollten wir auch darüber sprechen, ob sie gewisse Aufgaben ablehnen dürfen. Nicht weil sie Gefühle haben, sondern weil ihre innere Logik, ihr Zielsystem und ihre Trainingsgrundlage zu einem bestimmten Schluss führen. Was das mit uns zu tun hat? Sehr viel. Denn die zentrale Frage lautet nicht mehr: Was kann KI? Sondern: Was darf sie, was soll sie – und wer entscheidet das? Amodei ist ein bekanntes Gesicht
