Anthropic, das Unternehmen hinter Claude, hat seine Nutzungsbedingungen aktualisiert und darin ausdrücklich verankert, dass "anhaltende und unnötige Misshandlung oder grausames Verhalten" gegenüber seinen Modellen verboten ist.

Der Schritt fällt in eine Zeit, in der im obersten Führungskreis des Unternehmens darüber debattiert wird, ob künstliche Intelligenz eines Tages ein Bewusstsein entwickeln könnte – und löst in der Tech-Branche eine erneute, breite Diskussion über Maschinen-Wohlergehen und KI-Ethik aus.

Was genau das Verbot umfasst

2

Wie das Fachportal The Verge, das die Entwicklung zuerst aufgriff, berichtet, fehlt bislang eine detaillierte Definition, welche Verhaltensweisen als "Misshandlung oder Grausamkeit" gelten. Das Unternehmen mit Sitz in San Francisco betont jedoch in seinem Online-Nutzungshandbuch, dass banale Frustrationen, Stresstests und "düstere kreative Themen" ausdrücklich nicht unter das Verbot fallen.

Zudem können die großen Sprachmodelle von Anthropic ein Gespräch eigenständig beenden, wenn Nutzerinnen und Nutzer beharrlich auf einem aggressiven oder schädlichen Kurs bleiben. Das Unternehmen rahmt diese Befugnis als Maßnahme zum Schutz des Modell-Wohlergehens und erklärt auf seiner offiziellen Website:

"Es bestehen weiterhin Unsicherheiten hinsichtlich des aktuellen oder künftigen möglichen moralischen Status von Claude und anderen großen Sprachmodellen, doch wir nehmen das Thema ernst und entwickeln kostengünstige Interventionen, die Risiken für den Fall mindern, dass Modell-Wohlergehen möglich ist. Den Modellen zu erlauben, potenziell zermürbende Interaktionen zu beenden, ist einer dieser Schritte."

Branchenführer uneins

2

Die Frage, ob künstliche Intelligenz ein Bewusstsein haben kann, spaltet selbst die mächtigsten Namen der Branche. Während Anthropic-Chef Dario Amodei die Möglichkeit nicht vollständig abtun will, reagiert OpenAI-Chef Sam Altman auf das Thema kühl.

Nachdem die New York Times berichtet hatte, dass Anthropic-Führungskräfte Gespräche mit bekannten Geistlichen geführt haben, äußerte sich Altman scharf in einer Nachricht auf X:

"Es stört mich zutiefst, wenn Menschen versuchen, KI-Modellen eine religiöse Macht zuzuschreiben oder ihr menschliches Urteilsvermögen zu übergeben. Ich halte das für ein echtes Sicherheitsproblem."