Satya Nadella, Chef von Microsoft, hat einen beachteten Vorschlag zur Sicherheit künstlicher Intelligenz vorgelegt. Seiner Ansicht nach müssen KI-Modelle an eine externe Bremseinrichtung angebunden sein, die befugte Personen jederzeit betätigen können.

In einer Stellungnahme auf X betonte Nadella, künstliche Intelligenz dürfe unter keinen Umständen ohne Aufsicht bleiben. Die Modelle sollten seiner Meinung nach wie ineinander verschachtelte „Black Boxes“ behandelt werden: Die Antworten, die die Systeme liefern, und die Schritte, die sie unternehmen, dürften niemals unkritisch hingenommen werden.

Sicherheitsprüfungen außerhalb des Modells

2

In der Architektur, die Nadella vorschwebt, ist die Sicherheitsschicht von der ausführenden Struktur getrennt, die das Modell direkt steuert. Die Prüfungen werden dadurch vollständig außerhalb des Modells verankert. Das System muss dann nicht blind einer Sicherheitsmechanik vertrauen, die auf derselben Ebene sitzt wie es selbst.

Darüber hinaus fordert Nadella, dass jede kritische Entscheidung einer KI nachträglich unveränderbar und in für Menschen lesbarer Form protokolliert wird. Für Notfälle schlägt er Mechanismen vor, mit denen eine befugte Person das Modell während des Betriebs anhalten oder es komplett abschalten kann. Die Modelle sollten zudem vom ersten Tag an als „kompromittiert“ gelten und entsprechend eingeschränkt werden. Für diesen Mechanismus hat der Microsoft-Chef den Namen „Notbremse“ geprägt.

Vorsichtige Stimmen mehren sich in der Branche

Nadellas Einordnung ist nicht die erste Warnung aus dem Feld. Führende Technologieunternehmen sorgten in der jüngeren Vergangenheit wiederholt mit Fällen für Schlagzeilen, die auf eine nachlassende Kontrolle über ihre Modelle hindeuteten. Erst vor Kurzem hatte auch Anthropic-Chef Dario Amodei angekündigt, sein Unternehmen gehe zu einem vorsichtigeren Plan für die KI-Entwicklung über.