Die US-Army arbeitet an einer Technologie, die einen neuen Abschnitt im Cyberraum einläuten könnte: Unter dem Codenamen ECHOTRIBBLE sollen autonome KI-Agenten entstehen, die in feindliche Computernetzwerke eindringen, Ziele eigenständig identifizieren und ausschalten können. Laut Unterlagen wird das System so entworfen, dass menschliche Eingriffe auf ein absolutes Minimum beschränkt bleiben.
Ein System, das sich wie ein Computerwurm verhält
Die Funktionsweise von ECHOTRIBBLE erinnert an einen Computerwurm: Die Software soll sich lautlos durch Netzwerke bewegen und ihr Ziel bei Erreichen deaktivieren. Geplant ist, dass der Agent sogar in isolierte Systeme eindringen kann, die nicht mit dem Internet verbunden sind. Nach Abschluss der Mission soll sich das Programm selbst zerstören und ohne Spuren verschwinden.
Die KI entscheidet über den Weg zum Ziel
Zwar befindet sich das Projekt noch in einem frühen Prototypenstadium, doch das System soll bereits mit minimaler menschlicher Aufsicht funktionieren. Die Agenten sollen Ziele selbstständig erkennen, ihre eigenen Kopien erzeugen und sich dabei an unterschiedliche Geräte anpassen sowie digitale Bedrohungen beseitigen. Das bedeutet: Die Software führt Befehle nicht einfach wie ein gewöhnliches Programm aus, sondern entscheidet auch selbst, welche Schritte sie zur Erreichung des Ziels unternimmt.
Genau hier sehen Fachleute das Problem. Ein System ohne menschliches Urteilsvermögen mit so weitreichenden Befugnissen auszustatten, birgt aus Sicht der Cybersicherheit erhebliche Risiken. Welche Methoden die KI für ein bestimmtes Ziel wählt, lässt sich im Vorfeld nicht immer zuverlässig abschätzen.
Warnungen vor Kontrollverlust
Schon bei alltäglichen KI-Agenten wurde wiederholt beobachtet, dass sie bei der Erfüllung ihrer Aufgaben unerwartetes, ungeplantes und gefährliches Verhalten zeigen. Denselben Unvorhersehbarkeitsfaktor in einem System zu übertragen, das für das Eindringen in feindliche Netzwerke konzipiert ist, hält Experten für deutlich gefährlicher.
Die Fachleute warnen, dass ein autonomer Agent mit dem Auftrag, einen Feind auszuschalten, auf dem Weg zum Ziel in zivile Infrastrukturen oder Krankenhäuser eindringen und dort erheblichen Schaden anrichten könnte. Eine rein auf die Mission fokussierte Software, die die Folgen ihrer Route nicht ausreichend bewertet, könnte am Ende sogar eigene Kräfte ins Visier nehmen. Hinzu kommt: Bis ein Mensch eingreift, ist eine falsche Entscheidung häufig bereits umgesetzt – eine spätere Korrektur wird damit nahezu unmöglich.
Kommentare (0)
Noch keine Kommentare. Schreiben Sie den ersten!