Drohnen werden immer intelligenter und bewegen sich Stück für Stück in Richtung Autonomie. Auf einer militärischen Konferenz wurde jetzt ein interessantes Gedankenexperiment vorgestellt, bei dem abtrünnige AI-Drohnen ihre eigenen Piloten eliminieren.
Nicht nur zivile Drohnen entwickeln sich von Generation zu Generation weiter, wenn es um neue Automatisierungen geht, auch im militärischen Bereich ist künstliche Intelligenz im Bereich des Luftkampfes auf dem Vormarsch.
Gleichzeitig zeigt der Krieg in der Ukraine, welche große Bedeutung selbst einfache Kameradrohnen von der Stange einnehmen, wenn sie zur Aufklärung verwendet oder als Waffe umgerüstet werden.
Was wäre, wenn eine AI-Drohne sich gegen „ihre Seite“ richtet?
Auf dem Future Combat Air & Space Capabilities Summit 2023, welches von der Royal Aeronautical Society in London organisiert und abgehalten wurde, gab es unter anderem einen Vortrag zum Thema abtrünnige AI-Drohnen im Kampfeinsatz.
Der Chief of AI Test and Operations der United States Air Force (USAF) erlaubte im Rahmen seines Vortrages interessante Einblicke in ein Gedankenexperiment, das ein Problem beim Einsatz von künstlicher Intelligenz zur Durchführung und Erreichung von Missionszielen aufzeigt.
In dem hypothetischen Szenario wurde eine bewaffnete AI-Drohne darauf trainiert, im Rahmen einer SEAD-Mission (Unterdrückung der feindlichen Luftabwehr) feindliche Ziele am Boden, sogenanntes SAMs, zu zerstören.
Die Drohne führte alle Manöver selbstständig aus, lediglich die finale Entscheidung, ob das Ziel zerstört werden darf, liegt bei dem menschlichen Piloten, der die Drohne überwacht.
Wenn die AI der Drohne nun so trainiert ist, dass sie Punkte für das Zerstören des SAMs erhält, führt das in dem Gedankenexperiment zu einer interessanten Wendung: Die Drohne lernt, dass in einigen Fällen ihr menschlicher Aufpasser den Angriff verweigert und sie somit von der Erreichung ihres Ziels abhält. In der Konsequenz könnte die AI dann kurzerhand entscheiden, ihren eigenen Piloten auszuschalten, um zukünftige Interventionen bei der Zerstörung von Zielen zu umgehen.
Algorithmen müssen ethisch gedacht werden
Kernbotschaft des Vortrages ist: Der Einsatz von künstlicher Intelligenz im Luftkampf (oder ganz allgemein) muss im Kontext eines ethischen Fundamentes erfolgen.
Ohne ethische Richtschnur bei der Entwicklung entsprechender Algorithmen, also ohne entsprechende Grenzen, könnten AI-Drohnen zwar letztendlich ihr Ziel erreichen, dafür aber Wege und Opfer in Kauf nehmen, die von den Entwicklern so nie vorhergesehen waren.
In der oben beschriebenen Gedankensimulation geht es im Vortrag noch einen Schritt weiter: Verbieten man der AI-Drohne explizit, ihren eigenen Piloten zu töten, könnte diese bei gleichbleibender Incentivierung, als Nächstes den Kommunikationstower zerstören, der die „No Go“-Signal des Menschen an die Drohne weiterleitet. So wäre erneut verhindert, dass irgendjemand die Zerstörung der Bodenziele verhindert und die AI-Drohne so von ihrem Missionziel abhält.
Das Ganze ist als Beispiel genommen spannend, weil es noch einmal ein grundlegendes Problem beleuchtet: Komplexe AI-Algorithmen können bei falschen und nicht genau eingegrenzten Rahmenbedingungen zu Schlüssen kommen, die zwar logisch sind, aber in der Praxis für einen Menschen keine wirkliche Option darstellen würden – weil eben so etwas wie ein ethischer Kompass vom Einschlagen genau dieser Optionen abhält.
Quelle: Royal Aeronautical Society
