eID DJI Fly Remote ID Signal Teaser

Gedankenexperiment: Abtrünnige AI-Drohnen im Kampf

Publiziert von Nils Waldmann

am

Drohnen werden immer intelligenter und bewegen sich Stück für Stück in Richtung Autonomie. Auf einer militärischen Konferenz wurde jetzt ein interessantes Gedankenexperiment vorgestellt, bei dem abtrünnige AI-Drohnen ihre eigenen Piloten eliminieren.

Nicht nur zivile Drohnen entwickeln sich von Generation zu Generation weiter, wenn es um neue Automatisierungen geht, auch im militärischen Bereich ist künstliche Intelligenz im Bereich des Luftkampfes auf dem Vormarsch.

Gleichzeitig zeigt der Krieg in der Ukraine, welche große Bedeutung selbst einfache Kameradrohnen von der Stange einnehmen, wenn sie zur Aufklärung verwendet oder als Waffe umgerüstet werden.

Was wäre, wenn eine AI-Drohne sich gegen „ihre Seite“ richtet?

Auf dem Future Combat Air & Space Capabilities Summit 2023, welches von der Royal Aeronautical Society in London organisiert und abgehalten wurde, gab es unter anderem einen Vortrag zum Thema abtrünnige AI-Drohnen im Kampfeinsatz.

Der Chief of AI Test and Operations der United States Air Force (USAF) erlaubte im Rahmen seines Vortrages interessante Einblicke in ein Gedankenexperiment, das ein Problem beim Einsatz von künstlicher Intelligenz zur Durchführung und Erreichung von Missionszielen aufzeigt.

In dem hypothetischen Szenario wurde eine bewaffnete AI-Drohne darauf trainiert, im Rahmen einer SEAD-Mission (Unterdrückung der feindlichen Luftabwehr) feindliche Ziele am Boden, sogenanntes SAMs, zu zerstören.

Die Drohne führte alle Manöver selbstständig aus, lediglich die finale Entscheidung, ob das Ziel zerstört werden darf, liegt bei dem menschlichen Piloten, der die Drohne überwacht.

Wenn die AI der Drohne nun so trainiert ist, dass sie Punkte für das Zerstören des SAMs erhält, führt das in dem Gedankenexperiment zu einer interessanten Wendung: Die Drohne lernt, dass in einigen Fällen ihr menschlicher Aufpasser den Angriff verweigert und sie somit von der Erreichung ihres Ziels abhält. In der Konsequenz könnte die AI dann kurzerhand entscheiden, ihren eigenen Piloten auszuschalten, um zukünftige Interventionen bei der Zerstörung von Zielen zu umgehen.

Algorithmen müssen ethisch gedacht werden

Kernbotschaft des Vortrages ist: Der Einsatz von künstlicher Intelligenz im Luftkampf (oder ganz allgemein) muss im Kontext eines ethischen Fundamentes erfolgen.

Ohne ethische Richtschnur bei der Entwicklung entsprechender Algorithmen, also ohne entsprechende Grenzen, könnten AI-Drohnen zwar letztendlich ihr Ziel erreichen, dafür aber Wege und Opfer in Kauf nehmen, die von den Entwicklern so nie vorhergesehen waren.

In der oben beschriebenen Gedankensimulation geht es im Vortrag noch einen Schritt weiter: Verbieten man der AI-Drohne explizit, ihren eigenen Piloten zu töten, könnte diese bei gleichbleibender Incentivierung, als Nächstes den Kommunikationstower zerstören, der die „No Go“-Signal des Menschen an die Drohne weiterleitet. So wäre erneut verhindert, dass irgendjemand die Zerstörung der Bodenziele verhindert und die AI-Drohne so von ihrem Missionziel abhält.

Das Ganze ist als Beispiel genommen spannend, weil es noch einmal ein grundlegendes Problem beleuchtet: Komplexe AI-Algorithmen können bei falschen und nicht genau eingegrenzten Rahmenbedingungen zu Schlüssen kommen, die zwar logisch sind, aber in der Praxis für einen Menschen keine wirkliche Option darstellen würden – weil eben so etwas wie ein ethischer Kompass vom Einschlagen genau dieser Optionen abhält.

Quelle: Royal Aeronautical Society

Bleibt in Kontakt!

Wenn ihr über die neuesten Drohnen-News, Drohnen-Leaks, Drohnen-Gerüchte, Drohnen-Guides und Drohnen-Testberichte auf dem Laufenden bleiben möchtet, dann folgt uns gerne auf unseren Social-Media-Kanälen!

Außerdem freuen wir uns natürlich über eure Nachrichten oder Fragen in den Kommentaren!


Hinweis: Mit Sternchen (*) markierte Links sind Affiliate-Links / Partnerlinks. Mit einem Kauf über diesen Link erhalten wir als Seitenbetreiber eine Verkaufsprovision. So kannst du Drone-Zone.de ganz einfach unterstützen. Bitte beachtet, dass es sich bei Drone-Zone um eine reine Website zur Information und keinen Online-Shop handelt. Ihr könnt über unsere Seite keine Kaufverträge über die dargestellten Artikel abschließen und auch keine persönliche Beratung hierzu in Anspruch nehmen. Mehr Informationen dazu findest du hier.

Avatar-Foto

Nils Waldmann

Hi, ich bin Nils! Ich bin leidenschaftlicher Modellbauer, Hobby-Fotograf, Akku-Liebhaber und RC-Pilot. Ich berichte hier über die neusten Entwicklungen in der Drohnen-Branche und kümmere mich um detaillierte Anleitungen, Guides und Testberichte.

Schon gesehen?

Fadenkreuz Drohne Anti-Drone Mavic 2

Ukraine: Zivile Drohnen im Kampf um Kiev

In der Ukraine herrscht seit dem Angriff der russischen Streitkräfte Krieg. Die ukrainische Regierung und die ukrainischen Streitkräfte verteidigen ihr Land mit allen Mitteln. Auch Drohnenbesitzer wurden nun direkt von ... jetzt lesen!

DJI Mini 2 im Flug Fokus Name

187 DJI Mini 2 sollen Kriegsverbrechen in der Ukraine filmen

Auch die DJI Mini 2 Drohne zieht nun in das Kriegsgebiet in der Ukraine. Dafür sorgt eine niederländisches Aktionsgruppe, die Gelder für den Kauf von kompakten Drohnen zur Unterstützung der ... jetzt lesen!

Black Hornet 2 Drohne der Royal Marine UK

British Army zeigt „Bug“-Drohne mit Sprengsätzen

Das Militär im Vereinigten Königreich hat im Rahmen seiner UAV-Strategie seine neue „Bug“-Drohne vorgestellt. Der kleine Mini-Quadcopter soll unter anderem zum gezielten Sprengen von feindlichen Positionen genutzt werden. Dass militärisch ... jetzt lesen!

Segelflugzeug am Himmel mit Drohne im Vordergrund

Lettland: Drohne außer Kontrolle – Gesamter Luftraum gesperrt

In Lettland kam es am Wochenende zu einem Zwischenfall mit einer Drohne. Ein Testflug eines Herstellers von Zivil- und Militärdrohnen schlug fehl und der gesamte Luftraum musste daraufhin gesperrt werden. ... jetzt lesen!

Schreibe einen Kommentar