eID DJI Fly Remote ID Signal Teaser

Gedankenexperiment: Abtrünnige AI-Drohnen im Kampf

Publiziert von Nils Waldmann

am

Drohnen werden immer intelligenter und bewegen sich Stück für Stück in Richtung Autonomie. Auf einer militärischen Konferenz wurde jetzt ein interessantes Gedankenexperiment vorgestellt, bei dem abtrünnige AI-Drohnen ihre eigenen Piloten eliminieren.

Nicht nur zivile Drohnen entwickeln sich von Generation zu Generation weiter, wenn es um neue Automatisierungen geht, auch im militärischen Bereich ist künstliche Intelligenz im Bereich des Luftkampfes auf dem Vormarsch.

Gleichzeitig zeigt der Krieg in der Ukraine, welche große Bedeutung selbst einfache Kameradrohnen von der Stange einnehmen, wenn sie zur Aufklärung verwendet oder als Waffe umgerüstet werden.

Was wäre, wenn eine AI-Drohne sich gegen „ihre Seite“ richtet?

Auf dem Future Combat Air & Space Capabilities Summit 2023, welches von der Royal Aeronautical Society in London organisiert und abgehalten wurde, gab es unter anderem einen Vortrag zum Thema abtrünnige AI-Drohnen im Kampfeinsatz.

Der Chief of AI Test and Operations der United States Air Force (USAF) erlaubte im Rahmen seines Vortrages interessante Einblicke in ein Gedankenexperiment, das ein Problem beim Einsatz von künstlicher Intelligenz zur Durchführung und Erreichung von Missionszielen aufzeigt.

In dem hypothetischen Szenario wurde eine bewaffnete AI-Drohne darauf trainiert, im Rahmen einer SEAD-Mission (Unterdrückung der feindlichen Luftabwehr) feindliche Ziele am Boden, sogenanntes SAMs, zu zerstören.

Die Drohne führte alle Manöver selbstständig aus, lediglich die finale Entscheidung, ob das Ziel zerstört werden darf, liegt bei dem menschlichen Piloten, der die Drohne überwacht.

Wenn die AI der Drohne nun so trainiert ist, dass sie Punkte für das Zerstören des SAMs erhält, führt das in dem Gedankenexperiment zu einer interessanten Wendung: Die Drohne lernt, dass in einigen Fällen ihr menschlicher Aufpasser den Angriff verweigert und sie somit von der Erreichung ihres Ziels abhält. In der Konsequenz könnte die AI dann kurzerhand entscheiden, ihren eigenen Piloten auszuschalten, um zukünftige Interventionen bei der Zerstörung von Zielen zu umgehen.

Algorithmen müssen ethisch gedacht werden

Kernbotschaft des Vortrages ist: Der Einsatz von künstlicher Intelligenz im Luftkampf (oder ganz allgemein) muss im Kontext eines ethischen Fundamentes erfolgen.

Ohne ethische Richtschnur bei der Entwicklung entsprechender Algorithmen, also ohne entsprechende Grenzen, könnten AI-Drohnen zwar letztendlich ihr Ziel erreichen, dafür aber Wege und Opfer in Kauf nehmen, die von den Entwicklern so nie vorhergesehen waren.

In der oben beschriebenen Gedankensimulation geht es im Vortrag noch einen Schritt weiter: Verbieten man der AI-Drohne explizit, ihren eigenen Piloten zu töten, könnte diese bei gleichbleibender Incentivierung, als Nächstes den Kommunikationstower zerstören, der die „No Go“-Signal des Menschen an die Drohne weiterleitet. So wäre erneut verhindert, dass irgendjemand die Zerstörung der Bodenziele verhindert und die AI-Drohne so von ihrem Missionziel abhält.

Das Ganze ist als Beispiel genommen spannend, weil es noch einmal ein grundlegendes Problem beleuchtet: Komplexe AI-Algorithmen können bei falschen und nicht genau eingegrenzten Rahmenbedingungen zu Schlüssen kommen, die zwar logisch sind, aber in der Praxis für einen Menschen keine wirkliche Option darstellen würden – weil eben so etwas wie ein ethischer Kompass vom Einschlagen genau dieser Optionen abhält.

Quelle: Royal Aeronautical Society

Bleibt in Kontakt!

Wenn ihr über die neuesten Drohnen-News, Drohnen-Leaks, Drohnen-Gerüchte, Drohnen-Guides und Drohnen-Testberichte auf dem Laufenden bleiben möchtet, dann folgt uns gerne auf unseren Social-Media-Kanälen!

Außerdem freuen wir uns natürlich über eure Nachrichten oder Fragen in den Kommentaren!


Hinweis: Mit Sternchen (*) markierte Links sind Affiliate-Links / Partnerlinks. Mit einem Kauf über diesen Link erhalten wir als Seitenbetreiber eine Verkaufsprovision. So kannst du Drone-Zone.de ganz einfach unterstützen. Bitte beachtet, dass es sich bei Drone-Zone um eine reine Website zur Information und keinen Online-Shop handelt. Ihr könnt über unsere Seite keine Kaufverträge über die dargestellten Artikel abschließen und auch keine persönliche Beratung hierzu in Anspruch nehmen. Mehr Informationen dazu findest du hier.

Avatar-Foto

Nils Waldmann

Hi, ich bin Nils! Ich bin leidenschaftlicher Modellbauer, Hobby-Fotograf, Akku-Liebhaber und RC-Pilot. Ich berichte hier über die neusten Entwicklungen in der Drohnen-Branche und kümmere mich um detaillierte Anleitungen, Guides und Testberichte.

Schon gesehen?

Blick aus dem Flugzeug auf Wolken

Trump’s Air Force One soll Drohnen-Crash knapp entgangen sein

Die Air Force One mit dem US-Präsidenten Donald Trump an Bord soll laut Augenzeugenberichten am vergangenen Sonntag nur knapp einem Zusammenstoß mit einer Drohne entgangen sein. Die Angelegenheit wird mittlerweile ... jetzt lesen!

Remote ID - Mavic 2 Pro Drohne

Ukraine: DJI dementiert Einschränkungen von Aeroscope

Der chinesische Kamera- und Drohnenhersteller DJI sieht sich derzeit mit Anschuldigungen im Netz konfrontiert, die sich direkt auf den aktuellen Krieg in der Ukraine beziehen. Einige Quellen behaupten, dass das ... jetzt lesen!

Elbit Hermes 900s Drohne

Drohnen sollen EU-Grenzen für 100 Mio. Euro schützen

Die EU-Grenzen sollen in den kommenden Jahren vermehrt durch Drohnen geschützt und überwacht werden. Dazu hat die Europäische Agentur für die Grenz- und Küstenwache (Frontex) nun Verträge im Wert von ... jetzt lesen!

Luminar 4 Object Eraser Tool

Österreich testet Drohnen zur Grenzsicherung

Das Land Österreich hat ein Testprojekt gestartet, bei dem Drohnen zur Unterstützung bei der Grenzsicherung erprobt werden sollen. Das Testprojekt läuft zunächst bis Ende des Jahres. Das Drohnen nicht nur ... jetzt lesen!

Schreibe einen Kommentar