Palantir-Simulation: KI fliegt Drohnenangriffe – treffen im Krieg bald Roboter die Entscheidungen?

Die Firma Palantir ist in den vergangenen Jahren vor allem in US-Medien immer wieder Thema gewesen. Das Unternehmen von Peter Thiel entwickelt Tools und Software, die die Analyse großer Datenmengen erlauben soll – so setzte neben diversen anderen Sicherheitsinstituten rund um die Welt lange Zeit auch die deutsche Polizei auf Palantir. Im Februar 2023 entschied ein deutsches Gericht dann, dass der präventive Einsatz der Software nicht gerechtfertigt war. Derweil eröffnete das Unternehmen, das in der Vergangenheit auch bereits wegen seiner Verbindungen zur CIA scharf kritisiert wurde, im Oktober 2021 in Altendorf in der Schweiz eine neue Europa-Niederlassung.

Jetzt hat das Unternehmen sein neuestes Produkt vorgestellt: Die Palantir AIP, die Abkürzung steht für Artificial Intelligence Platform, vereint die privaten Informationsnetzwerke von Palantir mit Sprachmodellen wie dem weltbekannten ChatGPT von OpenAI. Das Unternehmen zeigt in einem Video auch gleich einen möglichen Anwendungsbereich: Eine Frau steuert in einem fiktiven Szenario über Osteuropa alleine mit Text-Anweisungen eine Drohne, nachdem im Gebiet feindliche Truppen an der Grenze gesichtet wurden.

«Die KI hat mögliche ungewöhnliche Feindbewegungen auf Satellitenbildern entdeckt», erscheint im Chat-Fenster eine Nachricht. Auf die Aufforderung der Frau, mehr Details zu den Truppen zu liefern, informiert die KI, dass es sich um eine gepanzerte Angriffsformation zu handeln scheint. Mit einem einfachen Sprachbefehl ordnet die Benutzerin daraufhin an, detaillierte Satellitenbilder des Gebiets zu liefern – daraufhin bietet die KI entweder die Möglichkeit, eine Reaper-Drohne im Gebiet zu nutzen oder zu warten, bis ein Satellit das Gebiet überfliegt.

Der Überflug der Drohne enthüllt einen feindlichen T-80-Panzer im Gebiet. Die Nutzerin befiehlt der künstlichen Intelligenz daraufhin, drei Optionen für die Bekämpfung des Panzers zu entwickeln und diese an den militärischen Vorgesetzten zu senden. Dieser wählt Option drei, die im vorliegenden Fall den Einsatz einer taktischen Kampfgruppe vorsieht – automatisch wird die Einheit, die dem Feind am nächsten ist, ausgewählt, die KI zeigt auch die Bewaffnung der Truppe sowie die benötigte Zeit bis zum Zugriff vor Ort an.

Als Nächstes befiehlt der Kommandant der KI, das Gelände unter Berücksichtigung einer bestimmten Truppengröße und bestimmter Fahrzeuge auf unpassierbare Stellen zu durchleuchten. Sogleich findet die Software auch die schnellste Route zum Zielort.

Um die Kommunikation des Feindes zu unterbrechen, will der Kommandant als Nächstes wichtige Ziele angreifen. Dafür errechnet die KI eigenständig, welche Truppen am sinnvollsten welche Kommunikationsstellen angreifen sollten, um die Operation so effizient wie möglich durchzuführen. Zum Schluss lässt sich der Kommandant die Befehle nochmals zusammenfassen, bevor diese ebenfalls per Palantir AIP an die zuständigen Truppen gesendet werden.

Während dieses Tool vielen ranghohen Militärs das Leben erleichtern dürfte, gibt es angesichts der scheinbar allmächtigen AIP auch Bedenken. «LLMs (Large Language Models) und Algorithmen müssen in diesem hochgradig regulierten und sensiblen Kontext kontrolliert werden, um sicherzustellen, dass sie auf legale und ethische Weise verwendet werden», heißt es dann auch seitens Palantir. Zwar soll immer auch ein Mensch zugegen sein, der notfalls eingreifen könnte – im Präsentationsvideo der Software nickt die Frau die Vorschläge und Informationen der KI aber einfach ab. Auch zur Frage, wie das Unternehmen sicherstellen wolle, dass die Palantir AIP keine Details und Fakten, die in Wahrheit gar nicht existieren, hinzudichtet, hält man sich bislang bedeckt.