Autonomous machine gun learning¶
Unter anderem, damit solch tödliche Fehlentscheidungen durch SIGINT nicht zur Regel werden, sicherlich auch durch die Erlangung des Vorteils gegenüber anderen Nationen, war dem Pentagon von Anfang an klar, dass Großraumüberwachungssysteme wie Gorgon Stare oder ARGUS-IS intelligent(er) werden müssen.
Mind’s Eye¶
Sie würden sehr schnell kognitive maschinelle Systeme entwickeln müssen, die es ermöglichen Gegenstände und Handlungen zu beschreiben und den Piloten die Arbeit erleichtern, bzw. ermöglichen, sie auszuführen. Das heißt, sie benötigten Software, die diese Anhäufung von Millionen von Pixeln in diesen Überwachungssystemen, in Substantive, Verben und Sätze übersetzt, oder sie kategorisch in Diagrammen und Graphen darstellen kann.
Das visionäre Konzept war ziemlich einfach, die Umsetzung umso schwieriger: Zuerst überprüfen KI-Systeme und videoanalytische Verfahren gespeicherte Drohnenvideos, um einen Aktivitätsverlauf zu erstellen und charakterisieren dann, was passiert ist.
Die DARPA finanzierte im Zuge von ARGUS-IS hierzu die Forschung an „integrierten kognitiven Systemen zur automatisierten Videoüberwachung“: Die intelligente Kamera, »Mind’s Eye«.
Project Maven¶
Ein weiteres Forschungsprojekt des Pentagons hierzu, war das Projekt Maven, bei dem die Machine Learning (ML) Methode des deep learnings eingesetzt wird, um die Fülle von Nachrichten-, Überwachungs- und Aufklärungsdaten zu sortieren, und mit jenen im Ministerium und bei den Nachrichtendiensten abzugleichen.
Im Jahr 2017 ging hierfür der IT-Konzern Google, eine Partnerschaft mit dem Projekt Maven des Pentagons ein, das auch als »Algorithmic Warfare Team« bekannt ist. Der gemeinsame Auftrag lautete, eine Technologie zu entwickeln, die das Videomaterial von US-Überwachungsdrohnen aufzeichnet und effizienter als bisher nach militärisch bedeutungsvollen Objekten indexiert.
Tensorflow – Implementierte Sinnstiftungen in Deep Learning Bibliotheken¶
In einer Pressemitteilung bestätigte ein Google-Sprecher, dass das Unternehmen dem Verteidigungsministerium Zugriff auf seine TensorFlow-Software gewährt, um bei der Entwicklung von Objekterkennungsalgorithmen zu helfen. “We have long worked with government agencies to provide technology solutions”, sagte der Sprecher. “This specific project is a pilot with the Department of Defense, to provide open source TensorFlow APIs that can assist in object recognition on unclassified data. The technology flags images for human review, and is for non-offensive uses only.”
TensorFlow ist eine Open Source Programmbibliothek unter einer Apache License 2.0. Eine zentrale Instanz in der KI-Strategie von Google, die Entwicklerinnen und Entwicklern für maschinelles Lernen ein Framework zum Sortieren von Daten und Trainieren ihrer Algorithmen bietet.
Allgemein betrachtet ist TensorFlow ein Software-Framework zur numerischen Berechnung von Datenflussgraphen mit Fokus auf ML. Die grundlegende Funktionsweise von TensorFlow basiert auf sogenannten Graphen. Dieser bezeichnet eine abstrakte Darstellung des zugrunde liegenden mathematischen Problems in Form eines gerichteten Diagramms. Das Diagramm besteht aus Knoten und Kanten die miteinander verbunden sind. Die Knoten des Graphen repräsentieren Daten und mathematische Operationen.
Insbesondere beim Programmieren von Künstlichen Neuronalen Netzen (deep learning), sind Entwickler*innen mehr und mehr auf sinnstiftende Diagramme angewiesen, um Bedeutung in den jeweiligen Code legen zu können.
Im ML übernimmt der Programmier oder die Programmiererin vermehrt eine duale Funktion. Einerseits sind sie natürlich diejenigen die programmieren, auf der anderen Seite sind sie aber mehr und mehr darauf angewiesen, das zu beobachten was die Maschine in ihren Trainingsdurchläufen ausgiebt, sie sind zugleich also auch Code-Beobachter.
Adrian Mackenzie, Professor in Technological Cultures im Sociology Department der Lancaster University stellte 2017 in seinem Buch »Machine Learners - Archaeology of a Data Practice« die These auf, dass die Programmierpraxis sich im Bereich ML grundlegend geändert hat, und dass die besondere Wirkkraft des ML nicht aus der Abstraktion von neuronalen Strukturen oder anderen formalen Kalkülen resultiert, sondern aus der maschinellen Produktion von sinnstiftenden Diagrammatiken. Die Regeln für diese maschinellen Sinnstiftungen gibt im Falle von Tensorflow Google vor.
Don‘t be evil¶
In der Öffentlichkeit umstritten ist das Projekt Maven aber in erster Linie deshalb gewesen, weil damit natürlich auch bewaffnete Kampfdrohnen ausgerüstet werden können. Deren aufgenommenen Videobilder können mit Hilfe dieser Technologie bereits an Bord ausgewertet werden, sodass eine selbstständige Bekämpfung von Zielen denkbar wäre.
Im April 2018 hatten sich mehr als 3100 Google-Mitarbeiter in einem Brief an die Konzernführung gegen die Beteiligung Googles am US-Militär-Projekt Maven ausgesprochen. Kurz darauf haben einige Mitarbeiter aus Protest gekündigt.
Solidarisch erklärten sich daraufhin über 830 Akademiker*innen aus dem IT-Bereich sowie Ethik und haben nochmals in einem offenen Brief die Beendigung der Zusammenarbeit mit dem US-Verteidigungsministerium gefordert. Google hat daraufhin angekündigt, die Zusammenarbeit mit dem Pentagon an dem Projekt Maven auslaufen zu lassen.
FCAS¶
Auch in Europa geschehen regelmäßig solch Kooperativen. Förderprojekte zu Kampfflugzeugsystemen wie dem »Future Combat Air System« (FCAS). Ein deutsch-französisch-spanisches Großprojekt, das vor allem auf die militärische Nutzung von Künstlicher Intelligenz setzt, und das Problem der Interoperalität auf einen noch unbekannten Prüfstand stellt. Die Bundesrepublik ist hierbei an der Entwicklung eines europäischen Kampfflugsystems beteiligt, das aus neuartigen Kampfflugzeugen besteht, welche Atomwaffen tragen und die mit bewaffneten Eurodrohnen und weiteren im Schwarm fliegenden bewaffneten autonomen Drohnen, vernetzt werden sollen.