Autor: Christoph Marischka
Ein militärisch-forschungsindustrieller Komplex?
Führende Thinktanks, Politiker*innen und Militärs betonen in den letzten Jahren verstärkt die Relevanz Künstlicher Intelligenz für militärische Anwendungen und damit auch die geopolitische Rolle des jeweiligen Landes oder Blocks auf der Weltbühne. So soll der russische Präsident Putin in einer Videoansprache am 1. September 2017 die Behauptung aufgestellt haben, dass derjenige, der bei der KI-Entwicklung führen werde, die Welt beherrschen werde.[1] Die damalige Staatssekretärin für Rüstung im deutschen Verteidigungsministerium, Katrin Suder, äußerte sich in einer Sonderausgabe der Zeitschrift „Internationale Politik“ im Sommer 2018 ganz ähnlich: „wer es schafft, die beste KI zu entwickeln, hat […] einen Verteidigungs- oder gar Angriffsvorteil“.[2] Sekundiert und bisweilen gar übertönt wird die sicherheitspolitische Community hinsichtlich der militärischen bzw. geopolitischen Relevanz Künstlicher Intelligenz oft von Risikokapitalgeber*innen, Beratungsunternehmen und auch Wissenschaftler*innen.[3]
Entsprechend horchte u.a. die Friedensbewegung in Tübingen auf, nachdem bekannt wurde, dass mit dem Cyber Valley zwischen Stuttgart und Tübingen ein neues, europaweit führendes und weltweit sichtbares Zentrum für die Entwicklung Künstlicher Intelligenz entstehen soll. Die Informationsstelle Militarisierung etwa vertrat folgende These: „Sollte das Cyber Valley – mit dem ja nicht nur die Obere Viehweide (auf einem Berg) in Tübingen, sondern das gesamte Neckartal zwischen Tübingen und Stuttgart gemeint ist – sich entsprechend den gegenwärtig noch etwas großspurig wirkenden Ziele entwickeln, ist absehbar, dass sich die Region zu einem neuen Rüstungsstandort entwickeln wird – ganz unabhängig von den Intentionen der Beteiligten“.[4] Anhaltspunkte für diese These war u.a. die Beteiligung des Rüstungsunternehmens ZF Friedrichshafen und der Konzerne Daimler und Amazon als „Kernpartner“ des Cyber Valleys, die ebenfalls als Zulieferer und Dienstleister des Militärs tätig sind.
Der Redaktionsleiter des Schwäbischen Tagblattes reagierte damals geradezu ausfallend mit seiner mittlerweile im lokalen Kontext berühmt gewordenen Brotmesser-Analogie: „Stimmungsmache statt Fakten. Der Text klingt sachlich, vermischt aber alles Mögliche, das rein gar nichts miteinander zu tun hat, zu einer Suppe, die dann giftig ist […] Grundlagenforschung ist Grundlagenforschung, ein Brotmesser bleibt ein Brotmesser, auch wenn jemand mal damit jemanden verletzt oder umbringt. […] Will die Linke künftig alle Brotmesser verbieten? Das ist die ‚Logik‘ hinter der Böse-Böse-Panikmache“.[5] Auf eine erste Kundgebung gegen das Cyber Valley reagierte er mit einem Beitrag, in dem v.a. die Pressesprecher*innen des Forschungsprojektes zu Wort kamen. Auch hier spielten mögliche militärische Anwendungen eine Rolle. Unter dem Titel „zivile Grundlagenforschung“ wurde den Pressesprecher*innen die Frage gestellt: „Lässt sich die KI-Forschung in Tübingen für militärische Zwecke missbrauchen?“ Die Antwort war eindeutig: „’Wir haben keinerlei Projekte, die in diese Richtung gehen‘, legt sich [Forschungskoordinator Matthias] Tröndle fest. Und auch [Cyber-Valley-Koordinatorin Tamara] Almeyda ist deutlich: ‚Wir machen keine militärische Forschung.‘ Im Gegenteil: ‚Viele Wissenschaftler engagieren sich dagegen’“.[6]
Die Fragen um die militärische Relevanz und Nutzbarkeit der Forschung im Cyber Valley war – neben etwa den Auswirkungen auf den Wohnungsmarkt – durchgehend ein Thema bei den Auseinandersetzungen um den Forschungscampus. Die Universität behauptet in ihren FAQs zum Cyber Valley bis heute: „Nein, es gibt keine Rüstungsforschung – weder im Rahmen der Cyber Valley Initiative noch innerhalb der Universitäten und der Max-Planck-Institute. Dies ist alleine schon durch die Zivilklausel der Universität Tübingen sowie die Regeln der Max-Planck-Gesellschaft zum verantwortungsvollen Umgang mit Forschungsfreiheit und Forschungsrisiken ausgeschlossen. Jedoch muss auch in der wissensgetriebenen Grundlagenforschung die sogenannte ‚Dual Use‘-Problematik beachtet werden: Ergebnisse der Grundlagenforschung sind meist nicht vorhersehbar und lassen sich vielfach ebenso für nützliche wie auch für zerstörerische Zwecke nutzen. In diesem komplexen Spannungsfeld von Nutzen und Risiken ist die Forschung in der Max-Planck-Gesellschaft und den Universitäten dem Wohl der Menschheit und dem Schutz der Umwelt verpflichtet“.[7]
Interessanterweise wurde der Vorwurf konkreter „Rüstungsforschung“ von den Kritiker*innen so gut wie nie erhoben, sondern ihnen vielmehr in den Mund gelegt, um ihn sogleich empört zurück zu weisen. Problematisiert wurde vielmehr die Schwerpunktsetzung auf ein rüstungspolitisch relevantes Thema mit Beteiligung von auch in der Rüstung tätigen Unternehmen unter der erklärten Absicht einer schnellen Kommerzialisierung neuer Forschungsergebnisse. Gewarnt wurde wie gesagt vor der „Transformation in einen Rüstungsstandort“ und der Herausbildung eines „militärisch-forschungsindustriellen Komplexes“.[8] Neben den (im engeren Sinne) militärischen Anwendungen stand dabei stets auch die mögliche und naheliegende Entwicklung von Technologien in der Kritik, die selbst bei ihrer „zivilen“ Anwendung – etwa beim Grenzschutz und der „intelligenten Videoüberwachung“ – problematisch wären. So war auch im „antimilitaristischen und überwachungskritischen Aufruf“ zu o.g. Kundgebung keine Rede von „Rüstungsforschung“, wohl aber dem Dual-Use-Charakter dieser Technologien: „Es geht jedoch bei der ausufernden Überwachung nicht nur um mutmaßliche ‚Kriminelle‘, auch Arbeitsuchende, Mieter*innen und Konsument*innen sind Gegenstand einer kontinuierlichen Klassifikation: Bei der Bewerbung um einen Job, eine Wohnung, beim Abschluss einer Versicherung und alltäglich bei der Arbeit unterliegen wir dem, was die Mathematikerin und ehemalige Hedgefond-Programmiererin Cathy O’Neil ‚Weapons of Math Destruction‘ nennt: Der automatisierten Auswertung über uns gesammelter Daten, die weder wir, noch die Anwender_innen noch durchschauen, die aber Leben physisch, sozial und ökonomisch vernichten können“.[9] Auf diese Kritik wurde v.a. damit reagiert, dass man sich verbal scharf von der KI-Forschung in den USA und China abgrenzte und gerade damit die Notwendigkeit entsprechender Forschung in Europa, Deutschland und Tübingen unterstrich, damit „unsere Werte“ in diese Technologien einfließen könnten.
Die IARPA forscht mit
Nun wurde bekannt, dass eine der Cyber-Valley-Forschungsgruppen das IARPA-Programm MICrONs als Finanzierungsquelle angibt. Bei der IARPA handelt es sich um die gemeinsame Forschungsagentur der 16 US-Geheimdienste, der sog. ‚Intelligence Community‘. Sie wurde 2006 auf der Grundlage des „Büros für disruptive Innovationen“ der National Security Agency (NSA) nach dem Vorbild der DARPA – der Forschungsagentur des Pentagons – aufgebaut. Auf ihrer Homepage beschreibt sie ihre Aufgabe damit, „die langfristigen Bedürfnisse der Intelligence Community zu antizipieren und dieser Forschung und technische Fähigkeiten zur Verfügung zu stellen“.[10] Im Gegensatz zur DARPA, die in der Breite und Fläche eine schier unüberschaubare Zahl von Programmen und Projekten fördert und aus der US-Forschungslandschaft kaum wegzudenken ist (sie damit auch wesentlich strukturiert), verfolgt die IARPA im aktuellen Förderzyklus „nur“ 31 Programme, von denen eines MICrONs ist, mit dem das Cyber Valley und Amazon auf verschiedene Arten verbunden sind.
Aktuell gibt die IARPA vier Forschungsschwerpunkte an: Der Bereich „Analyse“ strebt danach, „die Einsicht, die sich aus den von uns gesammelten Informationen ergibt, zu maximieren“ (seeks to maximize insight from the information we collect). Unter dem Stichwort „antizipierende Aufklärung“ werden „Technologien entwickelt, die Entscheidungsträger*innen mit aktuellen und akkuraten Prognosen für eine Bandbreite von Ereignisse versorgen, die für die nationale Sicherheit relevant sein können“ (develops technologies that provide decision makers with timely and accurate forecasts for a range of events relevant to national security). Der Bereich „Collection“ zielt darauf ab, „den Wert der gesammelten Daten qualitativ zu verbessern“ (strives to dramatically improve the value of collected data from all sources). Unter dem sehr allgemeinen Begriff „Computing“ werden zuletzt Anstrengungen zusammengefasst, um „neuen Fähigkeiten unserer Gegenspieler entgegenzuwirken, die unseren Möglichkeiten, in einer vernetzten Gesellschaft frei und effektiv zu handeln, behindern könnten“ (to counter new capabilities implemented by our adversaries that could threaten our ability to operate freely and effectively in a networked world).[11] Dabei geht es in einem weiteren Sinne um die Cybersicherheit und in einem sehr allgemeinen Sinne um die Erhöhung der Rechenleistung. Letztere soll v.a. auch ermöglichen, die eigene Kommunikation zu verschlüsseln, während die Verschlüsselung von „Gegenspielern“ geknackt werden kann. Auch wenn in allen vier Bereichen auch recht grundsätzliche Forschung stattfindet, so ist ein Bezug zur ‚Nationalen Sicherheit‘ der USA dabei zwingend und in jedem Fall ausformuliert. Unter ‚Nationaler Sicherheit‘ wird in den USA eine große Bandbreite von Zielen verstanden, die ‚Innere Sicherheit‘, die Verteidigung im engeren Sinne sowie die Sicherung einer globalen Vormachtstellung zusammenfassen.
Das Projekt MICrONs wurde der interessierten Fachöffentlichkeit bei einem sog. „Proposers Day“ am 17. Juli 2014 vorgestellt. Die entsprechende Präsentation findet sich bis heute auf der Homepage der IARPA.[12] Diese Präsentation zielt explizit darauf ab, das Publikum über den Charakter der IARPA aufzuklären und über die Besonderheiten bei der Zusammenarbeit mit der IARPA zu informieren. Bereits zu Beginn enthält sie eine Folie zur ‚Intelligence Community‘ als Auflistung der Geheimdienstbehörden und Teilstreitkräfte, denen die IARPA zuarbeitet, darunter das FBI, die CIA, die NSA, die Defence Intelligence Agency, die Army, die US-Luftwaffe, die US-Marine und das Departement of Homeland Security. Im abschließenden Abschnitt wird zwei mal unmittelbar hintereinander und nahezu wortgleich festgehalten: „Dies ist anwendungsorientierte Forschung für die Intelligence Community“ (Folie 64). Zwei weitere Folie beschäftigen sich mit den Urheber- und Publikationsrechten, die grundsätzlich (d.h. abweichende Regelungen sind möglich) der US-Regierung Zugriff auf die Urheberrechte ermöglichen und Publikationen im Rahmen der Projekte ermutigen, eine vorhergehende Vorlage bei der IARPA mit Widerspruchsrecht jedoch vorsehen (Folie 58). Beworben hat sich auf das Programm u.a. eine Forschungsgruppe unter der Leitung von Andreas Tolias vom Baylor College of Medicine in Houston, Texas, gemeinsam mit Matthias Bethge von der Universität Tübingen und dem Max-Planck-Institut für biologische Kybernetik, ebenfalls in Tübingen. Insgesamt wurden drei solcher Forschungsgruppen im Rahmen von MICrONs beauftragt, die Gruppe unter Leitung von Tolias und Beteiligung von Bethge (NINAI) war eine davon.
Wie die IARPA nach Tübingen kam
Matthias Bethge hatte Physik in Göttingen studiert und war seit 2005 unter Bernhard Schölkopf am Max Planck Institut für biologische Kybernetik beschäftigt und erforschte damals bereits mit „psychophysikalischen“ Methoden das Sehen von Säugetieren. 2009 erhielt er zusätzlich einen Lehrstuhl für ‚Computational Neuroscience‘ am Institut für theoretische Physik der Universität Tübingen. 2010 wurde er Koordinator des damals gegründeten Tübinger Bernstein-Zentrums zur Erforschung der Sinneswahrnehmung, seit 2018 übernimmt er dieselbe Funktion beim Tübingen AI Center (TUEAI), einem von vier solchen Zentren bundesweit, die ebenso wie das Bernstein-Netzwerk vom BMBF (Bundesministerium für Bildung und Forschung) finanziert werden. Bethge selbst gibt auf seiner Homepage[13] eine Förderung durch die IARPA seit 2015 – also seit Beginn des MICrONs-Programms – an. Die Forschungsdatenbank der Universität Tübingen (FIT) nennt für die Zeiträume 2017-2019 (Phase 2) und 2019-2021 (Phase 3) die IARPA als Drittmittelgeber für Bethge.
Neben dem „Bethgelab“ gibt die Cyber-Valley-Forschungsgruppe „Neuronal Intelligence“ das IARPA-Programm MICrONs als Finanzierungsquelle an.[14] Bei diesen Forschungsgruppen handelt es sich – neben Stiftungsprofessuren – um den eigentlichen bzw. formalen Kern des Cyber Valleys. In jener Pressemitteilung aus dem Dezember 2016, die über die Unterzeichnung des entsprechenden Kooperationsvertrages zwischen Industrie, Landesregierung und Universitäten berichtete und damit die Öffentlichkeit über das Forschungsprogramm informierte, hieß es bereits: „In einem ersten Schritt werden neun und später weitere fünf Cyber Valley Forschungsgruppen eingerichtet, die durch das Land, die Kernpartner [aus der Industrie] sowie durch ein Konsortium baden-württembergischer Stiftungen finanziert werden“. Unter dem Titel „Cyber Valley zieht Forschungsgruppenleiter aus aller Welt an“ informierte das Cyber Valley dann im Mai 2018: „Das Cyber Valley wächst um zehn neue Forschungsgruppen, die an der Weltspitze der Forschung im Bereich künstliche Intelligenz stehen. Die Gruppen erhalten eine umfangreiche wissenschaftliche Ausstattung und werden von jungen Spitzenforschern geleitet, die in einem hoch selektiven Auswahlverfahren aus aller Welt rekrutiert wurden“.[15] Als einer dieser Forschungsgruppenleiter wurde Fabian Sinz vorgestellt: „Dr. Fabian Sinz wird ab Herbst die Gruppe ‚Neuronal Intelligence‘ an der Universität Tübingen leiten. Dort wird er sich mit neuronalen Schaltkreisen im Gehirn beschäftigen – den Bausteinen intelligenter Systeme. Ein zentrales Ziel seiner KI-Forschung ist es, intelligente Systeme zu entwickeln, die so vielseitig sowie lern- und leistungsfähig sind wie Säugetiergehirne“. Worin das „hoch selektive Auswahlverfahren“ bestand und ob es sich nicht eher um alte Seilschaften handelte, bleibt in der Presseerklärung offen. Allerdings verheimlicht sie nicht, dass Sinz „Bioinformatik und Philosophie in Tübingen studiert“ und anschließend bei Matthias Bethge seine Doktorarbeit am Max Planck Institut für biologische Kybernetik geschrieben und dort auch mit Bernhard Schölkopf zusammengearbeitet hat. Weiter heißt es in der Vorstellung des neuen Forschungsgruppenleiters: „Für seinen zweiten Postdoc wechselte er in das Labor von Andreas Tolias am Baylor College of Medicine (BCM) in Houston, wo er aktuell am visuellen System von Mäusen forscht und vor kurzem zum Research Assistant Professor befördert wurde“. Unmittelbar vor seiner Berufung als Forschungsgruppenleiter nach Tübingen war er also beim Leiter der IARPA-Forschungsgruppe NINAI im Rahmen des MICrONs-Programms tätig und forschte hier zum „visuellen System von Mäusen“, um das es auch bei MICrONs geht. Seine Forschungsgruppe gibt seit 2018 ebenfalls das IARPA-Programm als Finanzierungsquelle an – ebenso wie sein ehemaliger Doktorvater Bethge.
Man kann also mit großer Sicherheit davon ausgehen, dass führenden Figuren des Cyber Valley spätestens 2018 bekannt gewesen sein dürfte, dass mit Fabian Sinz und seiner Arbeitsgruppe auch weitere Teile der IARPA-Forschungsgruppe NINAI nach Tübingen kommen würden und zwar im Rahmen der Cyber-Valley-Struktur. Vor diesem Hintergrund erschient die öffentliche Kommunikation über das Cyber Valley, die sich scharf von militärischen Interessen, Überwachungstechnologien und dem US-amerikanischen Ansatz der Forschung abgrenzte, zumindest unaufrichtig.
MICrONs: Grundlagenforschung für wen und warum?
Nachdem die IARPA-Beteiligung am Cyber Valley zwei Jahre später öffentlich bekannt und u.a. durch das „Bündnis gegen das Cyber Valley“, das Tübinger Friedensplenum/Antikriegsbündnis und die Linke Gemeinderatsfraktion problematisiert wurde,[16] reagierten die Universität und die beteiligten Forscher*innen, wie zu erwarten war: „Beim MICrONS-Projekt ginge es […] nicht um geheimdienstliche Anwendung, sondern um ‚freie Grundlagenforschung’“, so Fabian Sinz gegenüber dem Reutlinger Generalanzeiger (GEA). „Die Ergebnisse von MICrONS sind aus unserer Sicht weder unmittelbar geheimdienstlich noch militärisch nutzbar“, wird im selben Beitrag die Uni zitiert. Diese habe „das Projekt vor Beginn der Förderung geprüft und als unbedenklich eingestuft“. Außerdem verweist Sinz darauf, „dass man bei dem Projekt nur ein Partner eines großen Forschungsverbundes sei. Den eigentlichen Zuschlag bekam nämlich das Baylor College of Medicine in Houston, Texas, das dieses Teilprojekt nach Tübingen weiterreichte“. Der Pressesprecher der Universität Tübingen Karl G. Rijkhoek wird gar mit der Aussage zitiert, „[n]ichts am Projekt MICrONS sei geheim und ’nichts davon ist von einem Geheimdienst nutzbar’“.[17] Das freilich ist in dieser Pauschalität eine gewagte These.
Der GEA beschreibt den Inhalt des Projektes MICrONs folgendermaßen: „Konkret gehe es darum, ‚das für das Sehen zuständige Hirnareal von Mäusen zu analysieren und Erkenntnisse auf technische Systeme zu übertragen, maßgeblich mit Methoden des Maschinellen Lernens‘, erläutert die Pressestelle der Universität Tübingen. Die grundlegende Frage hierbei ist, ‚warum wir mit unserem Sehsystem mühelos Dinge in komplexen Situationen erkennen und einordnen können, während rechnerbasierte Systeme daran immer noch regelmäßig scheitern’“. Ziel sei die „Hirnforschung für Maschinelle Intelligenz, um eine weniger künstliche Intelligenz zu konstruieren“, so lautet die kurze Beschreibung auf der Homepage der Forschungsgruppe NINAI.[18] Die IARPA fasst das Ziel des MICrONs-Programms prägnant mit einem „Reverse-Engeneering des Gehirns“ zusammen. Hierzu soll ein Quadrahtmillimeter des visuellen Kortex von Mäusen vermessen und quasi beim Denken bzw. „Erkennen“ beobachtet werden, um daraus Algorithmen für sog. Künstliche Neuronale Netze abzuleiten. Hiervon erhofft sich die IARPA eine „Revolutionierung des Maschinellen Lernens“.[19]
Worin diese bestehen soll, verdeutlicht ein Beitrag der Technology Review des MIT über das MICrONs-Programm. Ein beteiligter, David Cox aus Harvard, beschreibt darin die bisherigen Probleme des Maschinellen Lernens: Wenn man eine KI dazu bringen wolle, Hunde zu erkennen, müsse man ihr erst „tausende Dinge zeigen, die Hunde sind und tausende Dinge, die keine Hunde sind“. Seiner Tochter hingegen habe ein Hund gereicht, um seit dem Hunde von anderen Dingen unterscheiden zu können. Das meint auch die Forschungsgruppe NINAI mit ihrer Zielvorgabe, eine „weniger künstliche Intelligenz“ zu schaffen. Die IARPA hat hierfür recht konkrete Vorgaben nicht nur zum Umfang des zu untersuchenden Hirnareals gemacht, sondern auch zur zetlichen und räumlichen Auflösung, in der neuronale Aktivitäten aufgezeichnet werden sollen. Laut Technology Review ergeben sich daraus wohl etwa 100.000 Neuronen und ca. eine Milliarden. Synapsen, deren Tätigkeiten überwacht werden sollen – nach Vorstellung der IARPA mit vier Hertz, also sozusagen vier Aufnahmen pro Sekunde.
Die drei Forschungsgruppen, darunter NINAI mit wesentlicher Tübinger Beteiligung, die letztlich den Zuschlag von der IARPA erhielten, unterscheiden sich u.a. danach, welche neuronalen Aktivitäten sie dabei wie erfassen. Es werden fluoreszierende Proteine injiziert, mithilfe modifizierter Viren Neuronen individuell etikettiert[20] und/oder Mäusehirne in hauchdünne Scheiben zerschnitten und anschließend kartiert. Es ist davon auszugehen, dass die Mäuse zwischenzeitlich dazu gebracht werden, Kategorisierungsaufgaben zu erfüllen,[21] bevor sie getötet werden. Gemeinsam ist allen Ansätzen, dass riesige Datenmengen anfallen. Aus diesen sollen dann Algorithmen abgeleitet werden, nach denen das Gehirn vermeintlich arbeitet, um diese in Computersystemen zu modellieren. Ziel ist es, zu einer ähnlichen Leistung beim Erkennen und Kategorisieren von Gegenständen zu kommen, wie die untersuchten Säugetiere. Als konkrete Aufgabenstellung wurde dabei von der IARPA das „Scene Parsing“, also die Zerlegung komplexer Szenerien in einzelne Gegenstände und Vorgänge, ausgegeben – nicht nur, weil es dafür „zahlreiche Anwendungen in der Geheimdienstarbeit gibt“, sondern auch weil es sich um die „einfachste schwere Aufgabe“ handele, anhand derer sich der grundsätzliche Erfolg bewerten ließe.[22] Außerdem wurde ausgegeben, dass diese Modellierung neurologischer Vorgänge von der sensorischen Verarbeitung abstrahierbar sein und also auf alle möglichen Arten von Daten anwendbar sein sollte.
Big-Data-Verarbeitung und Prognose
Ziel ist letzten Endes ein „Quantensprung“ bei sog. ‚Künstlichen Neuronalen Netzen‘, die v.a. Prognosen ermöglichen sollen, die nicht nur „gelernte“ Ereignisse, sondern auch neue Formen derselben vorhersehen können. Das Branchenmagazin der rüstungsnahen IT-Industrie in den USA, „Signal“, nennt im Zusammenhang mit MICrONs und anderen IARPA-Programmen u.a. „politische Instabilität, militärische Mobilisierung, Epidemien und Cyberangriffe“.[23] Vonseiten der IARPA wird neben Cyberangriffen v.a. immer wieder die Prognose von Wirtschaftskrisen als Anwendung ins Spiel gebracht – wie gesagt aber stets im Zusammenhang mit der ‚National Security‘. Der Scientific American beispielsweise zitiert den (damaligen) MICrONs-Programmmanager Jacob Vogelstein, wonach die IARPA davon ausgehe, dass diese „substantielle Investition“ einen „transformativen Effekt auf die Intelligence Community“ haben werde.[24] Anderswo ist von einer „Revolutionierung“ die Rede. Das in der Tech-Szene beliebte Nachrichtenportal GeekWire meint nüchtern: „Man kann davon ausgehen, dass neue Programme zur Künstlichen Intelligenz, die durch MICrONs inspiriert werden, den Vereinigten Staaten einen Vorsprung dabei verschaffen, Daten zum Zwecke der Nationalen Sicherheit auszuwerten“.[25] Genau um diesen Vorsprung geht es ja auch in der entsprechenden Programmlinie (‚Computing‘) der IARPA. Er soll u.a. die Möglichkeiten bereitstellen, mit denen die Programmlinien ‚Analyse‘, ‚antizipierende Aufklärung‘ und ‚Collection‘ arbeiten.
Welche Herausforderungen die IARPA hier sieht, beschrieb Erich Mönchel bereits 2013, vor dem Beginn des aktuellen Programmzykluses, in einer Artikelserie für den ORF: „XKeyscore, das in Gebrauch befindliche Auswertungssytem [der NSA] für [ein] babylonisches Datensammelsurium ist seit mindestens sechs Jahren im operativen Betrieb […] zu dieser Zeit war Mark Zuckerberg noch auf dem College, von Sozialen Netzwerken war noch ebenso wenig die Rede wie von Smartphones, mobile Breitbandnetze befanden sich erst in der Phase des Roll-out“.[26] Als eine Reaktion auf die Zunahme an Menge und Vielfalt der Daten beschreibt Mönchel später das IARPA-Programm ‚CAUSE‘: „Die Forschungsabteilung IARPA hat Ende Jänner [2015] mit CAUSE das erste Programm gestartet, zu dem auch Teilnehmer zugelassen sind, die über keine Sicherheitsüberprüfung verfügen. Das ist umso erstaunlicher, weil es bei CAUSE um Methoden zur Analyse der gewaltigen Datenmengen geht, die von der NSA täglich abgezapft werden. Ziel des Programmes ist es, aus den Daten Voraussagen abzuleiten, wann und wo ein Terrorakt wahrscheinlich ist“.[27] Der Beitrag ist auch deshalb interessant, weil er veranschaulicht, warum die Geheimdienste über die IARPA gerne zivile Forschungseinrichtungen (und Unternehmen) einbinden und was sie sich davon erhoffen: „Da die IARPA ihre internen Sicherheitsvorschriften wesentlich flexibler handhaben kann, eröffnen sich hier wesentlich mehr Möglichkeiten, um qualifizierte Forscher aus dem Zivilbereich einzubinden. Das bestätigte auch die Forschungsdirektorin der NSA, Deborah Frincke, in der jüngsten Ausgebe der militärischen Fachzeitschrift ‚Signal Magazine‘ von Anfang März. Die Partnerschaft der NSA mit der IARPA sei ein ‚großartiges Beispiel dafür, wie wir uns deren Möglichkeiten zunutze machen können‘, sagte Frincke und nannte dabei die wesentlich breitere Basis der IARPA an Forschern und ihre Möglichkeit der Öffentlichkeitsarbeit als wesentliche Gründe“.
Henne oder Ei: die MPI-Connection
Das IARPA-Projekt NINAI gibt neben Bethge und Sinz noch weitere Beteiligte aus Tübingen an.[28] Darunter befindet sich Philipp Berens. Im Juli 2018 berichtet das Bernstein-Netzwerk über die Vergabe eines Lehrstuhls der Universität an Berens: „Die Universität Tübingen baut ihre Expertise im Bereich der Künstlichen Intelligenz weiter aus: Fünf neue Professuren wurden mit WissenschaftlerInnen besetzt, die im Bereich des Maschinellen Lernens forschen.“ Weiter heißt es dort: „’Wir freuen uns, dass wir diese exzellenten jungen Wissenschaftlerinnen und Wissenschaftler für die Universität Tübingen gewinnen konnten‘, sagt Professor Bernd Engler, Rektor der Universität Tübingen. ‚Die Vision des Cyber Valley bekommt damit ein Gesicht und sehr konkrete Aufgabenstellungen im Bereich des Maschinellen Lernens, die hier künftig bearbeitet werden’“. Auch die Wissenschaftsministerin des Landes, Theresia Bauer, gab sich erfreut über „[d]ie herausragenden Talente, die die Universität Tübingen nun gewinnen konnte“.[29] Auch Berens hatte jedoch bereits an der Uni Tübingen studiert war anschließend Doktorand am MPI für biologische Kybernetik in Tübingen und (unter Andreas Tolias, dem NINAI-Projektleiter) am Baylor College of Medicine in Houston bevor er als Post-Doc wieder nach Tübingen ins Labor von Matthias Bethge wechselte. Eine ganz ähnliche Biographie weist Alexander Ecker auf, der 2008 sein Informatik-Diplom in Tübingen gemacht hat, nachdem er bereits zuvor am MPI für biologische Kybernetik beschäftigt war. Anschließend wechselte er als Doktorand zu Tolias nach Houston, bevor er 2013 nach Tübingen zurückkehrte und wiederum am MPI für biologische Kybernetik tätig war. Auch er wird als Beteiligter an NINAI aufgeführt. Außerdem ist er Mitbegründer zweier Startups, Layer7AI und Deepart, an denen auch Matthias Bethge beteiligt ist. Beide Körperschaften wurden als „Related Startups“ auf der Homepage der IARPA-Arbeitsgruppe NINAI geführt, bis ein erster kritischer Artikel über die IARPA-Forschung in Tübingen erschien. Außerdem werden aus Tübingen als Beteiligte Jörn-Henrik Jacobsen, ehemaliger Mitarbeiter von Bethge, und Wieland Brendel, ebenfalls Mitbegründer von Layer7AI, genannt. Mittlerweile werden von NINAI nur noch zwei ‚Related Startups‘ angegeben, darunter Vathes LLC, ein von Andreas Tolias gegründetes Unternehmen, an dem mehrere seiner Mitarbeiter beteiligt sind, die wiederum als Mitglied bei NINAI genannt werden. Vathes bietet in Kooperation mit Amazon Web Services (AWS) Dienstleistungen für die Big-Data-Verwaltung an und erhielt eine Anschubfinanzierung durch die DARPA.[30]
Laut Scientific American ging die IARPA zur Verarbeitung der enormen Datenmengen, die im Rahmen von MICrONs anfallen, eine Partnerschaft mit Amazon ein. Auf der Website von Amazon Web Services stellt ein Wissenschaftler der Johns Hopkins University eine Datenbank mit dem Namen „The Boss“ vor, die im Rahmen des MICrONs-Projektes auf der Grundlage von AWS entwickelt wurde,[31] auf mehreren Konferenzen wurden das IARPA-Projekt und „Boss“ von Amazon-Mitarbeiter*innen vorgestellt und viele an MICrONs beteiligte Institute und Wissenschaftler erhalten zugleich eine Förderung von Amazon. Das gilt auch für die Cyber-Valley-Forschungsgruppe von Fabian Sinz. Neben der IARPA gibt sie den ‚AWS Machine Learning Research Award‘ als Finanzierungsquelle an. Dabei geht es laut Homepage ebenfalls um die Erstellung eines „sehr großen prädiktiven Modells des visuellen Cortex‘ von Mäusen“.[32] Zumindest auf den ersten Blick scheint es so, als würde die Forschungsförderung von Amazon und der IARPA gut zusammenpassen oder als sei sie gar aufeinander abgestimmt. Wenn aus MICrONs also tatsächlich ‚Künstliche Neuronale Netze‘ der nächsten Generation hervorgehen, spricht einiges dafür, dass diese auf Infrastruktur von Amazon implementiert werden. Da passt es einerseits gut, dass Amazon aktuell unmittelbar neben dem MPI für biologische Kybernetik ein Entwicklungszentrum für Maschinelles Lernen baut und andererseits, dass Amazon jetzt schon wichtigster Dienstleister für Cloud-Infrastrukturen der US-Geheimdienste ist.[33] Aktuell klagt Amazon überdies gegen die Vergabe der Joint Enterprise Defense Infrastructure (JEDI), eines Dienstleistungsvertrages zur Bereitstellung von Cloud-Diensten und KI-Anwendungen für das Pentagon im Wert von bis zu 10 Mrd. US$ an Microsoft. Jahrelang galt Amazon als Favorit bei dieser Ausschreibung – u.a. wegen seiner Erfahrungen bei der bisherigen, umfangreichen Zusammenarbeit mit den US-Geheimdiensten und den entsprechenden Zertifizierungen.
„Freie Grundlagenforschung“?
Gegenüber dem GEA bezeichnete Sinz seine Arbeit als „freie Grundlagenforschung“. Es sei nicht sein Interesse, „dem Geheimdienst zuzuarbeiten“.[34] Abgesehen davon, dass die IARPA u.a. beim ‚Proposers Day‘ klar auf den geheimdienstlichen Hintergrund ihrer Arbeit und die Interessen der ‚Intelligence Community‘, u.a. am ‚Scene Parsing‘, hinwies und das übergeordnete Interesse an der eigenen Überlegenheit bei Rechenkapazitäten zum Zwecke der ‚Nationalen Sicherheit‘ bis heute bei der Beschreibung der entsprechenden Programmlinie (‚Computing‘) offen benennt, scheint dies fragwürdig. Unabhängig von der konkreten Natur der Geldgeber ist überhaupt erstaunlich, dass bei Drittmitteln immer wieder unbedarft von „freier Forschung“ gesprochen wird, wo doch klar ist, dass über die Vergabe von Gelder durchaus beeinflusst wird, woran in welchem Umfang geforscht wird und woran nicht. Bei Drittmittelgebern wie der IARPA sollte durchaus die Frage erörtert werden, welche Absicht damit verfolgt und wie damit die Forschungslandschaft strukturiert wird.
Als Argument, warum es sich um „freie Grundlagenforschung“ handele, wird von der Uni und den beteiligten Wissenschaftlern immer wieder auf die Publikation der Ergebnisse verwiesen. So auch im Falle der IARPA-Forschung: „Das Projekt unterliege keiner irgendwie gearteten Geheimhaltung. Es würden also auch keine geheimen Erkenntnisse in die USA weitergeleitet. ‚Wir machen nichts, was ich nicht ins Internet stellen könnte‘, sagt Sinz. Ergebnisse des Projekts, das 2016 gestartet wurde und in diesem Jahr ausläuft, habe man immer frei zugänglich publiziert“.[35] Das mag durchaus zutreffen, allerdings wurde beim ‚Proposers Day‘ wie gesagt festgehalten, dass Publikationen im Rahmen des Projektes grundsätzlich vorher der IARPA vorzulegen sind. Auch die Erläuterungen zum IARPA-Projekt, welche die Forschungsgruppe von Sinz kürzlich auf ihrer Homepage hinzugefügt hat, lassen Zweifel aufkommen, ob sie tatsächlich völlig frei in ihrem Publikationsverhalten ist. Dort heißt es (aktuell): „Abgesehen von der Verpflichtung gegenüber dem von unserem Team eingereichten Förderungsantrag, können wir frei wählen (i) wie wir forschen und (ii) was, wann und wo wir unsere Forschung veröffentlichen“.[36] Allerdings ist es bei Projekten der IARPA und der DARPA durchaus gängige Praxis, relativ grundlegende Forschung zu finanzieren und über diese auch zu veröffentlichen. Für die konkreten Anwendungen – ob wirtschaftlicher, militärischer oder geheimdienstlicher Art – wird jedoch die Gründung von Startups durch die so motivierten Wissenschaftler*innen angeregt und unterstützt. Gerade die schnelle Kommerzialisierung von Grundlagenforschung durch Startups war auch von Anfang an ein Ziel und Teil der Kernidentität des Cyber Valley.
Tatsächlich aber finden sich viele Publikationen aus den Reihen des Sinzlab, oft gemeinsam mit Mitarbeiter*innen der Gruppe um Tolias in Houston. Wie bei wissenschaftlichen Arbeiten üblich, werden hierbei auch die Finanzierungsquellen angegeben. Soweit dort die IARPA genannt wird, wird hier jedoch stets folgende Einschränkung des Urheberrechtes genannt: „Die US-Regierung ist ungeachtet jeder weiteren Angabe zum Copyright autorisiert, zu Regierungszwecken Nachdrucke anzufertigen und zu verteilen“.
Ein Beispiel hierfür ist ein Konferenzbeitrag für die Konferenz NeurIPS 2019, an dem viele der hier Genannten, darunter Sinz, Bethge, Tolias, Reimer und Ecker, beteiligt waren.[37] Die Zahl der genannten Finanzierungsquellen ist beeindruckend, darunter die BMBF-Projekte Bernstein-Zentrum und Tübingen AI Center, der Sonderforschungsbereich 1233 („Robustheit des Sehens“) und der Exzellenzcluster „Maschinelles Lernen: Neue Perspektiven für die Wissenschaft“. Alleine diese unvollständige Liste und die zahlreichen Professuren, die im Bereich der ‚Computational Neuroscience“ in der letzten Zeit geschaffen wurden, zeigt, dass die öffentliche Hand auch in Deutschland jenen Forschungsbereich ausgiebig finanziert, für den jene Clique steht, die sich im ersten Jahrzehnt des neuen Jahrtausends am MPI für biologische Kybernetik gefunden hat und den Aufbau des Cyber Valley wesentlich vorantreibt. Das wirft allerdings die Frage auf, warum man zusätzlich die Finanzierung der US-Geheimdienste in Anspruch nimmt. Berührungsängste scheinen jedenfalls wenig zu bestehen. Dass die IARPA-Finanzierung während der Auseinandersetzungen um das Cyber Valley und die Ansiedelung von Amazon weder von den (auch peripher) Beteiligten, noch dem sog. „Ethikrat“ je problematisiert wurde, spricht dafür, dass dies für weite Teile des Cyber Valley insgesamt gilt und das Versprechen von „unseren Werten“, die in die Forschung einfließen sollen, wenig mehr als Gerede war. Der GEA jedenfalls kommt in seinem ausgewogen argumentierenden Artikel zu dem Schluss, dass sich die Absichten der IARPA „nicht mit den in Tübingen immer wieder betonten Vorstellungen eines dritten Wegs bei der Erforschung der künstlichen Intelligenz zwischen dem Überwachungsstaat China und den privatwirtschaftlich und geheimdienstlich genutzten Programmen zur Personenausforschung der USA vertragen“.[38]
Anmerkungen
[1] Radina Gigova: Who Vladimir Putin thinks will rule the world, cnn.com vom 2.9.2017.
[2] Katrin Suder: ‚Es geht um den Kern von Sicherheit‘ – Die frühere Staatssekretärin Katrin Suder über Künstliche Intelligenz, in: Internationale Politik 4, Juli-August 2018, S. 14 – 19.
[3] Christoph Marischka: KI und Geopolitik. Die unheilige Allianz von Risikokapital, Wissenschaft und Politik, IMI-Analyse 2020/14 – in: AUSDRUCK (März 2020).
[4] Christoph Marischka: Das Cyber Valley in Tübingen und die Transformation zum Rüstungsstandort, IMI-Analyse 2018/18.
[5] Dokumentiert unter Fußnote 4.
[6] Gernot Stegert: Cyber-Valley-Initiative in Tübingen weist Vorwürfe der Militarisierung und des Ausverkaufs zurück, Schwäbisches Tagblatt vom 18.07.2018.
[7] „Häufig gestellte Fragen zum Cyber Valley“, uni-tuebingen.de.
[8] Christoph Marischka: Gefahr eines militärisch-forschungsindustriellen Komplexes. Gegen die Verflechtung der Universität mit der rüstungsnahen Industrie im Zuge des Cyber Valley, IMI-Standpunkt 2018/041.
[9] „Gegen die Kontrollgesellschaft“, nocybervalley.de vom 06.07.2018.
[10] „About IARPA“, iarpa.gov.
[11] Ebd.
[12] IARPA (Office of Safe and Secure Operations): Machine Intelligence from Cortical Networks (MICrONS) Proposers’ Day Conference, iarpa.gov.
[13] http://bethgelab.org/home/funding/.
[14] https://sinzlab.org/funding.html.
[15] „Cyber Valley zieht Forschungsgruppenleiter aus aller Welt an“, cyber-valley.de vom 25.5.2018.
[16] Christoph Marischka: Cyber Valley – Forschungsgruppe von US-Geheimdiensten finanziert, IMI-Standpunkt 2020/014.
[17] Arnfried Lenschow: Mit dem Geld des Geheimdienstes, Reutlinger Generalanzeiger vom 9.5.2020.
[18] Ninai.org.
[19] „Machine Intelligence from Cortical Networks (MICrONS)“, iarpa.gov.
[20] Vgl. Johann Grolle: Der Mann, der Gedanken lesen kann, spiegel.de vom 18.1.2018.
[21] Hierzu finden sich Informationen auf der Homepage des slowenischen Unternehmens ‚Visible‘, welches hierfür als Dienstleister die virtuelle Umgebung bereitstellt.
[22] IARPA (Office of Safe and Secure Operations), a.a.O., Folie 43.
[23] Robert K. Ackerman: Seeing Is Believing For Artificial Intelligence, www.afcea.org vom 1.9.2017.
[24] Jordana Cepelewicz: The U.S. Government Launches a $100-Million ‚Apollo Project of the Brain‘, scientificamerican.com vom 8.3.2016.
[25] Alan Boyle: Allen Institute joins in IARPA’s massive MICrONS project to create a tiny bit of virtual brain tissue, geekwire.com vom 10.3.2016.
[26] Erich Möchel: Die neuen Überwachungsprogramme der NSA, fm4v3.orf.at vom 24.20.2013.
[27] Erich Möchel: US-Geheimdienstkomplex wird umgekrempelt, fm4v3.orf.at vom 15.3.2015.
[28] Ninai.org.
[29] „Neue Expertise zur Künstlichen Intelligenz“, bernstein-network.de.
[30] „DataJoint Neuro is run by Vathes LLC based in Houston, Texas. Vathes LLC spun off from the Lab of Andreas Tolias at Baylor College of Medicine in 2017 after receiving initial SBIR funding from DARPA“, siehe: „About“, datajointneuro.io.
[31] AWS Public Sector Blog Team: The Boss – A Petascale Database for Large-Scale Neuroscience Powered by Serverless Technologies, aws.amazon.com vom 22.8.2017.
[32] Sinzlab.org.
[33] Arkadi Schelling: Künstliche Intelligenz als Cloud Service. Folgen für Gesellschaft, Geheimdienst und Militär, IMI-Analyse 2019/16.
[34] Arnfried Lenschow, a.a.O.
[35]Ebd.
[36] https://sinzlab.org/funding.html.
[37] Santiago A. Cadena u.A.: How well do deep neural networks trained on object recognition characterize the mouse visual system?, In NeuroAI Workshop NeurIPS 2019.
[38] Arnfried Lenschow, a.a.O.
Veröffentlichung am 15, Mai 2020 auf Informationsstelle Militarisierung (IMI)