Überwachung hat immer mit Projektionen zu tun: mit Erwartungen, Imaginationen und Ressentiments. Von bewusstem oder unterbewusstem Bias geprägt, werden Bilder gezeichnet, Taten suggeriert und letztendlich Geschichten geschrieben. Der Überwacher fungiert dabei als Autor, Regisseur, Dramaturg oder Szenograf. Die Arbeit M. D. trinkt abends gerne ein Bier ist eine fiktionale Geschichte, welche auf einer Sammlung von Überwachungsprotokollen basiert. Assistiert von einer Storytelling-AI wird ein Text geschrieben, welcher den Staatsschützer (und nicht den Bespitzelten) ins Rampenlicht stellt und dabei das kreative und suggestive Potenzial des Überwachens untersucht.
Die Fiche der Nationalrätin Menga Danuser. (Schweizerisches Bundesarchiv, E4320-01C#1996/203#115*)
Mit dem Mauerfall in Berlin geht der Kalte Krieg zu Ende. Die angeblichen «Feinde der Schweiz» lösen sich in Luft auf. Und damit werden die «Fichen», das analoge Aufschreibesystem des schweizerischen Überwachungsstaats, hinfällig. Hunderttausende von Karteikarten verlieren ihren bürokratischen Verwendungszweck als Verweissystem auf Überwachungsdokumente. Sie waren Folge eines gegen innen geführten Kalten Krieges und verschriftlichtes Erbe antikommunistischer Diskurse und Beobachtungspraxis. Sie legen Zeugnis über eine verzerrte und imaginierte Sicht auf vermeintliche Staatsfeinde ab. Ende der 1980er-Jahre wird die jahrzehntelange Überwachungspraxis öffentlich bekannt, und eine hoch emotionalisierte und intensiv geführte politische Debatte erschüttert das helvetische Selbstverständnis einer freien und rechtsstaatlichen Demokratie. Hunderttausende Bürgerinnen und Bürger verlangen Einsicht in ihre Staatsschutzakten. Sie lesen, wie in der Person des staatlichen Überwachers eine «heimliche Autorinstanz» an ihrer Biografie mitschrieb.
Mit der Fichen-Affäre ist auch die implizite Hoffnung verbunden, dass der subjektiven Beliebigkeit und Voreingenommenheit des Überwachers, von der viele der Akten zeugen, ein Ende gesetzt wird. Und die zeitgleich aufkommende Digitalisierung verspricht zudem eine numerisch messbare Objektivität und eine Genauigkeit, wie sie nie zuvor möglich war. Stattdessen zeigt sich, dass sich das Problem lediglich von einer individuellen auf eine strukturelle Ebene verlagert. Denn grundlegende ethische Fragen nach dem Bias (Vorurteile, kognitive Verzerrungen) der Überwacher sind mit der Digitalisierung staatlicher und privater Überwachungstools nicht etwa aufgehoben, sondern wurden und werden aufgrund der Skalierungsmöglichkeiten von Datasets zunehmend drängender.
Studien zeigen, dass etwa Gesichtserkennungssoftware Verzerrungen in Bezug auf Rasse, Alter und Geschlecht aufweist. Damit hängt direkt die Frage zusammen, wer KI programmiert und welche Datensätze dafür verwendet werden. Global gesehen liegt etwa der Anteil der Frauen an den Software-Entwicklerinnen und -Entwicklern bei gerade mal zehn Prozent, und nur drei Prozent der Mitarbeiterinnen und Mitarbeiter der grössten Tech-Unternehmen in den USA identifizieren sich als schwarz. Im vergangenen November unterzeichnen die Unesco-Mitgliedsstaaten die «Empfehlung zur Ethik der künstlichen Intelligenz», die in vielleicht noch nie dagewesener Dringlichkeit die überstaatliche Forderung stellt, künstliche Intelligenz in den Dienst der Menschen zu stellen. Es sollen wirksame Rechtsmittel gegen Diskriminierung durch voreingenommene algorithmische Entscheidungen sowie gegen KI-gesteuerte Massenüberwachung ergriffen werden.
Die Arbeit M. D. trinkt abends gerne ein Bier besteht aus einer Reihe fiktionaler Kurzgeschichten, welche auf einer Sammlung von realen Überwachungsprotokollen basiert. Im Fokus stehen dabei die kreativen und theatralen Aspekte des Überwachens: Darstellerinnen und Darsteller, Settings, Requisiten und Drehbücher. Mithilfe einer auf Artificial Intelligence beruhenden Storytelling-Software entstanden daraus erweiterte Kurzgeschichten. Der subjektive Blick der Schweizer Überwacher der 1970er- und 1980er-Jahre setzt sich dabei in den Erzählvorschlägen (und damit dem inhärenten Bias) der verwendeten Software fort.
David Gugerli, Hannes Mangold: Einleitung, in: Max Frisch: Ignoranz als Staatsschutz? hrsg. von David Gugerli und Hannes Mangold, Berlin 2015, S. 7-26, hier S. 13.
Gregor Huber, Neue Medien, ZHdK
Lukas Nyffenegger, Historisches Seminar, UZH
Ivan Sterzinger, Psychologisches Institut, UZH