Kolumne: Maschinen, die auf Kröten starren…

Wer die Manipulationsanfälligkeit selbstlernender Systeme nachweisen möchte, der baut wie Forscher vom MIT mit einem 3D-Drucker und ein bisschen Farbe eine Plastikschildkröte. Ein von Google-Forschern entwickeltes System zur Objekterkennung hatte die Schildkröte eindeutig als Gewehr klassifiziert. Auch gelang es, ein Bild eines Gewehrs als Abbild eines Hubschraubers erkannt werden zu lassen. Das, so die Forscher, ließe sich beliebig fortführen. Beängstigend ist dabei, dass Original und manipuliertes Bild, so wie wir es mit unserem Auge wahrnehmen, identisch sind.

Es erinnert an eine Erzählung von Peter Bichsel, in der ein alter Mann eines Tages beschließt, sämtliche Gegenstände in seiner Wohnung umzubenennen. Zum Bett sagt er Bild. Zum Tisch Teppich. Zum Stuhl Wecker. In der Erzählung von Bichsel beeinflusst das nur den Alltag des Mannes. In der Erzählung von Google können solche Verwechslungen weitreichendere Konsequenzen haben. Es braucht nicht viel Fantasie, um sich vorzustellen, dass ein Gewehr, das als Hubschrauber erkannt wird, einen größeren Schaden hervorrufen kann, als ein Tisch, der mal eben zum Teppich mutiert ist. Insbesondere, wenn man in Betracht zieht, dass der Einfluss künstlich intelligenter Systeme auf unseren Alltag immer größer wird.

Die diesjährige Fachmesse für Unterhaltungselektronik CES hat dies bestätigt. Künstliche Intelligenz war das alles überlagernde Thema. Dass die Weiterentwicklung maschinellen Lernens im wesentlichen von einigen wenigen privaten Technologie-Konzernen vorangetrieben wird, ist mehr als nur bedenklich. Deren Interessen sind ähnlich wie die eines jeden anderen Erzählers: uns für ihre Geschichte zu gewinnen. Sie verfügen dabei allerdings über deutlich subtilere Erzähltechniken. Anfang und Ende sind nicht mehr zu erkennen. Wohin es führt, wenn die Erzählungen von selbstlernenden Systemen weitergeschrieben werden, zeigt sich am Beispiel der Forscher vom MIT. Bin ich dem Erzähler erst einmal auf den Leim gegangen, werde ich unweigerlich auch drin stecken bleiben. Selbst dann, wenn von Anfang an der Wurm beziehungsweise die Kröte drin steckt. Es sei denn, es geschieht das, was auf der CES geschah – und was als das eigentliche Highlight der Messe in Erinnerung bleiben wird: der totale Stromausfall. Der alle Besucher in die analoge Steinzeit zurückversetzte, sie zur Taschenlampe greifen ließ und vielleicht vor dem bewahrte, was dem alten Mann in der Erzählung widerfährt: Er schwieg, sprach nur noch mit sich selbst, grüßte nicht einmal mehr.