Siri, Chatbot, Sprachagent: Ihr seid Idioten (und uns gefällt's)

Daraufhin mein iPhone: "Das habe ich leider nicht verstanden." Die kleine Maus, den Blick nun auf ihren neuen Gesprächspartner gerichtet, wiederholt in fragender Intonation: "dadadada?" Woraufhin mein zuvorkommendes Telefon anbietet, im Netz Informationen zur Kunstrichtung "Dada" einzuholen.

So viel zur ersten – durchaus dadaistischen – Interaktion zwischen meiner Tochter und Siri, der virtuellen Sprachassistentin des Hauses Apple. Die Erwachsenen fanden’s jedenfalls komisch. Und so starteten wir eine Runde Siri-Sekkiererei. Zuerst erwies sich die Telefonassistentin (sprich: die dahinterstehenden Programmierer) als gerissen. Auf unsere Frage hin, wie viel null dividiert durch null ausmache, kam sie mit einer Allegorie von null Keksen und null Freunden daher und verwies auf die Sinnlosigkeit der Aufgabe. Als ich später aber einfach nur die Anwendung "WhatsApp" via Sprachbefehl öffnen wollte, verstand Siri stattdessen "Rotz@" und schlug vor, in mein E-Mail-Programm zu wechseln.

Das Leben ist eben auch für Sprachagenten voller Missverständnisse. Oft führen diese zu Erheiterung – manchmal aber auch zu perfidem Stumpfsinn. Ein aktuelles Beispiel für Letzteres ist Microsofts Plauder-Software "Tay", die vergangenen Mittwoch online ging. Sie sollte mit Nutzern des sozialen Netzwerks Twitter ins Gespräch kommen und automatisch aus deren Nachrichten lernen, um dadurch einen möglichst menschlich wirkenden Konversationspartner zu simulieren. Doch bereits nach ein paar Stunden hatten Twitter-User Schwachstellen im Algorithmus ausgemacht. Sie begannen, den Chatbot auszutricksen und brachten Tay dazu, schockierend rassistische Entgleisungen im Netz zu veröffentlichen. Erinnert hat mich das an ein Video, das letztes Jahr im Netz kursierte. Darin sah man Kinder, die einen Serviceroboter in einem japanischen Einkaufszentrum drangsalierten. Sie verstellten ihm den Weg, lachten über seine ungeschickten Ausweichversuche und beschimpften ihn als Idioten. Eine Szenerie, die zwar einen ungleich weniger drastischen Ausgang nahm als die Causa Tay, die aber gut vermittelt, wie Menschen sich an ihrer Überlegenheit über Maschinen erfreuen. Manchmal macht es eben wirklich Spaß, einen nicht ganz ausgereiften Sprachassistenten aufs Glatteis zu führen. Damit lässt sich gut herausfinden, wie viel Cleverness man dem Computer noch voraushat. Und es beruhigt: Denn solange ein bisserl oberösterreichischer Akzent reicht, um Siri zu verwirren, ist die Weltherrschaft der Maschinen auf morgen verschoben.

Martina Mara ist Medienpsychologin und forscht am Ars Electronica Futurelab zu Mensch-Roboter-Beziehungen.