Anne Scherer

Mein Metabot und ich

Digitale Assistenten können uns im Alltag unterstützen und uns allerlei Arbeiten abnehmen. Das macht sie für Unternehmen interessant, die uns als Kunden gewinnen wollen. Werden wir bald von KI gesteuert?

Von Michael T. Ganz

Guten Morgen, du hast unruhig geschlafen, deine Herzfrequenz war höher als sonst. Du wirst heute um zwei Uhr nachmittags müde werden, und um halb drei ist die Sitzung mit der Projektgruppe. Ich empfehle dir, mittags eine Tablette gegen Eisenmangel einzunehmen. Ich spiele dir jetzt die Playlist «Groove», damit du fit wirst. Wasser habe ich dir schon heiss gemacht. Nimm Schwarztee und lass ihn nicht länger als zwei Minuten ziehen, so macht er wach. Das Wetter heute ist bedeckt, aber trocken bei maximal 18 Grad. Der Kühlschrank meldet mir, dass deine Milch zu Ende geht – soll ich gleich wieder zwei Liter bestellen?
Die Stimme aus dem Smart Speaker gehört meinem Metabot. Er ist mein ganz persönlicher Assistent und verfügt über unzählige Daten, die ich dem Internet anvertraut habe. Er ist Siri, Alexa und Hey Google in einem. Er ist mein Terminplaner, Fitnesstrainer und Entertainer, kommuniziert mit meinen Küchen- und Mediageräten, gibt mir Ratschläge und erledigt für mich langweilige Routineaufgaben. Und er lernt mich dabei immer besser kennen. Vielleicht kennt er mich bereits besser als ich mich selbst.
Als Kunde im weltweiten Markt bin ich deshalb gar nicht mehr so spannend. Viele Anbieter interessieren sich weit mehr für meinen Metabot. Ihn müssen sie für sich gewinnen, ihm – oder besser gesagt seiner KI – müssen sie ihre Produkte anpreisen. Und dafür sorgen, dass ihr Name bei ihm möglichst gut gelistet ist. «Unternehmen antizipieren diese Entwicklung und stellen ihr Marketing schon heute auf Metabots ein», sagt Anne Scherer, Assistenzprofessorin für Quantitatives Marketing am Institut für Betriebswirtschaft.

Wenn-er-das-fragt-sag-ich-das

In den USA, so schätzt Scherer, dürften Metabots und mit ihnen der Paradigmenwechsel im Marketing in rund 15 Jahren Realität sein. In der Schweiz geht es wohl noch etwas länger. Mit Chatbots wie Siri und Google Assistant sind wir jedenfalls schon dahin unterwegs. Die Handlungs- und Sprachkompetenz vieler Chatbots basiert zurzeit allerdings noch auf relativ einfachen Dialogbäumen – wenn-er-das-fragt-sag-ich-das. Die Metabots der Zukunft werden aber auch Kontexte verstehen, und zwar unabhängig von plattformgebundenen Themenbereichen wie Musik oder Einkauf.
Das Problem dabei: Metabots häufen persönliche Daten an, und dies nicht immer im Sinne des Kunden. Damit besteht die Gefahr, dass sie den Unternehmen mehr Marktmacht geben, als dem Kunden lieb ist. So ist mittlerweile empirisch belegt, dass Amazons Chatbot Alexa seinen Usern bevorzugt Amazon-Basic-Produkte empfiehlt. Ein deutscher Autohersteller arbeitet an einem ähnlichen Prinzip: Der Bordcomputer seiner hochpreisigen Fahrzeuge soll bei Problemen nicht die nächstgelegene, sondern jene nahegelegene Werkstätte empfehlen, die der Autohersteller bestimmt.
Können wir KI also vertrauen? «Im Grunde genommen müssten wir jedes Mal die allgemeinen Geschäftsbedingungen lesen, bevor wir eine App benutzen», sagt Anne Scherer. Der durchschnittliche Internet-User bräuchte allerdings 76 Arbeitstage pro Jahr, um die AGB all seiner genutzten Dienste zu durchkämmen. «Mit dem Kleingedruckten machen es sich die Unternehmen allerdings sehr einfach», kritisiert Scherer. «Sie sollten die Verantwortung nicht auf den Kunden abwälzen, sondern sie proaktiver übernehmen, etwa durch bessere Transparenz und Kontrolle für den User.»
Weil Unternehmen dies nicht tun, braucht die Nutzung von KI Regeln. Genau dies ist Scherers Spezialgebiet. Für eine interdisziplinäre TA-Swiss-Studie, die die Chancen und Risiken von KI-Technologie auslotet, hat Anne Scherer das Kapitel zu KI und Konsum verfasst (siehe Seite 45). Denn KI – und mithin auch der digitale Markt – ist für Laien undurchsichtig, eine Black Box. Internet-User sind sich kaum bewusst, was sie mit ihren Daten preisgeben. Warum soll mein Facebook-Post so wichtig sein? Wen soll mein «Star Wars»-Like schon interessieren?
Doch: KI merkt sich alles und lernt im Hintergrund. Die Algorithmen sind darauf trainiert, Daten zu vergleichen und daraus Schlüsse zu ziehen. Je mehr Daten sie hat, desto klüger wird die Maschine. Und kluge Maschinen können gefährlich werden; das hat uns Stanley Kubrick schon vor einem halben Jahrhundert mit «2001: A Space Odyssey» vorgeführt. Dennoch fände es Anne Scherer schade, die Technologie als solche zu regulieren, sie dadurch allenfalls auszubremsen. «Ein eigentliches KI-Gesetz wäre falsch. Die Regulierung muss vielmehr beim Konsumenten- und Datenschutz ansetzen, allem voran im Graubereich algorithmisch hergeleiteter Einsichten, etwa zu Gemütszustand und Sexualität.»

Macht uns KI dümmer?

Denn bereits lösen dynamische Persönlichkeitprofile die herkömmlichen statischen Profile ab. Ein paar hundert Likes auf Facebook oder ein Profilbild genügen der Maschine, um mit erstaunlich hoher Genauigkeit private Eigenschaften des Users, der Userin zu errechnen und nutzbar zu machen. Selbstlernende KI erlaubt es den Unternehmen also, auf lange Sicht das aktuelle Empfinden ihrer Kunden einzuschätzen und damit das vielzitierte Kundenerlebnis dem tatsächlichen Bedürfnis voranzustellen. 
Wo führt das hin? Wird das Leben dank Metabots und KI tatsächlich einfacher? Anne Scherer nickt. Für den Anbieter beschleunige sich der Prozess von Produktentwicklung und Verkauf, mit den Nutzerdaten erhalte er Rückmeldung zur Produktqualität, und das Feedback ersetze gleich auch die teure Marktforschung. Dem Konsumenten, der Konsumentin auf der anderen Seite helfe KI, sich in der digitalen Informations- und Angebotsflut zurechtzufinden und personalisierte Entscheidungen zu treffen. «KI kann mich animieren, aktivieren, weiterbringen, meine Aufmerksamkeit lenken und einen Fokus setzen. Aber», sagt Scherer, «KI ist gar nicht so intelligent, wie viele meinen, denn sie ist auf Mustererkennung trainiert. Intuition, Abstraktion und Fantasie sind und bleiben menschliche Stärken – vorderhand zumindest.»
Die Frage ist in der Tat, ob sich menschliche Stärken nicht verändern, wenn KI Teil unseres Alltags wird und Metabots uns sagen, wie lange Schwarztee zu ziehen hat. Bereits spricht man von «Memory Outsourcing», der Auslagerung des Gedächtnisses. Weil Informationen jeder Art – vom lokalen Busfahrplan bis zur Weltgeschichte – stets online abrufbar sind, speichern wir Informationen nicht mehr im Hirn ab. Wird die Menschheit dadurch dümmer? Nicht zwingend. Denn auf diese Weise schaffen wir Kapazitäten für andere, vielleicht kreativere Dinge. Was Mitte des 15. Jahrhunderts geschah, war auch ­«Memory Outsourcing»: Damals löste der Buchdruck die mündliche Überlieferung ab. Und es hat der Welt beileibe nicht geschadet.

Michael T. Ganz ist freier Journalist.