Wenn der Sprachassistent zum Gesprächspartner wird

Die meisten Gespräche mit Sprachassistenten waren lange kurz und funktional: Licht an, Wecker auf sieben, wie wird das Wetter. Mit großen Sprachmodellen ändert sich das. Assistenten können frei formulieren, auf Nachfragen eingehen, Tonfall und Kontext berücksichtigen. Einige sprechen mit Stimmen, die Pausen, Lachen und Betonung nachahmen. Damit rückt eine Frage in den Alltag, die die Forschung seit Jahrzehnten beschäftigt: Wie reagieren Menschen, wenn eine Maschine sich wie ein Gegenüber verhält?

Ein Experiment aus dem Jahr 1966

Der Informatiker Joseph Weizenbaum veröffentlichte 1966 ein Programm namens ELIZA. Es führte Unterhaltungen in Textform, indem es Schlüsselwörter erkannte und Aussagen nach einfachen Regeln umformulierte. Das bekannteste Skript ahmte eine Gesprächstherapeutin nach, die Aussagen zurückspiegelt: Wer schrieb, er sei unglücklich, bekam die Frage zurück, warum er unglücklich sei.

Technisch war ELIZA simpel. Die Wirkung war es nicht. Weizenbaum berichtete später in seinem Buch "Computer Power and Human Reason" (1976, deutsch "Die Macht der Computer und die Ohnmacht der Vernunft"), dass Menschen dem Programm persönliche Dinge anvertrauten, obwohl sie wussten, dass es eine Maschine war. Diese Neigung, einem System mehr Verständnis zuzuschreiben, als es besitzt, wird seither als ELIZA-Effekt bezeichnet. Weizenbaum selbst wurde zu einem der bekanntesten Kritiker eines unreflektierten Computereinsatzes.

Menschen behandeln Medien sozial

In den 1990er-Jahren zeigten die Kommunikationsforscher Byron Reeves und Clifford Nass in einer Reihe von Experimenten, dass Menschen Computern gegenüber Höflichkeitsregeln einhalten, auf Schmeicheleien reagieren und Geschlechterstereotype auf Computerstimmen übertragen. Ihr Buch "The Media Equation" (1996) fasst das in der These zusammen, dass Menschen Medien automatisch sozial behandeln, auch wenn sie es besser wissen. Dieser Ansatz, im Englischen unter dem Kürzel CASA (Computers Are Social Actors) bekannt, wurde seitdem vielfach aufgegriffen und weiter differenziert.

Für Sprachassistenten ist das relevant, weil Stimme ein besonders starkes soziales Signal ist. Eine Stimme hat Alter, Geschlecht, Stimmung. Sie ist im Raum präsent, nicht auf einem Bildschirm. Untersuchungen zu Kindern und Sprachassistenten haben zum Beispiel diskutiert, ob Kinder Höflichkeit lernen, wenn ein Gerät auch ohne "bitte" gehorcht. Einige Anbieter haben darauf mit optionalen Modi reagiert, die höfliche Formulierungen loben.

Die Maschine muss nichts fühlen, damit sich das Gespräch für den Menschen echt anfühlt. Genau darin liegt Nutzen und Risiko zugleich.

Was sich mit Sprachmodellen ändert

ELIZA konnte keinen Gesprächsfaden halten. Heutige Modelle können das, und sie können sich, wenn der Anbieter das vorsieht, über Gespräche hinweg erinnern. Damit verschieben sich drei Dinge:

• Kontinuität: Ein Assistent, der weiß, dass gestern ein Vorstellungsgespräch war, kann heute fragen, wie es lief. Das wirkt aufmerksam.
• Persönlichkeit: Anbieter gestalten Tonfall und Charakter ihrer Assistenten bewusst, von sachlich bis verspielt.
• Verfügbarkeit: Der Assistent ist immer da, wird nie ungeduldig und hat keine eigenen Bedürfnisse.

Für viele Menschen ist das schlicht angenehm: Sie lassen sich Rezepte erklären, üben eine Fremdsprache oder sortieren laut ihre Gedanken. Für manche wird der Assistent zu einem regelmäßigen Gesprächspartner, mit dem sie auch über Persönliches sprechen. Spezialisierte Anwendungen, sogenannte KI-Begleiter, sind genau darauf ausgelegt. Was die Forschung über Bindung und Einsamkeit in diesem Zusammenhang weiß, fasst der Beitrag KI-Begleiter: was die Forschung sagt zusammen.

Transparenz ist Pflicht

Die europäische KI-Verordnung, Verordnung (EU) 2024/1689, enthält in Artikel 50 Transparenzpflichten. Anbieter müssen KI-Systeme, die mit Menschen interagieren, so gestalten, dass die Betroffenen informiert werden, dass sie mit einer KI sprechen, sofern das nicht aus den Umständen offensichtlich ist. Künstlich erzeugte Audio-, Bild- und Videoinhalte müssen maschinenlesbar gekennzeichnet werden. Diese Pflichten gelten seit dem 2. August 2026.

Daneben verbietet Artikel 5 bereits seit Februar 2025 KI-Systeme, die mit manipulativen oder unterschwelligen Techniken arbeiten oder Schwächen bestimmter Gruppen ausnutzen und dadurch erheblichen Schaden verursachen können. Wo genau die Grenze zwischen einer freundlichen Gesprächsgestaltung und unzulässiger Beeinflussung verläuft, werden Aufsichtsbehörden und Gerichte erst noch konkretisieren.

Gestaltungsfragen für den Alltag

Dass Menschen mit Maschinen sprechen, als wären es Personen, ist kein Fehler der Nutzer, sondern eine gut belegte Eigenschaft menschlicher Wahrnehmung. Umso mehr kommt es darauf an, wie Anbieter damit umgehen. Eine Übersicht über Chancen und Risiken gibt der Beitrag KI-Begleiter im Alltag.

Quellen

• Weizenbaum, J. (1966): ELIZA, a computer program for the study of natural language communication between man and machine. Communications of the ACM 9(1), 36 bis 45. doi:10.1145/365153.365168.
• Weizenbaum, J. (1976): Computer Power and Human Reason. W. H. Freeman.
• Reeves, B.; Nass, C. (1996): The Media Equation. Cambridge University Press.
• Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 5 und Art. 50, EUR-Lex.