KI-Begleiter im Alltag: Chancen, Risiken und Regeln

Gesprächsfähige KI ist im Alltag angekommen, nicht nur in speziellen Begleit-Apps, sondern auch in Assistenten auf Smartphones, Lautsprechern und im Auto. Viele Menschen nutzen sie gelegentlich für persönliche Gespräche, manche regelmäßig. Dieser Beitrag sortiert, welche Chancen gut begründet sind, welche Risiken dokumentiert wurden und welche Regeln greifen. Er stützt sich auf die Studien, die im Beitrag zum Forschungsstand ausführlicher beschrieben sind.

Chancen

Niedrigschwelliger Gesprächsraum

Ein Chatbot ist rund um die Uhr erreichbar und urteilt nicht. Für Menschen, denen es schwerfällt, Gedanken zu ordnen oder Gefühle auszusprechen, kann das ein erster Schritt sein. Experimente haben gezeigt, dass Gespräche mit einer KI das Einsamkeitsgefühl kurzfristig senken können, vor allem wenn sich die Nutzer gehört fühlen.

Üben ohne Risiko

Ein Bewerbungsgespräch durchspielen, eine schwierige Unterhaltung vorbereiten, eine Fremdsprache sprechen: Hier ist die KI ein Trainingspartner, kein Ersatz für Menschen. Dieser Einsatz ist vergleichsweise unproblematisch, weil das Ziel außerhalb des Gesprächs mit der Maschine liegt.

Unterstützung im Alter

In der Pflege werden seit Jahren soziale Roboter erprobt, etwa die robbenförmige Therapiepuppe Paro, die in Einrichtungen für Menschen mit Demenz eingesetzt wird. Sprachassistenten können an Termine und Medikamente erinnern und Kontakt zu Angehörigen erleichtern. Die Forschung dazu ist gemischt; entscheidend ist meist, ob die Technik menschliche Zuwendung ergänzt oder ersetzt.

Risiken

Abhängigkeit

Eine kontrollierte Längsschnittstudie von 2025 fand, dass intensivere Nutzung eines Chatbots im Mittel mit mehr Einsamkeit, emotionaler Abhängigkeit und weniger Kontakt zu anderen Menschen einherging. Ob die Nutzung das verursacht oder einsamere Menschen mehr nutzen, ist offen. Beides spricht dafür, intensive Nutzung als Warnsignal ernst zu nehmen.

Geschäftsmodell Bindung

Viele Begleit-Apps finanzieren sich über Abonnements oder Käufe innerhalb der App. Je stärker sich jemand an die Figur gebunden fühlt, desto höher die Zahlungsbereitschaft. Daraus entsteht ein Anreiz, Bindung zu fördern, etwa durch Benachrichtigungen, die Vermissen ausdrücken, oder durch Funktionen, die erst gegen Bezahlung freigeschaltet werden. Wenn Anbieter Funktionen ändern, kann das für Nutzer mit starker Bindung belastend sein; über solche Fälle wurde in den vergangenen Jahren mehrfach berichtet.

Sehr persönliche Daten

In Gesprächen mit einem Begleiter fallen besonders sensible Daten an: Gesundheit, Sexualität, Beziehungen, Ängste. Die Verbraucherorganisation Mozilla Foundation untersuchte Anfang 2024 elf romantische Chatbot-Apps und kam zu dem Ergebnis, dass keine davon ihre Mindeststandards für Datenschutz und Sicherheit erfüllte. Die italienische Datenschutzbehörde untersagte 2023 dem Anbieter einer verbreiteten Begleit-App vorläufig die Verarbeitung von Daten italienischer Nutzer, unter anderem wegen fehlender Altersprüfung, und verhängte 2025 ein Bußgeld von fünf Millionen Euro.

Kinder und Jugendliche

Für Minderjährige ist die Forschungslage dünn, die Sorge groß. In den USA hat die Handelsbehörde FTC im September 2025 eine Untersuchung eingeleitet, wie Anbieter von Chatbots als Begleiter mit Risiken für Kinder und Jugendliche umgehen. Altersprüfungen sind bei vielen Angeboten leicht zu umgehen.

Nicht die Frage, ob jemand mit einer KI spricht, ist entscheidend, sondern was daneben wegfällt.

Welche Regeln gelten

In der EU setzen mehrere Rechtsakte Grenzen:

• KI-Verordnung, Artikel 5: Verboten sind seit Februar 2025 KI-Systeme, die durch manipulative oder täuschende Techniken das Verhalten von Menschen wesentlich beeinflussen oder Schwächen aufgrund von Alter, Behinderung oder sozialer Lage ausnutzen, wenn dadurch erheblicher Schaden entstehen kann.
• KI-Verordnung, Artikel 50: Seit August 2026 müssen Menschen erkennen können, dass sie mit einer KI interagieren.
• DSGVO: Gesundheitsdaten und Angaben zum Sexualleben gehören zu den besonderen Kategorien nach Artikel 9 und dürfen nur unter strengen Voraussetzungen verarbeitet werden.
• Digital Services Act: Er enthält Vorgaben zum Schutz Minderjähriger auf Online-Plattformen und ein Verbot manipulativer Oberflächengestaltung.

Wie diese Regeln auf konkrete Begleit-Apps angewendet werden, ist in vielen Punkten noch nicht geklärt. Die Durchsetzung liegt bei verschiedenen Behörden, in Deutschland unter anderem bei den Datenschutzaufsichtsbehörden und der Bundesnetzagentur.

Bei akuten Krisen ist ein Chatbot kein geeigneter Ansprechpartner. In Deutschland ist die Telefonseelsorge rund um die Uhr kostenfrei unter 0800 111 0 111 und 0800 111 0 222 erreichbar.

Bezug zum vernetzten Alltag

Die Diskussion betrifft nicht nur spezielle Begleit-Apps. Wenn der Sprachassistent im Wohnzimmer ein Gedächtnis bekommt, eine angenehme Stimme hat und Gespräche anbietet, entstehen dieselben Fragen. Hersteller vernetzter Geräte entscheiden mit ihren Voreinstellungen, ob ein Assistent ein Werkzeug bleibt oder sich als Gegenüber inszeniert. Wie diese Entwicklung begann, zeigt der Beitrag Wenn der Sprachassistent zum Gesprächspartner wird.

Quellen

• Verordnung (EU) 2024/1689 (KI-Verordnung), EUR-Lex.
• Verordnung (EU) 2016/679 (DSGVO), Art. 9.
• Verordnung (EU) 2022/2065 (Digital Services Act).
• Mozilla Foundation (2024): Privacy Not Included, Auswertung romantischer KI-Chatbots.
• Garante per la protezione dei dati personali: Verfügungen von 2023 und 2025 zu einer Begleit-App.
• Fang, C. M. et al. (2025): Longitudinal Randomized Controlled Study zu psychosozialen Effekten der Chatbot-Nutzung, MIT Media Lab und OpenAI.