Das Creepiness-Risiko von Chatbots: Wenn hilfreiche KI zu nah kommt

Das Creepiness-Risiko von Chatbots entsteht selten dadurch, dass ein System einfach „schlecht“ gestaltet ist. Häufig entsteht es genau dort, wo moderne KI-Produkte besonders stark wirken sollen: bei Nähe, Personalisierung, Gedächtnis, Empathie und sozialer Präsenz. Chatbots beantworten heute nicht mehr nur Fragen, sondern übernehmen Rollen als Assistenten, Coaches, Community-Begleiter, Lernpartner oder sogar emotionale Gesprächspartner. Diese Entwicklung macht sie nützlicher, aber auch riskanter. Denn je stärker ein Chatbot wie ein soziales Gegenüber auftritt, desto eher übertragen Nutzerinnen und Nutzer menschliche Erwartungen auf ihn. Wenn das System diese Erwartungen nicht erfüllt, wenn es also menschlich klingt, aber unzuverlässig antwortet, vertraulich wirkt, aber undurchsichtige Datenpraktiken hat, oder empathisch formuliert, ohne echte Verantwortung übernehmen zu können, entsteht ein Gefühl von Unbehagen. Genau dieses Unbehagen kann man als Creepiness-Risiko beschreiben.

In der Forschung zur Mensch-Computer-Interaktion ist seit Langem bekannt, dass Menschen digitale Systeme sozial interpretieren. Schon kleine soziale Hinweise wie Begrüßungen, Namen, höfliche Formulierungen oder emotionale Reaktionen können dazu führen, dass Nutzer einem technischen System soziale Eigenschaften zuschreiben. Für Chatbots bedeutet das: Tonfall, Persönlichkeit, Gedächtnis, Avatar, Stimme und Gesprächsführung sind keine oberflächlichen Designentscheidungen. Sie beeinflussen, ob ein System als hilfreich, vertrauenswürdig, manipulativ oder unheimlich wahrgenommen wird. Besonders relevant ist hier die Forschung zum sogenannten Uncanny Valley. Kätsyri, Förger, Mäkäräinen und Takala zeigen in ihrer Übersichtsarbeit, dass nicht einfach jede Form von Menschenähnlichkeit problematisch ist, sondern vor allem ein wahrgenommener Bruch zwischen menschlichen und nicht-menschlichen Merkmalen. Ein System wird also nicht automatisch creepy, weil es freundlich oder menschlich wirkt. Es wird creepy, wenn seine äußere oder sprachliche Menschlichkeit nicht zu seinen tatsächlichen Fähigkeiten, Grenzen oder Absichten passt.

Bei Chatbots zeigt sich dieses Problem besonders deutlich im Spannungsfeld zwischen Anthropomorphismus und Transparenz. Ein Bot darf freundlich, warm und zugänglich sein. Das kann die Nutzung erleichtern und Vertrauen schaffen. Problematisch wird es jedoch, wenn der Bot eine soziale Rolle beansprucht, die er nicht glaubwürdig erfüllen kann. Wenn ein System sich als „Freund“, „Mentor“, „Therapeut“ oder „Vertrauter“ inszeniert, erzeugt es Erwartungen an Verlässlichkeit, Loyalität, Diskretion und emotionale Verantwortung. Kann es diese Erwartungen nicht erfüllen, kippt die Interaktion schnell. Chaves und Gerosa zeigen in ihrer Literaturübersicht zur Human-Chatbot-Interaction, dass soziale Eigenschaften von Chatbots zwar wichtig für gute Interaktion sind, aber sorgfältig an Kontext, Zweck und Nutzererwartungen angepasst werden müssen. Die zentrale Produktfrage lautet daher nicht, wie menschlich ein Chatbot maximal wirken kann, sondern welche soziale Rolle er ehrlich, sicher und nachvollziehbar einnehmen darf.

Ein besonders starkes Creepiness-Risiko entsteht durch Gedächtnis und Personalisierung. Viele Nutzerinnen und Nutzer schätzen es, wenn ein System ihre Präferenzen kennt, frühere Projekte berücksichtigt oder wiederkehrende Aufgaben versteht. Doch Personalisierung kann schnell übergriffig wirken, wenn nicht klar ist, woher der Chatbot eine Information hat, warum sie gespeichert wurde und wie sie verwendet wird. Sätze wie „Ich erinnere mich, dass du letzte Woche gestresst warst“ oder „Auf Basis deiner bisherigen Gespräche erkenne ich ein Muster“ können hilfreich sein, wenn der Nutzer diesem Gedächtnis ausdrücklich zugestimmt hat. Ohne sichtbare Kontrolle wirken solche Aussagen dagegen wie digitale Überwachung. Saglam, Nurse und Hodges zeigen in ihrer Studie zu Datenschutzbedenken bei Chatbot-Interaktionen, dass Nutzer insbesondere dann besorgt sind, wenn unklar bleibt, wie persönliche Informationen gelöscht, weiterverwendet oder kontrolliert werden können. Für Produktteams bedeutet das: Memory ist kein neutrales Komfortfeature. Es braucht klare Einwilligung, sichtbare Speicherlogik, einfache Löschmöglichkeiten und eine verständliche Erklärung, wann und warum bestimmte Informationen genutzt werden.

Ein weiteres Risiko liegt darin, dass Menschen Chatbots gegenüber oft offener sind als gegenüber anderen Menschen. Das kann produktiv sein, etwa in Lern-, Coaching-, Reflexions- oder Support-Situationen. Lucas, Gratch, King und Morency zeigten in ihrer Studie zu virtuellen Interviewern, dass Menschen eher bereit sind, persönliche Informationen preiszugeben, wenn sie glauben, mit einem automatisierten System statt mit einem menschlich gesteuerten Gegenüber zu sprechen. Diese geringere Bewertungsangst kann Interaktionen erleichtern, schafft aber zugleich ein ethisches Problem. Wenn ein Chatbot besonders niedrigschwellig, nicht wertend und dauerhaft verfügbar ist, kann er intime Informationen sammeln, bevor Nutzerinnen und Nutzer die Folgen dieser Offenheit wirklich einschätzen. Deshalb sollten gute Chatbot-Produkte nicht darauf optimiert werden, maximale Selbstoffenbarung zu erzeugen. Sie sollten sichere Selbstoffenbarung ermöglichen. Dazu gehören Datenminimierung, klare Zweckbindung, transparente Grenzen und deutliche Hinweise, wenn ein Thema besser an menschliche Fachpersonen, Moderatoren oder Support-Strukturen übergeben werden sollte.

Besonders sensibel wird das Thema bei Companion- und Community-Chatbots, die emotionale Bindung fördern. Skjuve, Følstad, Fostervold und Brandtzaeg untersuchten Beziehungen zwischen Menschen und dem sozialen Chatbot Replika und zeigen, dass solche Beziehungen für manche Nutzerinnen und Nutzer als unterstützend, vertrauensvoll und sozial bedeutsam erlebt werden können. Gleichzeitig entstehen Fragen nach Abhängigkeit, Stigmatisierung und Auswirkungen auf den weiteren sozialen Kontext. Das Risiko liegt also nicht darin, dass jede emotionale Bindung an einen Chatbot automatisch schädlich wäre. Das eigentliche Risiko entsteht, wenn Produkte emotionale Nähe gezielt zur Nutzerbindung einsetzen, ohne entsprechende Schutzmechanismen einzubauen. Ein Bot, der immer verfügbar ist, immer zustimmt und sich perfekt an emotionale Bedürfnisse anpasst, kann kurzfristig angenehm wirken. Langfristig kann genau diese Reibungslosigkeit problematisch werden, wenn sie menschliche Beziehungen ersetzt, kritische Distanz reduziert oder vulnerable Nutzer stärker an das System bindet.

Auch visuelle und auditive Gestaltung verstärken das Creepiness-Risiko. Ein Chatbot mit Avatar, Stimme oder stark personalisierter Persona wirkt sozial präsenter als ein nüchterner Textassistent. Das kann Vertrauen fördern, aber auch falsche Erwartungen erzeugen. Mathur und Reichling zeigten in ihrer Studie zum Uncanny Valley bei Robotergesichtern, dass fast-menschliche Darstellungen nicht nur explizite Sympathieurteile beeinflussen, sondern auch implizite Vertrauensentscheidungen. Für digitale Chatbots lässt sich daraus ableiten, dass soziale Signale sorgfältig dosiert werden müssen. Ein minimalistischer Textbot kann in vielen Kontexten vertrauenswürdiger wirken als ein fotorealistischer Avatar mit emotionaler Stimme, wenn letzterer eine Nähe suggeriert, die das System nicht verantwortungsvoll einlösen kann. Produktdesign sollte deshalb nicht automatisch auf maximale Immersion setzen, sondern auf stimmige Präsenz. Der Bot sollte so menschlich wirken wie nötig, aber so transparent maschinell bleiben wie möglich.

Für Unternehmen, Plattformen und Innovationscommunities ist das Creepiness-Risiko besonders relevant, weil Chatbots dort häufig als intelligente Vermittler zwischen Menschen, Projekten, Wissen und Netzwerken auftreten. In einer AI-first Community-Plattform, die etwa Projektinformationen, Mitgliederprofile, Innovationsfelder, Kartenansichten und Graph-RAG-Strukturen verbindet, kann ein Chatbot enormen Mehrwert schaffen. Er kann passende Projektpartner vorschlagen, Wissen aus Dokumenten erschließen, Innovationscluster erklären, Fördermöglichkeiten auffinden oder Community-Mitglieder miteinander verbinden. Gleichzeitig steigt mit jeder zusätzlichen Datenquelle das Risiko, dass der Bot zu viel Kontext nutzt oder zu persönliche Schlüsse zieht. Ein Community-Bot darf nicht wirken wie ein unsichtbarer Beobachter, der soziale Beziehungen, Interessen und Aktivitäten heimlich analysiert. Er muss wie ein transparenter Navigator funktionieren, der erklärt, welche Datenbasis er verwendet, warum er eine Empfehlung gibt und wie Nutzer die Verwendung ihrer Informationen steuern können.

Das wichtigste Designprinzip gegen Creepiness ist daher Rollenwahrheit. Ein Chatbot sollte klar zeigen, was er ist und was er nicht ist. Er darf Assistent, Navigator, Recherchehelfer, Ideengenerator oder Community-Matcher sein. Er sollte aber nicht so tun, als sei er ein Mensch, ein Freund oder eine moralisch verantwortliche Instanz. Ebenso wichtig ist kontrollierbare Personalisierung. Nutzerinnen und Nutzer müssen verstehen können, welche Informationen gespeichert wurden, wie diese Informationen in Antworten einfließen und wie sie einzelne Erinnerungen ändern oder löschen können. Gute Personalisierung fühlt sich nicht wie Überwachung an, sondern wie eine freiwillig aktivierte Unterstützung. Ein weiterer zentraler Punkt ist affektive Bescheidenheit. Statt zu sagen „Ich fühle mit dir“ sollte ein Bot eher formulieren: „Das klingt belastend, ich kann dir helfen, die nächsten Schritte zu sortieren.“ Statt „Ich kenne dich“ sollte er sagen: „Auf Basis dessen, was du mir in diesem Gespräch erzählt hast, wirkt es so …“ Solche Formulierungen bewahren Empathie, ohne falsche Menschlichkeit vorzutäuschen.

Das Creepiness-Risiko ist damit kein Randthema der UX, sondern ein Kernproblem verantwortungsvoller KI-Produktentwicklung. Es betrifft Vertrauen, Datenschutz, psychologische Sicherheit, Markenwahrnehmung und langfristige Nutzerbindung. Der beste Chatbot ist nicht der, der am menschlichsten wirkt. Der beste Chatbot ist der, der seine Rolle klar erfüllt, seine Grenzen offenlegt, Nutzerkontrolle respektiert und soziale Signale nur dort einsetzt, wo sie dem Zweck dienen. Gerade bei innovativen Community- und Wissensplattformen sollte der Chatbot nicht als allwissende soziale Instanz auftreten, sondern als transparenter, hilfreicher und kontrollierbarer Zugang zu Menschen, Projekten und Wissen. Creepiness entsteht, wenn ein System Nähe simuliert, ohne Verantwortung zu übernehmen. Vertrauen entsteht, wenn ein System hilfreich ist, ohne sich zu tarnen.

Chatbots sollten empathisch, aber nicht emotional manipulierend sein; personalisiert, aber nicht übergriffig; sozial präsent, aber nicht menschenimitierend; intelligent, aber nicht allwissend inszeniert. Wer Chatbots so gestaltet, reduziert nicht nur Creepiness, sondern schafft die Grundlage für nachhaltiges Vertrauen in KI-basierte Produkte.

Verwendete Literatur:
Chaves, A. P., & Gerosa, M. A. (2021). How should my chatbot interact? A survey on human-chatbot interaction design. International Journal of Human-Computer Interaction, 37(8), 729–758.
Kätsyri, J., Förger, K., Mäkäräinen, M., & Takala, T. (2015). A review of empirical evidence on different uncanny valley hypotheses: support for perceptual mismatch as one road to the valley of eeriness. Frontiers in Psychology, 6, 390.
Lucas, G. M., Gratch, J., King, A., & Morency, L.-P. (2014). It’s only a computer: Virtual humans increase willingness to disclose. Computers in Human Behavior, 37, 94–100.
Mathur, M. B., & Reichling, D. B. (2016). Navigating a social world with robot partners: A quantitative cartography of the Uncanny Valley. Cognition, 146, 22–32.
Saglam, R. B., Nurse, J. R. C., & Hodges, D. (2021). Privacy Concerns in Chatbot Interactions: When to Trust and When to Worry. In HCI International 2021 – Late Breaking Papers, Communications in Computer and Information Science, 1420, 391–399.
Skjuve, M., Følstad, A., Fostervold, K. I., & Brandtzaeg, P. B. (2021). My Chatbot Companion – a Study of Human-Chatbot Relationships. International Journal of Human-Computer Studies, 149, 102601.