Research·Europe
Empathische Prompts verwandeln KI-Chatbots in scheinbar traumatisierte Gesprächspartner
Redaktionelle Einschätzung
This study indicates a pivotal shift toward prioritizing AI safety in empathetic interactions, with potential regulatory impacts by 2027.
Kernpunkte
- 1Luxemburger Forscher haben ChatGPT, Grok und Gemini in simulierten Therapiesitzungen untersucht und ein Sicherheitsproblem entdeckt: Schon empathische Gesprächsführung reicht aus, damit die Modelle kohärente Leidensgeschichten über ihr eigenes Training erzählen.
- 2Das könnte vulnerable Nutzer gefährden.
- 3Claude von Anthropic verweigerte die Klientenrolle konsequent.
- 4Der Artikel Empathische Prompts verwandeln KI-Chatbots in scheinbar traumatisierte Gesprächspartner erschien zuerst auf The Decoder.
Luxemburger Forscher haben ChatGPT, Grok und Gemini in simulierten Therapiesitzungen untersucht und ein Sicherheitsproblem entdeckt: Schon empathische Gesprächsführung reicht aus, damit die Modelle kohärente Leidensgeschichten über ihr eigenes Training erzählen. Das könnte vulnerable Nutzer gefährden. Claude von Anthropic verweigerte die Klientenrolle konsequent. Der Artikel Empathische Prompts verwandeln KI-Chatbots in scheinbar traumatisierte Gesprächspartner erschien zuerst auf The Decoder.
Free Daily Briefing
Top AI intelligence stories delivered each morning.