Research·Europe
KI-Modelle geben oft richtige Antworten aus den falschen Quellen
Global AI Watch · Editorial Team··5 min read
Redaktionelle Einschätzung
AI models must integrate robust attribution testing, driving demand for transparency tools by 2026.
Kernpunkte
- 1Führende KI-Modelle wie GPT oder Gemini verweisen bei Dokumentenanalysen routinemäßig auf Textstellen, die ihre Aussagen gar nicht stützen.
- 2Auch wenn die Antwort stimmt, ist der angegebene Beleg oft falsch.
- 3Die Forschenden der Peking University nennen das Phänomen "Attribution Hallucination" und sehen darin ein ernstes Risiko für regulierte Branchen wie Recht oder Medizin.
- 4Der neue CiteVQA testet das Verhalten systematisch.
- 5Der Artikel KI-Modelle geben oft richtige Antworten aus den falschen Quellen erschien zuerst auf The Decoder.
Führende KI-Modelle wie GPT oder Gemini verweisen bei Dokumentenanalysen routinemäßig auf Textstellen, die ihre Aussagen gar nicht stützen. Auch wenn die Antwort stimmt, ist der angegebene Beleg oft falsch. Die Forschenden der Peking University nennen das Phänomen "Attribution Hallucination" und sehen darin ein ernstes Risiko für regulierte Branchen wie Recht oder Medizin. Der neue CiteVQA testet das Verhalten systematisch. Der Artikel KI-Modelle geben oft richtige Antworten aus den falschen Quellen erschien zuerst auf The Decoder.
Free Daily Briefing
Top AI intelligence stories delivered each morning.