Sovereign AI·Europe
OpenAIs GPT-6 Astra halluziniert weniger, bleibt aber anfällig für versteckte Prompt-Injections
Global AI Watch · Elena Marchetti··5 min read
Redaktionelle Einschätzung
GPT-6 Astra's improvements in direct injection defense mark a critical step towards more secure AI systems, with indirect vulnerabilities still a challenge.
Kernpunkte
- 1OpenAIs GPT-6 Astra halluziniert seltener als sein Vorgänger und wehrt direkte Prompt-Injections zu 99,99 % ab.
- 2Bei indirekten Angriffen über eingebettete Dokumente wird das Modell aber noch in 8,5 % der Szenarien geknackt, Anthropics Claude Opus 5 liegt bei 4,8 %.
- 3Für den autonomen Einsatz von KI-Agenten bleibt das ein Risiko.
- 4Der Artikel OpenAIs GPT-6 Astra halluziniert weniger, bleibt aber anfällig für versteckte Prompt-Injections erschien zuerst auf The Decoder.
OpenAIs GPT-6 Astra halluziniert seltener als sein Vorgänger und wehrt direkte Prompt-Injections zu 99,99 % ab. Bei indirekten Angriffen über eingebettete Dokumente wird das Modell aber noch in 8,5 % der Szenarien geknackt, Anthropics Claude Opus 5 liegt bei 4,8 %. Für den autonomen Einsatz von KI-Agenten bleibt das ein Risiko. Der Artikel OpenAIs GPT-6 Astra halluziniert weniger, bleibt aber anfällig für versteckte Prompt-Injections erschien zuerst auf The Decoder.
Free Daily Briefing
Top AI intelligence stories delivered each morning.