Halluzinationen sind die Achillesferse von KI-Sprachmodellen. Das Modell generiert überzeugend klingende Informationen, die sachlich falsch sind ohne jedes Bewusstsein dafür. Für B2B-Agenten, die im Namen Ihrer Organisation kommunizieren, ist dies ein ernstes Risiko.
Die fünf effektivsten Techniken zur Reduzierung von Halluzinationen
- 1. RAG: der Agent konsultiert immer eine überprüfbare Wissensquelle, bevor er antwortet
- 2. Strenge System-Prompts: den Agenten explizit anweisen, 'ich weiß es nicht' zu sagen, wenn er unsicher ist
- 3. Niedrigere Temperature: macht das Modell konservativer geringere Chance auf erfundene Fakten
- 4. Grounding-Checks: ein zweiter KI-Schritt überprüft den Output gegen Quellen
- 5. Human-in-the-Loop für kritischen Output
Fazit
Halluzinationen sind dem Funktionieren von Sprachmodellen inhärent sie vollständig zu eliminieren ist nicht möglich. Aber sie können durch die richtigen Architekturentscheidungen (RAG), Prompt-Strategie und Monitoring auf ein akzeptables Niveau gebracht werden.
