KI-Halluzinationen und Fehlinformationen

Was ist KI-Halluzinationen und Fehlinformationen?

Ein Sprachmodell erzeugt wahrscheinliche nächste Wörter, nicht zwangsläufig wahre Aussagen. Fehlt eine Tatsache, kann es eine erfinden und ebenso sicher vortragen wie den Rest – deshalb fallen solche Fehler beim bloßen Lesen oft nicht auf. 2023 wurde ein Anwalt in New York sanktioniert, nachdem er einen Schriftsatz mit von ChatGPT erfundenen Gerichtsentscheidungen eingereicht hatte. In dieser Übung prüfen Sie eine KI-generierte Marktanalyse Behauptung für Behauptung, finden erfundene Zahlen und Quellen, erkennen die eine Angabe, die standhält, und lernen Warnsignale für Konfabulation kennen.

Was Sie lernen in KI-Halluzinationen und Fehlinformationen

• Erkennen Sie typische KI-Halluzinationen, darunter erfundene Statistiken, nicht existierende Quellen und falsch zugeordnete Zitate
• Nutzen Sie einen strukturierten Faktencheck, um KI-generierte Aussagen vor der Veröffentlichung anhand verlässlicher Quellen zu prüfen
• Bewerten Sie Merkmale von KI-Ausgaben, die erfundene Informationen glaubwürdig erscheinen lassen, etwa exakte Zahlen und ausführliche Quellenangaben
• Unterscheiden Sie zwischen KI-Ausgaben, die echte Daten wiedergeben, und frei erfundenen Angaben ohne tatsächliche Grundlage
• Analysieren Sie geschäftliche, rechtliche und reputationsbezogene Folgen, wenn ungeprüfte KI-Inhalte im beruflichen Kontext veröffentlicht werden

KI-Halluzinationen und Fehlinformationen — Trainingsschritte

1. Morgen bei Vantage Capital

   Heute arbeiten Sie im Homeoffice. In Ihrem Posteingang wartet ein dringender Auftrag.

2. Dringender Bericht für einen Kunden

   Rachel Torres, Leiterin der Research-Abteilung, schickt eine E-Mail. Meridian Holdings, einer der größten Kunden von Vantage Capital, hat seine Vorstandssitzung vorverlegt und benötigt bis morgen einen aktualisierten Marktbericht zur Cybersicherheit.

3. OpenClaw um Hilfe bitten

   Wegen der knappen Frist öffnet Alice OpenClaw, den KI-Assistenten des Unternehmens. Er soll helfen, Marktdaten schnell zu sammeln und zu strukturieren.

4. Marktanalyse von OpenClaw

   OpenClaw antwortet mit einer ausführlichen Analyse, konkreten Zahlen und Quellenangaben. Der Text wirkt ausgearbeitet und präzise – als könnte er direkt in den Bericht übernommen werden.

5. Eine Warnung von Marcus

   Bevor Alice den Bericht entwerfen kann, erhält sie eine E-Mail von ihrem Kollegen Marcus Webb. Er hatte in der Vorwoche Probleme mit KI-gestützter Recherche und möchte seine Erfahrung teilen.

6. Ein genauerer Blick auf die Zahlen

   Nach Marcus’ Warnung sieht Alice sich OpenClaws Antwort erneut an. Die Behauptung, der Cybersicherheitsmarkt sei innerhalb eines Jahres um 96 % gewachsen, erscheint ihr für eine etablierte Branche ungewöhnlich hoch.

7. Mit Reuters abgleichen

   Alice folgt Marcus’ Rat und öffnet Reuters Fact Check. Dort will sie OpenClaws Behauptungen mit unabhängigen Berichten vergleichen. Reuters hat kürzlich einen Faktencheck zu Cybersecurity-Marktangaben veröffentlicht, die in KI-generierten Berichten kursieren.

8. Die Wachstumsrate ist falsch

   Reuters hat bereits mehrere Cybersecurity-Marktangaben aus KI-generierten Berichten überprüft. Die erste deckt sich genau mit OpenClaws Aussage. Das tatsächliche Wachstum des Cybersecurity-Markts lag bei 12–14 %, OpenClaw meldete aber mit voller Überzeugung 96 %. In einem Bericht für Kunden könnte dieser Fehler die Glaubwürdigkeit schädigen und zu schlechten Investitionsentscheidungen führen.

9. Das Risiko verstehen

10. Eine erfundene Quelle

    Alice prüft als Nächstes die Behauptung mit dem Verweis auf den „Gartner 2025 Global AI Readiness Report“. OpenClaw stellte ihn als echten Bericht mit konkreten Ergebnissen dar.