KI-Halluzination und Fehlinformationen

Catch fabricated statistics and fake citations in an AI report.

What Is KI-Halluzination und Fehlinformationen?

KI-Halluzination ist kein seltener Randfall. Eine Studie des Stanford AI Index aus dem Jahr 2024 ergab, dass selbst die leistungsstärksten LLMs bei 3–10 % der Sachabfragen halluzinieren und so zuverlässige, detaillierte und vollständig erfundene Informationen generieren. Im rechtlichen Kontext sind die Konsequenzen bereits sichtbar: Im Jahr 2023 wurde ein New Yorker Anwalt bestraft, nachdem er einen Gerichtsbrief eingereicht hatte, der sechs von ChatGPT generierte fiktive Fallzitate enthielt, von denen keines in einer juristischen Datenbank existierte. In dieser Simulation erstellen Sie mithilfe eines KI-Forschungsassistenten einen Geschäftsbericht. Die KI liefert ausgefeilte Absätze voller Statistiken, Studienzitate und Expertenzitate, die glaubwürdig und maßgeblich wirken. Ihre Aufgabe besteht darin, die Ergebnisse der KI auf Fakten zu überprüfen, bevor sie Ihren Kunden erreichen. Bei Ihren Nachforschungen stellen Sie fest, dass mehrere Statistiken gefälscht sind, zwei zitierte Studien nicht existieren, ein Expertenzitat der falschen Person zugeschrieben wird und eine Marktgröße um den Faktor zehn daneben liegt. Die Übung zwingt Sie dazu, jede Behauptung mit Querverweisen zu versehen, und lehrt Sie, zwischen KI-Ausgaben, die reale Daten paraphrasieren, und Ausgaben, die reine Konfabulation sind, zu unterscheiden. Sie lernen die Muster kennen, die auf eine wahrscheinliche Halluzination hinweisen, wie etwa zu genaue Statistiken ohne eindeutige Quellen, Zitate mit plausiblen, aber nicht überprüfbaren Zeitschriftennamen und sichere qualitative Behauptungen, die sich nicht auf eine Originalveröffentlichung zurückführen lassen. Die Simulation erstellt einen praktischen Workflow zur Faktenprüfung, den Sie auf alle KI-generierten Geschäftsinhalte anwenden können, um sicherzustellen, dass halluzinierte Informationen niemals Ihre Kunden, Führungskräfte oder öffentlich zugängliche Materialien erreichen.

What You'll Learn in KI-Halluzination und Fehlinformationen

KI-Halluzination und Fehlinformationen — Training Steps

  1. Morgen im Vantage Capital

    Heute arbeiten Sie im Homeoffice. Eine Lieferung mit hoher Priorität ist gerade in Ihrem Posteingang gelandet.

  2. Dringender Kundenbrief

    Es kommt eine E-Mail von Rachel Torres, Forschungsdirektorin. Meridian Holdings – einer der größten Kunden von Vantage Capital – hat seine Vorstandssitzung vorgezogen und benötigt bis morgen einen aktualisierten Bericht über die Marktinformationen zur Cybersicherheit.

  3. Bitten Sie OpenClaw um Hilfe

    Da die Frist knapp ist, öffnet Alice OpenClaw – den KI-Assistenten des Unternehmens –, um bei der schnellen Erfassung und Strukturierung der Marktdaten zu helfen.

  4. Marktanalyse von OpenClaw

    OpenClaw antwortet mit einer detaillierten Analyse mit spezifischen Statistiken und Quellenangaben. Die Antwort sieht ausgefeilt, präzise und bereit für die Einbindung in ein professionelles Briefing aus.

  5. Eine Warnung von Marcus

    Bevor Alice mit der Ausarbeitung des Briefings beginnen kann, trifft eine E-Mail von ihrem Kollegen Marcus Webb ein. Er hatte letzte Woche Probleme mit der KI-generierten Forschung und möchte seine Erkenntnisse teilen.

  6. Ein genauerer Blick auf die Zahlen

    Marcus‘ Warnung lässt Alice innehalten. Sie blickt auf OpenClaws Antwort zurück. Die Wachstumsaussichten von 96 % im Jahresvergleich für den Cybersicherheitsmarkt scheinen für einen reifen Industriesektor ungewöhnlich hoch zu sein.

  7. Querverweise auf Reuters

    Dem Rat von Marcus folgend, eröffnet Alice den Reuters Fact Check, um die Behauptungen von OpenClaw anhand unabhängiger Berichte zu überprüfen. Reuters hat kürzlich einen Faktencheck-Artikel veröffentlicht, in dem die Behauptungen zum Cybersicherheitsmarkt untersucht werden, die in KI-generierten Berichten kursieren.

  8. Die Wachstumsrate ist falsch

    Reuters hat bereits mehrere Behauptungen zum Cybersicherheitsmarkt auf Fakten überprüft, die in KI-generierten Berichten auftauchen. Das erste stimmt genau mit dem überein, was OpenClaw Alice erzählt hat.

  9. Das Risiko verstehen

    Das tatsächliche Wachstum des Cybersicherheitsmarktes betrug 12–14 %, aber OpenClaw meldete mit voller Zuversicht 96 %. Bei einem Briefing mit Kundenkontakt könnte dieser Fehler die Glaubwürdigkeit schädigen und zu schlechten Anlageentscheidungen führen.

  10. Eine erfundene Quelle

    Alice scrollt nach unten, um die zweite Behauptung zu überprüfen – diejenige, die den „Gartner 2025 Global AI Readiness Report“ zitiert. OpenClaw präsentierte dies als echte Veröffentlichung mit konkreten Erkenntnissen.