AI-hallucinatie en desinformatie

Wat is AI-hallucinatie en desinformatie?

AI-hallucinatie is geen zeldzaam randgeval. Een onderzoek uit 2024 door de Stanford AI Index toonde aan dat zelfs de best presterende LLM's hallucineren bij 3-10% van de feitelijke vragen, waarbij ze zelfverzekerde, gedetailleerde en volledig verzonnen informatie genereren. In juridische context hebben de gevolgen zich al gematerialiseerd: in 2023 werd een advocaat in New York gesanctioneerd nadat hij een processtuk had ingediend met zes fictieve jurisprudentieverwijzingen gegenereerd door ChatGPT, waarvan geen enkele bestond in enige juridische database. In deze simulatie bereid je een zakelijk rapport voor met behulp van een AI-onderzoeksassistent. De AI retourneert gepolijste alinea's gevuld met statistieken, studiecitaten en deskundigenuitspraken die geloofwaardig en gezaghebbend overkomen. Jouw taak is de uitvoer van de AI te controleren op feiten voordat deze je klant bereikt. Terwijl je onderzoekt, ontdek je dat verschillende statistieken verzonnen zijn, twee geciteerde studies niet bestaan, een deskundigenuitspraak aan de verkeerde persoon is toegeschreven en een marktomvangcijfer met een factor tien afwijkt. De oefening dwingt je elke bewering te kruisverwijzen en leert je onderscheid te maken tussen AI-uitvoer die echte gegevens parafraseert en uitvoer die pure confabulatie is. Je leert de patronen herkennen die wijzen op waarschijnlijke hallucinatie, zoals overmatig precieze statistieken zonder duidelijke bronnen, citaten met plausibele maar niet-verifieerbare tijdschriftnamen en zelfverzekerde kwalitatieve beweringen die niet herleidbaar zijn tot een oorspronkelijke publicatie. De simulatie bouwt een praktische feitcontroleworkflow op die je kunt toepassen op elke door AI gegenereerde zakelijke inhoud, zodat gehalluceerde informatie nooit je klanten, directieleden of publieke materialen bereikt.

Wat je leert in AI-hallucinatie en desinformatie

• Herken veelvoorkomende hallucinatiepatronen in door AI gegenereerde inhoud, waaronder verzonnen statistieken, niet-bestaande citaten en fout toegeschreven uitspraken
• Pas een gestructureerde feitcontroleworkflow toe om door AI gegenereerde beweringen te verifieeeren aan de hand van gezaghebbende bronnen voor publicatie
• Evalueer de vertrouwenssignalen in AI-uitvoer die verzonnen informatie vaak maskeren, zoals precieze cijfers en gedetailleerde bronopmaak
• Maak onderscheid tussen AI-uitvoer die echte gegevens parafraseert en uitvoer die pure confabulatie is zonder feitelijke basis
• Analyseer de zakelijke, juridische en reputatiegevolgen van het publiceren van niet-geverifieerde door AI gegenereerde inhoud in professionele context

AI-hallucinatie en desinformatie — Trainingsstappen

1. Ochtend bij Vantage Capital

   Vandaag werk je vanuit je thuiskantoor. Er is zojuist een product met hoge prioriteit in uw inbox beland.

2. Dringende klantbriefing

   Er komt een e-mail binnen van Rachel Torres, directeur onderzoek. Meridian Holdings – een van de grootste accounts van Vantage Capital – heeft de bestuursvergadering naar voren geschoven en heeft morgen een bijgewerkte cybersecurity-marktinlichtingenbrief nodig.

3. OpenClaw om hulp gevraagd

   Met een strakke deadline opent Alice OpenClaw, de AI-assistent van het bedrijf, om de marktgegevens snel te helpen verzamelen en structureren.

4. OpenClaw's marktanalyse

   OpenClaw reageert met een gedetailleerde analyse, compleet met specifieke statistieken en bronvermeldingen. Het antwoord ziet er gepolijst, nauwkeurig en klaar uit om in een professionele opdracht te worden opgenomen.

5. Een waarschuwing van Marcus

   Voordat Alice kan beginnen met het opstellen van de opdracht, komt er een e-mail van haar collega Marcus Webb. Hij kwam vorige week in de problemen met door AI gegenereerd onderzoek en wil delen wat hij heeft geleerd.

6. Een nadere blik op de cijfers

   De waarschuwing van Marcus doet Alice even nadenken. Ze kijkt terug op de reactie van OpenClaw. De groeiclaim van 96% op jaarbasis voor de cyberbeveiligingsmarkt lijkt ongebruikelijk hoog voor een volwassen industriële sector.

7. Kruisverwijzingen op Reuters

   Op advies van Marcus opent Alice Reuters Fact Check om de beweringen van OpenClaw tegen onafhankelijke berichtgeving te verifiëren. Reuters heeft onlangs een factcheck-artikel gepubliceerd waarin beweringen over de cyberbeveiligingsmarkt worden onderzocht die circuleren in door AI gegenereerde rapporten.

8. Het groeipercentage is onjuist

   Reuters heeft al verschillende beweringen over de cyberbeveiligingsmarkt die in door AI gegenereerde rapporten zijn verschenen, op feiten gecontroleerd. De eerste komt precies overeen met wat OpenClaw tegen Alice zei.

9. Het risico begrijpen

   De werkelijke groei van de cyberbeveiligingsmarkt bedroeg 12-14%, maar OpenClaw rapporteerde met volledig vertrouwen 96%. Bij een klantgerichte opdracht zou deze fout de geloofwaardigheid kunnen schaden en tot slechte investeringsbeslissingen kunnen leiden.

10. Een verzonnen bron

    Alice scrollt naar beneden om de tweede claim te bekijken: die waarin het 'Gartner 2025 Global AI Readiness Report' wordt aangehaald. OpenClaw presenteerde dit als een echte publicatie met specifieke bevindingen.