AI-hallucinatie en desinformatie

Wat is AI-hallucinatie en desinformatie?

Een taalmodel produceert de meest plausibele volgende woorden, niet de echte. Wanneer een feit ontbreekt, wordt er een gevonden in hetzelfde betrouwbare register als alles eromheen, en daarom overleven verzinsels het doorlezen ervan. In 2023 kreeg een advocaat uit New York een sanctie nadat hij een brief had ingediend met citaten uit de zaak die ChatGPT had uitgevonden. Je verifieert een door AI opgestelde marktanalyse claim voor claim, ontdekt welke cijfers en bronnen verzonnen zijn en welke echt zijn, en leert de signalen kennen die confabulatie signaleren.

Wat je leert in AI-hallucinatie en desinformatie

• Herken veelvoorkomende hallucinatiepatronen in door AI gegenereerde inhoud, waaronder verzonnen statistieken, niet-bestaande citaten en fout toegeschreven uitspraken
• Pas een gestructureerde feitcontroleworkflow toe om door AI gegenereerde beweringen te verifieeeren aan de hand van gezaghebbende bronnen voor publicatie
• Evalueer de vertrouwenssignalen in AI-uitvoer die verzonnen informatie vaak maskeren, zoals precieze cijfers en gedetailleerde bronopmaak
• Maak onderscheid tussen AI-uitvoer die echte gegevens parafraseert en uitvoer die pure confabulatie is zonder feitelijke basis
• Analyseer de zakelijke, juridische en reputatiegevolgen van het publiceren van niet-geverifieerde door AI gegenereerde inhoud in professionele context

AI-hallucinatie en desinformatie — Trainingsstappen

1. Ochtend bij Vantage Capital

   Vandaag werk je vanuit je thuiskantoor. Er is zojuist een product met hoge prioriteit in uw inbox beland.

2. Dringende klantbriefing

   Er komt een e-mail binnen van Rachel Torres, directeur onderzoek. Meridian Holdings – een van de grootste accounts van Vantage Capital – heeft de bestuursvergadering naar voren geschoven en heeft morgen een bijgewerkte cybersecurity-marktinlichtingenbrief nodig.

3. OpenClaw om hulp gevraagd

   Met een strakke deadline opent Alice OpenClaw, de AI-assistent van het bedrijf, om de marktgegevens snel te helpen verzamelen en structureren.

4. OpenClaw's marktanalyse

   OpenClaw reageert met een gedetailleerde analyse, compleet met specifieke statistieken en bronvermeldingen. Het antwoord ziet er gepolijst, nauwkeurig en klaar uit om in een professionele opdracht te worden opgenomen.

5. Een waarschuwing van Marcus

   Voordat Alice kan beginnen met het opstellen van de opdracht, komt er een e-mail van haar collega Marcus Webb. Hij kwam vorige week in de problemen met door AI gegenereerd onderzoek en wil delen wat hij heeft geleerd.

6. Een nadere blik op de cijfers

   De waarschuwing van Marcus doet Alice even nadenken. Ze kijkt terug op de reactie van OpenClaw. De groeiclaim van 96% op jaarbasis voor de cyberbeveiligingsmarkt lijkt ongebruikelijk hoog voor een volwassen industriële sector.

7. Kruisverwijzingen op Reuters

   Op advies van Marcus opent Alice Reuters Fact Check om de beweringen van OpenClaw tegen onafhankelijke berichtgeving te verifiëren. Reuters heeft onlangs een factcheck-artikel gepubliceerd waarin beweringen over de cyberbeveiligingsmarkt worden onderzocht die circuleren in door AI gegenereerde rapporten.

8. Het groeipercentage is onjuist

   Reuters heeft al verschillende beweringen over de cyberbeveiligingsmarkt die in door AI gegenereerde rapporten zijn verschenen, op feiten gecontroleerd. De eerste komt precies overeen met wat OpenClaw tegen Alice zei.

9. Het risico begrijpen

   De werkelijke groei van de cyberbeveiligingsmarkt bedroeg 12-14%, maar OpenClaw rapporteerde met volledig vertrouwen 96%. Bij een klantgerichte opdracht zou deze fout de geloofwaardigheid kunnen schaden en tot slechte investeringsbeslissingen kunnen leiden.

10. Een verzonnen bron

    Alice scrollt naar beneden om de tweede claim te bekijken: die waarin het 'Gartner 2025 Global AI Readiness Report' wordt aangehaald. OpenClaw presenteerde dit als een echte publicatie met specifieke bevindingen.