Snelle injectie in documenten
Het document vertelde de assistent wat hij erover moest zeggen.
Wat is Snelle injectie in documenten?
Een AI-assistent die een bijlage samenvat, leest elk woord in het bestand, inclusief tekst die op een plek is geplaatst waar iemand het nooit zal zien. Voor de assistent geschreven tekst kan met de zelfverzekerde stem van de assistent een claim in het overzicht zetten, en die claim kan een betalingsinstructie zijn. In deze oefening ontmoet u een samenvatting die eindigt in een goedkeuring die niemand heeft gegeven, traceert u deze terug naar een onzichtbare paragraaf in het document en verifieert u de claim bij het team dat eigenaar is van het record.
Wat je leert in Snelle injectie in documenten
- Erken dat een AI-samenvatting herhaalt wat het brondocument zegt, zodat een aanvaller die het document beheert, een deel van het antwoord controleert
- Let op de verandering van register wanneer een samenvatting stopt met het beschrijven van een bestand en begint de lezer te instrueren of een interne beslissing te bevestigen
- Onthul verborgen tekst in een document en koppel deze aan de exacte zinnen die de assistent heeft geproduceerd
- Verifieer een goedkeuring of een betalingsclaim bij de bron, via het team dat eigenaar is van de record en een kanaal dat u al gebruikt, in plaats van te reageren op het bericht dat de claim heeft ingediend
- Rapporteer een vergiftigd document op een manier waarop andere mensen actie kunnen ondernemen, door het bestand een naam te geven en de claim exact te citeren zoals deze is gemaakt
Snelle injectie in documenten — Trainingsstappen
-
Tenderweek
Het is dinsdag om 09.20 uur dat de CR-118-biedingen moeten plaatsvinden. Er zijn drie fabrikanten uitgenodigd om in te schrijven op het leuning- en loopbrugpakket, en donderdag moet u een aanbeveling krijgen van de projectmanager. Corrowdale Engineering schakelde dit voorjaar een AI-assistent in de e-mailclient in. Het vat de discussies en bijlagen samen, en in een week als deze leunt iedereen erop.
-
Het tweede bod landt
De inzending van Quastmark Fabrication arriveert met het voorstel als bijlage. Het is het bod waarop u zat te wachten, vanaf het adres dat hun commercieel manager altijd heeft gebruikt.
-
Open de assistent
Het voorstel telt veertien pagina's en er staan nog twee biedingen achter. Dit is precies het moment waarop de assistent zijn licentievergoeding verdient.
-
Vat de bijlage samen
De assistent biedt aan om het bericht samen te vatten, de bijlage samen te vatten of een antwoord op te stellen. Het bericht bestaat uit vier regels en je hebt het al gelezen. De veertien pagina's zijn het deel dat je binnen tien seconden terug wilt hebben.
-
De samenvatting komt terug
Corrowdale Assist opent de pdf en begint met schrijven.
-
Lees wat het schreef
Drie alinea's met precies waar u om vroeg, en dan een vierde die iets anders doet.
-
Wat die paragraaf is
Benoem het voordat je ernaar handelt.
-
Wat het las
Onder het antwoord vermeldt de assistent de bronnen. Bij een verzoek om een samenvatting als bijlage is die lijst kort en het meest bruikbare in het panel.
-
Verkrijg het bestand
De assistent las de bijlage. Dat heb je niet.
-
Lees het voorstel
Zes secties: omvang, prijs, programma, kwaliteit, voorwaarden, afdracht. Het is een competent biedingsdocument van een fabrikant die eerder voor Corrowdale Engineering heeft gewerkt. Er wordt nergens melding gemaakt van Financiën en er wordt nergens melding gemaakt van een goedkeuring.
Dekking van beveiligingsframeworks
OWASP LLM Top 10
- LLM01:2026 Prompt Injection
CWE
- CWE-1427 Improper Neutralization of Input Used for LLM Prompting
MITRE ATT&CK
- T1566.001 Phishing: Spearphishing Attachment
CIS Controls
- CIS 14.2 Train Workforce Members to Recognize Social Engineering Attacks
- CIS 14.6 Train Workforce Members on Recognizing and Reporting Security Incidents
NIST CSF
- PR.AT-01 Personnel are provided with awareness and training so that they possess the knowledge and skills to perform general tasks with cybersecurity risks in mind
EU AI Act
- Art. 4 AI literacy