Wat telt als AI

Wat is Wat telt als AI?

De EU AI Act is van toepassing op AI-systemen, en definieert er één precies: software die uit zijn input afleidt hoe voorspellingen, inhoud, aanbevelingen of beslissingen moeten worden geproduceerd. Regels die iemand volledig heeft geschreven, tellen niet mee, hoe automatisch ze ook zijn. In deze oefening classificeert u de dagelijkse tools van een team aan de hand van die definitie, beslist u of uw organisatie de aanbieder of de gebruiksverantwoordelijke van elk systeem is, en koppelt u duidelijke beschrijvingen aan de termen waar de rest van de cursus op vertrouwt.

Wat je leert in Wat telt als AI

• Pas de EU AI Act-definitie van een AI-systeem toe, waarbij gevolgtrekkingen als doorslaggevende test worden gebruikt in plaats van automatisering of productlabels
• Onderscheid op regels gebaseerde software en eenvoudige statistische schattingen van systemen die patronen uit gegevens leren
• Identificeer of een organisatie de aanbieder of de gebruiksverantwoordelijke is van een AI-systeem, inclusief tools die intern zijn gebouwd en gebruikt
• Leg het verschil uit tussen een AI-model voor algemene doeleinden, een AI-systeem, een deep fake en een AI-systeem met een hoog risico

Wat telt als AI — Trainingsstappen

1. Een lijst voor Maren

   Dinsdag, half acht. Maren Aasland, die AI-governance leidt bij Brakvik Freight, wil van elk team vóór de driemaandelijkse evaluatie hetzelfde: de tools die het gebruikt, en welke daarvan meetellen als AI. Je plant bezorgroutes. Je weet niet zeker of je überhaupt AI gebruikt.

2. Het Register

   Het register bevindt zich op het governanceportaal. Maren heeft de gereedschapslijst uit de software-inventaris al ingevuld. De classificatie is van jou.

3. Eén zin beslist

   Het donkere paneel aan de linkerkant is de enige zin in de AI-wet die bepaalt of de rest van toepassing is: de definitie van een AI-systeem. De meeste mensen herinneren zich alleen ‘machinegebaseerd’. Het woord dat het werk doet, komt later.

4. Automatisch is geen AI

   Voordat u de lijst sorteert, test u de definitie op het eenvoudigste hulpmiddel.

5. Zes gereedschappen

   Zes tools, elk één vraag. Lees hoe ze allemaal werken en vraag je af of ze hun resultaten uit gegevens en aangeleerde patronen halen, of alleen regels en rekenkunde toepassen die door een persoon zijn ingesteld. Het register accepteert de pagina pas als elke rij overeenkomt met de definitie.

6. Twee voorspellingen

   Twee rijen produceren beide een voorspelling, en slechts één daarvan is een AI-systeem. Ze zijn de moeite waard om ze naast elkaar te zien, want dit is precies waar de registratie fout gaat.

7. Wie heeft het gebouwd

   Drie van de zes zijn AI-systemen. De tweede vraag van Maren gaat over de verplichtingen die daarmee gepaard gaan, en de wet verdeelt deze per rol: de aanbieder die een systeem bouwt, en de gebruiksverantwoordelijke die het gebruikt.

8. Brakviks rol

   Voor elk van de drie AI-systemen één vraag: heeft Brakvik Freight het gebouwd en onder zijn eigen naam beheerd, of gebruikt het iets dat een ander bedrijf heeft gebouwd?

9. In eigen huis gebouwd

   Eén van die drie antwoorden verrast de meeste mensen de eerste keer.

10. Gedeelde woorden

    Maren voegt een korte woordenlijst toe aan de pagina van elk team, zodat wanneer iemand hoog risico of 'deep fake' zegt, het hele bedrijf hetzelfde bedoelt. Vier alledaagse beschrijvingen, vier termen uit de wet, van het AI-model voor algemene doeleinden onder een tool tot de risicovolle systemen die de strengste taken vervullen.