Was zählt als KI

Was ist Was zählt als KI?

Die EU-KI-Verordnung gilt für KI-Systeme und definiert sie genau: Software, die aus ihrer Eingabe ableitet, wie sie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt. Regeln, die eine Person vollständig geschrieben hat, zählen nicht, so automatisch sie auch ablaufen. In dieser Übung ordnen Sie die alltäglichen Tools eines Teams anhand dieser Definition ein, entscheiden, ob Ihre Organisation jeweils Anbieter oder Betreiber des Systems ist, und ordnen einfache Beschreibungen den Begriffen zu, auf die sich der Rest des Kurses stützt.

Was Sie lernen in Was zählt als KI

• Die Definition eines KI-Systems aus der EU-KI-Verordnung anwenden und dabei das Ableiten als entscheidenden Test nutzen, nicht Automatisierung oder Produktbezeichnungen
• Regelbasierte Software und einfache statistische Schätzungen von Systemen unterscheiden, die Muster aus Daten lernen
• Erkennen, ob eine Organisation Anbieter oder Betreiber eines KI-Systems ist, auch bei Tools, die im eigenen Haus entwickelt und genutzt werden
• Den Unterschied zwischen einem KI-Modell mit allgemeinem Verwendungszweck, einem KI-System, einem Deepfake und einem Hochrisiko-KI-System erklären

Was zählt als KI — Trainingsschritte

1. Eine Liste für Maren

   Dienstag, halb neun. Maren Aasland, die bei Brakvik Freight die KI-Governance leitet, möchte vor dem Quartalsreview von jedem Team dasselbe wissen: welche Tools es nutzt und welche davon als KI gelten. Sie planen Lieferrouten. Sie sind nicht sicher, ob Sie überhaupt KI einsetzen.

2. Das Register

   Das Register liegt im Governance-Portal. Maren hat die Tool-Liste bereits aus dem Software-Inventar übernommen. Die Einordnung ist Ihre Aufgabe.

3. Ein Satz entscheidet

   Der dunkle Bereich links enthält den einen Satz der EU-KI-Verordnung, der entscheidet, ob der Rest überhaupt gilt: die Definition eines KI-Systems. Die meisten erinnern sich nur an „maschinengestützt“. Das Wort, auf das es ankommt, folgt erst später.

4. Automatisch ist nicht KI

   Bevor Sie die Liste sortieren, testen Sie die Definition am einfachsten Tool.

5. Sechs Tools

   Sechs Tools, je eine Frage. Lesen Sie, wie jedes funktioniert, und fragen Sie sich, ob es seine Ausgabe aus Daten und gelernten Mustern ableitet oder nur Regeln und Rechenoperationen anwendet, die eine Person festgelegt hat. Das Register nimmt die Seite erst an, wenn jede Zeile zur Definition passt.

6. Zwei Prognosen

   Zwei Zeilen erzeugen beide eine Prognose, und nur eine davon ist ein KI-System. Es lohnt sich, sie nebeneinander zu sehen, denn genau hier gehen Register schief.

7. Wer es entwickelt hat

   Drei der sechs sind KI-Systeme. Marens zweite Frage betrifft die Pflichten, die damit verbunden sind, und die Verordnung verteilt sie nach Rolle: der Anbieter, der ein System entwickelt, und der Betreiber, der es einsetzt.

8. Brakviks Rolle

   Für jedes der drei KI-Systeme eine Frage: Hat Brakvik Freight es selbst entwickelt und unter eigenem Namen in Betrieb genommen, oder nutzt es etwas, das ein anderes Unternehmen entwickelt hat?

9. Im eigenen Haus entwickelt

   Eine dieser drei Antworten überrascht die meisten beim ersten Mal.

10. Gemeinsame Begriffe

    Maren hängt an die Seite jedes Teams ein kurzes Glossar an, damit das ganze Unternehmen dasselbe meint, wenn jemand von hochriskant oder Deepfake spricht. Vier Alltagsbeschreibungen, vier Begriffe aus der Verordnung, vom KI-Modell mit allgemeinem Verwendungszweck unter einem Tool bis zu den Hochrisiko-KI-Systemen mit den strengsten Pflichten.