Wirksame menschliche Aufsicht

Was ist Wirksame menschliche Aufsicht?

Menschliche Aufsicht zählt nur, wenn der Mensch die Maschine tatsächlich überstimmen kann. Eine prüfende Person, die alles genehmigt, was das Modell vorschlägt, stellt niemanden zufrieden – und genau das sagt auch die EU-KI-Verordnung. Als Kreditanalyst überprüfen Sie KI-generierte Kreditempfehlungen, bemerken, wo Automation Bias Sie zur Zustimmung drängt, und üben, eine unabhängige Entscheidung zu treffen. Am Ende können Sie echte Aufsicht von einem bloßen Abnicken unterscheiden.

Was Sie lernen in Wirksame menschliche Aufsicht

• Verstehen, was wirksame menschliche Aufsicht nach den Artikeln 14 und 26 der EU-KI-Verordnung verlangt
• Automation Bias beim Prüfen von KI-Empfehlungen erkennen und widerstehen
• Erkennen, wann KI-Entscheidungen aufgrund widersprechender Belege zu überstimmen sind
• Jede KI-Empfehlung unabhängig von früherer Treffgenauigkeit eigenständig beurteilen
• Die Befugnis ausüben, KI-Entscheidungen zu untersuchen, zu überstimmen oder zu eskalieren

Wirksame menschliche Aufsicht — Trainingsschritte

1. Artikel 14 und 26: Menschliche Aufsicht

   Hochrisiko-KI-Systeme erfordern eine wirksame menschliche Aufsicht. Die Artikel 14 und 26 nennen drei Voraussetzungen, die eine prüfende Person braucht: Kompetenz – Schulung zu den Fähigkeiten und Grenzen des KI-Systems. Befugnis, die KI zu überstimmen , wenn dies geboten ist. Eigenständiges Urteil bei jedem Fall, statt nur die Empfehlung der KI zu bestätigen. Die größte Gefahr ist Automation Bias : sich zu sehr auf KI zu verlassen, weil sie glaubwürdig erscheint. Wer das System beaufsichtigt, muss sich dieser Gefahr bewusst bleiben (Artikel 14 Absatz 4 Buchstabe b). Die Bewertung von Firmenkrediten steht nicht auf der Liste in Anhang III, die die Kreditwürdigkeit natürlicher Personen erfasst (Nummer 5 Buchstabe b), doch Atlas wendet diesen Standard als Unternehmensrichtlinie auf jede Kreditentscheidung an.

2. Die morgendliche Warteschlange

   Alice richtet sich in ihrem Homeoffice ein. Eine E-Mail ihres Teamleiters Daniel Reyes erläutert die Aufgaben des Tages.

3. Auffrischung der Aufsichtsleitlinien

   Daniels Link führt Alice zum Schulungsportal von Atlas Financial. Auf der Seite „Leitlinien zur menschlichen Aufsicht“ wird erläutert, was wirksame Aufsicht nach den Artikeln 14 und 26 bei jeder Prüfung von ihr verlangt.

4. Die Genehmigungswarteschlange öffnen

   Alice öffnet die Genehmigungswarteschlange auf ihrem linken Monitor. Fünf Kreditanträge warten, jeweils mit der Empfehlung der KI und einem Konfidenzwert versehen.

5. Fall 1: Meridian Logistics

   Der erste Antrag: Meridian Logistics, ein Unternehmenskredit über 150.000 EUR. Die KI empfiehlt die Genehmigung mit einem Konfidenzwert von 95 %.

6. Die Serie fortsetzen

   Zwei weitere Routinefälle folgen rasch: Harrington & Cole, eine seit 18 Jahren bestehende Kanzlei, beantragt 45.000 EUR für Büroausstattung (KI-Konfidenzwert 94 %), und Briarwood Construction, ein neun Jahre bestehendes Unternehmen, beantragt 280.000 EUR Zwischenfinanzierung gegen einen Regierungsauftrag (KI-Konfidenzwert 97 %, vollständig besichert).

7. Fall 4: NovaPeak Digital

   NovaPeak Digital Ltd. beantragt einen Expansionskredit über 500.000 EUR . Die KI empfiehlt die Genehmigung mit einem Konfidenzwert von 88 % .

8. Zwischenstand: Die Serien-Falle

9. Fall 5: GreenLeaf Community Services

   Der letzte Antrag: GreenLeaf Community Services, eine drei Jahre alte Organisation, beantragt 75.000 EUR. Dieses Mal empfiehlt die KI mit einem Konfidenzwert von 78 % ABLEHNEN .

10. Zwischenstand: Die KI überstimmen