KI-Anwendungen üben

Seit 2025 im Prüfungskatalog: Was der EU AI Act verbietet oder regelt, wie KI lernt und worauf du beim Einsatz achten musst.

KI-Anwendungen und der EU AI Act

Die europäische KI-Verordnung (EU AI Act, Verordnung (EU) 2024/1689) teilt KI-Systeme nach ihrem Risiko ein. Je höher das Risiko, desto strenger die Pflichten.

Risiko Folge Beispiele
unannehmbar verboten (Art. 5) Social Scoring, Manipulation, Emotionserkennung am Arbeitsplatz
hoch strenge Pflichten (Anhang III) Bewerbungen sortieren, Kreditwürdigkeit, Prüfungen bewerten
begrenzt Transparenz (Art. 50) Chatbots, Deepfakes
minimal keine besonderen Pflichten Spamfilter, KI in Spielen

Anbieter entwickeln ein KI-System und bringen es unter eigenem Namen auf den Markt. Betreiber setzen es beruflich ein. Ein Unternehmen, das einen gekauften Chatbot nutzt, ist Betreiber.

Wie KI lernt

  • Überwachtes Lernen: Die Trainingsdaten enthalten die richtige Antwort (Label), z. B. „Spam“ oder „kein Spam“.
  • Unüberwachtes Lernen: keine Labels. Das System findet selbst Muster und Gruppen, z. B. Kundengruppen.
  • Bestärkendes Lernen: Lernen durch Belohnung, z. B. ein Roboter, der Punkte für erfolgreiches Greifen bekommt.

Trainingsdaten zum Lernen, Validierungsdaten zum Abstimmen während der Entwicklung, Testdaten für die abschließende Prüfung, Eingabedaten im Betrieb.

Typische Probleme

  • Halluzination: erfundene, aber überzeugend klingende Antworten. Ergebnisse immer prüfen.
  • Bias: einseitige Trainingsdaten führen zu unfairen Ergebnissen.
  • Datenschutz: keine personenbezogenen Daten in öffentliche KI-Tools ohne Rechtsgrundlage und Vertrag.
  • Urheberrecht: generierte Inhalte können geschützte Werke enthalten.

Beispielaufgabe mit Lösung

Risikoklassen nach EU AI Act

In welche Risikoklasse der europäischen KI-Verordnung (EU AI Act) fällt der Einsatz jeweils?

Lösung anzeigen

Lösungsweg

  1. Hohes Risiko (Anhang III): erlaubt, aber mit strengen Pflichten (Risikomanagement, Datenqualität, Dokumentation, menschliche Aufsicht), z. B. Personalauswahl, Kreditwürdigkeit, Bildung, kritische Infrastruktur.
  2. Begrenztes Risiko (Art. 50): Menschen müssen erkennen können, dass sie mit KI sprechen oder KI-Inhalte sehen, z. B. Chatbots und Deepfakes.
  3. Eine Berufsschule bewertet Prüfungsleistungen automatisch mit KI. → hoch
  4. Eine Software sortiert Bewerbungen vor und entscheidet, wer zum Gespräch eingeladen wird. → hoch
  5. Ein Sprachassistent am Telefon nimmt Terminbuchungen entgegen und klingt wie ein Mensch. → begrenzt (Transparenzpflicht)

Oben bekommst du jedes Mal eine neue Aufgabe dieser Art, mit Lösungsweg.