KI-Anwendungen und der EU AI Act
Die europäische KI-Verordnung (EU AI Act, Verordnung (EU) 2024/1689) teilt KI-Systeme nach ihrem Risiko ein. Je höher das Risiko, desto strenger die Pflichten.
| Risiko | Folge | Beispiele |
|---|---|---|
| unannehmbar | verboten (Art. 5) | Social Scoring, Manipulation, Emotionserkennung am Arbeitsplatz |
| hoch | strenge Pflichten (Anhang III) | Bewerbungen sortieren, Kreditwürdigkeit, Prüfungen bewerten |
| begrenzt | Transparenz (Art. 50) | Chatbots, Deepfakes |
| minimal | keine besonderen Pflichten | Spamfilter, KI in Spielen |
Anbieter entwickeln ein KI-System und bringen es unter eigenem Namen auf den Markt. Betreiber setzen es beruflich ein. Ein Unternehmen, das einen gekauften Chatbot nutzt, ist Betreiber.
Wie KI lernt
- Überwachtes Lernen: Die Trainingsdaten enthalten die richtige Antwort (Label), z. B. „Spam“ oder „kein Spam“.
- Unüberwachtes Lernen: keine Labels. Das System findet selbst Muster und Gruppen, z. B. Kundengruppen.
- Bestärkendes Lernen: Lernen durch Belohnung, z. B. ein Roboter, der Punkte für erfolgreiches Greifen bekommt.
Trainingsdaten zum Lernen, Validierungsdaten zum Abstimmen während der Entwicklung, Testdaten für die abschließende Prüfung, Eingabedaten im Betrieb.
Typische Probleme
- Halluzination: erfundene, aber überzeugend klingende Antworten. Ergebnisse immer prüfen.
- Bias: einseitige Trainingsdaten führen zu unfairen Ergebnissen.
- Datenschutz: keine personenbezogenen Daten in öffentliche KI-Tools ohne Rechtsgrundlage und Vertrag.
- Urheberrecht: generierte Inhalte können geschützte Werke enthalten.