KI und Recht – EU AI Act
Die Risikostufen der KI-Verordnung
Du hast keinen Zugriff auf diese Lektion
Registriere dich bitte oder melde dich an, um auf den Kursinhalt zuzugreifen.
Transcript wird geladen …
Kein Ergebnis für
Nach dieser Lektion kannst du …
- Du kannst die vier Risikostufen der EU-KI-Verordnung benennen und ihnen entsprechende Anwendungsbeispiele zuordnen.
- Du kannst die spezifischen Dokumentations- und Transparenzpflichten für Hochrisiko- und mittlere KI-Systeme beschreiben.
- Du kannst erklären, was ein GPAI-Modell ist und welche zusätzlichen Anforderungen bei einem systemischen Risiko greifen.
- Du kannst die Relevanz und den Anwendungsbereich der verpflichtenden KI-Kompetenz für Organisationen erläutern.
- Du kannst die logischen Schritte zur praktischen Umsetzung der KI-Verordnung im eigenen Unternehmen anwenden.
Das hast du gelernt
- Die KI-Verordnung teilt KI-Systeme risikobasiert ein, um Grundrechte und Sicherheit zu schützen, ohne dabei Innovationen zu blockieren.
- Während Systeme mit inakzeptablem Risiko verboten sind, unterliegen Hochrisiko-Systeme strengen Auflagen und Systeme mit mittlerem Risiko primär Transparenzpflichten.
- Für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) gelten Basis-Transparenzpflichten, die sich bei systemischen Risiken um umfassende Sicherheitsmaßnahmen erweitern.
- Unabhängig von der Risikostufe des eingesetzten Systems verpflichtet die Verordnung nahezu alle Unternehmen und Verwaltungen zum Aufbau von KI-Kompetenz.
- Die praktische Umsetzung verlangt eine initiale Risikoklassifizierung der genutzten KI-Anwendungen, um die daraus resultierenden rechtlichen Pflichten abzuleiten.
Begriffe & Definitionen
Risikostufen (EU-KI-Verordnung)Eine Einteilung aller KI-Systeme in vier Kategorien je nach möglichem Schaden für Menschen und Gesellschaft – von verboten bis minimal riskant. Je höher das Risiko, desto strenger die Anforderungen.
Inakzeptables RisikoDie höchste Risikostufe der EU-KI-Verordnung, in der KI-Anwendungen vollständig verboten sind, weil sie grundlegende Rechte und Werte der EU gefährden – zum Beispiel Systeme, die Menschen manipulieren oder pauschal bewerten.
Hochrisiko-KI-SystemEin KI-System, das in besonders sensiblen Bereichen eingesetzt wird – wie Personalauswahl oder medizinische Diagnose – und deshalb strenge Auflagen zu Dokumentation, Datensicherheit und Transparenz erfüllen muss.
Mittleres Risiko (KI-System)Eine Risikostufe für KI-Anwendungen, die nicht hochkritisch, aber auch nicht harmlos sind – für sie gilt vor allem die Pflicht, Nutzerinnen und Nutzer klar darüber zu informieren, dass sie mit einer KI interagieren.
Minimales Risiko (KI-System)Die niedrigste Risikostufe, in die die große Mehrheit der heutigen KI-Anwendungen fällt – hier schreibt die EU-KI-Verordnung keine besonderen Pflichten vor, empfiehlt aber die Einhaltung freiwilliger ethischer Standards.
Social ScoringEin System, das Menschen anhand ihres Verhaltens oder ihrer Eigenschaften bewertet und auf Basis dieser Punktzahl bevorzugt oder benachteiligt – diese Praxis ist durch die EU-KI-Verordnung verboten.
Biometrische ÜberwachungDie automatisierte Erfassung und Auswertung körperlicher Merkmale von Menschen – wie Gesicht, Stimme oder Gang – um Personen zu identifizieren oder zu überwachen.
Risikomanagement (KI)Ein systematischer Prozess, mit dem Unternehmen die möglichen Risiken eines KI-Systems erkennen, bewerten und durch geeignete Maßnahmen kontrollieren oder verringern.
TransparenzpflichtDie gesetzliche Verpflichtung, Nutzerinnen und Nutzern offenzulegen, dass sie mit einer KI interagieren oder dass Inhalte – zum Beispiel Bilder oder Texte – von einer KI erzeugt wurden.
DeepfakeEin mit KI erzeugtes Bild, Video oder Audio, das eine echte Person täuschend echt darstellt, obwohl der Inhalt gefälscht ist.
GPAI-Modell (General Purpose AI)Ein KI-Modell mit allgemeinem Verwendungszweck, das für viele verschiedene Aufgaben genutzt werden kann – zum Beispiel große Sprachmodelle wie ChatGPT. Für diese gelten besondere Transparenz- und Dokumentationspflichten.
Systemisches RisikoEin Risiko, das entsteht, wenn ein KI-Modell so weit verbreitet und einflussreich ist, dass Fehler oder Missbrauch weitreichende negative Folgen für viele Menschen oder die gesamte Gesellschaft haben könnten.
KI-KompetenzDas Wissen und die Fähigkeiten, die Mitarbeitende in Unternehmen benötigen, um KI-Systeme sicher, verantwortungsvoll und regelkonform auswählen, einsetzen und bewerten zu können.
SoftlawFreiwillige Leitlinien, Empfehlungen oder Standards, die zwar keine gesetzliche Pflicht darstellen, aber als bewährte Verhaltensregeln anerkannt sind und zur Qualitätssicherung beitragen.
Datenschutzgrundverordnung (DSGVO)Ein EU-Gesetz, das regelt, wie personenbezogene Daten erhoben, gespeichert und verarbeitet werden dürfen, um die Privatsphäre von Menschen zu schützen.
DiskriminierungsverbotEin rechtlicher Grundsatz, der verbietet, Menschen aufgrund von Merkmalen wie Herkunft, Geschlecht oder Religion ungleich zu behandeln – gilt auch für den Einsatz von KI-Systemen.
Was bedeutet …
Denk kurz nach, dann aufdecken.
Begriffe mit „Noch nicht“ kommen in der nächsten Lektion wieder.