Teil 2: Risikokategorisierung und Regulierungsansätze

Ein zentrales Element der EU-KI-Verordnung ist der risikobasierte Ansatz, der KI-Systeme je nach ihrem potenziellen Einfluss auf die Gesellschaft in vier Risikoklassen einteilt. Diese Klassifizierung bestimmt, welche regulatorischen Anforderungen und Kontrollen für die jeweiligen Systeme gelten.

1. Verbotene KI-Praktiken

Diese Kategorie umfasst KI-Anwendungen, die als unethisch oder gefährlich eingestuft werden und daher innerhalb der EU verboten sind.

  • Manipulative KI-Systeme: Systeme, die das Verhalten von Menschen durch unterbewusste Techniken beeinflussen und ihnen potenziell schaden können.
    Beispiel: Eine App, die durch subliminale Botschaften Nutzer dazu verleitet, impulsive Käufe zu tätigen oder bestimmte politische Meinungen anzunehmen, ohne dass sie sich dessen bewusst sind.
  • Soziale Bewertung: KI-Systeme, die das gesellschaftliche Verhalten von Personen bewerten, um sie zu belohnen oder zu bestrafen.
    Beispiel: Ein Scoring-System, das das Online-Verhalten von Menschen analysiert und ihnen basierend darauf den Zugang zu Dienstleistungen wie Krediten oder Wohnraum verweigert.
  • Biometrische Echtzeit-Überwachung: Der Einsatz von Technologien wie Gesichtserkennung im öffentlichen Raum ohne klare gesetzliche Grundlage.
    Beispiel: Eine Stadt, die Kameras mit Gesichtserkennung einsetzt, um Personen in Echtzeit zu identifizieren und zu verfolgen, ohne dass die Betroffenen darüber informiert sind oder eingewilligt haben.

2. Hochrisiko-KI-Systeme

KI-Systeme, die als hohes Risiko eingestuft werden, können erhebliche Auswirkungen auf das Leben und die Rechte von Menschen haben. Daher unterliegen sie strengen Anforderungen und müssen bestimmte Kriterien erfüllen.

  • Qualitätsmanagement: Anbieter müssen ein robustes Qualitätsmanagementsystem implementieren, das die Einhaltung aller gesetzlichen Vorschriften sicherstellt.
    Beispiel: Ein Hersteller von medizinischen KI-Diagnosetools muss sicherstellen, dass seine Systeme regelmäßig überprüft und aktualisiert werden, um genaue und zuverlässige Diagnosen zu gewährleisten.
  • Datenanforderungen: Die verwendeten Datensätze müssen von hoher Qualität, repräsentativ und frei von Verzerrungen sein, um diskriminierende oder fehlerhafte Ergebnisse zu vermeiden.
    Beispiel: Eine KI, die bei der Personalrekrutierung eingesetzt wird, muss mit diversen Daten trainiert werden, um sicherzustellen, dass keine Bewerber aufgrund von Geschlecht, Alter oder ethnischer Herkunft benachteiligt werden.
  • Dokumentation und Transparenz: Anbieter müssen umfassende technische Unterlagen bereitstellen und Nutzer klar über die Funktionsweise und die potenziellen Risiken des KI-Systems informieren.
    Beispiel: Ein Finanzinstitut, das eine KI für Kreditentscheidungen nutzt, muss offenlegen, welche Kriterien die KI berücksichtigt und wie diese Entscheidungen beeinflussen.
  • Menschliche Aufsicht und Eingriffsmöglichkeit: Es muss gewährleistet sein, dass Menschen die Kontrolle über das KI-System behalten und bei Bedarf eingreifen können.
    Beispiel: In autonomen Fahrzeugen muss der Fahrer jederzeit die Möglichkeit haben, die Steuerung zu übernehmen, um auf unerwartete Verkehrssituationen reagieren zu können.
  • Robustheit und Sicherheit: Die Systeme müssen zuverlässig funktionieren und vor Manipulationen oder Cyberangriffen geschützt sein.
    Beispiel: Ein KI-System zur Steuerung von Stromnetzen muss gegen Hackerangriffe abgesichert sein, um Stromausfälle oder Schäden zu verhindern.

3. Begrenztes Risiko

KI-Systeme mit begrenztem Risiko unterliegen spezifischen Transparenzanforderungen, jedoch keinen strengen Regulierungen. Ziel ist es, sicherzustellen, dass Nutzer informiert sind und bewusst mit diesen Systemen interagieren.

  • Beispiel: Ein Chatbot im Kundenservice muss deutlich machen, dass der Nutzer mit einer KI und nicht mit einem menschlichen Mitarbeiter spricht.
  • Beispiel: Ein virtueller Assistent, der Emotionserkennung nutzt, um auf die Stimmung des Nutzers zu reagieren, muss den Nutzer darüber informieren, dass solche Technologien eingesetzt werden.

4. Minimales Risiko

Die meisten KI-Systeme fallen in diese Kategorie und können ohne besondere Anforderungen genutzt werden, da sie ein geringes oder kein Risiko für die Rechte oder die Sicherheit von Personen darstellen.

  • Beispiel: Ein Musikstreaming-Dienst, der KI verwendet, um personalisierte Wiedergabelisten basierend auf dem Hörverhalten des Nutzers zu erstellen.
  • Beispiel: Ein E-Mail-Programm, das mithilfe von KI Spam-Nachrichten identifiziert und automatisch in einen separaten Ordner verschiebt.

Mit dieser Risikokategorisierung schafft die EU-KI-Verordnung…

einen klaren Rahmen, der sowohl den Schutz der Bürger als auch die Förderung von Innovationen berücksichtigt. Unternehmen sind aufgefordert, ihre KI-Systeme entsprechend einzustufen und die notwendigen Maßnahmen zu ergreifen, um Compliance zu gewährleisten.

Bitte beachten Sie, dass nicht alle KI-Systeme unter die Verordnung fallen. Systeme mit minimalem Risiko, wie sie in alltäglichen Anwendungen vorkommen (z. B. Smart-Home-Assistenten), unterliegen keinen spezifischen Anforderungen. Ein wesentlicher Aspekt der Verordnung ist die Vermeidung unnötiger Belastungen für Unternehmen. Stattdessen soll eine ausgewogene Regulierung geschaffen werden, die Innovation fördert und gleichzeitig Risiken minimiert.