Teil 3: Anforderungen an Hochrisiko-KI-Systeme

Für KI-Systeme, die als “hochrisikoreich” eingestuft werden, gelten strenge Auflagen. Die EU hat sich zum Ziel gesetzt, die Sicherheit, Ethik und Vertrauenswürdigkeit dieser Systeme zu gewährleisten.

Die wichtigsten Anforderungen
Daten­si­cherheit und Qualität: Bei Hochrisiko-KI-Systemen ist eine verläss­liche und hochwertige Daten­basis unerlässlich. Verzer­rungen in den Daten können zu diskri­mi­nie­renden Entschei­dungen führen, was unbedingt vermieden werden muss. Unter­nehmen sind dazu verpflichtet, die Daten­quellen in regel­mä­ßigen Abständen zu überprüfen und zu validieren.
Trans­parenz und Erklär­barkeit: Es ist von entschei­dender Bedeutung, dass Anwender und Betroffene darüber infor­miert werden, dass sie mit einer KI inter­agieren, und dass sie die Grund­lagen der Entschei­dungs­findung des Systems verstehen. Dies ist insbe­sondere in Bereichen wie der Straf­ver­folgung oder dem Gesund­heits­wesen von entschei­dender Bedeutung, da Fehlent­schei­dungen gravie­rende Konse­quenzen haben können.
Mensch­liche Aufsicht: Auch bei hochent­wi­ckelten KI-Systemen muss stets sicher­ge­stellt sein, dass ein Mensch in den Entschei­dungs­prozess eingreifen kann, sofern dies erfor­derlich ist. Insbe­sondere bei hochkri­ti­schen Entschei­dungen, wie der Bewil­ligung eines Kredits oder einer medizi­ni­schen Diagnose, ist eine vollau­to­ma­tische Entschei­dungs­findung ohne mensch­liche Kontrolle nicht zulässig.
Zerti­fi­zierung und Audits: Hochrisiko-KI-Systeme müssen einer regel­mä­ßigen Überprüfung und Zerti­fi­zierung durch unabhängige Stellen unter­zogen werden. Die Audits dienen der Gewähr­leistung der Konfor­mität mit den geltenden Vorschriften sowie der Vermeidung von Risiken für die Gesellschaft.

Wann kommt die KI-Verordnung nicht zur Anwendung?

Die EU-KI-Verordnung schafft einen umfassenden Rechtsrahmen für den Einsatz von Künstlicher Intelligenz. Allerdings gibt es bestimmte Bereiche und Anwendungen, in denen sie nicht gilt. Es ist von entscheidender Bedeutung, die Ausnahmen zu verstehen, um zu wissen, wann die regulatorischen Anforderungen gelten und wann nicht.

Ausnahmen für militärische Anwendungen

Die vorliegende Verordnung findet keine Anwendung auf KI-Systeme, die ausschließlich für militärische Zwecke entwickelt oder eingesetzt werden. Militärische Anwendungen, wie beispielsweise KI-Systeme zur Steuerung von militärischen Drohnen oder zur Analyse strategischer Militärdaten, unterliegen eigenen Regulierungen und sind von der EU-KI-Verordnung ausgenommen.

Private und persönliche Nutzung

Gemäß der Verordnung sind KI-Systeme, die ausschließlich für private oder persönliche Zwecke genutzt werden, von den Anforderungen ausgenommen. Die Verordnung findet keine Anwendung, sofern eine Privatperson zu Hause eine selbstentwickelte KI-Anwendung nutzt, beispielsweise zur Sortierung persönlicher Fotos oder zur Optimierung des Energieverbrauchs im eigenen Haushalt.

Tätigkeiten außerhalb der EU

Die KI-Verordnung findet keine Anwendung auf KI-Systeme, die außerhalb der EU entwickelt oder eingesetzt werden und keine Auswirkungen auf den EU-Markt oder EU-Bürger haben. Ein in Japan ansässiges Unternehmen, das ein KI-System für den lokalen Markt entwickelt und dieses weder in der EU anbietet noch verwendet, unterliegt somit nicht der EU-KI-Verordnung.

Bestimmte öffentliche Stellen und Aktivitäten

Tätigkeiten der EU-Organe oder der Mitgliedstaaten im Rahmen der öffentlichen Sicherheit, der Landesverteidigung oder der nationalen Sicherheit sind von der Verordnung ausgenommen. Nationale Geheimdienste, die beispielsweise KI zur Terrorismusbekämpfung einsetzen, unterliegen nicht den Bestimmungen der EU-KI-Verordnung.

Forschung und Entwicklung

Aktivitäten im Bereich der reinen Forschung und Entwicklung, die nicht zur Markteinführung eines KI-Systems führen, können von bestimmten Anforderungen der Verordnung ausgenommen werden. Ein Forschungsprojekt an einer Universität, das neue KI-Algorithmen entwickelt und testet, ohne diese kommerziell anzubieten, unterliegt demnach nicht den strengen Vorgaben der Verordnung.

Temporäre Nutzung zur Prüfung

Die vorübergehende Nutzung von KI-Systemen in kontrollierten Umgebungen zur Bewertung, Validierung oder Demonstration ist ebenfalls nicht Gegenstand der Verordnung, sofern keine realen Nutzerdaten betroffen sind. Bei einem internen Test eines KI-Systems mit simulierten Daten durch ein Unternehmen, um dessen Funktionalität zu überprüfen, bevor es auf den Markt gebracht wird, finden die Anforderungen der Verordnung keine Anwendung.