Künstliche Intelligenz ist inzwischen im Alltag von Unternehmen und Privatpersonen ein ständiger Begleiter. Mit der EU-KI-Verordnung (KI-VO) existiert nunmehr auch eine gesetzliche Grundlage, die den Umgang mit KI regelt. Die Verordnung ist das (weltweit) erste umfassende Regelwerk zur Regulierung von Künstlicher Intelligenz (KI) und offiziell seit dem 1. August 2024 in Kraft. Mit dem nachfolgenden Beitrag möchten wir Ihnen einen ersten, kursorischen Überblick zu der Thematik geben:

Die meisten Vorgaben der KI-Verordnung gelten erst nach einer Übergangszeit ab dem 2. August 2026. Es gibt jedoch folgende Ausnahmen:

  • Die Kapitel I und II gelten ab dem 2. Februar 2025;
  • Kapitel III Abschnitt 4, Kapitel V, Kapitel VII und Kapitel XII sowie Artikel 78 gelten ab dem 2. August 2025, mit Ausnahme des Artikels 101;

Die bereits ab dem 2. Februar 2025 geltenden Kapitel I und II der KI-VO enthalten wesentliche Vorschriften zur Regulierung von Künstlicher Intelligenz. Ziel der Verordnung ist es, europaweit einheitliche Standards für die Entwicklung und Nutzung von KI-Systemen zu schaffen, um deren Sicherheit, Transparenz und Fairness zu gewährleisten. Insbesondere führt die KI-VO neue Pflichten für Anbieter und Betreiber von KI-Systemen ein, die Unternehmen unmittelbar betreffen.

Die KI-VO unterscheidet dabei zwischen unterschiedlichen Risikokategorien von KI-Systemen – von minimalem über begrenztes und hohes Risiko bis hin zu unvertretbaren Risiken. Zu den unzulässigen Praktiken gemäß Artikel 5 der KI-VO (Kapitel II) gehören Systeme, bei denen Bedrohungen zu befürchten sind, weil sie z. B. täuschen oder bestimmte Merkmale von Personen gezielt zur Manipulation ausnutzen können – dies etwa durch den Einsatz manipulativer Techniken, die die freie Willensbildung von Personen beeinträchtigen, und die Verwendung bestimmter biometrischer Identifizierungssysteme in Echtzeit im öffentlichen Raum. Diese sind strikt verboten.

Alle sonstigen KI-Systeme sind zulässig, sofern bestimmte Anforderungen erfüllt sind. Dies ist in Kapitel I geregelt. So verpflichtet Art. 4 KI-VO Anbieter und Betreiber von -KI-Systemen sicherzustellen, dass die jeweiligen Nutzer über ein ausreichendes Maß an „KI-Kompetenz“ verfügen.

Worum geht es genau?

1. Verbot unzulässiger Praktiken

Gemäß Artikel 5 der KI-VO sind bestimmte Anwendungen und Praktiken von KI-Systemen verboten. Hierzu gehören:

  • Der Einsatz manipulativer Techniken, die darauf abzielen, das Verhalten von Personen auf unfaire Weise zu beeinflussen.
  • Die Nutzung von KI-Systemen zur Überwachung und Einstufung von Personen anhand sozialer Verhaltensweisen („Social Scoring“).
  • Der Einsatz biometrischer Systeme zur Identifizierung in Echtzeit im öffentlichen Raum durch Strafverfolgungsbehörden (außer in eng definierten Ausnahmefällen).

2. Vermittlung von „KI-Kompetenz“

Anbieter und Betreiber von KI-Systemen sind verpflichtet, dafür zu sorgen, dass Nutzer ein ausreichendes Maß an sogenannter „KI-Kompetenz“ erlangen. Der Umfang der geforderten „KI-Kompetenz“ richtet sich immer nach dem jeweiligen Kontext des KI-Einsatzes. Es ist somit einzelfallbezogen zu prüfen, wie und in welcher Detailtiefe die Kompetenzen vermittelt werden müssen.

Konkrete Beispiele für zu vermittelnden Kompetenzen der Nutzer können sein:

  • Aufklärung über Funktionsweise des jeweiligen KI-Tools,
  • Aufklärung über mögliche Risiken bei Verwendung der Ergebnisse,
  • Aufklärung über weitere Pflichten nach KI-VO für das jeweilige KI-System (bspw. zusätzliche Transparenzpflichten bei sogenannte Hoch-Risiko-Systemen)
  • Aufklärung der Nutzer, dass KI verwendet wird.
  • Im Falle der Verwendung von Hochrisiko-KI-Systemen:
    • Kompetenzvermittlunng zur Überwachung des KI-Systems
    • Kompetenzvermittlung zur Überprüfung der KI-getroffenen Entscheidungen

Der Kompetenz-Nachweis kann unterschiedlich erbracht werden. So finden sich bereits einige Angebote, die eine generelle KI-Kompetenz der Mitarbeiter zertifizieren. Es lassen sich jedoch auch pragmatischere Ansätze finden, die zugeschnitten auf den konkreten Einsatz von KI-Systemen ausgerichtet sind.

Grundsätzlich sollte beachtet werden, dass die Kompetenzvermittlung pro KI-System gefordert wird. Daher kann es sinnvoll sein, den Aufbau von KI-Kompetenz „schichtweise“ vorzunehmen. Ferner ist zu beachten, dass der Umfang der zu vermittelnden Kompetenz proportional zum ermittelten Risiko des Systems steigt.

In jedem Fall müssen Sie als Unternehmen handeln und diese auf den ersten Blick unerwartete Anforderung zur Kompetenzvermittlung im Blick behalten!

Konsequenzen für Unternehmen

Unternehmen, die KI-Systeme entwickeln oder einsetzen, müssen ab dem 2. Februar 2025 am besten eine kleine „Bestandsaufnahme KI“ machen:

  • Identifizierung und Abschaffen von KI-Systemen im Unternehmen, die als verbotene Praktiken eingestuft werden könnten,
  • Entwicklung und Umsetzung von Kompetenzvermittlungsmaßnahmen für Mitarbeiter und Nutzer.
  • Etablierung von Prozessen zur Bewertung eingesetzter KI-Systeme entsprechend einer Risiko-Klasse (minimal, begrenz, hoch)

Fazit

Mit der KI-Verordnung kommen ab dem 2. Februar 2025 Verpflichtungen auf Ihr Unternehmen zu, die den regelkonformen Umgang mit KI-Systemen in Ihren Unternehmen sicherstellen sollen. Wenngleich am Anfang für Ihr Unternehmen wieder Aufwand in der Umsetzung entsteht, wird sich dieser bei stimmiger Herangehensweise immer mehr reduzieren. Zugleich ergeben sich entscheidende Vorteile: Mitarbeiter lernen, die Rechte Dritter sowie die eigenen Rechte des Unternehmens, etwa am unternehmenseigenen Know-how, besser zu verstehen und zu wahren. Dies kann helfen, rechtliche Auseinandersetzungen zu vermeiden und langfristig eine positive Reputation des Unternehmens zu fördern.

Wir helfen Ihnen gerne bei der Bewertung und Einordnung, in welchem Umfang Sie den Regelungen der KI-VO unterliegen und finden mit Ihnen pragmatische Lösungen. Sprechen Sie unser Kompetenzteam Digitalisierung & KI gerne an!