Unternehmen müssen ihre Mitarbeiter zur sicheren Nutzung von KI schulen

Am 1.8.24 ist die vom EU-Rat am 21.5.24 final gebilligte EU-Verordnung über künstliche Intelligenz (KI-Verordnung ABl. L, 2024/1689, 12.7.24) in Kraft getreten. Ziel der KI-Verordnung ist es, dafür zu sorgen, dass Systeme der künstlichen Intelligenz (KI) verantwortungsvoll entwickelt und genutzt werden. Mit den Vorschriften werden Anbietern und Betreibern von KI-Technologien Pflichten auferlegt und es wird die Zulassung von Systemen künstlicher Intelligenz im EU-Binnenmarkt geregelt. Die Verordnung befasst sich mit Risiken im Zusammenhang mit KI wie Verzerrungen, Diskriminierung und mangelnde Rechenschaftspflicht und soll Innovationen und die Verbreitung von KI fördern. Innerhalb der EU setzt die KI-Verordnung einen einheitlichen Standard für die KI-Regulierung und einen sicheren und vertrauenswürdigen Umgang mit künstlicher Intelligenz.

Betroffen sind – unabhängig von der Unternehmensgröße oder Branche – alle Unternehmen, die KI-Systeme entwickeln oder nutzen. Die KI-Verordnung unterscheidet zwischen zwei Gruppen betroffener Unternehmen:

Nach Art. 2 Abs. 1 KI-Verordnung sind auch Einführer und Händler von KI-Systemen, ferner Produkthersteller von KI-Systemen, erfasst, die diese in Verkehr bringen oder in Betrieb nehmen. Unabhängig von der Rolle sind Unternehmen verpflichtet, Maßnahmen zur Förderung der KI-Kompetenz ihrer Mitarbeitenden zu ergreifen. Maßgebend ist, ob Mitarbeitende in ihrem Arbeitsalltag mit KI in Berührung kommen und diese einsetzen.

Arbeitgeber müssen also sicherstellen, dass Mitarbeitende, die mit KI arbeiten, über das notwendige Wissen und die erforderlichen Fähigkeiten bei Einsatz von KI verfügen. Damit schreibt Art. 4 KI-Verordnung vor, dass Unternehmen ihre Mitarbeitenden in KI-Kompetenz auch schulen müssen. Konkrete Vorgaben zur Gestaltung dieser Schulungen enthält die KI-Verordnung jedoch nicht. Jedes Unternehmen muss deshalb vorerst selbst entscheiden, wie es sicherstellt, dass die Beschäftigten KI-Systeme korrekt nutzen und deren Risiken einschätzen können. Jedes Unternehmen, das sich mit KI befasst oder diese einsetzt, sollte deshalb im Vorfeld konkreter Maßnahmen wie folgt vorgehen:

In einem ersten Schritt empfiehlt sich eine Grundlagenschulung für alle Beschäftigten zur Wissensvermittlung über KI, ihre Funktionsweise sowie rechtliche und ethische Rahmenbedingungen.

Daneben kann es sinnvoll sein, interne Richtlinien für den Umgang mit KI zu definieren, um klare Leitlinien für den sicheren und verantwortungsvollen Umgang mit KI-Systemen im Unternehmen festzulegen.

Schließlich empfiehlt es sich, dass Unternehmen ihre Schulungsmaßnahmen nachvollziehbar dokumentieren, auch wenn die KI-Verordnung selbst keine Dokumentationspflicht beinhaltet. Die Dokumentation kann hierbei Bestandteil des unternehmensinternen Qualitätsmanagements sein.