EU AI ACT: Bedeutung und Auswirkung für Unternehmen

Einleitung

Mit dem EU AI Act hat die Europäische Union ein Regelwerk geschaffen, das den Einsatz von Künstlicher Intelligenz (KI) umfassen soll. Dieses Regelwerk ist das erste seiner Art und wird weitreichende Auswirkungen auf Unternehmen haben. 

Ziel der EU-AI-Verordnung ist es, Risiken, die durch KI entstehen können, zu minimieren und gleichzeitig ethische Standards zu setzen. Unternehmen, die KI-Technologien entwickeln oder einsetzen, stehen nun vor der Herausforderung, sich an die neuen Regelungen anzupassen, um rechtskonform zu bleiben. 

Dieser Artikel gibt einen Überblick über die wichtigsten Bestimmungen des EU AI Act, insbesondere Artikel 4, ihre Bedeutung für Unternehmen und praktische Hinweise zur Einhaltung dieser Regeln.

‍

Hintergrund des EU AI Acts

Der EU AI Act ist das Ergebnis der Notwendigkeit, die zunehmende Verbreitung von KI-Technologien zu regulieren, da diese einen erheblichen Einfluss auf Sicherheit und Grundrechte haben können, während gleichzeitig durch die Regulierung Innovation und Wettbewerbsvorteile gefördert werden sollen. 

Künstliche Intelligenz bietet enorme Chancen, birgt aber auch Risiken in Bezug auf Sicherheit, Menschenrechte und ethische Fragen. 

Mit dem AI Act hat sich die Europäische Union zum Ziel gesetzt, eine sichere und verantwortungsvolle Entwicklung und Nutzung von KI zu gewährleisten. Diese Regelung gilt nicht nur für Unternehmen in der EU, sondern auch für internationale Firmen, die Produkte und Dienstleistungen auf den europäischen Markt bringen wollen oder schon am europäischen Markt mit ihren Produkten vertreten sind. 

In einer zunehmend digitalisierten Welt wird der EU AI Act einen entscheidenden Einfluss auf die Innovationsstrategien vieler Unternehmen haben.

1. Überblick über den EU AI Act

Struktur und Zielsetzung der Verordnung

Der EU AI Act ist ein umfangreiches Gesetzeswerk, das in mehreren Kapiteln die Regeln und Anforderungen für den Einsatz von KI-Technologien festlegt. Es umfasst:

• Allgemeine Bestimmungen
• Detaillierte Vorschriften zur Marktüberwachung und Durchsetzung
• Schwerpunkte wie Sicherheit von KI-Systemen und Transparenzanforderungen
• Klassifizierung und Regulierung von Hochrisiko-KI-Systemen

Die Verordnung betrifft Unternehmen, Entwickler, Behörden und öffentliche Einrichtungen, die KI-Systeme einsetzen oder anbieten.

Klassifizierung von KI-Systemen

Ein zentrales Merkmal des EU AI Acts ist die Klassifizierung von KI-Systemen basierend auf ihrem Risiko. Die Verordnung unterscheidet hauptsächlich zwischen zwei Kategorien:

1. Verbotene Praktiken im KI-Bereich (Kapitel II)
   Dazu zählen Systeme, die ein erhebliches Risiko für die Gesellschaft oder Einzelpersonen darstellen, wie z. B. solche zur Manipulation oder sozialen Bewertung.
2. Hochrisiko-KI-Systeme (Kapitel III)
   Systeme in Bereichen wie Biometrie, Bildung, kritische Infrastruktur, Beschäftigung, Strafverfolgung und Grenzkontrolle fallen hierunter. Es gelten strenge regulatorische Anforderungen. 

Weitere Modelle und Transparenzpflichten

Für KI-Systeme, die nicht unter verbotene oder hoch risikoreiche Kategorien fallen, gibt es dennoch spezielle Regelungen. 

Gemäß Kapitel IV des EU AI Acts müssen Anbieter und Betreiber bestimmter KI-Systeme Transparenzpflichten erfüllen. Das betrifft vor allem Modelle, die Bild-, Ton- oder Video-Inhalte erstellen und potenziell als Deepfakes genutzt werden können.

ChatGPT ist ein allgemeines KI-Modell und fällt unter Kapitel V ("KI-Modelle mit allgemeinem Verwendungszweck"). Es muss Transparenzanforderungen erfüllen, jedoch nicht nach Paragraph 4, da dieser nur auf Bild-, Ton- oder Video Inhalte abzielt, die Deepfakes darstellen. ChatGPT selbst erzeugt Texte, die in dieser Hinsicht weniger kritisch sind.

MidJourney und DALL-E stehen hingegen vor einer anderen Herausforderung: Sie könnten theoretisch zur Erstellung von Deep Fake-Bildern verwendet werden. Wenn diese Modelle Bilder von realen Personen oder Politikern erzeugen, könnten sie als Deepfakes gelten und unter Paragraph 4 fallen. Wird jedoch ein Fantasiebild erstellt, greift diese Regelung nicht. 

Dennoch müssen auch diese Systeme grundsätzlich Kapitel IV beachten, um sicherzustellen, dass sie die Transparenzvorgaben einhalten.

Diese Klassifizierung ist für Unternehmen von großer Bedeutung, da sie bestimmt, welche regulatorischen Pflichten sie erfüllen müssen.

2. Wichtige Bestimmungen des EU AI Acts

Verbotene Praktiken und Systeme

Eine der zentralen Bestimmungen des EU AI Act ist das Verbot bestimmter KI-Praktiken, die als unethisch oder potenziell gefährlich gelten. Dazu gehören:

• Technologien zur Manipulation von Menschen
• KI-Systeme für soziale Bewertungssysteme
• Bestimmte Anwendungen der Gesichtserkennung oder Verhaltensanalyse

Unternehmen, die bereits solche Systeme entwickelt haben, müssen diese anpassen oder einstellen, was erhebliche Auswirkungen auf bestimmte Branchen haben könnte.

Anforderungen für Hochrisiko-KI-Systeme

Der EU AI Act legt strenge Anforderungen für Hochrisiko-KI-Systeme fest. Anbieter müssen sicherstellen, dass ihre Systeme die festgelegten Standards erfüllen, bevor sie in Verkehr gebracht werden. Zu den wichtigsten Pflichten gehören:

Diese Anforderungen helfen Unternehmen, sicherzustellen, dass ihre Hochrisiko-KI-Systeme sicher und regelkonform sind. 

Beispiele für die genannten Punkte wären:

Transparenz: Ein Unternehmen, das eine KI zur Kreditbewertung nutzt, muss offenlegen, wie die KI die Kreditwürdigkeit bewertet, z. B. ob sie das Zahlungsverhalten oder vorherige Kreditausfälle berücksichtigt. So wird sichergestellt, dass die Betroffenen verstehen, wie Entscheidungen getroffen werden​
Goodwin Law, LawNow

Sicherheits- und Qualitätsmanagement: Ein Krankenhaus, das KI für medizinische Diagnosen verwendet, muss Sicherheitsmaßnahmen ergreifen, wie regelmäßige Tests, um sicherzustellen, dass die KI korrekte Diagnosen stellt. Dies fällt unter Artikel 17 des EU AI Act, der ein Qualitätsmanagementsystem fordert​ (Goodwin Law)

Dokumentation und Protokollierung: Ein Hersteller von selbstfahrenden Autos muss alle Updates und Entscheidungen der KI dokumentieren, um nachvollziehen zu können, wie das Fahrzeug unter verschiedenen Bedingungen funktioniert. Dies stellt die Rückverfolgbarkeit sicher​ (LawNow)

Konformitätsbewertung: Bevor ein KI-System mit hohem Risiko, wie z. B. Gesichtserkennung, auf den Markt gebracht wird, muss es durch eine Konformitätsbewertung überprüft werden. Dies kann durch Dritte oder interne Prüfungen geschehen, um die Einhaltung der EU-Sicherheitsstandards zu gewährleisten​ (LawNow)

CE-Kennzeichnung: Nachdem das KI-System die Konformitätsbewertung bestanden hat, kann ein Unternehmen, das beispielsweise einen KI-gesteuerten Roboter für Operationen herstellt, die CE-Kennzeichnung anbringen. Dies zeigt, dass das Produkt den EU-Vorschriften entspricht​ (LawNow)

Registrierung: Ein Hersteller von KI-gestützten medizinischen Geräten muss sein Produkt in der EU-Datenbank registrieren. Dadurch können die Behörden überwachen, ob es den Richtlinien entspricht und barrierefrei zugänglich ist​ (LawNow)

‍

3. Detaillierte Analyse von Kapitel 1, Artikel 4: 'KI-Kenntnisse'

Was besagt Artikel 4 des EU AI Acts?

Artikel 4 des EU AI Act legt fest, dass Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen müssen, um sicherzustellen, dass ihr Personal und andere beteiligte Personen über ausreichende Kenntnisse und Fähigkeiten im Umgang mit KI verfügen. 

Dies umfasst:

• Technisches Wissen
• Praktische Erfahrung
• Schulungen, die auf die spezifische Anwendung von KI und die Zielgruppen zugeschnitten sind
• Verständnis für ethische und sicherheitsrelevante Risiken und Chancen von KI

Damit will der Gesetzgeber sicherstellen, dass KI-Systeme nicht von unqualifizierten Anwendern fehlinterpretiert oder missbraucht werden. 

Sowohl Anbieter, die KI-Systeme entwickeln und vertreiben, als auch Anwender, die diese Systeme in ihrer täglichen Arbeit einsetzen, sind zur Aus- und Weiterbildung verpflichtet, um einen sicheren und effektiven Einsatz der Technologie zu gewährleisten.

Wer ist von Artikel 4 des EU AI Acts betroffen?

Es ist aktuell noch unklar, ab welcher Unternehmensgröße genau der AI Act greift. 

Der Gesetzestext spricht von der Pflicht, „Maßnahmen zu ergreifen, um im bestmöglichen Umfang sicherzustellen“, was offenlässt, was genau mit diesen Maßnahmen gemeint ist und wie dieser „bestmögliche Umfang“ definiert wird.

Es wird erwartet, dass große Organisationen umfangreiche interne Schulungsprogramme anbieten müssen, um sicherzustellen, dass ihr Personal und alle, die mit den KI-Systemen arbeiten, ein hohes Maß an KI-Kompetenz besitzen. 

Für kleinere Unternehmen wird dies aufgrund begrenzter Ressourcen schwieriger umzusetzen sein, dennoch wird auch von ihnen erwartet, zumindest ein grundlegendes Verständnis für KI zu vermitteln, wenn sie KI-Lösungen einsetzen. 

Unabhängig von der Unternehmensgröße ist es jedem Unternehmen ans Herz zu legen, Mitarbeiter in Bezug auf KI zu schulen, insbesondere im Hinblick auf Sicherheits- und Ethikrisiken. 

Eine Möglichkeit für Unternehmen, ihre Mitarbeiter gezielt im Bereich KI weiterzubilden, bietet mytalents.ai. Über 100 Kurse und mehr als 4000 Lerninhalte bieten praxisnahe Schulungen zu KI-Themen, die speziell auf verschiedene Branchen wie Finanzen, Marketing, Einkauf, Management, IT und Vertrieb zugeschnitten sind. Mit praxisorientierten Beispielen und Einführungen in Anwendungen wie ChatGPT und Microsoft Copilot werden auch technische Grundlagen, Datenschutz, IT-Sicherheit und ethische Fragen behandelt. Regelmäßige Updates und neue Kurse gewährleisten, dass die Lerninhalte immer auf dem neuesten Stand der KI-Entwicklung bleiben.

Wann muss die neue KI-Regulierung umgesetzt werden?

Mit der Veröffentlichung im Amtsblatt der Europäischen Union am 12. Juli 2024 trat der AI Act am 2. August 2024 in Kraft. 

KI-Schulungen sind auch für Anbieter und Anwender von nicht-hochriskanten KI-Systemen relevant. 

Die offizielle Frist, bis zu der das Personal geschult sein muss, ist der 2. Februar 2025.

Bereiche der KI-Schulung

Um die Anforderungen von Artikel 4 zu erfüllen, sollten Unternehmen folgende Schulungsbereiche abdecken:

1. Technisches Wissen: 
   1. KI-Grundlagen: Funktionsweise von Machine Learning und neuronalen Netzen
   2. Datenverarbeitung: Bedeutung von Trainingsdaten und deren Einfluss auf KI-Modelle
   3. KI-Limitationen: Verständnis für Konzepte wie Halluzinationen und Bias in KI-Systemen
2. Praktische Erfahrung: Anwendung von KI-Anwendungen in spezifischen Fachbereichen und Abteilungen.
3. Ethik und Sicherheit: 
   1. Deepfake-Erkennung: Identifizierung von KI-generierten Bildern, Videos und Audios
   2. Datenschutz: Umgang mit sensiblen Daten in KI-Systemen
   3. Ethische Entscheidungsfindung: Bewertung der Auswirkungen von KI-Entscheidungen

Regelmäßiges Training und maßgeschneiderte Programme sind entscheidend, um eine sichere Nutzung von KI zu gewährleisten. mytalents.ai bietet genau zu diesen Punkten spezifische Inhalte an, wie zum Beispiel unser Kurs Einstiegskurs: Large language Models oder einer unserer Kurse zum Datenschutz. mytalents.ai bietet außerdem spezifische Kurse für spezifische Fachbereiche, wie Marketing, Vertrieb, Finanzen, Einkauf und vieles mehr.

Umsetzung der Vorgaben

Unternehmen müssen sicherstellen, dass ihre Mitarbeiter regelmäßig geschult werden, da sich KI-Modelle und Anwendungsfälle rasant weiterentwickeln. Dies betrifft sowohl technisches Personal als auch Endnutzer. Konkrete Maßnahmen können sein:

• Online-Lernplattformen
• Anwendungsorientierte E-Learning-Kurse
• Schulungen durch interne oder externe Experten
• Workshops
• Spezielle Weiterbildungsprogramme

Herausforderungen und Implikationen des neuen EU KI-Gesetzes

Insbesondere für kleine und mittlere Unternehmen (KMU) kann es eine Herausforderung sein, die Anforderungen an KI-Kenntnisse zu erfüllen, da sie möglicherweise nicht über die Ressourcen oder Fachkräfte verfügen, um umfassende Schulungsprogramme anzubieten. 

Darüber hinaus können je nach Branche und Anwendungskontext spezifische Anforderungen bestehen, die maßgeschneiderte Schulungen erfordern. 

Hier unterstützen wir, mytalents.ai, kleine und mittlere Unternehmen mit  branchenspezifischen Kursen zu KI-Themen wie Finanzen, IT und Marketing. Es umfasst praxisnahe Einführung in KI-Anwendungen, behandelt technische Grundlagen, Datenschutz und ethische Aspekte und wird regelmäßig aktualisiert, um neueste Entwicklungen abzudecken.

Langfristig wird dies jedoch dazu führen, dass Unternehmen ihre Innovationsstrategien überdenken und mehr Wert auf die Entwicklung interner Kompetenzen legen.

Langfristige Auswirkungen

Die Veränderungen auf dem Arbeitsmarkt durch den Einsatz von KI werden sich deutlich auf Jobrollen auswirken. Bestimmte Positionen, wie z. B. Entwickler oder AI Operations Experts, die die Implementierung von KI im Arbeitsalltag vorantreiben, werden zunehmend an Bedeutung gewinnen. 

Gleichzeitig könnten andere Jobs an Relevanz verlieren. Was jedoch sicher ist: Die erforderlichen Skills der Mitarbeiter werden sich weiterentwickeln, und KI-Kenntnisse werden in vielen Bereichen zur Grundvoraussetzung werden. Unternehmen müssen deshalb verstärkt in die Schulung ihrer Belegschaft investieren, um wettbewerbsfähig zu bleiben.

4. Praktische Tipps für Unternehmen

Strategien zur Einhaltung des AI Acts

Um den Anforderungen des EU AI Acts gerecht zu werden, sollten Unternehmen einen strukturierten Plan zur Umsetzung der Vorschriften entwickeln. Dies kann unter anderem folgende Maßnahmen umfassen:

Aufbau von internen Schulungsprogrammen zur Förderung von KI-Kenntnissen

Der Aufbau interner Schulungsprogramme für KI-Kenntnisse ist entscheidend, um Mitarbeiter auf den verantwortungsvollen Einsatz von KI vorzubereiten. Dabei sollten nicht nur technische Fähigkeiten, sondern auch ethische Fragestellungen und der bewusste Umgang mit KI vermittelt werden.

Es empfiehlt sich, zwei Ausbildungspfade anzubieten, um die unterschiedlichen Bedürfnisse der Belegschaft zu berücksichtigen:

Grundlegende KI-Kompetenzen (Basic AI Skills)

Dieser Schulungsansatz zielt auf eine breite Vermittlung von grundlegenden KI-Kenntnissen ab. Mitarbeiter erhalten ein Verständnis dafür, was KI ist, welche ethischen Überlegungen dabei eine Rolle spielen und wie ihre Organisation KI künftig einsetzen wird. Zusätzlich werden sogenannte "Soft Skills" wie Faktenprüfung und kritisches Denken geschult, um sicherzustellen, dass die Mitarbeiter KI-Technologien kompetent und reflektiert anwenden können. Diese grundlegende Schulung soll ein gemeinsames Verständnis schaffen und die Mitarbeiter für den technologischen Wandel sensibilisieren.

Rollen-spezifische Schulung (Role-Specific Training)

Dieser Ausbildungspfad fokussiert sich auf spezifische Anforderungen einzelner Rollen innerhalb des Unternehmens. Die Schulung bietet ein tieferes Verständnis für die Prozesse oder Aufgaben, die durch KI-Lösungen beeinflusst werden. Ziel ist es, den Mitarbeitern zu vermitteln, wie sie diese Technologien in ihren Arbeitsalltag integrieren können, um ihre Leistung und Effizienz zu steigern. Dieser Ansatz ist idealerweise auf die individuellen Ziele der jeweiligen Abteilung oder Rolle abgestimmt und hilft den Mitarbeitern, KI-gestützte Prozesse aktiv zu gestalten und optimal zu nutzen.

Durch die Kombination dieser beiden Ausbildungspfade können Unternehmen sicherstellen, dass ihre Mitarbeiter sowohl über ein solides Basiswissen als auch über die spezifischen Fertigkeiten verfügen, die für den Einsatz von KI in ihrem Arbeitsbereich erforderlich sind.

mytalents.ai Angebot für KI-Schulungen und -Weiterbildungen

Eine Möglichkeit für Unternehmen, ihre Mitarbeiter gezielt im Bereich KI weiterzubilden, bietet mytalents.ai:

• Über 100 Kurse und mehr als 4000 Lerninhalte zu verschiedenen KI-Themen und Anwendungsbereichen
• Auf die spezifischen Bedürfnisse verschiedener Branchen zugeschnittene Schulungen und Trainings
• Schwerpunkte in Bereichen wie Finanzen, Marketing, Einkauf, Management, IT, Vertrieb, mit praxisnahen Beispielen und Anwendungsfällen
• Praktische Einführungen in gängige KI-Anwendungen wie ChatGPT, Microsoft Copilot und/oder eigenentwickelte GPT-Lösungen
• Umfassende Schulungen zu technischen Grundlagen von KI, Datenschutz im KI-Einsatz, IT-Sicherheit bei KI-Systemen, ethischen Fragen der KI-Nutzung sowie Erkennung von KI-generierten Inhalten
• Regelmäßige Updates und neue Kurse, um mit den schnellen Entwicklungen im KI-Bereich Schritt zu halten

Viele unserer Kunden setzen das erlernte Wissen aus unseren Kursen bereits erfolgreich in Hinblick auf den EU AI Act um. Ein Beispiel dafür ist TCG UNITECH, ein Unternehmen, das führend in der Leichtmetall- und Kunststoffindustrie tätig ist.

Durch die Zusammenarbeit mit mytalents.ai konnte TCG UNITECH gezielt die KI-Kompetenz seiner Mitarbeiter stärken. Die Mitarbeiter nutzen das Wissen aus unseren Kursen, um ihre Arbeitsprozesse zu optimieren, insbesondere durch die Verwendung von generativen KI-Tools wie ChatGPT und Microsoft Copilot. Dies ermöglichte es dem Unternehmen, effizienter zu arbeiten und innovative Lösungen zu entwickeln.

Zur Case Study: mytalents.ai