European AI Act: Was für Handwerksbetriebe jetzt gilt

Ein Chatbot auf der Homepage, eine App, die aus gesprochenem Text fehlerfreie Berichte zaubert oder ein Tool, das Kunden schon mal ein erstes Angebot inklusive Foto für ein Möbelstück entwirft – viele Handwerksbetriebe nutzen die Möglichkeiten, die Künstliche Intelligenz bietet.

Mit den Möglichkeiten gehen aber auch Verpflichtungen einher: Seit dem 1. August 2024 ist der European AI Act in Kraft, das Gesetz der Europäischen Union zur Künstlichen Intelligenz, auch KI-Verordnung (KI-VO) genannt. „Die EU-Verordnung legt Regeln für den Einsatz von KI-Systemen fest, um die Sicherheit und Rechte der Bürger zu schützen”, erklärt Moritz Füser, Rechtsanwalt in der Kanzlei HMS. Barthelmeß Görzel in Köln. Und damit kommen auch auf Handwerksbetriebe neue Pflichten zu. Füser beantwortet die wichtigsten Fragen.

Warum sind Handwerker von der KI-VO betroffen?

„Die KI-VO gilt für alle, die KI-Systeme entwickeln, anbieten oder verwenden”, sagt Füser.  So können auch Handwerksbetriebe als Betreiber im Sinne der KI-Verordnung gelten, wenn sie KI-Systeme im Unternehmen einsetzen. Welche Pflichten sie treffen, hängt jedoch von der jeweiligen Anwendung ab.

Welche Risiko-Gruppe gilt für meine KI-Anwendung?

Die KI-VO der EU orientiert sich an Risiken. Sie definiert:

• Unannehmbares Risiko: KI-Anwendungen, die gegen Grundrechte verstoßen, sind verboten. Darunter fallen beispielsweise Systeme zur Emotionserkennung am Arbeitsplatz oder die KI-gestützte Bewertung von Sozialverhalten.
• Hohes Risiko: KI-Systeme in sensiblen Bereichen des Personalwesens gelten als Hochrisiko-Anwendung. Das ist insbesondere dann der Fall, wenn das KI-System Bewertungen vornimmt, also Bewerbungen vorsortiert, Bewerber und Leistungen von Mitarbeitenden beurteilt oder Entscheidungen trifft, die sich konkret auf die Bedingungen von Arbeitsverhältnissen auswirken. Hoch risikoreich sind auch KI-Systeme, die als Sicherheitskomponenten bei der Verwaltung und dem Betrieb kritischer digitaler Infrastrukturen, im Straßenverkehr oder bei der Versorgung mit Wasser, Gas, Wärme oder Strom eingesetzt werden.
• niedriges Risiko: KI-Anwendungen mit geringem Risiko sind Spam-Filter oder Sprachassistenten.

Wie sorge ich für KI-Kompetenz bei meinen Mitarbeitenden?

Seit Februar 2025 müssen alle Anbieter und Betreiber von KI-Systemen sicherstellen, dass ihre Mitarbeitenden über ein ausreichendes Maß an KI-Kompetenz verfügen. Das bedeutet: Alle, die im Betrieb mit der KI zu tun haben, müssen entsprechend geschult werden. Füser warnt: „Arbeitgebern drohen bei Nichteinhaltung Bußgelder.”

„Wichtig ist, dass Arbeitgeber ihre Mitarbeitenden sensibilisieren, keine Geschäftsgeheimnisse oder personenbezogene Daten in offene Systeme wie ChatGPT einzugeben und die Ergebnisse mit der größtmöglichen Sorgfalt zu prüfen“, betont der Anwalt.

Welche Transparenzpflichten gelten im Umgang mit KI-Systemen?

Für die Betreiber von KI-Systemen gelten je nach Risiko unterschiedliche Transparenz- und Sorgfaltspflichten. „Geht es um KI-Systeme mit niedrigem Risiko, ist der wichtigste Punkt Transparenz gegenüber dem Nutzer“, sagt Füser. Ein Kunde, der beispielsweise mit einem KI-Chatbot interagiere, müsse darüber informiert werden, dass er nicht mit einer natürlichen Person im Austausch sei.

Zusätzlich ist je nach Einsatzgebiet eine technische Markierung nötig. Sowohl Bild-, als auch Audio-, Video- oder Textinhalte müssen so gekennzeichnet werden, dass ihre künstliche Herkunft maschinell erkannt werden kann. Welche Anforderungen im Einzelfall gelten, erläutert Artikel 50 des AI Acts. Die Vorschriften sind mit dem Inkrafttreten am 2. August 2026 verbindlich.

Von Katharina Wolf und Johanna Ahrbecker