Der AI Act in einem Absatz
Der EU AI Act ist die erste umfassende KI-Regulierung der Welt. Er ist seit dem 1. August 2024 in Kraft, greift aber gestaffelt.
- Seit Februar 2025 sind bestimmte KI-Praktiken komplett verboten, etwa manipulatives Social Scoring.
- Seit August 2025 gelten Pflichten für die großen KI-Basismodelle, die sogenannten GPAI-Systeme, das betrifft die Anbieter von ChatGPT, Claude oder Gemini, nicht dich als Nutzer.
- Seit August 2026 gelten die Regeln für Hochrisiko-Anwendungen.
Der Gesetzgeber staffelt bewusst, damit sich alle Beteiligten vorbereiten können. Für dich als kleinen Betrieb heißt das: Panik ist unangebracht, Ignorieren aber auch.
Welche Rolle du spielst: Betreiber, nicht Anbieter
Der AI Act unterscheidet Rollen. Wer ein KI-System entwickelt und auf den Markt bringt, ist „Anbieter" und trägt die schweren Pflichten. Wer ein fertiges KI-System im Rahmen seiner beruflichen Tätigkeit nutzt, ist „Betreiber", im Gesetz „Deployer” genannt. Und das bist in aller Regel du.
Wenn Petra in ihrer Steuerkanzlei ChatGPT für die Mandantenkommunikation einsetzt oder Katrin als Business-Coach eine KI Termine und Anfragen vorsortieren lässt, dann sind beide Betreiber. Sie haben das Modell nicht gebaut, sie setzen es ein. Die Betreiberpflichten sind deutlich leichter als die des Anbieters, aber es gibt sie. Und die wichtigste davon lässt sich in zwei Worten zusammenfassen.
Die Kernpflicht: menschliche Aufsicht
Menschliche Aufsicht, im Gesetz „human oversight", ist das Herz des AI Act. Der Grundgedanke: Eine KI darf arbeiten, aber ein Mensch muss den Überblick behalten und im Zweifel eingreifen können. Kein Prozess, bei dem die Maschine unbeaufsichtigt durchläuft und niemand mehr weiß, warum sie was entschieden hat.
Für Hochrisiko-Anwendungen ist das seit August 2026 harte Pflicht. Für den ganz normalen KI-Einsatz im Alltag, Angebote, E-Mails, Terminorganisation, ist es schlicht gute Praxis und ein Baustein deiner Sorgfaltspflicht. Dazu kommt die KI-Kompetenzpflicht: Wer KI beruflich einsetzt, muss verstehen, was er da tut.
Das Problem: „Menschliche Aufsicht" klingt im Gesetzestext abstrakt. Was heißt das am Dienstagnachmittag, wenn die KI gerade die dritte Zahlungserinnerung rausschicken will? Genau hier wird das Mandat konkret.
Warum ein KI-Mandat die Anforderungen operativ umsetzt
Ein KI-Mandat ist ein strukturierter Auftrag an eine KI, so formuliert, dass sie innerhalb klarer Grenzen eigenständig arbeitet. Es besteht immer aus fünf Elementen: Ziel, Rahmen, Werte, Eskalation und Kontrolle.
Das Schöne daran: Diese fünf Elemente sind menschliche Aufsicht, übersetzt in Alltagssprache. Du schreibst kein Compliance-Dokument, du beschreibst, wie deine KI arbeiten soll. Und nebenbei erfüllst du damit genau die Punkte, auf die der AI Act abzielt.
| Mandat-Element | AI-Act-Anforderung (Betreiber) |
|---|---|
| Ziel | Zweckbindung: klar festlegen, wofür die KI eingesetzt wird und wofür nicht |
| Rahmen | Datengrundlage und Grenzen: mit welchen Daten die KI arbeitet, was sie nicht erfinden oder entscheiden darf. |
| Werte | Transparenz und Fairness: nachvollziehbares, nicht diskriminierendes Auftreten gegenüber Kunden. |
| Eskalation | Menschliche Aufsicht: definierte Eingriffspunkte, an denen ein Mensch stoppt, prüft und entscheidet. |
| Kontrolle | Überwachung und Protokoll: regelmäßige Prüfung der Ergebnisse und die Fähigkeit, Fehler zu bemerken. |
Kein Element ist juristisch formuliert. Trotzdem deckt jedes einen realen Baustein der Verordnung ab. Das ist der Punkt: Du regelst deinen Arbeitsalltag, und die Regulierung ist als Nebeneffekt erfüllt.
Ein Beispiel-Mandat mit Fokus auf Aufsicht
Katrin ist Business-Coach in Frankfurt. Sie arbeitet allein, hat mehr Anfragen als Zeit und lässt eine KI die Erstkommunikation übernehmen: Anfragen sortieren, Termine vorschlagen, Standardfragen beantworten. Ihr Mandat, mit Schwerpunkt auf Eskalation und Kontrolle als gelebte menschliche Aufsicht:
- Ziel: Jede neue Anfrage bekommt innerhalb eines Werktags eine freundliche Antwort mit Terminvorschlag. Keine Anfrage bleibt liegen.
- Rahmen: Nur Termine aus meinem freigegebenen Kalender. Keine Aussagen zu Preisen, keine Zusagen zu Coaching-Inhalten oder Ergebnissen.
- Werte: Warm, klar, auf Augenhöhe. Nie werblich, nie mit Heilsversprechen. So, wie ich selbst schreibe.
- Eskalation: Anfragen zu heiklen Themen (Krise, Gesundheit, Konflikt am Arbeitsplatz) sofort an mich, ohne automatische Antwort. Ebenso alles, was nach Beschwerde oder Presse klingt.
- Kontrolle: In den ersten zwei Wochen lese ich jede Antwort vor dem Versand. Danach tägliche Stichprobe und ein wöchentlicher Blick auf alle eskalierten Fälle.
Schau dir die letzten beiden Zeilen an. Die Eskalation ist der definierte Eingriffspunkt: Bei sensiblen Themen entscheidet nie die Maschine, sondern immer Katrin. Die Kontrolle ist die laufende Überwachung: Sie prüft, statt zu vertrauen. Das ist menschliche Aufsicht, nicht als Paragraf, sondern als Gewohnheit. Und es ist Katrins Schutz, falls doch einmal etwas schiefgeht: Sie kann zeigen, dass ein Mensch die Kontrolle hatte.
So fängst du an
Du brauchst keine Rechtsabteilung und keine Software, um den AI Act für dein KI-Mandat zu erfüllen. Nimm die eine KI-Aufgabe, die bei dir schon läuft oder bald laufen soll. Beantworte die fünf Fragen: Ziel, Rahmen, Werte, Eskalation, Kontrolle. Leg dabei besonderen Wert auf die letzten beiden, denn dort sitzt die Aufsicht. Halte fest, wo die KI stoppen muss, und wie oft du prüfst.
Fertige Mandate zum Kopieren und branchenweise vorsortiert findest du in der Mandate-Bibliothek des Lena Prinzips. Formulierungen für saubere Eingriffspunkte liefern die Eskalations-Vorlagen. Damit hast du in einer halben Stunde eine Governance, die im Alltag trägt.
Häufige Fragen
Betrifft mich der AI Act als Selbstständiger überhaupt?
Ja, aber meist in der leichten Rolle. Wenn du fertige KI-Tools beruflich nutzt, bist du Betreiber, nicht Anbieter. Deine Pflichten sind überschaubar, im Zentrum steht die menschliche Aufsicht über das, was die KI in deinem Namen tut.
Ist ein KI-Mandat ein rechtlich verbindliches Dokument?
Nein. Ein Mandat ist operative Governance, keine Rechtsurkunde. Es beschreibt, wie deine KI arbeiten und wann sie dich einbeziehen soll. Es setzt die Idee der menschlichen Aufsicht praktisch um, ersetzt aber keine juristische Prüfung deines Einzelfalls.
Was bedeutet menschliche Aufsicht konkret?
Dass ein Mensch den Überblick behält und eingreifen kann. Im Mandat wird daraus die Eskalation, also klare Stellen, an denen die KI stoppt und dich fragt, und die Kontrolle, also die regelmäßige Prüfung der Ergebnisse.
Muss ich für jede KI-Aufgabe ein eigenes Mandat schreiben?
Für jeden abgegrenzten Verantwortungsbereich ist eines sinnvoll, weil Ziel, Grenzen und Eingriffspunkte je nach Aufgabe verschieden sind. Der Aufwand ist gering, und du gewinnst Klarheit für dich und für den Fall der Fälle.
Was passiert, wenn ich mich nicht darum kümmere?
Für den normalen KI-Einsatz drohen kurzfristig selten harte Sanktionen. Das eigentliche Risiko ist praktisch: eine KI ohne definierte Aufsicht trifft irgendwann eine Entscheidung, die dich Geld oder einen Kunden kostet. Das KI-Mandat verhindert genau das.
Fazit:
Der AI Act klingt nach Bürokratie, meint aber Selbstverständliches: Behalte die Kontrolle über deine KI. Ein KI-Mandat ist der einfachste Weg dorthin. Es ist kein Rechtsdokument, sondern eine Arbeitsanweisung in deiner Sprache, und die Elemente Eskalation und Kontrolle sind menschliche Aufsicht in der Praxis. Wer so arbeitet, erfüllt nicht nur eine Verordnung. Er schläft ruhiger, weil er weiß, was seine KI tut und wo sie ihn holt.
