Zum Inhalt springen

Analysen

Der AI Act für Betreiber: ein 30-Tage-Plan

Die meisten Unternehmen sind Betreiber, nicht Anbieter, und die Pflichten sind weit geringer als befürchtet. Dies ist der Monat Arbeit, der die Frage klärt.

Veröffentlicht am 5 Min. LesezeitArx Fidei

Rund um den AI Act gibt es in mittelständischen Unternehmen eine besondere Lähmung. Der Text ist lang, die Bußgelder stehen in den Schlagzeilen, und intern kann niemand mit Autorität sagen, ob ein bestimmtes Vorhaben erlaubt ist. Also bleiben Projekte stehen, während die Belegschaft weiter nutzt, was sie selbst gefunden hat.

In fast jedem Fall, zu dem man uns holt, ist die Auflösung dieselbe und unspektakulär: Das Unternehmen ist Betreiber, nicht Anbieter; kaum etwas von dem, was es betreibt, ist hochriskant; und die Pflichten, die tatsächlich gelten, lassen sich in etwa einem Monat erfüllen.

Hier ist dieser Monat.

Tage 1 bis 5: Inventar, einschließlich dessen, was niemand freigegeben hat

Man kann nicht einstufen, was man nicht aufgelistet hat. Das Inventar hat drei Quellen, und die dritte zu überspringen ist der häufigste Fehler.

Die erste ist die Projektliste: was der Fachbereich formal vorgeschlagen oder gebaut hat. Die zweite ist die Lieferantenliste: die KI-Funktionen in der Software, die Sie ohnehin kaufen — der Assistent im CRM, die Zusammenfassung im Ticketsystem, die Bewertung im Recruiting-Werkzeug. Diese überraschen, weil niemand entschieden hat, KI einzuführen; sie kam in einer Release-Notiz.

Die dritte ist Schatten-KI. Fragen Sie ohne Vorwurf, was tatsächlich genutzt wird. Rechnen Sie damit, dass die Antwort mindestens einen allgemeinen Assistenten enthält, der Unternehmensdokumente gesehen hat. Das im Inventar zu erfahren ist deutlich billiger, als es in einem Vorfall zu erfahren.

Halten Sie je System fest: was es tut, wer es nutzt, welche Daten hineingehen, ob die Ausgabe eine Person betrifft und wer es geliefert hat.

Tage 6 bis 10: Rolle und Risiko, System für System

Zwei Fragen klären den größten Teil der Arbeit.

Sind Sie Anbieter oder Betreiber? Sie sind Betreiber, wenn Sie ein KI-System in eigener Verantwortung einsetzen. Sie werden Anbieter — mit einem deutlich schwereren Pflichtenkatalog —, wenn Sie Ihren Namen darauf setzen, ein Hochrisikosystem wesentlich verändern oder ein Allzweckmodell unter eigener Marke in eine Hochrisikoanwendung überführen. Ein Modell für den internen Gebrauch nachzutrainieren macht Sie in der Regel nicht zum Anbieter. Dieses Modell Kunden als Funktion auszuliefern schon.

In welche Risikoklasse fällt es? Die verbotenen Praktiken sind eng gefasst und nach einmaligem Lesen meist offensichtlich: Social Scoring, bestimmte biometrische Kategorisierungen, Emotionserkennung am Arbeitsplatz und in der Bildung, ungezieltes Auslesen von Gesichtsbildern. Lesen Sie die Liste einmal gegen Ihr Inventar und lassen Sie es dabei bewenden.

Hochriskant wird über die Verwendung definiert, nicht über die Technik. Die Fälle, die gewöhnliche Unternehmen treffen, liegen im Beschäftigungsbereich — Lebenslaufvorauswahl, Aufgabenzuweisung, Entscheidungen über Beförderung oder Beendigung — und beim Zugang zu wesentlichen Diensten wie der Kreditwürdigkeitsprüfung. Ein Assistent, der E-Mails entwirft, ist nicht hochriskant, weil er geschickt ist; ein einfaches regelbasiertes Werkzeug, das Bewerbungen filtert, kann es sein.

Halten Sie die Begründung fest, nicht nur das Ergebnis. Die dokumentierte Entscheidung ist das Ergebnis.

Tage 11 bis 15: die Pflichten, die tatsächlich für Sie gelten

Für den Betreiber eines hochriskanten Systems sind die Kernpflichten: das System entsprechend der Betriebsanleitung des Anbieters einsetzen; die menschliche Aufsicht Personen übertragen, die Kompetenz und Befugnis zu ihrer Ausübung haben; sicherstellen, dass die Eingabedaten für den Zweck geeignet sind, soweit Sie sie kontrollieren; den Betrieb überwachen und Anbieter und Behörde über schwerwiegende Vorfälle informieren; die automatisch erzeugten Protokolle aufbewahren; und betroffene Beschäftigte informieren, bevor das System am Arbeitsplatz in Betrieb geht. Bestimmte Betreiber — öffentliche Stellen und private Einrichtungen, die öffentliche Dienste erbringen, sowie Kredit- und Versicherungsanwendungen — müssen zusätzlich eine Grundrechte-Folgenabschätzung durchführen.

Für Systeme mit begrenztem Risiko besteht die Pflicht in der Transparenz: Menschen müssen wissen, dass sie mit einem KI-System interagieren, und synthetische Inhalte müssen als solche gekennzeichnet sein.

Für jeden Betreiber verlangt Artikel 4 KI-Kompetenz: Beschäftigte, die mit diesen Systemen umgehen, müssen über ein ausreichendes Verständnis verfügen. Das gilt unabhängig von der Risikoklasse, seit Februar 2025, und es ist die Pflicht, die die meisten Unternehmen übersehen haben.

Tage 16 bis 22: die drei Dokumente

Governance muss nicht schwer sein, und schwere Governance ist die Art, wie Projekte sterben. Für ein Unternehmen dieser Größe genügen drei Artefakte.

Ein KI-Register. Eine Zeile je System: Name, Verantwortung, Zweck, Rolle, Risikoklasse, verwendete Daten, Überprüfungstermin. Dort abgelegt, wo Menschen es tatsächlich pflegen werden.

Eine Nutzungsrichtlinie. Kurz. Welche Werkzeuge freigegeben sind, was hinein darf und was nicht, was geprüft werden muss, bevor eine Ausgabe nach außen geht, und wen man fragt. So geschrieben, dass sie in drei Minuten gelesen ist.

Ein Freigabeweg. Ein schlankes Formular und eine benannte prüfende Person für neue Anwendungsfälle, mit einer Zusage: zwei Arbeitstage, nicht zwei Wochen. Ist die Freigabe langsam, umgehen die Teams sie, und Sie sind mit besserem Papierkram wieder bei der Schatten-KI.

Tage 23 bis 27: Kompetenz, tatsächlich vermittelt

Zwei Sitzungen: eine für die Beschäftigten, die diese Werkzeuge täglich nutzen, eine für diejenigen, die über ihren Einkauf entscheiden. Inhalte zu Ihren Systemen, nicht generisch. Was diese Modelle gut können, wie sie versagen, was niemals in einen Prompt gehört und was „menschliche Aufsicht“ in Ihrem Kontext bedeutet.

Halten Sie die Teilnahme fest. Dieser Nachweis ist Ihr Beleg zu Artikel 4.

Tage 28 bis 30: die Sicherheitsarbeit, von der Sie nun wissen

Das Inventar wird mindestens eine Sache zutage gefördert haben, die eher ein Sicherheits- als ein Compliance-Thema ist. Es ist fast immer dieselbe: ein Assistent, der an einen Dokumentenspeicher angeschlossen ist und jede je zu weit erteilte Berechtigung erbt.

Schneiden Sie diese Arbeit zu, auch wenn Sie sie in diesem Monat nicht mehr leisten können. Ein KI-System, das alles lesen kann, was eine:r Ihrer Beschäftigten lesen kann, ist erst dann eine Compliance-Frage, wenn es zuvor eine Frage der Zugriffskontrolle war.

Was Sie am Ende haben

Eine Liste jedes KI-Systems im Unternehmen, eine vertretbare Einstufung für jedes davon mit festgehaltener Begründung, drei kurze Governance-Dokumente, eine geschulte Belegschaft mit dem Nachweis dafür und einen Sicherheitspunkt im Backlog, der dreißig Tage zuvor unsichtbar war.

Das ist der gesamte AI Act für die meisten mittelständischen Betreiber. Es ist ein Monat, kein Programm, und die Unternehmen, die ihn gehen, sind nicht länger blockiert — was der eigentliche Nutzen ist.

Hat dieser Beitrag eine Frage aufgeworfen?

Wenn er eine Lage beschreibt, in der Sie gerade stecken, sind fünfundvierzig Minuten am Telefon meist schneller als ein weiterer Artikel.