Ohne festgelegten Auslöser bleibt der Satz eine Absichtserklärung.
In fast jeder Regelung, die ich zu sehen bekomme, steht ein Satz dieser Art: Am Ende entscheidet immer ein Mensch. Ich halte ihn für richtig und trotzdem für unbrauchbar, solange er allein steht — er sagt nicht, woran jemand merkt, dass gerade dieser Fall gemeint ist.
Was daraus im Alltag wird, zeigt sich an zwei Mustern. Im ersten läuft alles durch: Die Ausgabe wirkt sauber, der Termin drängt, niemand hat definiert, was ein Zweifelsfall ist, und die Regel greift nie. Im zweiten kommt alles zurück: Wer unsicher ist und keine Grenze kennt, gibt lieber jeden Fall weiter — und die Person, die übernehmen soll, hat nach zwei Wochen einen Stapel, den sie nicht mehr durchsieht.
Ein Eskalationsweg schließt diese Lücke mit vier Angaben: dem Auslöser, der benannten Person, der Frist und dem, was von dem Vorgang nachlesbar bleibt. Gemeint ist nicht die Prüfung einer einzelnen Ausgabe, sondern der Weg danach.
Was der AI Act menschliche Aufsicht nennt — und wer sie einrichtet.
Der AI Act verlangt menschliche Aufsicht nicht für jeden KI-Einsatz; die Anforderung hängt an den Hochrisiko-KI-Systemen. Für Systeme mit minimalem Risiko hält die KI-Servicestelle der RTR fest, dass keine verpflichtend einzuhaltenden Anforderungen gestellt werden — einzig die Verpflichtung zur KI-Kompetenz nach Artikel 4 trifft auch sie. Eine Eskalationsregel entsteht in den meisten Büros also zunächst aus organisatorischen Gründen.
Wo sie greift, ist sie auf zwei Rollen aufgeteilt. Die Anbieterseite baut die Aufsicht ein: Hochrisiko-KI-Systeme sind laut RTR so zu konzipieren, dass sie während ihrer Verwendung von natürlichen Personen wirksam beaufsichtigt werden können (Artikel 14), und in der Betriebsanleitung stehen sowohl die Maßnahmen zur Gewährleistung der menschlichen Aufsicht als auch die Merkmale, Fähigkeiten und Leistungsgrenzen des Systems (Artikel 13).
Die Betreiberseite besetzt die Aufsicht mit Menschen. Die RTR beschreibt die Pflicht so: Betreiber sind verpflichtet, natürlichen Personen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen, die menschliche Aufsicht zu übertragen, und ihnen die erforderliche Unterstützung zukommen zu lassen (Artikel 26 Absatz 2).
Kompetenz, Ausbildung und Befugnis stehen darin gleichrangig nebeneinander. Eine Person ohne Befugnis kann einen Fall nicht anhalten; eine Person mit Befugnis, aber ohne Ausbildung, kann ihn nicht beurteilen. Und Unterstützung heißt im Alltag vor allem: Zeit, Zugang zur Betriebsanleitung und jemanden, den sie ihrerseits fragen kann.
Vier Arten von Auslösern, die sich vorher aufschreiben lassen.
Ein Auslöser taugt nur, wenn er sich ohne Diskussion feststellen lässt. „Bei Unsicherheit“ ist keiner. Aus der Quellenlage lassen sich vier brauchbare Gruppen ordnen:
- Die Wirkung auf einzelne Personen.Die RTR nennt als Beispiele für Anwendungen mit Personenbezug unter anderem die Zulassung zu Bildungseinrichtungen und die Filterung von Bewerbungen; im Arbeitsverhältnis werden Einstellung und Auswahl, Entscheidungen über Arbeitsbedingungen, Beförderungen, Kündigungen, Aufgabenzuweisung sowie Leistungs- und Verhaltensbeobachtung angeführt. Wo eine Ausgabe in solche Fragen hineinwirkt, ist der Auslöser die Fallgruppe selbst, nicht der Zweifel daran.
- Der inhaltliche Befund an der Ausgabe.Die WKO-KI-Guidelines schlagen als Prüffragen unter anderem vor, ob das Ergebnis für den Anwendungszweck relevant ist, wie gut die Datenqualität ist und ob der Inhalt Verzerrungen enthält oder gegenüber bestimmten Personengruppen diskriminierend wirkt. Jede dieser Fragen lässt sich als Auslöser formulieren: Wer sie mit Ja beantwortet, gibt den Fall weiter.
- Die Leistungsgrenze des Systems.Weil die Betriebsanleitung Merkmale, Fähigkeiten und Leistungsgrenzen zu nennen hat, lässt sich der Bereich außerhalb dieser Grenzen beschreiben — Sprachen, Datenlagen, Fallkonstellationen, für die das System nicht gedacht ist.
- Der Verdacht auf ein Risiko.Besteht Grund zur Annahme, dass ein Hochrisiko-KI-System ein Risiko im Sinne des Artikels 79 Absatz 1 birgt, ist laut RTR von der Verwendung abzusehen; bei einem Risiko im Sinne des Artikels 79 oder einem schwerwiegenden Vorfall treten Berichtspflichten gegenüber Anbieter, Einführer beziehungsweise Händler und den zuständigen Marktüberwachungsbehörden hinzu. Dieser Auslöser führt aus dem Betrieb hinaus.
Die ersten drei Gruppen lassen sich im eigenen Haus formulieren. Die vierte nicht allein — sie gehört in dieselbe Zeile wie die Frage, wer eine Meldung nach außen überhaupt absetzen darf.
Ein Beispiel aus dem Bundesgesetzblatt: das Eingreifen einer Person.
Wie fein ein Eingriffsrecht ausformuliert sein kann, zeigt ein österreichisches Gesetz, das mit dem AI Act nichts zu tun hat. Das Verbraucherkreditgesetz 2026, kundgemacht im Bundesgesetzblatt I Nr. 36/2026 am 10. Juni 2026, regelt in seinem Paragraphen 17 die Prüfung der Kreditwürdigkeit. Der erste Satz von Absatz 5 lautet: Umfasst die Kreditwürdigkeitsprüfung eine automatisierte Verarbeitung personenbezogener Daten, kann der Verbraucher das Eingreifen einer Person aufseiten des Kreditgebers verlangen und erwirken.
Bemerkenswert ist, was danach kommt. Nach derselben Bestimmung besteht insbesondere das Recht, klare und verständliche Erläuterungen zur Kreditwürdigkeitsprüfung zu erhalten — einschließlich der Logik und der Risiken der automatisierten Verarbeitung sowie ihrer Bedeutung für die Entscheidung und ihrer Auswirkungen —, dem Kreditgeber den eigenen Standpunkt darzulegen und eine Überprüfung der Kreditwürdigkeitsprüfung und der Entscheidung über die Kreditgewährung zu erreichen. Über diese Rechte ist zu informieren; wird ein Antrag abgelehnt und stützte sich die Prüfung auf eine automatisierte Verarbeitung, ist auch über diesen Umstand, über das Recht auf Prüfung durch eine Person und über das Verfahren zur Anfechtung zu informieren.
Der Anwendungsbereich ist eng: Das Gesetz tritt nach seinem Paragraphen 45 mit 20. November 2026 in Kraft und ist — von Ausnahmen abgesehen — nur auf Kreditverträge anzuwenden, die nach dem 19. November 2026 geschlossen beziehungsweise gewährt werden. Es ist damit weder eine allgemeine Regel für KI-Einsatz noch heute schon anwendbar.
Für einen Eskalationsweg ist es trotzdem lehrreich, weil es drei Schritte trennt, die im Betrieb gern zu einem verschmelzen: erklären, anhören, neu prüfen. Wer nur den dritten Schritt vorsieht, hat einen Weg gebaut, auf dem die betroffene Person nichts beitragen kann.
Wie ein Eskalationsweg aufgebaut ist: vier Spalten je Anwendungsfall.
Daraus ergibt sich eine Form, die auf ein Blatt passt: je Anwendungsfall eine Zeile mit vier Spalten:
- Der Auslöser — feststellbar, nicht auslegungsbedürftig. Eine Fallgruppe, ein Befund an der Ausgabe, eine Leistungsgrenze oder ein Risikoverdacht.
- Wer übernimmt — eine Rolle mit Namen und einer benannten Vertretung. Eine Abteilung übernimmt nichts, das tun Personen. Dazu gehört die Befugnis: darf diese Person den Vorgang anhalten?
- Bis wann — eine Frist, die zum Geschäft passt. Ohne Frist wandert der Fall in eine Warteschlange, und die Regel wird umgangen, sobald es eilt.
- Was festgehalten wird — welche Angabe den Vorgang später nachvollziehbar macht.
Die KI-Guidelines der Wirtschaftskammer formulieren als möglichen Regeltext, dass Beschäftigte KI-basierte Inhalte erst dann übernehmen, wenn diese zuvor von mindestens einer qualifizierten Person auf Richtigkeit, Faktentreue und Kontext geprüft wurden, und dass bei kritischen Ausgaben das Vier-Augen-Prinzip anzuwenden ist. Das ist ein Formulierungsvorschlag einer Kammer, keine Rechtsnorm — für die zweite Spalte dennoch nützlich, weil er die Qualifikation der prüfenden Person erwähnt.
Das Arbeitsblatt Eskalationsweg festlegen enthält diese vier Spalten samt Beispielzeilen; es beschreibt ein Verfahren und bewertet keinen Einsatz.
Was mitlaufen muss, damit die Entscheidung später erklärbar ist.
Ein Eskalationsweg, von dem nichts übrig bleibt, lässt sich weder verbessern noch belegen.
Im Hochrisikobereich ist das teils vorgezeichnet. Automatisch erzeugte Protokolle solcher Systeme sind laut RTR für mindestens sechs Monate aufzubewahren, sofern sie unter der Kontrolle des Betreibers liegen und nicht geltendes Unionsrecht wie die Datenschutz-Grundverordnung etwas anderes bestimmt (Artikel 26 Absatz 6). Das ist eine Frist für diese Protokolle, keine allgemeine Aufbewahrungsfrist für KI-Nutzung. Wozu die Protokollierung nach Artikel 12 dient, steht bei den Anbieterverpflichtungen: vor allem, um zu ermitteln, ob ein Hochrisiko-KI-System ein Risiko im Sinne des Artikels 79 Absatz 1 birgt.
Dazu kommen drei Pflichten, die nach außen zeigen. Beim Einsatz von Hochrisiko-KI-Systemen nach Anhang III sind natürliche Personen über die Verwendung des Systems zu informieren, wenn sie von einer Entscheidung betroffen sind oder das System bei solchen Entscheidungen Unterstützung leistet (Artikel 26 Absatz 11). Am Arbeitsplatz informieren Arbeitgeber neben den betroffenen Arbeitnehmerinnen und Arbeitnehmern auch die Arbeitnehmervertretung vor Inbetriebnahme oder Verwendung (Artikel 26 Absatz 7). Und Artikel 86 gibt betroffenen Personen bei bestimmten Systemen das Recht, vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten. Belegt ist damit ein Recht auf Erläuterung — nicht auf eine andere Entscheidung.
Wer eine solche Erläuterung später geben soll, braucht Notizen von damals — der praktische Grund für die vierte Spalte, unabhängig von der Risikoklasse.
Was vor der ersten Regel zu klären ist — und mit wem.
Drei Fragen sind zu klären, bevor die erste Zeile entsteht, und keine davon beantwortet ein Blogbeitrag. In welche Risikoklasse fällt das System, und wer im Haus stellt das fest? Welche der genannten Pflichten treffen den Betrieb in seiner konkreten Rolle? Wer hat die Befugnis, einen Vorgang anzuhalten, und woraus ergibt sich das?
Ob eine geplante Eskalationsregel den Anforderungen im eigenen Haus genügt, kläre ich nicht am Blogbeitrag, sondern mit der eigenen Datenschutzstelle und der Rechtsvertretung; für Fragen zum AI Act selbst ist die KI-Servicestelle der RTR die Anlaufstelle, deren Rechtsgrundlage Paragraph 20c KOG und Paragraph 194a TKG bilden (BGBl. I Nr. 6/2024); für die Beteiligung der Belegschaft die Arbeitnehmervertretung und die Kammern.
Ein Punkt gehört noch dazu: Der AI Act sieht laut RTR das Recht natürlicher und juristischer Personen vor, bei einer nationalen Behörde Beschwerde einzulegen; auf dieser Grundlage können nationale Behörden eine Marktüberwachung einleiten.
Und der Teil, den wir übernehmen, ist der davor: Eine benannte Person kann einen eskalierten Fall nur beurteilen, wenn sie versteht, warum ein System eine plausible und trotzdem falsche Ausgabe erzeugt. Ohne dieses Verständnis wird die Spalte „wer übernimmt“ zu einem Namen ohne Wirkung.
Quelle: KI-Servicestelle der RTR, FAQ zum AI Act — Beschwerderecht und zuständige nationale Behörden
Quelle: RTR, Servicestelle für Künstliche Intelligenz — Auftrag und Rechtsgrundlage