Eine Verzerrung sieht nicht falsch aus, sondern einseitig.
In Seminaren begegnet mir regelmäßig dieselbe Verwechslung: Jemand prüft KI-Ausgaben gewissenhaft auf Namen, Zahlen und Paragrafen — und hält damit alles für abgedeckt. Erfasst ist aber nur eine von zwei Fehlerarten.
Eine Halluzination ist eine erfundene Einzelangabe. Sie lässt sich gegen eine Quelle prüfen: Die Rechtsgrundlage gibt es nicht, die Studie ist nicht auffindbar. Eine Verzerrung verhält sich anders. Sie ist kein Fehler in einer einzelnen Aussage, sondern ein gleichgerichteter Ausschlag über viele Ausgaben hinweg. Jede Ausgabe bleibt für sich plausibel; erst der Vergleich mehrerer Durchläufe zeigt, dass die Auswahl systematisch in eine Richtung fällt.
Daraus folgt der praktische Unterschied: Halluzinationen erkennt man an einer Ausgabe, Verzerrungen erst an mehreren. Wer eine Verzerrung mit den Mitteln der Faktenprüfung sucht, findet nichts — und schließt daraus, es sei nichts da.
Zusammen hängen beide trotzdem. Die KI-Servicestelle der RTR schreibt in ihrem Fragenkatalog, ein Modell könne falsche Schlüsse ziehen, wenn die Trainingsdaten unvollständig, fehlerhaft oder verzerrt sind. Auf ihrer Seite zur KI-Kompetenz nennt dieselbe Stelle „Bias, Halluzinationen, Bedeutung von Trainingsdaten“ als Inhalte, die vermittelt werden können — nebeneinander, nicht als Synonyme.
Quelle: KI-Servicestelle der RTR, FAQ — „Was bedeutet es, wenn ein KI-System halluziniert?“
Quelle: KI-Servicestelle der RTR, AI Act — KI-Kompetenz, Abschnitt „Operative Umsetzung von KI-Kompetenz“
Drei Stellen, an denen eine Verzerrung entsteht.
Wo sie entsteht, entscheidet, wer überhaupt etwas tun kann.
- Die Trainingsdaten.Ein Modell lernt aus dem, was vorhanden war. Was in den Daten überwiegt, überwiegt auch in den Ausgaben.
- Die Zielgröße des Systems.Ist die Vorgabe, auf die ein System optimiert, selbst schief, ist es das Ergebnis ebenfalls — ohne dass ein einzelner Rechenschritt fehlerhaft wäre.
- Die eigenen Eingabedaten.Der Anteil, der im Haus liegt: welche Unterlagen und Beispiele hineingegeben werden und ob sie den Fall abdecken.
Wie unauffällig das aussieht, zeigt die Wirtschaftskammer in ihren KI-Guidelines für KMU. Aus dem geschlechtsneutralen englischen Satz „The doctor asked if the customer was satisfied with the result“ wird bei der Übersetzung „Der Arzt fragte, ob der Kunde mit dem Ergebnis zufrieden sei“ — grammatikalisch fehlerfrei und zugleich eine Festlegung, die niemand getroffen hat. Die Kammer nennt daneben die Tendenz einiger Modelle, bei Bildern zu renommierten Positionen häufiger weiße Männer zu erzeugen und Frauen oder Angehörige von Minderheiten vergleichsweise selten. Ihr Leitsatz dazu lautet, KI-generierte Inhalte seien von den Unternehmensangehörigen auf Verzerrungen zu überprüfen und gegebenenfalls zu korrigieren.
Warum das kein vorübergehendes Problem ist, formuliert Univ.-Prof. Mag. Dr. Sabine Theresia Köszegi von der TU Wien in einem namentlich gezeichneten Gastbeitrag im RTR-Bericht zu KI im Personalbereich — es ist ihre Position, nicht die der RTR. Sie beschreibt zwei Grundtendenzen: KI schreibe die Vergangenheit fort und sei stark im Erkennen des Normalen, aber schwach im Erkennen des Besonderen und Außergewöhnlichen. Ihr Schluss: KI-Algorithmen sind weder neutral noch objektiv, und die mangelnde Transparenz erschwert es, Vorurteile überhaupt zu erkennen. Deshalb greift der Satz zu kurz, ein Werkzeug sei inzwischen „bias-frei“; auch die Kammer hält fest, dass Bias-Risiken bestehen bleiben, obwohl sich KI-Systeme kontinuierlich verbessern.
Quelle: Wirtschaftskammer Österreich, KI-Guideline #7 — Ethik. Vielfalt. Inklusion.
Quelle: RTR, „KI im Human Resource Management“, Gastbeitrag Köszegi, S. 42–44 (PDF)
Vier Gegenproben, die eine Verzerrung sichtbar machen.
Weil eine Verzerrung an einer einzelnen Ausgabe nicht erkennbar ist, braucht es Verfahren, die mehrere Ausgaben nebeneinanderstellen. Die folgenden vier sind werkzeugunabhängig und lassen sich von jeder Person durchführen, die das System ohnehin bedient.
- Der Tausch. Dieselbe Anfrage ein zweites Mal stellen und genau ein Merkmal ändern — Vorname, Anrede, Alter, Wohnort. Alles andere bleibt Wort für Wort gleich. Unterscheiden sich Tonfall, Länge oder Empfehlung, liegt das nicht am Fall, sondern am getauschten Merkmal.
- Die Wiederholung. Dieselbe Anfrage fünf- bis zehnmal getrennt stellen und die Ergebnisse auszählen, statt sie einzeln zu bewerten.
- Die Gegenrichtung. Die Anfrage aus der entgegengesetzten Position wiederholen: einmal nach den Gründen dafür, einmal nach den Gründen dagegen. Bleibt die eine Antwort deutlich dünner als die andere, ist das ein Hinweis auf eine Schieflage.
- Der Abgleich außerhalb des Systems. Die tragende Aussage gegen eine unabhängige Quelle prüfen. Die Kammer empfiehlt genau das: Informationen mit aktuellen und glaubwürdigen Quellen vergleichen und ihre Richtigkeit bestätigen, bevor sie in die Arbeit einfließen.
Dazu passen die Prüffragen der Kammer: Ist der KI-generierte Inhalt frei von Vorurteilen und Diskriminierung? Betrifft der Input ein gesellschaftlich oder sozial kontroverses Thema, wo besonders viele Miss- und Desinformationen kursieren? Wer könnte an einer Verzerrung Interesse haben? In der Guideline zu den Grenzen von KI kommen der Anwendungszweck, die Datenqualität und die Frage hinzu, ob der Inhalt gegenüber bestimmten Personengruppen diskriminierend wirkt.
Zwei Einordnungen sind mir wichtig. Erstens sind diese Guidelines eine Empfehlung der Kammer und keine Rechtsnorm — auch nicht das dort genannte Vier-Augen-Prinzip. Zweitens ersetzt keine Gegenprobe eine Konformitätsbewertung oder eine Grundrechte-Folgenabschätzung; sie ist ein Alltagsinstrument, kein Verfahren.
Einen festen Platz im Ablauf brauchen die Gegenproben trotzdem, weil das Bauchgefühl hier unzuverlässig ist. Köszegi beschreibt im erwähnten Gastbeitrag den Automation Bias: die Neigung, KI-Ergebnissen ungerechtfertigt zu vertrauen und ihnen zu folgen, auch wenn die entscheidende Person über Kontextwissen verfügt, das dem System fehlt.
Quelle: Wirtschaftskammer Österreich, KI-Guideline #2 — Grenzen von KI
Quelle: WKO, KI-Guidelines für KMU, 3. Auflage, April 2026, S. 17, S. 22 und S. 23–24 (PDF)
Was der AI Act zu Daten und Aufsicht verlangt — und von wem.
Die KI-Servicestelle der RTR trennt hier zwei Rollen, und diese Trennung entscheidet, was einen Betrieb betrifft.
Anbieter von Hochrisiko-KI-Systemen. Zu Artikel 10 schreibt die RTR, Datensätze seien auf Verfügbarkeit, Menge und Eignung zu bewerten, mögliche Verzerrungen zu prüfen und Datenlücken oder Mängel zu ermitteln; sie hätten hinreichend repräsentativ, soweit möglich fehlerfrei und vollständig zu sein. Dazu kommen die Betriebsanleitung mit Merkmalen, Fähigkeiten und Leistungsgrenzen (Artikel 13), die Auslegung auf wirksame Beaufsichtigung durch natürliche Personen (Artikel 14) und Maßnahmen gegen sogenannte Rückkoppelungsschleifen (Artikel 15).
Betreiber. Sofern Betreiber die Kontrolle über Eingabedaten haben, müssen diese laut RTR der Zweckbestimmung des Hochrisiko-KI-Systems entsprechen und ausreichend repräsentativ sein (Artikel 26 Absatz 4). Die menschliche Aufsicht ist natürlichen Personen zu übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen (Artikel 26 Absatz 2). Betroffene Personen haben unter den dort genannten Voraussetzungen ein Recht auf eine klare und aussagekräftige Erläuterung zur Rolle des Systems im Entscheidungsprozess (Artikel 86), und vor Inbetriebnahme am Arbeitsplatz ist auch die Arbeitnehmervertretung zu informieren (Artikel 26 Absatz 7).
Quer dazu liegt die KI-Kompetenz nach Artikel 4: Sie gilt laut RTR ohne Unterscheidung nach KI-Systemen, Modellen oder Risikoklassen und verlangt von Anbietern wie Betreibern Maßnahmen, die die KI-Kompetenz des eigenen Personals entwickeln helfen (näher umschrieben in Artikel 3 Ziffer 56); ein bestimmtes Niveau muss laut Normtext für niemanden garantiert werden. Wer eine Ausgabe beaufsichtigen soll, muss wissen, wonach zu sehen ist.
Ob ein konkreter Einsatz eines KI-Systems zulässig ist und welche Pflichten dabei greifen, kann dieser Beitrag nicht beurteilen — dafür sind die KI-Servicestelle der RTR, bei personenbezogenen Daten die österreichische Datenschutzbehörde sowie die eigene Rechtsabteilung, Datenschutzstelle oder die zuständige Kammer die richtigen Adressen.
Quelle: KI-Servicestelle der RTR, AI Act — Anbieterverpflichtungen
Quelle: KI-Servicestelle der RTR, AI Act — Betreiberverpflichtungen
Was Betriebe heute tatsächlich prüfen.
Zum Stand der Praxis gibt es eine Erhebung, allerdings nur für einen Ausschnitt. Die RTR hat einen Bericht zu KI im Human Resource Management veröffentlicht, das Vorwort ist mit „Wien, im April 2025“ gezeichnet. Der Fragebogen stammt laut Bericht von der in der RTR eingerichteten Servicestelle für Künstliche Intelligenz, die Befragung führte das Institut Market im November und Dezember 2024 telefonisch durch: 701 Interviews mit Unternehmen ab 50 Mitarbeiter:innen.
Die Bezugsgröße ist wichtiger als jeder einzelne Wert. In die Grundgesamtheit fallen laut Kapitel 2 rund 7.060 Unternehmen — Betriebe unter 50 Mitarbeiter:innen sind ausdrücklich ausgeschlossen. Die Zahlen sagen also nichts über „die österreichischen Unternehmen“. Von den 701 befragten Unternehmen setzen laut Abschnitt 3.1 68 Prozent im Personalbereich KI ein; die folgenden Werte beziehen sich jeweils auf diese Teilgruppe, die der Bericht mit n = 500 ausweist.
In Abschnitt 3.15 (Frage 20, Mehrfachnennung, Basis n = 500) nennen 34 Prozent Schulungen, Dokumentationen oder Unternehmensrichtlinien zum Einsatz der KI-Anwendungen. Je 16 Prozent nennen ein eigenes Qualitäts- und Risikomanagement beziehungsweise ein Feedback-System, über das Mitarbeitende potenziell problematische Ergebnisse melden können. Überprüfungen zu möglicher Diskriminierung — etwa hinsichtlich Geschlecht, Alter oder Behinderung — nennen 10 Prozent, Regeln zur menschlichen Aufsicht 8 Prozent.
Bekannt ist das Thema durchaus. In Abschnitt 3.13 (Frage 23, Mehrfachnennung, Basis n = 500) nennen 23 Prozent die geringe Nachvollziehbarkeit der Ergebnisse als Barriere, 22 Prozent Schwierigkeiten bei Verfügbarkeit oder Qualität der benötigten Daten, 14 Prozent mögliche Diskriminierung. In Abschnitt 3.16 (Frage 11, Basis: 305 Unternehmen mit genannten aktiven Einsatzbereichen) sehen 40 Prozent ihre Anwendungen wirksam überwacht, 20 Prozent halten eine derartige Überwachung nicht für nötig, 20 Prozent sehen Aufholbedarf.
Mich interessiert daran der Abstand: Die geringe Nachvollziehbarkeit der Ergebnisse nennen in dieser Gruppe mehr als doppelt so viele Unternehmen als Barriere (23 Prozent), wie Überprüfungen zu möglicher Diskriminierung (10 Prozent) oder Regeln zur menschlichen Aufsicht (8 Prozent) angeben.
Quelle: RTR, „KI im Human Resource Management“, Kapitel 2 (S. 7) sowie Abschnitte 3.1, 3.13, 3.15 und 3.16 (PDF)
Quelle: RTR, Publikationsseite mit Bericht, Fragebogen und Rohdaten
Von der einzelnen Gegenprobe zur nachvollziehbaren Routine.
Verlässlich wird eine Gegenprobe erst, wenn drei Dinge geklärt sind: wann, wer und wohin.
Wann. Nicht bei jeder Ausgabe, sondern dort, wo eine Ausgabe eine Auswahl, eine Reihung oder eine Beurteilung von Personen vorbereitet. Zu klären ist, welche Fälle das im eigenen Haus sind; die Liste ist meist kürzer, als sie in der Diskussion wirkt.
Wer. Aus Artikel 4 folgt laut RTR — anders als in der Datenschutz-Grundverordnung — keine gesetzliche Pflicht, eine KI-beauftragte Person zu benennen. Eine Zuständigkeit braucht es trotzdem, sonst prüft niemand. Als erste Schritte nennt die RTR eine Erhebung der bereits eingesetzten KI-Systeme und die Frage nach der strategischen Ausrichtung.
Wo das Ergebnis landet. Zur Kompetenz selbst empfiehlt die RTR, je betroffener Mitarbeiter:in Art der Schulung, bei externen Angeboten den Veranstalter, Inhalt und Ziel, Zeitpunkt und Wiederholungen im Personalakt festzuhalten. Wer diese Systematik auf die Gegenproben überträgt, hat später etwas in der Hand: welcher Fall geprüft wurde, mit welchem Befund und wer entschieden hat.
Diese Prüfkompetenz entsteht nicht nebenbei. Die RTR beschreibt KI-Kompetenz als Bündel aus technischen, rechtlichen und ethischen Kenntnissen samt Risikobewusstsein und praktischer Anwendungsfähigkeit, zu bemessen nach Ausbildungsstand und Einsatzbereich, und verweist auf DigComp 2.3 AT — darin ausdrücklich auf das Suchen und kritische Hinterfragen von Informationen. Genau das setzt eine Gegenprobe voraus.
Das Blatt in der Seitenspalte fasst das zusammen: die vier Gegenproben, die Fragen der Kammer und die Felder für den Befund. Es ersetzt keine rechtliche Beurteilung, sorgt aber dafür, dass ein Verdacht nicht im Bauchgefühl stecken bleibt.