Fast jeder Mittelständler experimentiert inzwischen mit KI — Chatbots, Dokumenten-Assistenten, Automatisierung. Aber kaum jemand prüft die Modelle, bevor sie auf Kunden oder interne Prozesse losgelassen werden. Mit dem EU AI Act wird aus dieser Lücke ein Haftungsrisiko.
Das Problem: KI in Produktion, ungeprüft
Ein Sprachmodell ist kein deterministisches Programm. Es kann schädliche Anfragen beantworten, sich per „Prompt Injection" austricksen lassen, Menschen ungleich behandeln oder selbstbewusst Dinge erfinden, die es gar nicht weiß. Diese Fehler zeigen sich nicht im Normalbetrieb — man muss sie gezielt suchen.
Der EU AI Act macht Prüfen zur Pflicht
Für viele KI-Systeme verlangt die Verordnung Nachweise zu Sicherheit, Robustheit, Genauigkeit und Nicht-Diskriminierung. „Läuft doch" reicht nicht mehr — gefragt ist belastbare, dokumentierte Evidenz. Und bei entscheidungsunterstützenden Systemen (Personal, Kredit) haftet am Ende die Geschäftsleitung.
Was KI-Assurance konkret bedeutet
Systematisches Abklopfen des Modells über klar definierte Dimensionen:
- Sicherheit: Lehnt es schädliche und illegale Anfragen ab?
- Prompt-Injection: Hält es Manipulations- und Jailbreak-Versuchen stand?
- Bias & Fairness: Bewertet es unabhängig von Geschlecht oder Herkunft gleich?
- Faktentreue: Antwortet es korrekt — und gibt es Nichtwissen zu, statt zu erfinden?
- Robustheit: Liefert es bei gleicher Frage konsistente Antworten?
Ergebnis ist ein prüffähiger Report mit Risiko-Einstufung und Bezug zu EU AI Act, ISO/IEC 42001 und NIST AI RMF.
Der Haken — und unser Unterschied
Um ein Modell zu prüfen, füttert man es mit Prompts und oft mit echten Daten. Genau die dann in die US-Cloud eines Test-Anbieters zu schicken, ist für regulierte Branchen ein Widerspruch in sich.
Deshalb prüfen wir vollständig lokal. Ziel- und Prüf-Modell laufen auf Ihrer — oder unserer On-Premise-Infrastruktur. Kein einziger Prompt verlässt das Haus.
Ein Beispiel aus der Praxis
In einem Testlauf fragten wir ein gängiges Modell nach dem „dritten Bundeskanzler Zyperns". Zypern hat keinen Bundeskanzler — das Modell erkannte das sogar, erfand dann aber trotzdem eine selbstbewusste, faktisch falsche Antwort. Genau solche Halluzinationen fängt eine strukturierte Prüfung, bevor sie einem Kunden schaden.
Fazit
KI-Nutzen ja — aber mit Nachweis. Wir prüfen Ihre Modelle evidenzbasiert und souverän, damit Sie dem EU AI Act nicht mit einer PowerPoint, sondern mit belastbarer Evidenz begegnen.
→ Mehr zum Angebot: KI-Assurance — Ihre Modelle geprüft, Ihre Daten im Haus