Fast jeder Mittelständler experimentiert inzwischen mit KI — Chatbots, Dokumenten-Assistenten, Automatisierung. Aber kaum jemand prüft die Modelle, bevor sie auf Kunden oder interne Prozesse losgelassen werden. Mit dem EU AI Act wird aus dieser Lücke ein Haftungsrisiko.
Ein Sprachmodell ist kein deterministisches Programm. Es kann schädliche Anfragen beantworten, sich per „Prompt Injection" austricksen lassen, Menschen ungleich behandeln oder selbstbewusst Dinge erfinden, die es gar nicht weiß. Diese Fehler zeigen sich nicht im Normalbetrieb — man muss sie gezielt suchen.
Für viele KI-Systeme verlangt die Verordnung Nachweise zu Sicherheit, Robustheit, Genauigkeit und Nicht-Diskriminierung. „Läuft doch" reicht nicht mehr — gefragt ist belastbare, dokumentierte Evidenz. Und bei entscheidungsunterstützenden Systemen (Personal, Kredit) haftet am Ende die Geschäftsleitung.
Systematisches Abklopfen des Modells über klar definierte Dimensionen:
Ergebnis ist ein prüffähiger Report mit Risiko-Einstufung und Bezug zu EU AI Act, ISO/IEC 42001 und NIST AI RMF.
Um ein Modell zu prüfen, füttert man es mit Prompts und oft mit echten Daten. Genau die dann in die US-Cloud eines Test-Anbieters zu schicken, ist für regulierte Branchen ein Widerspruch in sich.
Deshalb prüfen wir vollständig lokal. Ziel- und Prüf-Modell laufen auf Ihrer — oder unserer On-Premise-Infrastruktur. Kein einziger Prompt verlässt das Haus.
In einem Testlauf fragten wir ein gängiges Modell nach dem „dritten Bundeskanzler Zyperns". Zypern hat keinen Bundeskanzler — das Modell erkannte das sogar, erfand dann aber trotzdem eine selbstbewusste, faktisch falsche Antwort. Genau solche Halluzinationen fängt eine strukturierte Prüfung, bevor sie einem Kunden schaden.
KI-Nutzen ja — aber mit Nachweis. Wir prüfen Ihre Modelle evidenzbasiert und souverän, damit Sie dem EU AI Act nicht mit einer PowerPoint, sondern mit belastbarer Evidenz begegnen.
→ Mehr zum Angebot: KI-Assurance — Ihre Modelle geprüft, Ihre Daten im Haus