Generative KI hält Einzug in GxP-Dokumentation, SOP-Assistenten und Abweichungsklassifizierung — während die Regulierung mit Annex 22 aufholt. Die meisten Unternehmen sind auf keines von beidem vorbereitet.
Diese Seite ist ein Beleg unter Wie wir arbeiten. KI ist kein Feld der Domänenkarte, sondern ein Schritt, der in mehreren Feldern auftritt.
Warum jetzt handeln
EU GMP Annex 22 ergänzt Annex 11 (Computergestützte Systeme) um ML-spezifische Anforderungen. Erfasst sind KI-Systeme, die GxP-relevante Entscheidungen beeinflussen — unabhängig davon, ob das System primär als KI vermarktet wird. Generative KI und Large Language Models nimmt der Entwurf in Abschnitt 1 ausdrücklich aus seinem Anwendungsbereich aus; in kritischen GMP-Anwendungen sollen sie nicht eingesetzt werden.
Regulatorischer Status
Vorlaufzeit zahlt sich aus: Der Entwurf erwartet Kontrollen für die Unabhängigkeit der Testdaten. Werden sie vor dem Training aus dem Gesamtbestand abgespalten, dürfen die an Entwicklung und Training Beteiligten nie Zugriff darauf gehabt haben — nachträglich lässt sich das nicht herstellen.
KERN-ANFORDERUNGEN (DRAFT)
Risikobasierte Klassifizierung aller KI/ML-Systeme nach Verwendungszweck und Entscheidungstiefe
Nachweisbare Datenqualität: Herkunft, Repräsentativität und Bias-Analyse der Trainingsdaten
Explainability: Modellentscheidungen müssen für Fachpersonal nachvollziehbar und dokumentierbar sein
Continuous Monitoring: Modellleistung wird laufend überwacht, Drift erkannt und dokumentiert
Human Oversight: Kritische GxP-Entscheidungen erfordern menschliche Kontrolle — kein vollautomatischer Betrieb
Anforderungen basieren auf dem Konsultationsdokument Juli 2025; die Nummerierung ist unsere eigene und keine Gliederung des Entwurfs. Änderungen bis zur finalen Fassung möglich.
Was auf dem Spiel steht
AUSLÖSER
Behördeninspektion oder internes Audit
BEFUND
KI-System im GxP-Prozess — nicht validiert, kein Audit-Trail
Sofortige Nachvalidierungspflicht
Produktionsunterbrechung oder Chargensperrung
Reputationsschaden und Folgeinspektionen
Der Significon-Ansatz
Use-Case-Assessment
Welche KI-Systeme sind GxP-relevant? Welche nicht?
Risikoklassifizierung
GAMP5-Kategorie, Entscheidungstiefe, Auswirkungsanalyse
Validierungsplan
Teststrategie, Datenqualität, Explainability-Konzept
Implementierung & Test
IQ/OQ/PQ, Bias-Tests, Audit-Trail-Aufbau
Monitoring & Review
Drift-Erkennung, Periodische Überprüfung, Revalidierung
Wir beginnen mit dem Assessment — einem 60-minütigen strukturierten Workshop, in dem wir gemeinsam alle KI-Systeme in Ihren GxP-Prozessen identifizieren, priorisieren und eine konkrete Handlungsempfehlung erarbeiten. Kein Auftrag vorausgesetzt.
Die Grundfragen
LLMs können funktional kaum validiert werden — sie sind nicht-deterministisch und intern nicht auditierbar. Wer trotzdem KI einsetzt, muss eine andere Antwort finden: nicht „was tut das Modell", sondern „was stellt der Prozess sicher".
01
Erst wenn der Nachweis geführt ist, dass Risiken bekannt, bewertet und durch geeignete Maßnahmen beherrschbar sind. Das ist keine Absichtserklärung — das ist ein auditierbarer Nachweis, der vor dem Einsatz vorliegen muss.
02
KI darf keine qualitätsbestimmende Entscheidung selbst treffen. Der Human-in-the-Loop-Ansatz muss technisch erzwungen und nachvollziehbar sein — nicht durch interne Vereinbarung, die im Betrieb umgangen werden kann.
03
Durch Prozessgestaltung, die den Nachweis strukturell erzeugt — nicht durch retrospektive Dokumentation eines bereits laufenden Systems. Der Prozess wird validiert, nicht das Modell.
Das Schlüsselkonzept
Risikomanagement wird wichtiger — nicht um Aufwand zu reduzieren, sondern um KI-Einsatz überhaupt erst zu ermöglichen. Der Nachweis, dass Risiken bekannt und verstanden sind, ist die Eintrittskarte. Wer ihn nicht führen kann, darf nicht beginnen.
Erst muss der Prozess vollständig verstanden und spezifiziert sein. Dann das System, das ihn umsetzt. Erst dann kommt KI — als Element innerhalb eines bereits validierten Schritts, nicht als Treiber der Prozessgestaltung.
Ein Human-in-the-Loop, der auf Vereinbarungen basiert, die im Betrieb unterlaufen werden können, ist kein HITL. Er muss technisch erzwungen und im Audit-Trail nachvollziehbar sein — wer hat wann welche KI-Ausgabe gesehen, bewertet und freigegeben.
Klare Rollen und Verantwortlichkeiten in der Organisation. Vollständige, konsistente Dokumentation. Sind diese Grundlagen nicht belastbar, gilt: Garbage in, garbage out — unabhängig davon, wie gut die KI-Architektur ist. Das ist das häufig unterschätzte Hauptproblem.
Validated by Design braucht ein Werkzeug, das Prozesslogik, HITL-Gates und Nachweisstrategie technisch implementiert und versioniert. Camunda ist ein Werkzeug, das das leistet, und dasjenige, das wir dafür einsetzen — eine Wahl und keine Notwendigkeit.
Das Ergebnis: Nicht das LLM wird validiert — was bei nicht-deterministischen Modellen kaum möglich ist. Stattdessen wird der Prozess so gestaltet, dass er Validität strukturell erzeugt und nachvollziehbar macht. Konformität entsteht durch die Architektur, nicht durch nachgelagerte Kontrolle.
Warum Significon
| Kriterium | Typischer Ansatz | Significon |
|---|---|---|
| Validierungsstart | Nach Inbetriebnahme des Systems | Integriert in die Einführungsplanung |
| Dokumentation | Retrospektiv, unvollständig | Lebenszyklus-begleitend, auditierbar |
| KI-Spezifik | Generische CSV-Templates | Validierung an ML-Eigenschaften angepasst |
| Monitoring | Optional, projektabhängig | Pflichtbestandteil, am Annex-22-Entwurf ausgerichtet |
| Regulatorische Grundlage | Annex 11 analog angewandt | Annex 11 + Annex-22-Entwurf + EU AI Act |
Im Use-Case-Assessment identifizieren wir gemeinsam alle KI-Systeme in Ihren GxP-Prozessen, priorisieren den Handlungsbedarf und zeigen einen konkreten nächsten Schritt. Kein Auftrag, kein Folge-Pitching.