Was hat Schweizer Käse mit Anhang 22 des EU-GMP-Leitfadens zu tun?

Bericht vom Multistakeholder-Workshop der EMA zum Anhang 22 des EU-GMP-Leitfadens

5 Min. Lesezeit | von Dr. Sabine Paris
Erschienen im LOGFILE 14/2026

Die Antwort auf diese Frage lieferte der zweitägige Multistakeholder-Workshop der EMA zu Anhang 22 (30. Juni – 1. Juli 2026). Ziel der Veranstaltung war es, den neuen Anhang des EU-GMP-Leitfadens zum Einsatz von Künstlicher Intelligenz (KI) in der Arzneimittelherstellung weiterzuentwickeln.

Der von der EMA per Livestream übertragene Workshop brachte Behördenvertreter und Stakeholder aus Organisationen wie EFPIA, PDA und ISPE zusammen, um die wichtigsten Fragestellungen zu diskutieren, die im Rahmen der öffentlichen Konsultation zum Entwurf von Annex 22 aufgeworfen wurden.

Die Konsultation des ersten Entwurfs (Juli bis Oktober 2025) resultierte in rund 1.350 Kommentaren. Einer der am intensivsten diskutierten Punkte war die vorgeschlagene Einschränkung dynamischer und probabilistischer KI-Modelle, wie etwa Generative KI und Large Language Models (LLMs).

Die Drafting-Gruppe der GMDP Inspectors Working Group zu Anhang 22 ist nicht daran interessiert, unbegründete Einschränkungen für den Einsatz von KI einzuführen. Sie möchte jedoch sicherstellen, dass Patientensicherheit, Produktqualität und Datenintegrität gewährleistet sind, bevor KI-Modelle in kritischen GMP-Prozessen eingesetzt werden. Ib Altrup (Danish Medicines Agency), Leiter der Drafting Group, betonte, dass Quality Risk Management (QRM) zwar für die Auswahl und Skalierung der Methode von entscheidender Bedeutung sei, allein jedoch nicht deren Funktionalität sicherstelle. Diese werde vielmehr sichergestellt durch angemessen ausgewählte, begründete, durchgeführte und aufrechterhaltene technische und prozessuale Kontrollen.

Aus dem ersten Workshoptag gingen mehrere zentrale Botschaften der Industrievertreter hervor:

• Anhang 22 sollte technologieneutral sein und den Nachweis verlangen, dass KI-Systeme für ihren vorgesehenen Verwendungszweck geeignet sind, anstatt bestimmte Technologien vorzuschreiben. 
• Der Anhang 22 sollte also keine Checkliste mit vorgeschriebenen Kontrollen sein. 
• Die Leitlinie sollte für alle computergestützten Systeme gelten und gleichzeitig mit bestehenden Leitlinien zu Modellierung sowie den ICH-Grundsätzen in Einklang stehen. 
• KI-Systeme sollten über ihren gesamten Lebenszyklus hinweg mithilfe des Qualitätsrisikomanagements (ICH Q9(R1)) gesteuert werden, einschließlich risikobasierter Change Control und Revalidierung. 
• Höhere Risiken sollten nicht mit einem Verbot von KI-Systemen gleichgesetzt werden. Vielmehr sollten Kontrollen und Oversight verstärkt werden, um die Risiken zu minimieren. 

Wie Volkan Kocak (EFPIA) es formulierte: „Wir bitten Sie, Annex 22 ergebnisorientiert und nicht technologievorschreibend auszugestalten.“

Guardrails und das „Schweizer-Käse-Modell“ für die KI-Governance

Guardrails sind technische und organisatorische Leitplanken, die den sicheren, kontrollierten und bestimmungsgemäßen Einsatz von KI-Systemen gewährleisten sollen. Sie sollten auf wissenschaftlichen Erkenntnissen und praktischen Erfahrungen beruhen. Ein „klassischer“ Ansatz für die KI-Governance ist das Schweizer-Käse-Modell. Anstatt sich auf eine einzelne Schutzmaßnahme zu verlassen, nutzt das Modell mehrere Ebenen von Guardrails. Dahinter steht die Erkenntnis, dass jede einzelne Kontrollmaßnahme Schwachstellen besitzt. Werden jedoch mehrere Schutzebenen kombiniert, kann das Gesamtrisiko erheblich reduziert werden. 

Abbildung 1: Fallstudie unter Anwendung des Schweizer-Käse-Modells (Quelle: Toni Manzano (PDA), Annex 22 Expert Workshop – Day 1 Session with Interested Parties) 

Toni Manzano (PDA) erläuterte auch ein mehrstufiges Guardrail-Konzept für nichtdeterministische KI-Anwendungen im GxP-Umfeld. Dieses basiert auf drei Schutzebenen: Prevention (Verhinderung ungeeigneter Eingaben), Detection (Erkennung von Unsicherheiten und Auffälligkeiten während der Modellverarbeitung) und Containment (Prüfung sowie gegebenenfalls Zurückhalten der Ergebnisse, bevor sie für GMP-relevante Entscheidungen genutzt werden).

Abbildung 2: Mehrstufiges Guardrail-Konzept für nichtdeterministische KI-Anwendungen im GxP-Umfeld (Quelle: Toni Manzano (PDA), Annex 22 Expert Workshop – Day 1 Session with Interested Parties)

Die Experten betonten außerdem, dass Guardrails stets im jeweiligen Anwendungskontext auf ihre Eignung nachgewiesen werden müssen und dass Eskalationsmechanismen ein integraler Bestandteil der KI-Governance-Architektur sein sollten. 

Human Oversight

Ein weiteres zentrales Thema war die menschliche Aufsicht (Human Oversight) und die Frage, in welchem Umfang und in welcher Form sie trotz vorhandener Kontrollmaßnahmen weiterhin erforderlich ist.

Die menschliche Aufsicht sollte im Rahmen eines Qualitätsrisikomanagement-Prozesses gemäß ICH Q9(R1) festgelegt werden. Human-in-the-Loop (HITL) stellt dabei ein Element der Aufsicht dar und sollte auf risikobasierten Grundsätzen beruhen. Guardrails reduzieren Risiken, ersetzen jedoch weder eine dem Risiko angemessene menschliche Aufsicht noch die Verantwortung für Entscheidungen und deren Konsequenzen.

Abbildung 3: Maßnahmen zur Human Oversight (Quelle: Andrea Kurz (EFPIA), Annex 22 Expert Workshop – Day 1 Session with Interested Parties) 

Ausblick

Eine der zentralen Herausforderungen für Annex 22 besteht darin, dass sich KI-Technologien deutlich schneller weiterentwickeln als regulatorische Leitlinien. Ein zukunftsfähiger Annex 22 muss daher regulatorische Ziele definieren, anstatt die Technologien von heute vorzuschreiben.

Der zweite Tag des Workshops fand als nicht öffentliche Sitzung statt. Dabei wertete die EMA-Arbeitsgruppe zur Erstellung von Annex 22 die Beiträge der Experten aus. Die EMA plant, einen Workshop-Bericht mit einer Zusammenfassung der Ergebnisse zu veröffentlichen.

Man darf gespannt sein, wie diese Diskussionen den nächsten Entwurf von Annex 22 prägen werden.

Haben Sie Fragen oder Anregungen? Bitte kontaktieren Sie uns.redaktion@gmp-verlag.de