Künstliche Intelligenz im GMP-Umfeld: Was erwarten die Behörden?

5 Min. Lesezeit | von Azade Pütz
Erschienen im LOGFILE 09/2025

Künstliche Intelligenz entwickelt sich schneller als jede bisher dagewesene Technologie. Sie verspricht Innovation und Wettbewerbsvorteile – doch gerade in der Pharmabranche stellt sich die Frage, ob und wie der Einsatz von KI mit Sicherheit, Qualität und Vertrauenswürdigkeit zu vereinbaren ist.
Für eine verantwortungsvolle Implementierung von KI in der Arzneimittelherstellung sind entsprechende regulatorische Rahmenbedingungen unerlässlich.
Lesen Sie in unserem heutigen Leitartikel, welche Rolle das KI-Gesetz der EU, das Reflection Paper der EMA und verschiedene ISO-Normen bei der Gestaltung der regulatorischen Landschaft spielen.

Übrigens: auch der GMP-BERATER macht sich die KI zunutze. Er verfügt über die intelligente Suche ChatGMP. Der GMP-BERATER ist das weltweit größte Standardwerk für Qualitätsmanagement in der Pharmaindustrie.

Einleitung

Die rasante Entwicklung und zunehmende Anwendung von Künstlicher Intelligenz (KI) in der pharmazeutischen Industrie erfordert klare regulatorische Rahmenbedingungen, um Sicherheit, Qualität und Vertrauenswürdigkeit zu gewährleisten. In diesem komplexen Umfeld spielen der EU AI Act, relevante ISO-Normen und das EMA Reflection Paper zur Anwendung von KI im Lebenszyklus von Arzneimitteln eine zentrale Rolle bei der Gestaltung der regulatorischen Landschaft. Diese Instrumente zielen darauf ab, einen ausgewogenen Ansatz zu finden, der Innovation fördert und gleichzeitig potenzielle Risiken minimiert.

Der EU AI Act und seine Bedeutung für die Pharmabranche

Der EU AI Act etabliert den ersten umfassenden Rechtsrahmen für die Entwicklung, Vermarktung und Nutzung von KI innerhalb der EU. Dieser Ansatz ist besonders relevant für die Pharmabranche, da viele KI-Anwendungen in diesem Sektor als Hochrisiko-Systeme eingestuft werden könnten. Der Act verfolgt einen risikobasierten Ansatz, der KI-Systeme in verschiedene Kategorien einteilt, von unannehmbarem Risiko bis hin zu minimalem Risiko.

Für Hochrisiko-KI-Systeme, zu denen viele Anwendungen in der Pharmabranche zählen könnten, sieht der EU AI Act strenge Anforderungen vor. Diese umfassen ein angemessenes Risikomanagement-System, hohe Qualität der verwendeten Datensätze, umfangreiche technische Dokumentation, Transparenz und Bereitstellung von Informationen für Nutzer, menschliche Aufsicht sowie hohe Standards für Robustheit, Genauigkeit und Cybersicherheit. Diese Anforderungen werden die Art und Weise, wie KI-Systeme in der Pharmabranche entwickelt und eingesetzt werden, maßgeblich beeinflussen.

Besonders hervorzuheben ist die Forderung nach Transparenz und Erklärbarkeit von KI-Systemen. Dies stellt die Pharmabranche vor die Herausforderung, komplexe KI-Modelle so zu gestalten, dass ihre Entscheidungsprozesse nachvollziehbar und interpretierbar sind. Dies ist insbesondere bei Anwendungen in der Arzneimittelentwicklung und klinischen Entscheidungsunterstützung von großer Bedeutung, wo die Nachvollziehbarkeit von Entscheidungen für die Patientensicherheit und regulatorische Compliance entscheidend ist.

ISO-Normen als Wegweiser für Best Practices

Parallel zu den regulatorischen Bemühungen der EU spielen ISO-Normen eine wichtige Rolle bei der Standardisierung von Prozessen und der Gewährleistung von Qualität und Sicherheit in der pharmazeutischen Industrie.

Obwohl es noch keine spezifischen ISO-Normen für KI in der Pharmabranche gibt, bieten allgemeine KI-bezogene Normen wie ISO/IEC 23053:2022 und ISO/IEC 42001 wichtige Leitlinien für die Entwicklung, Implementierung und Verwaltung von KI-Systemen.

Diese Normen können als Brücke zwischen den regulatorischen Anforderungen und der praktischen Umsetzung in der Industrie dienen.

Die ISO-Normen adressieren wichtige Aspekte wie Datenmanagement, Modellentwicklung und -validierung sowie Risikomanagement. Sie bieten einen strukturierten Rahmen für die Implementierung von KI-Systemen, der mit den GMP-Prinzipien in Einklang steht. Durch die Anwendung dieser Normen können Pharmaunternehmen sicherstellen, dass ihre KI-Anwendungen robust, zuverlässig und konform mit internationalen Standards sind.

Das EMA Reflection Paper: Wegweisend für KI in der Arzneimittelentwicklung

Das EMA Reflection Paper (Reflection paper on the use of artificial intelligence in the lifecycle of medicines) ergänzt den regulatorischen Rahmen, indem es spezifische Überlegungen zur Verwendung von KI im gesamten Lebenszyklus von Arzneimitteln bietet. Es betont die Bedeutung von Datenqualität und -integrität, Transparenz und Erklärbarkeit von KI-Entscheidungen sowie die Notwendigkeit robuster Validierungsmethoden. Besonders hervorzuheben ist der Fokus auf ethische Aspekte bei der Entwicklung und Anwendung von KI, was die ganzheitliche Betrachtungsweise des Dokuments unterstreicht.

Ein wichtiger Aspekt des EMA Reflection Papers ist die Empfehlung für frühzeitige Interaktionen mit Regulierungsbehörden, insbesondere bei KI-Anwendungen mit hohem regulatorischem Einfluss. Dies zeigt, dass die Regulierungsbehörden einen proaktiven und kollaborativen Ansatz in diesem sich schnell entwickelnden Bereich verfolgen.

Das Reflection Paper geht auch auf spezifische Anwendungsbereiche von KI in der Arzneimittelentwicklung ein, wie beispielsweise die Verwendung von KI in klinischen Studien. Es betont die Notwendigkeit, bestehende Richtlinien für Good Clinical Practice (GCP) auf KI-gestützte Studiendesigns und -analysen anzuwenden. Dies unterstreicht die Bedeutung der Integration von KI in bestehende regulatorische Strukturen und Qualitätssysteme.

Integration von KI in GMP-Prozesse: Herausforderungen und Chancen

Die Integration von KI in GMP-Umgebungen stellt die Pharmabranche vor neue Herausforderungen. Qualitätsmanagementsysteme müssen an KI-spezifische Anforderungen angepasst werden, wobei die Validierung von KI-Systemen gemäß GMP-Prinzipien sowie die Dokumentation und Rückverfolgbarkeit von KI-gestützten Entscheidungen besondere Aufmerksamkeit erfordern. Die Gewährleistung der Datenintegrität bei KI-Anwendungen, die Schulung des Personals im Umgang mit KI-Systemen und die Anpassung bestehender Qualitätssicherungssysteme sind weitere Herausforderungen, denen sich die Branche stellen muss.

Ein besonderes Augenmerk liegt auf der Validierung von KI-Modellen in GMP-Umgebungen. Anders als bei traditionellen Softwaresystemen können KI-Modelle, insbesondere solche, die auf maschinellem Lernen basieren, ihr Verhalten im Laufe der Zeit ändern. Dies erfordert neue Ansätze für kontinuierliche Validierung und Überwachung, um sicherzustellen, dass die Modelle weiterhin innerhalb ihrer validierten Parameter arbeiten.

Trotz dieser Herausforderungen bietet die Integration von KI in GMP-Prozesse auch erhebliche Chancen. KI-Systeme können zur Verbesserung der Prozesseffizienz und -kontrolle beitragen, eine frühzeitige Erkennung von Qualitätsabweichungen ermöglichen und die Ressourcennutzung optimieren. Diese Vorteile können zu einer signifikanten Steigerung der Produktqualität und -sicherheit führen und gleichzeitig die Effizienz und Wettbewerbsfähigkeit der Unternehmen verbessern.

Ein vielversprechender Anwendungsbereich ist die Verwendung von KI in der Prozessanalytischen Technologie (PAT). KI-gestützte PAT-Systeme können Echtzeitdaten aus dem Herstellungsprozess analysieren und Vorhersagen über die Produktqualität treffen. Dies ermöglicht eine proaktive Prozesssteuerung und kann dazu beitragen, die Anzahl fehlerhafter Chargen zu reduzieren und die Konsistenz der Produktqualität zu verbessern.

Zusammenfassung

Die regulatorischen Rahmenbedingungen für KI im GMP-Umfeld entwickeln sich dynamisch. Der EU AI Act, relevante ISO-Normen und das EMA Reflection Paper bilden wichtige, sich ergänzende Grundlagen für die verantwortungsvolle Implementierung von KI in der Pharmabranche. Zukünftig wird es entscheidend sein, diese Ansätze zu harmonisieren und an technologische Fortschritte anzupassen. Die Branche steht vor der Herausforderung, Innovation und Sicherheit in Einklang zu bringen.

Die Entwicklung spezifischer Leitlinien für die Validierung und Qualifizierung von KI-Systemen in GMP-Umgebungen wird eine wichtige Aufgabe sein, wobei die Besonderheiten von KI-Systemen berücksichtigt werden müssen, ohne GMP-Prinzipien zu kompromittieren.

Unternehmen, die KI proaktiv und verantwortungsvoll in ihre GMP-Strategien integrieren, werden von den Vorteilen profitieren und gleichzeitig hohe Standards für Patientensicherheit und Produktqualität erfüllen. Der Erfolg wird davon abhängen, wie gut KI-Technologien in bestehende regulatorische Strukturen und Qualitätssysteme integriert werden. Dies erfordert technisches Know-how sowie ein tiefes Verständnis für regulatorische und ethische Aspekte. Unternehmen, die diese Aspekte erfolgreich vereinen, werden das volle Potenzial von KI im GMP-Umfeld ausschöpfen und neue Maßstäbe in der Arzneimittelentwicklung und -herstellung setzen können.

Haben Sie Fragen oder Anregungen? Bitte schreiben Sie uns: redaktion@gmp-verlag.de