EMA Workshop zu Anhang 22 „Künstliche Intelligenz“

Der aktuelle Entwurf des Anhang 22 „Künstliche Intelligenz“ sieht vor, generative KI und LLM sowie probabilistische, dynamische und adaptive KI-Modelle für kritische GMP-Anwendungen auszuschließen. Dem widersprachen zahlreiche Kommentare während der öffentlichen Konsultation. Ziel müsse es eher sein, Innovation zu unterstützen und die Pharmaindustrie zu Investitionen zu ermutigen.

Für eine Erweiterung des Geltungsbereichs sieht die Anhang-22-Arbeitsgruppe jedoch die Notwendigkeit einer umfassend dokumentierten, robusten und risikobasierten Kontrollstrategie. Wie eine solche Kontrollstrategie aussehen kann, wurde im Rahmen eines Workshops mit KI-Experten diskutiert. Diskussionsgrundlage bildeten Präsentationen von Branchenverbänden, die eine gemeinsame Perspektive der Industrie zu den sechs vordefinierten Themen widerspiegelten:

• Regulatorische Rahmenbedingungen für adaptive/probabilistische KI-Modelle im GMP-Umfeld
• Technische Zuverlässigkeit und Reaktion auf Vorfälle
• Menschliche Aufsicht und Rechenschaftspflicht
• Validierung und Lebenszyklusmanagement
• Strategische Risiken und Compliance-Grenzen
• Cybersicherheit und ausgelagerte Tätigkeiten 

Durch die Vorträge und die anschließenden Diskussionen soll das Verständnis der Arbeitsgruppe für aktuelle Praktiken, Herausforderungen und neue Ansätze beim Umgang mit Risiken im Zusammenhang mit KI-Systemen im GMP-Umfeld vertieft werden. Die gewonnenen Erkenntnisse sollen in die Überarbeitung des Geltungsbereichs von Annex 22 einfließen und die Entwicklung eines risikogerechten und umsetzbaren regulatorischen Rahmens unterstützen. Ziel ist es, sowohl die Produktqualität als auch die Patientensicherheit zu gewährleisten und gleichzeitig verantwortungsvolle Innovationen zu ermöglichen.

Lesen Sie mehr zu den Ergebnisses dieses Workshops in unserer nächsten News.

Quelle:

EMA: Multistakeholder workshop on expert contributions to artificial intelligence guidance development (Annex 22)