EMA: Grundlegende Prinzipien zum Einsatz von LLMs, Large Language Models

Wie sehen die EMA (European Medicines Agency) und die HMA (Heads of Medicine Agencies) den Umgang mit Large Language Models (LLMS) innerhalb der europäischen Behördenlandschaft?
Dazu wurden am 5. September 2024 grundlegende Leitlinien veröffentlicht. Sie zeigen auf, wie EU-Regulierungsbehörden Large Language Models (LLMs), maschinell lernende Modelle, die Texte in menschlicher Sprache verstehen und generieren, für regulatorische Aktivitäten einsetzen können. Das 10-seitige Dokument enthält umfassende Empfehlungen für den sicheren, verantwortungsvollen und effektiven Einsatz von LLMs und ist für alle interessant, die solche KI-Modelle nutzen oder zukünftig nutzen möchten.

„LLMs haben ein enormes transformatives Potenzial“, so die EMA, „bringen aber auch Herausforderungen mit sich: Variabilität der Ergebnisse, Wiedergabe irrelevanter oder ungenauer Antworten und potenzielle Datensicherheitsrisiken." Auf der anderen Seite können LLMs zur Verwaltung der umfangreichen Dokumentation von Regulierungsbehörden, zur Automatisierung von Wissens-/Data-Mining-Prozesse  oder als virtuelle KI-Assistenten zur Unterstützung bei administrativen Routineaufgaben eingesetz werden.

Ziel des Dokuments ist es daher, bei den Regulierungsbehörden in der EU ein Verständnis für die Möglichkeiten und Grenzen dieser Anwendungen zu schaffen, um das Potenzial von LLMs effektiv zu nutzen und Fallstricke und Risiken zu vermeiden. Allgemeine ethische Erwägungen wie Rechtssicherheit, Verantwortlichkeiten, Informationssicherheit, Transparenz, Schäden durch Fehlinformationen, böswillige Nutzung oder Urheberrechtsfragen werden ebenfalls behandelt.

Als Teil des mehrjährigen KI-Arbeitsplans der EMA bis 2028 sind die Leitprinzipien als „dynamisches“ Dokument zu sehen, das regelmäßig aktualisiert werden soll. Ein übersichtliches Factsheet der EMA zu LLMs finden Sie hier.

Quelle:

EMA: Guiding principles on the use of LLMs in regulatory science and for medicines regulatory activities

EMA: Factsheet on the 4 principles for safe and responsible use of LLMs