„LLMs haben ein enormes transformatives Potenzial“, so die EMA, „bringen aber auch Herausforderungen mit sich: Variabilität der Ergebnisse, Wiedergabe irrelevanter oder ungenauer Antworten und potenzielle Datensicherheitsrisiken." Auf der anderen Seite können LLMs zur Verwaltung der umfangreichen Dokumentation von Regulierungsbehörden, zur Automatisierung von Wissens-/Data-Mining-Prozesse  oder als virtuelle KI-Assistenten zur Unterstützung bei administrativen Routineaufgaben eingesetz werden.

Ziel des Dokuments ist es daher, bei den Regulierungsbehörden in der EU ein Verständnis für die Möglichkeiten und Grenzen dieser Anwendungen zu schaffen, um das Potenzial von LLMs effektiv zu nutzen und Fallstricke und Risiken zu vermeiden. Allgemeine ethische Erwägungen wie Rechtssicherheit, Verantwortlichkeiten, Informationssicherheit, Transparenz, Schäden durch Fehlinformationen, böswillige Nutzung oder Urheberrechtsfragen werden ebenfalls behandelt.

Als Teil des mehrjährigen KI-Arbeitsplans der EMA bis 2028 sind die Leitprinzipien als „dynamisches“ Dokument zu sehen, das regelmäßig aktualisiert werden soll. Ein übersichtliches Factsheet der EMA zu LLMs finden Sie hier.

Quelle:

EMA: Guiding principles on the use of LLMs in regulatory science and for medicines regulatory activities

EMA: Factsheet on the 4 principles for safe and responsible use of LLMs