Die US-amerikanische Food and Drug Administration hat am 18. August 2026 eine öffentliche Konsultation eröffnet. Sie betrifft mögliche Ansätze für Medizinprodukte mit generativer KI. Die Behörde bittet um Evidenz zu Risikoklassifizierung, Bewertung vor dem Inverkehrbringen, Überwachung nach dem Inverkehrbringen, Basismodellen und agentischen Systemen. Stellungnahmen zum Dossier FDA-2026-N-7874 sind bis zum 19. Oktober 2026 möglich.
Dies ist eine Diskussion und keine neue Vorschrift. Die FDA erklärt, dass das Papier nur der Einholung von Rückmeldungen dient, weder Entwurf noch endgültige Leitlinie ist und weder Richtlinienänderungen vorschlägt noch vorgeschlagene oder endgültige regulatorische Erwartungen mitteilt. Hersteller von Medizinprodukten, Gesundheitseinrichtungen und Governance-Teams sollten anhand der Konsultation prüfen, ob ihre Evidenz die aufgeworfenen Fragen beantworten kann. Sie sollten diese Fragen nicht als bereits beschlossene Anforderungen behandeln.
Was die FDA-Konsultation zu generativen KI-Medizinprodukten behandelt
Das Diskussionspapier mit Bitte um Rückmeldung untersucht, wie die bestehende Aufsicht über Medizinprodukte Systeme erfassen könnte, die neue Inhalte erzeugen, ihr Verhalten anpassen oder Aufgabenfolgen ausführen. Die FDA bittet um Kommentare zu mehreren möglichen Konzepten, ohne Entscheidungen anzukündigen.
Ein Konzept ist eine Betrachtung des Risikos anhand zweier Achsen. Auf einer Achse betrachtet das Papier die Tätigkeit eines Produkts und den Grad ihrer Unabhängigkeit, auf der anderen die Schwere des Schadens durch das Vertrauen auf eine falsche Ausgabe. Ein weiteres Konzept ist eine kompetenzbasierte Bewertung vor dem Inverkehrbringen. Dabei würde geprüft, ob ein System seine vorgesehenen Aufgaben unter relevanten Bedingungen erfüllen kann. Die FDA fragt außerdem, wie eine Überwachung nach dem Inverkehrbringen Leistungsänderungen, unerwartetes Verhalten und neue Risiken nach dem Einsatz erkennen könnte.
Basismodelle und agentische KI schaffen zusätzliche Fragen. Ein Basismodell kann mehrere nachgelagerte Produkte unterstützen. Ein Agent kann ein Modell mit Werkzeugen, Daten und mehrstufigen Aktionen verbinden. Die Konsultation fragt, wie Verantwortung, Validierung, Änderungskontrolle und Überwachung über diese Ebenen hinweg funktionieren sollen. Das sind Fragen und mögliche Ansätze der FDA, keine beschlossenen Anforderungen.
Axios berichtete am 18. August über die Konsultation und hob das Interesse der Behörde an der Bewertung einschlägiger klinischer Kompetenzen von KI-Systemen hervor. Der unabhängige Bericht bestätigt die Veröffentlichung der Konsultation. Für Umfang und rechtlichen Status bleiben jedoch die FDA-Dokumente die maßgebliche Quelle.
Warum die Konsultation jetzt wichtig ist
Generative Systeme können abhängig vom Kontext unterschiedliche Ausgaben erzeugen. Agentische Systeme können über verbundene Werkzeuge handeln. Ein statisches Testergebnis beschreibt daher möglicherweise nur eine Modellversion, einen Satz von Prompts, eine Datenumgebung oder einen Arbeitsablauf. Für regulierte Anwendungen müssen Teams erklären, was bewertet wurde, welche Betriebsbedingungen erfasst waren, wie Fehler definiert wurden und wie Änderungen erkannt werden.
Die Konsultation zeigt auch, dass Governance-Evidenz Organisationsgrenzen überschreiten kann. Ein Medizinproduktehersteller kann von einem Modellanbieter, einem Cloud-Dienst, einer klinischen Datenquelle, der Konfiguration einer Gesundheitseinrichtung und lokaler menschlicher Prüfung abhängen. Wenn sich ein vorgelagertes Modell ändert, kann ein nachgelagerter Sicherheitsnachweis veralten, obwohl die Produktoberfläche gleich bleibt.
Maetra-Analyse: Der praktische Wert dieser Konsultation liegt nicht in der Vorhersage, dass die FDA jedes Konzept des Papiers übernimmt. Sie ist vielmehr ein strukturierter Test, ob eine Organisation den vorgesehenen Verwendungszweck mit Risiken, Kontrollen, Evidenz, Verantwortlichen und Überwachung verbinden kann. Teams, die diese Kette heute nicht herstellen können, werden weder die Fragen der FDA noch eine interne Sicherheitsprüfung leicht beantworten.
Governance-Folgen für Hersteller und Gesundheitseinrichtungen
Ein Governance-Nachweis sollte den regulierten Produktanspruch von den allgemeineren Fähigkeiten des zugrunde liegenden Modells trennen. Er sollte außerdem festhalten, welche Entscheidungen bei Ärztinnen und Ärzten bleiben, welche Aktionen das System auslösen kann und wo ein Mensch eingreifen oder eine Aktion übersteuern kann. Dasselbe Modell kann je nach Einsatz in Patientenkommunikation, klinischer Entscheidungsunterstützung, Dokumentation oder autonomer Prozessausführung andere Kontrollen benötigen.
Evidenz sollte versioniert werden. Teams müssen Modell- und Komponentenversionen, Verwendungszweck, Bewertungsdaten, Prompts oder Aufgabendefinitionen, Werkzeugberechtigungen, bekannte Grenzen, Freigabeentscheidungen und Überwachungsschwellen aufbewahren, die eine Veröffentlichung gestützt haben. Maetras Leitfaden dazu, welche Evidenz Teams für KI-Prüfungen sammeln sollten, bietet dafür eine nützliche Grundlage.
Die Frage der Überwachung nach dem Inverkehrbringen ist ebenso wichtig. Das Monitoring sollte gewöhnliche Qualitätsprobleme von Ereignissen unterscheiden, die die klinische Sicherheit betreffen können. Es sollte Verantwortliche für Eskalationen, Auslöser für Änderungsprüfungen, Bedingungen für Rücknahmen und Kommunikationspflichten definieren. Aggregierte Leistungswerte können Fehler verdecken, die eine bestimmte Bevölkerungsgruppe, Umgebung, Sprache oder einen bestimmten Arbeitsablauf betreffen.
Operative Checkliste bis zum 19. Oktober
Hersteller, Anbieter und klinische Governance-Teams können während der Konsultationsfrist eine fokussierte Prüfung durchführen:
- Vorgesehenen Verwendungszweck, Nutzer, Patientengruppe, klinische Umgebung und verbotene Anwendungen jeder generativen oder agentischen Funktion definieren.
- Jedes Modell, Werkzeug, jede Datenquelle, Integration und menschliche Entscheidung im Produktablauf erfassen.
- Ausgeführte Tätigkeit, Grad der Unabhängigkeit und glaubwürdige Schwere des Schadens durch jede wesentliche falsche Ausgabe dokumentieren.
- Jedes Risiko mit einer Kontrolle, einer benannten verantwortlichen Person, einem Test, einem Freigabenachweis und einem Überwachungssignal verknüpfen.
- Leistung für relevante Gruppen, Umgebungen, Sprachen, seltene Fälle sowie feindselige oder unerwartete Eingaben testen.
- Festlegen, wie Änderungen an Modell, Prompt, Werkzeug, Daten und Konfiguration eine Neubewertung auslösen.
- Überwachungsschwellen, Vorfalleskalation, Rücknahme und Benachrichtigung von Nutzern definieren.
- Verfügbare Evidenz mit den Fragen der FDA vergleichen und nur dort Stellung nehmen, wo die Organisation ihre Position belegen kann.
Mit Maetras Checkliste für KI-Compliance-Evidenz können Teams jedes erforderliche Artefakt einer verantwortlichen Person und einem Prüfdatum zuweisen.
Grenzen und offene Fragen
Die FDA hat weder einen endgültigen Rahmen noch ein neues Zulassungsverfahren oder eine Änderung ihrer rechtlichen Befugnisse angekündigt. Die Konsultation entscheidet nicht, wie Autonomie klassifiziert wird, welche Kompetenzmaße akzeptiert werden oder wie Verantwortlichkeiten zwischen Modellanbietern, Medizinprodukteherstellern, Betreibern und medizinischem Personal verteilt werden. Nach Prüfung der Stellungnahmen kann die Behörde Konzepte überarbeiten, eingrenzen oder verwerfen.
Organisationen sollten weiterhin die geltenden Anforderungen und produktspezifischen Mitteilungen der FDA beachten. Die disziplinierte Reaktion besteht darin, Evidenz zu stärken und relevante Daten beizutragen. Eine spekulative künftige Kontrolle sollte nicht als FDA-Vorgabe bezeichnet werden.
Quellen
- FDA: FDA seeks public feedback to inform regulatory approach for generative AI enabled medical devices, veröffentlicht am 18. August 2026.
- FDA: Considerations for the regulation of generative AI enabled medical devices, discussion paper and request for feedback, veröffentlicht am 18. August 2026.
- Axios: Exclusive: FDA considers assessing AI devices like doctors, veröffentlicht am 18. August 2026.