Der Doctors Not AI Act of 2026 würde eine klare Grenze für künstliche Intelligenz bei der Prüfung von Leistungsanträgen in der US-Krankenversicherung ziehen: KI dürfte unterstützen, aber keine nachteilige Leistungsentscheidung mit klinischem Urteil erlassen oder vorgeben. Eine qualifizierte, zugelassene medizinische Fachkraft müsste die Entscheidung nach einer unabhängigen Bewertung der individuellen Umstände treffen.
Die Abgeordneten Greg Landsman, Buddy Carter, Kim Schrier und Tom Barrett brachten H.R. 10210 am 1. September 2026 ein. Der Entwurf wurde an drei Ausschüsse des Repräsentantenhauses verwiesen. Er ist von keiner Kammer verabschiedet worden und begründet derzeit keine Pflicht. Sein operatives Konzept ist dennoch relevant, weil es menschliches Urteil, Offenlegung und Nachweisführung in einer vorgeschlagenen Kontrollkette verbindet.
Der Entwurf zieht eine Grenze um klinisches Urteil
Der Text erfasst Algorithmen, Prognosemodelle, Systeme des maschinellen Lernens und automatisierte Entscheidungssoftware, die Leistungsentscheidungen wesentlich beeinflussen. Bei einer nachteiligen Entscheidung über medizinische Notwendigkeit, Angemessenheit, Versorgungsniveau, Wirksamkeit, klinische Leitlinien oder eine andere Frage, die eine Bewertung der Bedürfnisse einer Person erfordert, wäre eine zugelassene Fachkraft mit relevanter Ausbildung und Erfahrung vorgeschrieben.
Diese Fachkraft dürfte die Ausgabe des Systems nicht als grundsätzlich richtig behandeln. Der Entwurf verlangt eine unabhängige Bewertung nach allgemein anerkannten Versorgungsstandards. KI könnte die Bearbeitung weiterhin unterstützen, aber die abschließende klinische Begründung dürfte nicht zu einer formalen menschlichen Unterschrift unter einer automatisierten Empfehlung werden.
Für Governance-Teams ist diese Unterscheidung entscheidend. Ein menschlicher Kontrollpunkt hilft nur, wenn die prüfende Person die Befugnis, den Kontext, die Kompetenz und die Zeit hat, zu widersprechen. Ein Ablauf, der nur eine Empfehlung ohne die zugrunde liegenden Nachweise zeigt, kann den Anschein einer Prüfung erzeugen und zugleich Automatisierungsbias fortschreiben.
Offenlegung und Verwaltungsakte gehören zur Kontrolle
Wenn KI eingesetzt wurde, müsste der Ablehnungsbescheid dies nennen, die Rolle des Systems beschreiben und die zugelassene Fachkraft identifizieren, die entschieden hat. Die Verwaltungsakte müsste zudem das System, seine Rolle, Ausgaben, Bewertungen, Empfehlungen oder Entscheidungen und den Nachweis des unabhängigen Urteils dokumentieren. Diese Unterlagen wären der versicherten Person auf Anfrage zugänglich.
Der Vorschlag behandelt Erklärung damit als Frage der Nachweisführung und nicht nur als Satz in einem Bescheid. Ein brauchbarer Datensatz muss den konkreten Antrag, die Modell- oder Systemversion, die Ausgangsinformationen, die erzeugte Ausgabe, die prüfende Person, die Entscheidungsgrundlage und die endgültige Mitteilung verbinden.
Maetras Leitfaden zu KI-Auditnachweisen beschreibt, welche Datensätze Teams bei folgenreichen automatisierten Entscheidungen bewahren können. Der Leitfaden für KI-Genehmigungsabläufe zeigt, wie ein echter Entscheidungspunkt statt eines kosmetischen Prüfschritts definiert wird.
Praktische Kontrollübersicht für Versicherer und Planverwalter
Der Entwurf ist nur ein Vorschlag, doch Teams können seine Struktur nutzen, um bestehende Prüfsysteme zu testen.
| Kontrollfrage | Aufzubewahrender Nachweis |
|---|---|
| Welches KI-System beeinflusste die Prüfung? | Systemname, Version, Eigentümer, Zweck, Datenquellen und Änderungsdatum |
| Was erzeugte das System? | Ausgabe, Bewertung, Empfehlung, Konfidenzinformationen und bekannte Grenzen |
| Wer traf die klinische Entscheidung? | Identität, Zulassung, relevante Fachkenntnis, Zuweisung und Zeitstempel |
| War die Prüfung unabhängig? | Berücksichtigte individuelle Fakten, Abweichungen von der Modellausgabe und Begründung |
| Was wurde offengelegt? | Endgültiger Bescheid, Beschreibung der KI-Rolle, benannte Entscheidungsperson und Zustellnachweis |
| Ist der Vorgang reproduzierbar? | Herkunft der Eingaben, Systemkonfiguration, Richtlinienversion, gespeicherte Ausgabe und Zugriffsprotokoll |
Ein Inventar ist der Ausgangspunkt. Teams müssen jedes Modell, Regelwerk, jeden Anbieterdienst und jede Automatisierung kennen, die einen Antrag beeinflussen kann, auch wenn sie die endgültige Ablehnung nicht erlässt. Die Definition im Entwurf richtet sich auf wesentlichen Einfluss und reicht damit weiter als eine enge Liste von Systemen, die ausdrücklich als KI bezeichnet werden.
Psychische Gesundheit erhält besondere Aufmerksamkeit
Der Vorschlag würde den Einsatz eines KI-Systems bei der Nutzungsprüfung als Behandlungsbeschränkung für die bundesrechtliche Paritätsanalyse zur psychischen Gesundheit einstufen. Außerdem wären ausreichende Informationen über Funktion und Auswirkungen des Systems erforderlich, damit Aufsichtsbehörden seine Anwendung auf Leistungen bei psychischen Erkrankungen und Substanzkonsumstörungen mit medizinischen und chirurgischen Leistungen vergleichen können.
Das beweist nicht, dass ein bestimmtes System diskriminiert oder gegen Paritätsrecht verstößt. Es würde einen Weg schaffen, um zu untersuchen, ob automatisierte Prüfung den Zugang in verschiedenen Leistungskategorien unterschiedlich verändert. Teams bräuchten Nachweise über den tatsächlichen Betrieb, nicht nur Entwurfsdokumente.
Was weiterhin unklar ist
H.R. 10210 ist ein eingebrachter Gesetzentwurf. Ausschussprüfung, Änderungen, Abstimmungen, Inkrafttreten und Umsetzung können ausbleiben. Das im Text vorgesehene Wirksamkeitsdatum würde erst für Planjahre nach einer künftigen Inkrafttretensfrist gelten, nicht sofort. Der Entwurf legt auch keinen technischen Auditstandard, keine Aufbewahrungsfrist, keine Methode zur Modellvalidierung und keine Mindestprüfzeit fest.
Die unabhängige Berichterstattung der Washington Post bestätigt die parteiübergreifende Einbringung sowie die wichtigsten Vorschriften zu menschlicher Prüfung und Offenlegung. Sie nennt auch eine wesentliche Grenze: Eine medizinische Fachkraft im Ablauf ist nicht automatisch ein wirksamer Schutz, wenn Zeit, Informationen oder die Freiheit fehlen, eine automatisierte Empfehlung infrage zu stellen.
Maetra-Analyse
Die wichtigste Lehre ist der Unterschied zwischen einem benannten Menschen und einer verantwortlichen Entscheidung. Organisationen können diesen Unterschied schon heute testen. Wählen Sie einen Ablauf für nachteilige Entscheidungen und erfassen Sie jedes System, das ihn beeinflusst. Dokumentieren Sie, welche Fakten die prüfende Person erreicht, was das System empfiehlt, welche Richtlinie gilt, ob ein Widerspruch möglich ist und welche Nachweise bei einem Einspruch bestehen bleiben.
Testen Sie den Ablauf anschließend mit einem Fall, in dem die Modellausgabe verworfen werden sollte. Wenn die prüfende Person den relevanten Kontext nicht sehen, eine Abweichung nicht erklären oder die Entscheidungsgrundlage nicht bewahren kann, ist der menschliche Kontrollpunkt noch keine zuverlässige Kontrolle.
Der vorgeschlagene Act verbietet KI nicht im Krankenversicherungsbetrieb. Er formuliert einen engeren Grundsatz: Wenn klinisches Urteil über Zugang zur Versorgung entscheidet, darf Unterstützung automatisiert sein, doch Verantwortung, Offenlegung und Entscheidungsnachweis sollten menschlich und prüfbar bleiben.