Zusammenfassung:
Utah, USA, erweitert den Anwendungsbereich medizinischer künstlicher Intelligenz weiter und ermöglicht es KI-Systemen, Patienten direkt zu beurteilen, über Behandlungspläne zu entscheiden und unter bestimmten Bedingungen Rezepte auszustellen. Mit dem Start neuer Pilotprogramme entwickelt sich Utah zu einem der aggressivsten Testgebiete für die medizinische KI-Regulierung in den Vereinigten Staaten.
Dieses neue Projekt wird vom medizinischen KI-Startup Nolla Health ins Leben gerufen und richtet sich hauptsächlich an Patienten mit leichter bis mittelschwerer Akne. Benutzer müssen zunächst über die App ein Gesichtsfoto machen und ihre Krankengeschichte und persönliche Informationen eingeben. Anschließend analysiert die KI den Hautzustand, beurteilt den Schweregrad der Akne und wählt dann auf der Grundlage der vom Patienten bereitgestellten medizinischen Informationen einen geeigneten Behandlungsplan aus einer Liste zugelassener Medikamente aus.
Anders als bei der herkömmlichen Telemedizin besteht der Kern dieses Prozesses nicht darin, dass die KI zunächst das Screening durchführt und dann die endgültige Diagnose durch den Arzt stellt. Stattdessen kann die KI die endgültige Entscheidung über die Verschreibung von Medikamenten treffen und das Rezept direkt an die vom Patienten angegebene Apotheke senden.
Das Projekt eliminierte jedoch nicht von Anfang an die Beteiligung von Ärzten vollständig. In der Anfangsphase des Pilotprojekts muss jedes KI-generierte Rezept von einem zugelassenen Arzt aus Utah überprüft und unterzeichnet werden. Mit dem Fortschreiten des Projekts wird die Beteiligung von Ärzten schrittweise zurückgehen, sodass KI schließlich qualifizierte Rezepte ohne vorherige Überprüfung durch Ärzte ausstellen kann.
Im Rahmen der von Beamten aus Utah angekündigten Pilotvereinbarung kann Nolla Health derzeit nur leichte bis mittelschwere Akne bei erwachsenen Patienten behandeln, und der Verschreibungsbereich ist strikt auf eine kleine Anzahl topischer Medikamente, einschließlich spezieller Cremes und Gele, beschränkt. Das System kann weder zur Behandlung schwerer Akne eingesetzt werden, noch kann es riskantere Behandlungsoptionen wie orale Medikamente oder Isotretinoin verschreiben.
Patienten müssen sich außerdem einer Identitäts- und Altersüberprüfung unterziehen und Rezepte können nur an Adressen in Utah gesendet werden. Bei Patienten mit schwerer Akne, die schwanger sind oder eine Schwangerschaft planen, die stillen, deren Immunsystem geschwächt ist und bei denen Nebenwirkungen auf verwandte Medikamente aufgetreten sind, muss das KI-System den automatischen Verschreibungsprozess stoppen und ihn an menschliches medizinisches Personal weiterleiten.
Der Grund, warum Utah ein solches Experiment durchführen kann, hängt mit dem „AI Regulatory Sandbox“-System zusammen, das der Staat in den letzten Jahren eingerichtet hat. Das System ermöglicht es Unternehmen, Produkte der künstlichen Intelligenz unter staatlicher Aufsicht zu testen und gleichzeitig einige bestehende regulatorische Anforderungen innerhalb klar definierter Grenzen vorübergehend auszunehmen.
Das bedeutet, dass das Unternehmen keine unbegrenzte „KI-Medizinlizenz“ erhält, sondern nach Unterzeichnung einer Vereinbarung mit der Landesregierung und den zuständigen Aufsichtsbehörden für eine begrenzte Zeit Tests an bestimmten Produkten, bestimmten Krankheiten und bestimmten Gruppen durchführen kann. Unternehmen müssen weiterhin andere gesetzliche Anforderungen erfüllen, die nicht von der Vereinbarung ausgenommen sind.
Tatsächlich war Utah Anfang des Jahres der erste Bundesstaat in den Vereinigten Staaten, der KI die autonome Abwicklung von Rezeptnachfüllungen ermöglichte. Damals startete Doctronic einen KI-medizinischen Dienst, der Patienten, die eine Langzeitbehandlung erhalten hatten, einige Medikamente gegen chronische Krankheiten ohne direkte Beteiligung von Ärzten erneut verschreiben konnte.
Dieses Programm deckt etwa 190 häufig verwendete, nicht kontrollierte Medikamente ab, schließt jedoch keine Schmerzmittel, injizierbare Medikamente und einige Medikamente zur Behandlung von ADHS ein. Patienten müssen zunächst die Identitätsüberprüfung und die Überprüfung medizinischer Informationen bestehen, und die KI entscheidet dann, ob das Nachfüllen auf der Grundlage früherer Rezepte und des aktuellen Zustands des Patienten zulässig ist.
Utahs aktuelle neue Richtlinie bedeutet, dass medizinische KI-Studien weiter von der „automatischen Nachfüllung“ zur „ersten Verschreibung“ übergehen. Es gibt einen klaren Unterschied zwischen beiden: Nachfüllen bedeutet, dass dem Patienten zuvor ein Behandlungsplan von einem Arzt verschrieben wurde, während die erstmalige Verschreibung bedeutet, dass die KI neue klinische Entscheidungen auf der Grundlage des aktuellen Zustands des Patienten treffen muss.
Aus diesem Grund hat das Nolla Health-Projekt besondere Aufmerksamkeit erhalten.
Beamte in Utah verlangen von Nolla Health, dass jedes Rezept zu Beginn des Programms von zwei zertifizierten Ärzten überprüft wird. Im Verlauf des Projekts kann sich die Prüfungsmethode schrittweise zu einer Nachprüfung und einer Stichprobenprüfung ändern, doch jedes Mal, wenn eine neue Phase eintritt, muss eine schriftliche Genehmigung der Landesregierung eingeholt werden.
Unternehmen müssen außerdem eine Berufshaftpflichtversicherung abschließen und unerwünschte Ereignisse nach ihrem Auftreten den Aufsichtsbehörden melden. Gleichzeitig müssen Apotheken klar darüber informiert werden, dass Rezepte von KI-Systemen generiert werden, und in der Lage sein, bei Problemen Kontakt zu relevanten Ärzten aufzunehmen.
Die Aufsichtsbehörden von Utah verlangen von Unternehmen außerdem, Patientendaten nicht für andere Zwecke zu verkaufen oder zu übertragen, und müssen regelmäßig Daten zum Projektbetrieb vorlegen, einschließlich Indikatoren wie dem Grad der Übereinstimmung zwischen KI und ärztlicher Beurteilung.
Die Regierung von Utah glaubt, dass dieses Modell untersuchen kann, ob KI die medizinischen Kosten in einigen gängigen, risikoarmen medizinischen Szenarien senken und das Problem unzureichender Ärzteressourcen lindern kann. Für einige Patienten mit relativ einfachen Erkrankungen könnte die Möglichkeit, Untersuchungen per Mobiltelefon durchzuführen und Medikamente zu verschreiben, möglicherweise den Zeit- und Kostenaufwand für den Weg zur Klinik reduzieren.
Allerdings gab es in der medizinischen Fachwelt offensichtliche Kontroversen über dieses Modell.
Kritiker glauben, dass Ärzte selbst bei scheinbar einfachen Krankheiten das Alter des Patienten, seine Krankengeschichte, andere Medikamente, Allergien und einige klinische Signale berücksichtigen müssen, die bei der Verschreibung von Medikamenten nicht leicht durch standardisierte Fragen und Antworten zu erkennen sind. Wenn Sie sich bei der Beurteilung vollständig auf die KI verlassen, kann es zu einer Fehlbehandlung kommen, wenn dem System wichtige Informationen entgehen.
Anfang des Jahres sorgte auch ein Sicherheitstest des KI-Nachfüllsystems für Medikamente in Utah für Kontroversen. Sicherheitsforscher haben relativ einfache Prompt-Word-Angriffe eingesetzt, um zugehörige KI-Systeme dazu zu bringen, falsche medizinische Ratschläge zu generieren, einschließlich der falschen Erhöhung der Dosierung bestimmter Medikamente und der Abgabe gefährlicher Medikamentenempfehlungen. Solche Tests verdeutlichen zusätzlich die Unterschiede zwischen medizinischer KI und gewöhnlichen Chatbots.
Eines der größten Risiken medizinischer KI besteht darin, dass falsche Antworten von gewöhnlichen Chatbots einfach zu irreführenden Informationen führen können. Sobald jedoch die medizinische KI die Befugnis hat, Medikamente zu verschreiben, können Fehler direkt zu realen medizinischen Konsequenzen führen.
Deshalb geht das aktuelle Pilotprojekt in Utah tatsächlich einer sehr wichtigen Frage nach: Unter welchen Bedingungen kann sich künstliche Intelligenz von einem „Hilfswerkzeug für Ärzte“ zu einem „Ausführenden medizinischer Entscheidungen“ wandeln?
Befürworter glauben, dass KI nicht unbedingt Ärzte ersetzen muss, sondern eine Vielzahl standardisierter, sich wiederholender und relativ risikoarmer Aufgaben übernehmen kann. Beispielsweise könnten die einfache Beurteilung von Hautkrankheiten, das Nachfüllen von Medikamenten bei chronischen Langzeiterkrankungen und andere Situationen, die klaren klinischen Richtlinien entsprechen, die ersten Bereiche sein, in denen KI in das medizinische System Einzug hält.
Gegner argumentieren, dass selbst wenn einige Fälle einfach erscheinen, nicht davon ausgegangen werden kann, dass alle Patienten dem Standardmodell entsprechen. Insbesondere wenn die KI in der Lage ist, Vorschriften zu erlassen, sind die Kosten von Systemfehlern deutlich höher als bei gewöhnlichen Fehlern bei Informationsfragen und -antworten.
Derzeit erlaubt Utah nicht, dass KI ohne Einschränkungen „Arzt werden“ kann. Sowohl die Aknebehandlung von Nolla Health als auch frühere AI-Medikamentennachfüllprojekte sind streng auf bestimmte Medikamente, bestimmte Patienten und bestimmte Prozesse beschränkt, und Unternehmen müssen eine kontinuierliche Überwachung akzeptieren.
Aber aus Sicht der Branchenentwicklung ist Utahs Bedeutung immer noch etwas ganz Besonderes. In der Vergangenheit wurde medizinische KI hauptsächlich für die Bilderkennung, Hilfsdiagnose, das Sammeln von Krankenakten und die Entscheidungsunterstützung von Ärzten eingesetzt, aber jetzt beginnt die KI allmählich, tatsächliche Autorität bei der klinischen Entscheidungsfindung zu erlangen.
Wenn diese Piloten nachweisen können, dass KI einige risikoarme medizinische Aufgaben unter strengen Einschränkungen und kontinuierlicher Überprüfung sicher erledigen kann, dann könnten andere US-Bundesstaaten in Zukunft auf ähnliche Modelle zurückgreifen, um den Anwendungsbereich von KI-Anwendungen im medizinischen Bereich weiter zu lockern.
Wenn umgekehrt während des Pilotprozesses schwere medizinische Fehler passieren, das System angegriffen wird oder KI-Urteile erheblich von denen professioneller Ärzte abweichen, dann könnte das Utah-Experiment auch für Regulierungsbehörden zu einem wichtigen Fall werden, um die Autorität medizinischer KI zu verschärfen.
Ganz gleich, wie das Endergebnis ausfällt, das laufende Experiment in Utah bedeutet eine klare Veränderung: Das Stadium, in dem künstliche Intelligenz in die Medizinbranche Einzug hält, geht allmählich von „Unterstützung von Ärzten bei der Arbeit“ zu „direkter medizinischer Entscheidungsfindung in begrenztem Umfang“ über. Ob KI diese Verantwortung übernehmen kann, wird nicht mehr nur eine technische Frage im Labor sein, sondern zunehmend an echten Patienten und echten Verordnungen getestet werden.
Kommentare