// HEISE ONLINE — INTELLIGENZA ARTIFICIALE
US-Bundesstaat Utah: KI darf erstmals Medikament verschreiben
Im US-Bundesstaat Utah darf eine KI-App erstmals eigenständig Medikamente gegen Akne verschreiben – zunächst unter ärztlicher Aufsicht, später autonom.
In der App können Patienten Angaben zu ihren Beschwerden machen und das Hautbild analysieren lassen.
Der US-Bundesstaat Utah hat dem Start-up Nolla Health eine regulatorische Ausnahmegenehmigung erteilt, die es einer KI erlaubt, bestimmte Medikamente zu verschreiben. Der Pilotversuch ist auf Erwachsene ab 18 Jahren mit leichter bis mittelschwerer Akne beschränkt. Verschrieben werden dürfen ausschließlich Präparate, die von außen auf die Haut aufgetragen werden. Medikamente, die oral eingenommen werden müssen, sind ausgeschlossen. Auch schwerere Fälle von Akne dürfen mit der KI nicht behandelt werden.
Wie Nolla Health in seinem Blog erläutert, analysiert die Nolla-App das Gesicht der Patienten, wertet einen strukturierten medizinischen Fragebogen aus und stuft die Schwere der Akne ein. Die Behandlungsauswahl trifft anschließend ein LLM aus einem Formular mit acht zugelassenen Optionen. Der gesamte Vorgang soll laut Unternehmensangaben 10 bis 15 Minuten dauern. Die App kostet im Pilotprojekt 4,99 US-Dollar pro Monat.
Die Genehmigung des Utah Office of Artificial Intelligence Policy sieht für den Start der App drei Phasen vor: In der ersten müssen zugelassene Ärzte die ersten 100 Verschreibungen prüfen und freigeben, bevor die Medikamente bestellt werden. Nach Unternehmensangaben habe bei den letzten 1000 Behandlungen ein zugelassener Arzt in rund 96 Prozent der Fälle der KI-Empfehlung zugestimmt.
In der zweiten Phase darf die KI Rezepte direkt an Apotheken übermitteln; Ärzte kontrollieren die Fälle nachträglich wöchentlich. Diese Phase umfasst mindestens 500 Patienten. In der dritten Phase kontrollieren Ärzte dann nur noch jede zehnte Verschreibung. Fälle mit Nebenwirkungen oder Eskalationen werden unabhängig davon vollständig geprüft.
Die Zulassung schreibt zusätzlich umfangreiche Auflagen vor und läuft zunächst für zwölf Monate. Nolla Health muss regelmäßige Berichte an die Aufsichtsbehörde liefern. Jede schwerwiegende oder unerwartete Nebenwirkung ist innerhalb von 24 Stunden zu melden – darunter Fehldiagnosen, falsche Dosierungen, allergische Reaktionen, aber auch Halluzinationen oder Sicherheitsvorfälle wie Ransomware-Angriffe.
Immer mehr Institutionen lassen KI-Systeme autonom Entscheidungen treffen. In Österreich dürfen Behörden künftig zum Beispiel erstinstanzliche Bescheide vollautomatisiert ohne menschliche Einzelprüfung erstellen – ebenfalls unter Auflagen wie dokumentierter Testphase und Eingriffsmöglichkeiten.
Keine News verpassen! Jeden Morgen der frische Nachrichtenüberblick von heise online
Ausführliche Informationen zum Versandverfahren und zu Ihren
Widerrufsmöglichkeiten erhalten Sie in unserer
Datenschutzerklärung.