Utah is het eerste Amerikaanse staatsniveau dat, binnen een regulatoir proefkader, een service toestaat waarmee bepaalde recepten kunnen worden verlengd via een Kunstmatige Intelligentie-systeem zonder dat de patiënt een arts hoeft te spreken in het gebruikelijke proces. Het initiatief, geïmplementeerd door het Office of Artificial Intelligence Policy (onderdeel van het ministerie van Handel van de staat) en de gezondheidsstart-up Doctronic, streeft ernaar de wachttijden voor patiënten met chronische ziekten te verkorten en tegelijkertijd bewijs te verzamelen over veiligheid en klinische resultaten voordat een bredere uitrol wordt overwogen.
De voorgestelde aanpak roept echter controverse op: tot welk punt kan een klinische beslissing worden geautomatiseerd — zelfs wanneer het slechts gaat om een “verlenging” — zonder het risico te verhogen? En welke controles moeten worden geëist wanneer de geneeskunde niet langer uitsluitend een menselijke interactie is?
Wat precies mogelijk is met de pilot: “routine” verlengingen, geen blanco cheque
Het programma wordt gepresenteerd als een snelle manier om bestaande medicatie te verlengen in bepaalde gevallen, vooral stabiele behandelingen die verband houden met chronische aandoeningen. In de praktijk vult de gebruiker het proces online in en betaalt een vergoeding van 4 dollar voor de service, zoals uit de informatie over de lancering blijkt.
Deze aanpak is relevant omdat ze een knelpunt in het gezondheidszorgsysteem aanspreekt: een aanzienlijk deel van de dagelijkse farmacologische activiteiten bestaat uit verlengingen en repetitieve procedures. Volgens regionale regelgeving en de media representeert voldaaïnde verlengingen ongeveer 80% van de activiteit met betrekking tot medicatie, wat verklaart waarom de staat geïnteresseerd is in te testen of automatisering de frictie kan verminderen zonder de resultaten te verslechteren.
De “nieuwigheid” is niet de medische AI: het wettelijke kader om het te testen
Het onderscheidende aspect van Utah is niet dat er een medische chatbot bestaat, maar dat de staat dit inbouwt in een “regulatory sandbox” (of “regulerende proefomgeving”) die het mogelijk maakt om technologie te testen onder toezicht, inclusief dataverzameling en specifieke voorwaarden, voordat wordt besloten of een permanente toepassing gerechtvaardigd is.
Volgens de beschikbare informatie werd het staatsbureau voor AI opgericht in juli 2024 met het doel gecontroleerde proeven mogelijk te maken, en had het al gewerkt aan andere projecten in de gezondheidssector (bijvoorbeeld initiatieven rond geestelijke gezondheidszorg of tandheelkundige zorg). In deze pilot is het uitgesproken doel om veiligheidsprotocollen, patiëntbeleving en effectiviteit te evalueren, evenals operationele variabelen zoals adherence, tevredenheid, veiligheid en workflow-efficiëntie te meten.
Wat zegt Doctronic over de nauwkeurigheid?
Een van de meest geavanceerde argumenten dat de mediabelangstelling vergroot, is de calibratie met klinisch testen. In rapporten die door lokale media worden aangehaald, beweert Doctronic dat haar systeem voor bijna 99% overeenkomt met de behandelplannen van artsen in vergelijkingen met klinische gevallen. Een concretere cijfers die in dezelfde berichtgeving worden genoemd, gebaseerd op gegevens gedeeld met regelgevende instanties, gaat over een 99,2% overeenstemming in een dataset van 500 spoedgevallen.
Het is belangrijk om dit nuance te maken: het gaat niet om een officieel door een derde partij geauditeerd resultaat in alle details, maar om een indicator die het bedrijf gebruikt om aan te tonen dat het pilotprogramma met veiligheidsmaatregelen en continue monitoring kan worden uitgevoerd.
De andere kant: wanneer automatische beslissingen verantwoordelijkheid worden
De discussie is niet alleen technisch, maar ook professioneel en ethisch. Het gebruik van systemen die de arts uit het “operationele” proces halen, roept twijfels op bij medische organisaties. In uitspraken die werden opgenomen in de berichtgeving over de pilot waarschuwt de CEO van de American Medical Association dat, hoewel AI de geneeskunde kan verbeteren, zonder betrokkenheid van artsen ook aanzienlijke risico’s voor patiënten en professionals kunnen ontstaan.
Vanuit een engineering perspectief is de kernvraag niet of AI “veel corrects” maakt in standaardgevallen; het gaat vooral om wat er gebeurt bij zeldzame gevallen: onvolledige patiëntgeschiedenis, complexe comorbiditeiten, zeldzame farmacologische interacties, niet-naleving voorafgaande behandelingen of subtiele tekenen van ziekteverslechtering. En daar wegen meer de ontwerpkeuzes van controles, escalaties en “remmen” die het systeem beheersbaar houden.
Waarom de pilot relevant is voor de technology sector
Voor een technologische mediabron werkt de Utah-zaak als een spiegel van wat in andere gereguleerde sectoren op komst is:
- Automatisering van repetitieve taken met daadwerkelijke impact op kosten en tijd.
- Governance: wie voert de audits uit, hoe wordt bewijs geregistreerd en gerapporteerd aan toezichthouders.
- Cybersecurity en privacy: identiteit, toegang, traceerbaarheid, gegevensbeheer.
- Interoperabiliteit: integratie met bestaande tools en workflows in de gezondheidszorg.
- Operationeel model: niet alleen een “LLM”; het hele systeem telt (controle, logging, incidentresponse, review en metrics).
Utah probeert een vraag te beantwoorden die veel organisaties privé stellen: als AI wordt ingezet voor gevoelige beslissingen, hoe wordt het getest onder realistische omstandigheden zonder onacceptabele risico’s?
Bron: Kunstmatige intelligentie die medicijnen voorschrijft in Utah