Юта одобри пилотна програма, която позволява на AI чатбот да подновява рецепти за вече изписани психиатрични лекарства. Така щатът отваря нов фронт в дебата докъде изкуственият интелект може да се намесва в здравеопазването.
Програмата е с продължителност 12 месеца и се реализира чрез Office of Artificial Intelligence Policy на щата в партньорство с Legion Health. Обхватът ѝ е силно ограничен: AI системата може да подновява само вече предписани, неконтролирани медикаменти за поддържащо лечение. Тя няма право да изписва нови лекарства и не може да променя дозировки.
Според споразумението между щата и Legion Health, AI може да обработва само заявки от пациенти, които вече приемат одобрени медикаменти. В голяма част от случаите системата е длъжна да прехвърли решението към човек за последващо одобрение в случай на нужда.
Юта изрично забранява на AI да предписва контролирани вещества, бензодиазепини, антипсихотици и други по-рискови лекарства. Ако системата засече суицидни мисли, тежки странични ефекти, мания, бременност или просто желание за преглед от лекар (човек), случаят трябва задължително да бъде насочен към лицензиран медицински специалист.
Щатът внимателно подчертава, че това не е използване на технологията без контрол, а регулаторен експеримент. Целта е да се провери дали AI може безопасно да облекчи тесните места при рутинното подновяване на рецепти, преди изобщо да се мисли за трайни законодателни промени.
Аргументът на щата е прагматичен. Повечето окръзи в Юта изпитват недостиг на специалисти по психично здраве, а автоматизирането на по-нискорискови подновявания би могло да освободи лекарите за по-сложни случаи.
Това е и по-широката логика зад пилотния проект: AI да поеме най-повтарящата се и административно натоварваща част от процеса, без да навлиза в същинската клинична преценка. С други думи, щатът не тества дали алгоритъм може да играе ролята на психиатър, а дали може безопасно да подпомогне една строго дефинирана задача в силно ограничена рамка.
Предпазните механизми са съществени. При първите 250 заявки лицензиран лекар трябва да прегледа препоръката на AI, преди тя да бъде изпратена към аптеката. Освен това компанията трябва да постигне над 98% съвпадение с човешката преценка.
Следващите 1000 случая ще бъдат подложени на последващ преглед, като тогава прагът се вдига до 99% съвпадение. Едва след това системата може да премине към по-облекчен режим с месечно извадково наблюдение и отчетност към щата.
Важно е и друго: рецептите, генерирани в рамките на пилота, продължават да носят името на лицензиран лекар. Тоест дори когато AI участва в процеса, крайната отговорност формално остава при човек.
