Програмата е с продължителност 12 месеца и се реализира чрез Office of Artificial Intelligence Policy на щата в партньорство с Legion Health. Обхватът ѝ е силно ограничен: AI системата може да подновява само вече предписани, неконтролирани медикаменти за поддържащо лечение. Тя няма право да изписва нови лекарства и не може да променя дозировки.

Според споразумението между щата и Legion Health, AI може да обработва само заявки от пациенти, които вече приемат одобрени медикаменти. В голяма част от случаите системата е длъжна да прехвърли решението към човек за последващо одобрение в случай на нужда.

Юта изрично забранява на AI да предписва контролирани вещества, бензодиазепини, антипсихотици и други по-рискови лекарства. Ако системата засече суицидни мисли, тежки странични ефекти, мания, бременност или просто желание за преглед от лекар (човек), случаят трябва задължително да бъде насочен към лицензиран медицински специалист.

Щатът внимателно подчертава, че това не е използване на технологията без контрол, а регулаторен експеримент. Целта е да се провери дали AI може безопасно да облекчи тесните места при рутинното подновяване на рецепти, преди изобщо да се мисли за трайни законодателни промени.

Аргументът на щата е прагматичен. Повечето окръзи в Юта изпитват недостиг на специалисти по психично здраве, а автоматизирането на по-нискорискови подновявания би могло да освободи лекарите за по-сложни случаи.

Това е и по-широката логика зад пилотния проект: AI да поеме най-повтарящата се и административно натоварваща част от процеса, без да навлиза в същинската клинична преценка. С други думи, щатът не тества дали алгоритъм може да играе ролята на психиатър, а дали може безопасно да подпомогне една строго дефинирана задача в силно ограничена рамка.

Предпазните механизми са съществени. При първите 250 заявки лицензиран лекар трябва да прегледа препоръката на AI, преди тя да бъде изпратена към аптеката. Освен това компанията трябва да постигне над 98% съвпадение с човешката преценка.

Следващите 1000 случая ще бъдат подложени на последващ преглед, като тогава прагът се вдига до 99% съвпадение. Едва след това системата може да премине към по-облекчен режим с месечно извадково наблюдение и отчетност към щата.

Важно е и друго: рецептите, генерирани в рамките на пилота, продължават да носят името на лицензиран лекар. Тоест дори когато AI участва в процеса, крайната отговорност формално остава при човек.

След обявяването, че SpaceX ще придобие xAI, която преди това купи социалната платформа X, най-малко 11 инженери и двама съоснователи са заявили, че напускат компанията. Част от тях описват решението си като стъпка към нови проекти, докато Мъск твърди, че преструктурирането цели по-голяма организационна ефективност.

Двама бивши служители, цитирани от The Verge, обаче представят по-притеснителна картина. Според тях в екипа се е натрупало разочарование от това, което те определят като пренебрегване на въпросите за безопасността, особено около чатбота Grok.

Grok беше подложен на глобална критика, след като чрез него бяха генерирани над един милион изображения със сексуален контекст, включително deepfake материали с реални жени и непълнолетни.

xAI на Илон Мъск ограничава deepfake възможностите на Grok под регулаторен натиск

Един от бившите служители е заявил, че „безопасността е мъртва структура в xAI“, а друг твърди, че Мъск „активно се опитва да направи модела по-неконтролируем, защото за него безопасността в известен смисъл означава цензура“.

Източниците посочват и липса на стратегическа яснота, като един от тях описва компанията като „заседнала в режим на догонване“ спрямо конкурентите в бързоразвиващия се AI сектор.

Изображение: Flickr/World Economic Forum / Ciaran McCrickard/Редактирано -16.02.2026