В надпреварата за доминация в сферата на изкуствения интелект най-важните сблъсъци вече не се случват само в заседателните зали на Силициевата долина или в изследователските лаборатории. Те се разгръщат на пресечната точка между националната сигурност, глобалната регулация и амбициите за пазарна капитализация от стотици милиарди долари, където въпросите за власт, етика и контрол стават неразделни от технологичния напредък.

Малко компании олицетворяват това напрежение толкова ясно, колкото Anthropic.

Договор за отбрана под напрежение

Министерството на отбраната на САЩ е одобри използването на авангардни AI системи на Anthropic за класифицирани задачи. Въпреки това около партньорството се натрупва напрежение заради ограниченията, които компанията поставя върху начина, по който технологията ще бъде използвана.

Anthropic, Пентагона и операцията срещу Мадуро или ролята на AI в чувствителните военни операции

Anthropic, ръководена от главния изпълнителен директор Дарио Амодей, очертава ясни „червени линии“ – системите ѝ да не бъдат използвани за автономни оръжия или за вътрешно наблюдение. Това е продължение на дългогодишния ѝ фокус върху безопасността и т.нар. alignment на AI моделите. Подобни ограничения обаче поставят компанията в конфликт с части от Пентагона, които оценяват доколко могат да разчитат на комерсиални frontier модели за чувствителни операции.

Под въпрос е договор, оценяван на до 200 млн. долара. Американските военни анализират дали ограниченията няма да усложнят внедряването. В случай на провал те обмислят и дали да не забранят техни подизпълнители да използват модели на Anthropic. На фона на конкуренти като OpenAI, Google и xAI, които активно разширяват отношенията си с отбранителния сектор, напрежението може да има последствия далеч отвъд Вашингтон.

От лаборатория до AI гигант

Спорът идва в ключов момент за Anthropic. Основана през 2021 г. от бивши изследователи на OpenAI, сред които водещите Дарио и Даниела Амодей – брат и сестра, компанията стартира като изследователска лаборатория, фокусирана върху безопасността на AI. Първоначално подкрепена с около 700 млн. долара от инвеститори като Lightspeed Venture Partners и Spark Capital, тя влиза в AI надпреварата с оценка от няколко милиарда долара.

Anthropic се доближава до ново финансиране от $20 млрд.

Глобалният бум на AI обаче променя траекторията ѝ. Многомилиардни стратегически инвестиции от Amazon и Google ускоряват развитието на моделите от семейството Claude и интеграцията им в корпоративни и облачни екосистеми по света. По-рано този месец Anthropic привлече нов рунд финансиране, който повиши оценката на компанията на 380 млрд. долара. С над 57 млрд. долара набран капитал досега, Anthropic обмисля IPO в рамките на следващите 12–18 месеца. Анализаторите оценяват това като една от най-значимите технологични публични емисии на десетилетието.

Философия, изградена върху безопасността

Въпреки мащаба си Anthropic продължава да изгражда идентичността си около безопасността. Компанията въведе концепцията за „Constitutional AI“ – метод за обучение, при който принципи и етични рамки се вграждат директно в поведението на модела с цел ограничаване на вредни или дестабилизиращи последици.

Дарио Амодей е сред най-знаковите лидери по темата за рисковете от развитието на AI. През 2023 г. той заяви в подкаст интервю, че съществува 10–25% вероятност изкуственият интелект да доведе до унищожение на човечеството – позиция, която постави AI в лагера на т.нар. „екзистенциален риск“. По-късно той уточни, че става дума за израз на несигурност, а не за неизбежен сценарий.

През октомври 2024 г. Амодей публикува обширно есе, в което очерта по-оптимистична визия, а именно – AI като ускорител на научни открития, революция в медицината и двигател на икономически растеж. Смяната на тона не означава отстъпление от темата за риска, а опит за баланс между предпазливост и вяра в трансформационния потенциал.

Политическо позициониране

Политическата стратегия на Anthropic отразява сходна двойственост. Компанията подкрепя федерална регулация на AI, международна координация и лицензиране на най-мощните модели. По информация на The New York Times този месец тя назначава в борда си Крис Лидъл – бивш заместник-ръководител на администрацията в първия мандат на Доналд Тръмп.

Тест с дългосрочни последици

Напрежението с Пентагона поставя по-дълбок въпрос пред цялата индустрия: възможно ли е frontier моделите да бъдат едновременно конкурентоспособни и етично ограничени в среда с висок залог? Докато правителствата интегрират AI в отбраната и разузнаването, а корпорациите го внедряват във финанси, здравеопазване и производство, границата между иновация и надзор става все по-оспорвана.

Затова изходът от спора между Anthropic и Министерството на отбраната може да се окаже определящ за това ще се използва и контролира най-мощната технология на нашето време.

Изображение: Flickr/World Economic Forum/ Sandra Blaser