9 септември, 2024

В ранните дни на високопроизводителните изчисления големите технологични компании инвестираха много в разработването на свои собствени версии на Unix със затворен код. По онова време беше трудно да си представим друг подход за създаване на подобни сложни архитектури и софтуер като цяло. Въпреки това операционната система с отворен код Linux успя да придобие широка популярност и крайна сметка да се наложи като алтернатива. На първо място това се дължи на неговата гъвкавост и достъпност, което позволява на разработчиците да променят кода според своите нужди. Всъщност това е и причината, с течение на времето Linux да стане по-напреднал, по-сигурен и то, защото е във фокуса на една цяла екосистема и се поддържа от по-широка общност от всеки затворен Unix. Днес Linux е основата на индустриалния стандарт за облачни изчисления и операционните системи, работещи на повечето мобилни устройства, което пък е основата, на която стъпват разнообразните приложения, които са част от живота на съвременните хора.

Всички тези факти са добре известни на опитни хора в технологичната индустрия и са цитирани от Марк Зукърбърг в статията му „AI с отворен код е пътят напред“, публикувана в блога на Meta.

AI с отворен код бързо настига затворените модели

Според Зукърбърг се очаква AI с отворен код да се развива по начин, подобен на Linux. Какво се случва на пазара? В момента няколко технологични компании разработват водещи затворени модели. Изкуственият интелект с отворен код обаче бързо наваксва изоставането. Миналогодишната Llama 2 беше сравнима с моделите от по-старо поколение. Тази година Llama 3 се конкурира с най-модерните модели и води в някои направления. Следващата година Марк Зукърбърг прогнозира бъдещите модели на Llama да станат най-модерните в индустрията. Дори сега Llama води по отношение на отвореност, възможности за модификация (modifiability) и ефективност на разходите.

Llama 3.1 405B, първият граничен AI модел с отворен код

Предприемат се значителни стъпки към превръщането на AI с отворен код в индустриален стандарт. Llama 3.1 405B, първият граничен модел с отворен код, е наличен заедно с новите и подобрени модели Llama 3.1 70B и 8B. Тези модели предлагат значително по-добра цена/производителност в сравнение със затворените модели. Фактът, че моделът 405B  е с отворен код го прави идеален за фина настройка и дестилиране на по-малки модели.

В допълнение към пускането на тези модели вече е налице сътрудничество с други водещи компании, което цели допълнително да развие вече широката екосистема. Amazon, Databricks и NVIDIA стартират пакети с цялостни услуги за разработчиците, които им позволяват фина настройка и дестилиране на техните модели. Новатори като Groq създават технологии и inference услуги с ниска латентност и ниска цена. Моделите ще бъдат налични в големи облаци, включително AWS, Azure, Google, Oracle и др. Компании като Scale.AI, Dell и Deloitte са готови да помогнат на предприятията да приемат Llama и да обучат персонализирани модели с неговите данни. Тъй като общността расте и все повече компании разработват нови услуги, Llama може колективно да се превърне в индустриален стандарт, носейки ползи от AI за всички.

„Meta се ангажира с AI с отворен код“

Марк Зукърбърг твърди, че Meta се ангажира с AI с отворен код. Той подчертава защо тези “open source” средства всъщност са най-добрият стек за разработка, защо Llama с отворен код е от полза за Meta и защо AI с отворен код е добър за света, като осигурява дългосрочна жизнеспособност.

Защо AI с отворен код е добър за разработчиците?

AI с отворен код е от полза за разработчиците, тъй като позволява моделите да бъдат персонализирани, за да отговарят на специфичните нужди на организациите без външни компании да имат достъп до данните, с които се обучава модела. AI с отворен код осигурява независимост от затворени доставчици, осигурявайки контрол и гъвкавост на модела като позволява на моделите да работят локално с прозрачни процеси на разработка, предлага ефективност на разходите. На практика модели като Llama 3.1 405B работят на приблизително половината от цената на затворените модели, което всъщност е обещаваща бъдеща инвестиция, тъй като технологията с отворен код напредва бързо и се очаква да остане печеливша в дългосрочен план.

Може да достъпите моделите тук: llama.meta.com

Снимка: about.meta.com
Тагове: , , , , , , ,