Бумът на интереса към основните модели и генеративния ИИ води до нарастване на търсенето на допълнителна изчислителна мощност, както и на интереса към обучението на все по-големи модели.

Според документите, с които разполага Insider, Microsoft се подготвя да отговори на този проблем, като удвои капацитета на Azure през втората половина на тази финансова година, която продължава до края на юни.

Microsoft ще увеличи капацитета на допълнителните центрове за данни три пъти през първата половина на фискалната си година 2025.

Според гореспоменатите документи компанията внедрява “рекорден брой графични процесори”, за да се справи с натоварванията на AI, и е увеличила повече от два пъти общата си инсталирана база от ускорители през втората половина на миналата година.

Припомняме ви, че Microsoft имаше възнамерениe миналата година да похарчи “много милиарди долари” за изграждане на допълнителен капацитет в очакване на бързото нарастване на броя на клиентите, които искат да изпълняват проекти за генеративен ИИ.

Към края на 2023 г. данните на Synergy показват, че на САЩ се падат 51% от глобалния капацитет, измерен чрез MW критично ИТ натоварване, на Европа – 17%, а Китай е близо до тях с 16%.

Компаниите с най-голям отпечатък са всъщност тримата големи доставчици на облачни услуги – Amazon, Microsoft и Google. Те притежават 60% от целия капацитет на хипермащабните центрове за данни, следвани от Meta, Alibaba, Tencent, Apple, ByteDance и други сравнително малки хипермащабни оператори.

ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 1

ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 2

ГЛЕДАЙТЕ: ИТ Индустрията във Варна – част 2 | Епизод 2 | The BIG TECH #BG | DevStyleR

Прочетете още:
1. Ocado Technology създава ново звено в България
2. От Състезанията по Информатика до MIT – Формулата за Успех на Румен Христов
3. Впечатляващи Иновативни Проекти Победиха в Дни на Роботиката ’24 към ТУ-София

Последвайте ни във Facebook, Instagram, LinkedIn и YouTube.

По-долу ще видите част от технологичните тенденции, представени по време на NVIDIA GTC.

Усъвършенствано генериране с разширено търсене

Технология, която има за цел за намали “халюцинациите” или неточностите на ИИ, генерирането с разширено търсене позволява на генеративния модел на ИИ да проверява работата си с външни ресурси, като например научни статии или документи. RAG се харесва на корпоративните клиенти, тъй като повишава надеждността на генерираното съдържание.

“Фабрики за изкуствен интелект” за увеличаване на нуждите от съхранение и изчисления

Много организации на NVIDIA GTC се определиха като “фабрики за изкуствен интелект”, които предоставят на предприятията достъп до хранилището и изчислителната мощ, от които се нуждаят, за да създават изкуствен интелект.

NexGen Cloud, която нарича тази услуга “GPUaaS”, е сред компаниите, които ще предоставят достъп до графичния процесор Blackwell на NVIDIA с параметри 10 трилиона (фигура А) по-късно тази година.

Десетте трилиона задачи с параметри изискват много изчисления и организациите залагат на това, че могат да създадат бизнес модел, като предоставят точното количество изчислителна мощност на клиентите.

По време на предварителен брифинг на 15 март Грег Финдлен, старши вицепрезидент по управление на продукти за управление на данни в Dell, сподели, че съхранението на данни трябва да поддържа високопроизводителни структурирани данни, както и неструктурирани данни, като документи, изображения и видео.

Edge AI

Организациите, които се фокусират върху крайния AI също заеха своето място на NVIDIA GTC 2024, с голямо разнообразие: роботика, автомобилостроене, промишленост, здравеопазване, критични системи и търговия на дребно.

Много от тях бяха задвижвани от платформата Jetson на NVIDIA за роботика. Микроуслугите NVIDIA Metropolis на Jetson Orin позволяват на разработчиците да използват API повиквания, за да създадат генеративни AI възможности, правейки роботите по-реактивни и гъвкави спрямо средата си.

Частен AI за предприятия

Организациите работят по създаването на частен генеративен изкуствен интелект, който може да има сигурен достъп до собствени данни, като същевременно осигурява гъвкавостта на общодостъпен изкуствен интелект като ChatGPT.

По време на изложението NVIDIA спомена няколко пъти за Mistral AI, който предоставя голям езиков модел с отворен код, който клиентите могат да хостват на собствените си сървъри.

Copilots могат да черпят от данни, собственост на компанията

На NVIDIA GTC беше представен широк спектър от AI Copilots, които могат да черпят отговори от конкретни, притежавани от компанията структурирани и неструктурирани данни.

ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 1

ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 2

ГЛЕДАЙТЕ: ИТ Индустрията във Варна – част 2 | Епизод 2 | The BIG TECH #BG | DevStyleR

Прочетете още:
1. Perforce Software Придоби Delphix
2. Временно Класиране в Топ Софтуерна Компания 2023
3. 30% от ИТ Професионалистите Инвестират Суми Между 50 000 и 500 000 лв.

Последвайте ни във Facebook, Instagram, LinkedIn и YouTube.