Amazon Web Services и NVIDIA обявиха, че новата платформа NVIDIA Blackwell GPU – представена от NVIDIA на GTC 2024 – ще бъде налична в AWS. AWS ще предлага суперчипа NVIDIA GB200 Grace Blackwell и графичните процесори B100 Tensor Core.
Сътрудничеството води до интеграция между най-новите многонишкови системи на Nvidia, които разполагат с платформата Blackwell от следващо поколение на производителя на чипове и софтуер за ИИ, усъвършенстваната сигурност на системата Nitro на AWS и услугата за управление на ключове (AWS KMS), петабитовата мащабна мрежа Elastic Fabric Adapter (EFA) и хипермащабния клъстер UltraCuster на Amazon Elastic Compute Cloud (Amazon EC2).
Заедно те предоставят инфраструктурата и инструментите, които позволяват на клиентите да изграждат и изпълняват изводи в реално време за големи езикови модели (LLM) с много трилиони параметри по-бързо, в огромен мащаб и на по-ниска цена от предишното поколение графични процесори NVIDIA в Amazon EC2.
“Следващото поколение процесор Grace Blackwell на NVIDIA бележи значителна стъпка напред в генеративния изкуствен интелект и GPU изчисленията. В комбинация с мощната мрежа Elastic Fabric Adapter Networking на AWS, хипермащабното клъстериране на Amazon EC2 UltraClusters и усъвършенстваните възможности за виртуализация и сигурност на нашата система Nitro, ние правим възможно за клиентите да изграждат и изпълняват модели на големи езици с много трилиони параметри по-бързо, по-сигурно и в огромен мащаб, отколкото където и да било другаде”, споделя Адам Селипски, главен изпълнителен директор на AWS.
“Изкуственият интелект прави пробиви с безпрецедентни темпове, което води до нови приложения, бизнес модели и иновации в различни индустрии. Сътрудничеството ни с AWS разширява и ускорява новите възможности за генеративен ИИ, и предоставя на клиентите безпрецедентна изчислителна мощ, за да разширят границите на възможното”, коментира Дженсън Хуанг, основател и главен изпълнителен директор на NVIDIA.
Новите иновации от AWS и NVIDIA революционизират обучението на съвременни LLM, с възможност за достигане до над 1 трилион параметри.
Платформата Blackwell на Nvidia ще бъде достъпна чрез AWS, в комплект със 72 графични процесора Blackwell и 36 графични процесора Grace, свързани помежду си чрез пето поколение Nvidia NVLink.
В съчетание с EFA, AWS Nitro System и Amazon EC2 UltraClusters, тези технологии позволяват на клиентите да мащабират до хиляди GB200 Superchips. NVIDIA Blackwell бележи значителен напредък в ускоряването на работните натоварвания за изводи за ресурсоемки езикови модели с многотрилионни параметри.
AWS планира да предлага EC2 инстанции с новите графични процесори B100, разположени в EC2 UltraClusters, за ускоряване на обучението и изводите на генеративния изкуствен интелект в огромен мащаб.
GB200 ще бъдат налични и в платформата за ИИ, разработена съвместно с AWS – NVIDIA DGX Cloud, която предоставя на корпоративните разработчици специален достъп до инфраструктурата и софтуера, необходими за изграждане и внедряване на усъвършенствани генеративни модели на изкуствен интелект.
AWS и Nvidia също така надграждат съществуващите мерки за сигурност на ИИ, като комбинацията от AWS Nitro System и GB200 на Nvidia има за цел да предотврати достъпа на неоторизирани потребители до теглата на моделите.
GB200 позволява вградено криптиране на връзките NVLink между графичните процесори и криптира трансфера на данни, докато EFA криптира данните в сървърите за разпределено обучение и изводи.
Според AWS с GB200 в Amazon EC2 клиентите ще могат да създадат надеждна среда за изпълнение заедно със своята инстанция EC2, като използват AWS Nitro Enclaves за криптиране на данните за обучение и теглата с AWS KMS.
GB200 също така ще се възползва от системата AWS Nitro, която разтоварва I/O за функции от хост CPU/GPU към специализиран хардуер на AWS, за да осигури по-постоянна производителност, а подобрената ѝ сигурност защитава клиентския код и данни по време на обработката – както от страна на клиента, така и от страна на AWS.
Според AWS, въвеждането на GB200 в Amazon EC2 отваря възможност за създаване на сигурна среда за изпълнение, където клиентите могат да криптират данните за обучение и теглата с помощта на AWS Nitro Enclaves и AWS KMS. Чрез зареждането на енклава от инстанцията GB200, потребителите могат да осигурят директна комуникация със суперчипа, позволявайки на KMS да прехвърля ключов материал безопасно и директно. Този процес гарантира, че операторите на AWS няма да имат достъп до ключа или възможност да декриптират данните за обучение или теглата на модела.
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 1
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 2
ГЛЕДАЙТЕ: ИТ Индустрията във Варна – част 2 | Епизод 2 | The BIG TECH #BG | DevStyleR
Прочетете още:
1. Кевин О’Лиъри Възнамерява да Купи TikTok?
2. 30% от ИТ Професионалистите Инвестират Суми Между 50 000 и 500 000 лв.
3. Вредните Навици, които QA Специалистите е Нужно да Избягват
