Той може ефективно да изпълнява задачи като генериране на SQL, писане на код и следване на инструкции, като постига или надминава референтните стойности в тези области в сравнение с моделите, които имаха много по-голям бюджет за обучение, отколкото беше необходимо.
Според Snowflake тези показатели са важни за предприятията, тъй като това са възможностите, необходими за изграждане на генеративни AI copilots.
Arctic е на едно ниво по отношение на корпоративната си интелигентност с LLama 3 8B и Llama 2 70B, но е използвал по-малко от половината от бюджетите за обучение като тези модели. Той също така е на едно ниво с Llama 3 70B, който има седемнадесет пъти по-висок бюджет за обучение.
Snowflake е на мнение, че ниските разходи за обучение ще позволят на компаниите да обучават персонализирани модели, без да се налага да харчат прекалено много пари.
“Изграждането на интелигентни модели от най-високо ниво за предприятията с помощта на LLM традиционно е прекомерно скъпо и изисква много ресурси и често струва десетки до стотици милиони долари”, пише екипът на Snowflake AI Research в публикация в блога.
Arctic е с отворен код под лиценза Apache 2.0.
“Предоставяйки на общността на ИИ водеща в индустрията интелигентност и ефективност по един наистина отворен начин, ние разширяваме границите на възможностите на ИИ с отворен код. Изследванията ни с Arctic значително ще увеличат възможностите ни да предоставяме надежден и ефективен ИИ на нашите клиенти”, казва Шридхар Рамасвами, главен изпълнителен директор на Snowflake.
Arctic LLM е част от семейството модели на ИИ Arctic, което включва и модел за вграждане на текст.
Arctic LLM вече е достъпен чрез Hugging Face, като се очаква скоро да е наличен и в Snowflake Cortex, Amazon Web Services (AWS), Microsoft Azure, NVIDIA API catalog, Lamini, Perplexity, Replicate и Together.
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 1
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 2
ГЛЕДАЙТЕ: ИТ Индустрията във Варна – част 2 | Епизод 2 | The BIG TECH #BG | DevStyleR
Прочетете още:
1. ОТ ПЪРВО ЛИЦЕ: РАЗХОДКА ИЗ НОВИЯ ОФИС НА DELASPORT
2. От Състезанията по Информатика до MIT – Формулата за Успех на Румен Христов
3. Ocado Technology създава ново звено в България
]]>
“Мониторингът на New Relic AI предоставя на инженерите, работещи в областта на изкуствения интелект, силата на наблюдаемостта, като осигурява необходимата информация за отстраняване на грешки, наблюдение и подобряване на приложенията за изкуствен интелект, гарантирайки, че те работят по предназначение, предоставят точни резултати и отговарят на нововъзникващите стандарти за отговорно използване”, пише New Relic в публикация в блога, когато платформата е въведена за първи път в ранен достъп през ноември миналата година.
New Relic AI е вече общодостъпно и ще даде възможност на клиентите бързо да определят основната причина за проблемите с приложенията за изкуствен интелект, което ще позволи по-ефективно отстраняване и разрешаване на проблемите.
То предоставя цялостен поглед върху приложенията за изкуствен интелект и тяхната инфраструктура, като проследява показатели като брой заявки, време за отговор и използване на токени. От един изглед потребителите могат да видят тенденциите в отговорите на ИИ, да анализират настроенията и да видят отзивите на потребителите.
Клиентите могат също така да проследяват жизнения цикъл на отговорите на ИИ, което е полезно за отстраняване на проблеми с производителността и качеството, като халюцинации, например.
Инструментът предоставя и метод за сравняване на различни модели по отношение на производителността, разходите и качеството.
“Чрез проследяване на използването на токени в моделите на ИИ можете да определите кои модели са най-скъпи за изпълнение. След това можете да изберете по-евтини модели, за да оптимизирате архитектурата на приложението си за изкуствен интелект”, пише New Relic.
New Relic има над 60 интеграции в екосистемата на AI, включително популярни LLM, библиотеки за машинно самообучение, векторни бази данни и рамки за оркестрация.
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 1
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 2
ГЛЕДАЙТЕ: ИТ Индустрията във Варна – част 2 | Епизод 2 | The BIG TECH #BG | DevStyleR
Прочетете още:
1. Amazon Добави Още Актуализации в Amazon Bedrock
2. Изследователи: Windows Defender Може да Бъде Заблуден да Изтрие Бази Данни
3. ОТ ПЪРВО ЛИЦЕ: РАЗХОДКА ИЗ НОВИЯ ОФИС НА DELASPORT
]]>
Amazon Bedrock е управлявана услуга, която се занимава с базисната инфраструктура за тези модели, така че разработчиците да могат да създават генеративни AI приложения, без да се притесняват за управлението им.
“Продължаваме да въвеждаме бързи иновации за нашите клиенти, като удвояваме ангажимента си да им предоставяме най-пълния набор от възможности и избор от водещи в индустрията модели, като допълнително демократизираме иновациите в областта на генеративния изкуствен интелект в голям мащаб”, заяви д-р Свами Сивасубраманиан, вицепрезидент на AI и Data в AWS.
Технологичният гигант добави и нова опция за импортиране на потребителски модели, която позволява на разработчиците да добавят свои собствени модели в Amazon Bedrock. С това те ще могат да използват модели, специфични за дадена област, които са обучени върху техни собствени данни.
Компаниите могат да създават своите модели в Amazon SageMaker или друг инструмент и след това да ги импортират в Amazon Bedrock.
Импортираните модели преминават през автоматизиран процес на валидиране, за да се гарантира, че отговарят на подходящи предпазни мерки и отговорни стандарти за изкуствен интелект. В момента се поддържат три отворени моделни архитектури – Flan-T5, Llama и Mistral – и в бъдеще ще бъдат добавени още.
Amazon добави и нова възможност за оценка на моделите, която позволява на екипите да сравняват различни модели в Amazon Bedrock. Според Amazon компаниите могат да прекарат дни или седмици в оценяване на различни модели, за да определят дали те отговарят на техния случай на употреба. Целта на тази нова функция е значително да съкрати времето за оценка.
Разработчиците могат да избират критерии за оценка, като например точност или устойчивост, и да качват свой собствен набор от данни. След това Amazon Bedrock извършва оценки на различни модели и генерира отчет, който показва как се е представил всеки модел за всеки критерий.
Друга нова функция е Guardrails за Amazon Bedrock, която улеснява компаниите да прилагат защитни мерки, съобразени със собствените им политики за отговорен изкуствен интелект. Повечето модели имат свои собствени предпазни мерки, но последната може да блокира 85% от вредното съдържание.
Разработчиците също така могат да добавят филтри за премахване на лична информация, специфични думи или нецензурни изрази.
Други важни актуализации са свързани с Amazon Titan.
Amazon Titan Image Generator позволява на разработчиците да подобряват или редактират съществуващи изображения чрез подсказки на естествен език и вече е общодостъпен.
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 1
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 2
ГЛЕДАЙТЕ: ИТ Индустрията във Варна – част 2 | Епизод 2 | The BIG TECH #BG | DevStyleR
Прочетете още:
1. От Състезанията по Информатика до MIT – Формулата за Успех на Румен Христов
2. Ocado Technology създава ново звено в България
3. ОТ ПЪРВО ЛИЦЕ: РАЗХОДКА ИЗ НОВИЯ ОФИС НА DELASPORT
]]>
Според компанията Stoplight помага да се улесни процесът на разработване на API, като предоставя интуитивен интерфейс за проектиране. Това прави проектирането на API достъпно за нетехнически потребители и улеснява процеса за техническите потребители.
“Обединяването на усъвършенстваните функции за проектиране на API на Stoplight в SwaggerHub подчертава този ангажимент за подобряване на жизнения цикъл на разработката на API, което е особено важно сега с навлизането на API, свързани с изкуствен интелект. Клиентите могат да очакват многобройни ползи”, каза Шон Бътлър, вицепрезидент по управление на продуктите в SmartBear.
По-късно тази година компанията планира да включи Prism в SwaggerHub, което ще позволи на разработчиците да създават имитационни сървъри въз основа на своите API дефиниции.
В допълнение към това SmartBear разкри намерението си да реорганизира продуктовото си портфолио от над 20 решения в три категории: API Hub, Test Hub и Insight Hub.
“Тъй като SmartBear пренасочва своите продуктови предложения към интуитивни центрове за решения, интегрирането на инструментите на Stoplight в SwaggerHub е пример за нашата отдаденост към решаването на реалните предизвикателства, пред които са изправени нашите клиенти. Подобряването на дизайн на API и работата върху надеждни API е общо усилие”, пише SmartBear в публикация в блога.
Наскоро платформата интегрира приложението Spectral, което предоставя на авторите на API нови функции за осигуряване на качеството на API, които не само подобряват цялостното качество, но и помагат за осигуряване на последователно портфолио на API и намаляване на потенциалните грешки.
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 1
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 2
ГЛЕДАЙТЕ: ИТ Индустрията във Варна – част 2 | Епизод 2 | The BIG TECH #BG | DevStyleR
Прочетете още:
1. Изследователи: Windows Defender Може да Бъде Заблуден да Изтрие Бази Данни
2. ОТ ПЪРВО ЛИЦЕ: РАЗХОДКА ИЗ НОВИЯ ОФИС НА DELASPORT
3. 18 Българчета Грабнаха Награди от Международно Състезание по Английски
]]>
Бумът на интереса към основните модели и генеративния ИИ води до нарастване на търсенето на допълнителна изчислителна мощност, както и на интереса към обучението на все по-големи модели.
Според документите, с които разполага Insider, Microsoft се подготвя да отговори на този проблем, като удвои капацитета на Azure през втората половина на тази финансова година, която продължава до края на юни.
Microsoft ще увеличи капацитета на допълнителните центрове за данни три пъти през първата половина на фискалната си година 2025.
Според гореспоменатите документи компанията внедрява “рекорден брой графични процесори”, за да се справи с натоварванията на AI, и е увеличила повече от два пъти общата си инсталирана база от ускорители през втората половина на миналата година.
Припомняме ви, че Microsoft имаше възнамерениe миналата година да похарчи “много милиарди долари” за изграждане на допълнителен капацитет в очакване на бързото нарастване на броя на клиентите, които искат да изпълняват проекти за генеративен ИИ.
Към края на 2023 г. данните на Synergy показват, че на САЩ се падат 51% от глобалния капацитет, измерен чрез MW критично ИТ натоварване, на Европа – 17%, а Китай е близо до тях с 16%.
Компаниите с най-голям отпечатък са всъщност тримата големи доставчици на облачни услуги – Amazon, Microsoft и Google. Те притежават 60% от целия капацитет на хипермащабните центрове за данни, следвани от Meta, Alibaba, Tencent, Apple, ByteDance и други сравнително малки хипермащабни оператори.
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 1
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 2
ГЛЕДАЙТЕ: ИТ Индустрията във Варна – част 2 | Епизод 2 | The BIG TECH #BG | DevStyleR
Прочетете още:
1. Ocado Technology създава ново звено в България
2. От Състезанията по Информатика до MIT – Формулата за Успех на Румен Христов
3. Впечатляващи Иновативни Проекти Победиха в Дни на Роботиката ’24 към ТУ-София
]]>
“Това е само началото – очакваме бъдещите версии на Tricentis Copilot да имат още по-големи ползи”, казва Мав Търнър, главен директор продукти и стратегии в Tricentis
С помощта на Testim Copilot потребителите могат да въведат текстово описание на това, което искат да тестват, и да получат JavaScript кода за този тест. В допълнение към предоставянето на тестовия код, той предоставя и обяснение на този код, което улеснява разбирането му и повторното използване за бъдещи тестове, в подобни случаи.
Чрез включването на генеративен ИИ в процеса на тестване Tricentis се надява да направи тестването достъпно за тестери с не толкова големи технически познания.
Testim Copilot може да спести време и да намали грешките.
“Testim Copilot поставя ИИ директно в ръцете на потребителя, като автоматично предлага тестови случаи и поправки, което означава повече време, отделено за работните процеси, за да се повиши производителността и да се подобри времето за пускане на пазара на нови приложения”, споделя още Търнър.
Според Tricentis клиентите, които вече използват нейните инструменти за изкуствен интелект, са намалили процента на неуспешни тестове с 16%.
Следващите продукти на Tricentis, които ще се сдобият с AI Copilots, ще бъдат Tricentis Tosca (понастоящем в бета версия) и Tricentis qTest.
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 1
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 2
ГЛЕДАЙТЕ: ИТ Индустрията във Варна – част 2 | Епизод 2 | The BIG TECH #BG | DevStyleR
Прочетете още:
1. От Състезанията по Информатика до MIT – Формулата за Успех на Румен Христов
2. Ocado Technology създава ново звено в България
3. Впечатляващи Иновативни Проекти Победиха в Дни на Роботиката ’24 към ТУ-София
]]>
Британската компания Ocado Technology създава изцяло нова дивизия в своя софийски офис. Звеното се нарича Център за техническа поддръжка на дейностите в автоматизираните складове и е допълнение към вече съществуващите екипи на Ocado у нас. Мисията на формиращия се екип е да осигурява 24-часов мониторинг и техническа поддръжка на всички компютърни системи, ботове, роботи и др. електронни съоръжения в складовете на Ocado за изпълнение на онлайн поръчки.
Ocado Technology е високотехнологична компания, чиято цел е да трансформира глобалния сектор с онлайн търговия. Тя създава Ocado Smart Platform – най-усъвършенстваната в света платформа за електронна търговия от край до край, която включва онлайн магазин, автоматизирани складове за изпълнение на клиентски поръчки и логистика. В един автоматизиран склад едновременно се движат до 3000 мобилни робота със скорост от 4 метра в секунда, които се разминават на разстояние 5 мм един от друг. Тяхната роля е бързо да транспортират стоки на територията на целия склад, за да може продуктите да бъдат комплектовани в съответните клиентски поръчки, които да са готови за доставка в най-кратки срокове. В складовете има хардуер, софтуерни системи за управление в реално време, системи базирани на изкуствен интелект, компютърно зрение и още много. С тях, една клиентска поръчка от 50 продукта може да се изпълни в рамките на само 5 минути. За да се осигури безупречното и непрекъснато функциониране на всички системи във високоавтоматизираните складове, Ocado сега създава своето ново звено в София, което има за цел да следи и осигурява поддръжка на технологиите в тях.
Екипът в момента се сформира и търси нови попълнения
Ocado в момента е в процес на изграждане на своя Център за техническа поддръжка на дейностите в автоматизираните складове. Всеки, който има желание да се реализира в сферата на техническата поддръжка и да се включи към екипа, може да разгледа предложението на Ocado и да кандидатства. Ролята е подходяща дори за хора без познания в програмирането или предходен опит в роботиката. Екипите работят на смени, за да осигурят 24-часово следене на системите в складовете.
Симбиоза между tech dev и tech support
Центърът за техническа поддръжка е базиран в софийския офис на Ocado и от там следи дейностите в автоматизираните складове по целия свят. Към момента складовете са 16 и функционират във Великобритания, Канада, САЩ, Франция, Япония и др. За да осъществява поддръжка на роботите и системите в тях, екипът си колаборира както с машинните инженери на място в складовете, така и със софтуерните инженери в София, които създават и поддържат инструментите им.
API вече включва инструмент за търсене на файлове, който позволява търсене на до 10 000 файла на асистент и може да позволи на разработчиците да интегрират извличане на знания в своите асистенти. Той работи с обектите на векторното хранилище на OpenAI.
Компанията също така въведе и нови контроли за задаване на максималния вход и изходен токен, така че разработчиците да могат по-пряко да ограничават разходите. Те вече могат също така да избират колко последни съобщения ще се използват за съкращаване на контекста.
Сред другите новости е и въвеждането на опцията Tool Choice, която позволява избирането на съответен инструмент. Други актуализации в тази версия включват повече настройки за конфигурация на модела, нови помощни програми за стрийминг и анкетиране, поддръжка на фино настроени модели и др.
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 1
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 2
ГЛЕДАЙТЕ: ИТ Индустрията във Варна – част 2 | Епизод 2 | The BIG TECH #BG | DevStyleR
Прочетете още:
1. Ясни са Победителите в Дни на Роботиката ‘24, Тех Компании Подкрепиха Събитието
2. Oracle Пусна Критична Актуализация, Отстрани 372 Уязвимости
3. 5 Страхотни Функции, които да Очаквате в Windows 11
]]>
Проектът е под ръководството на организацията LF AI and Data на Linux Foundation, която се фокусира върху платформени инициативи, свързани с изкуствения интелект и данните.
Изпълнителният директор на LF AI and Data Ибрахим Хададт посочва в съобщение за пресата, че очакванията са OPEA да проправи пътя за пускането на “подсилени”, “мащабируеми” генеративни системи за изкуствен интелект, които “използват най-добрите иновации с отворен код от цялата екосистема”.
“OPEA ще отключи нови възможности в областта на изкуствения интелект, като създаде подробна, композитна рамка, която е в челните редици на технологичните стекове. Тази инициатива е доказателство за нашата мисия да стимулираме иновациите и сътрудничеството с отворен код в рамките на общностите за ИИ и данни при неутрален и отворен модел на управление”, казва Хададт.
Сред други членове на проекта са Intel, Red Hat, собственост на IBM, Hugging Face, Domino Data Lab, MariaDB и VMware.
На въпроса какво тези компании могат да изградят заедно Хаддад загатва за няколко възможности, като например “оптимизирана” поддръжка за вериги от инструменти и компилатори за ИИ, които позволяват натоварванията с ИИ да се изпълняват на различни хардуерни компоненти, както и “хетерогенни” конвейери за генериране на разширени данни (RAG). RAG придобива все по-голяма популярност в корпоративните приложения на генеративния изкуствен интелект.
RAG моделите се позовават на тази външна информация – която може да бъде под формата на патентовани фирмени данни, публична база данни или някаква комбинация от двете – преди да генерират отговор или да изпълнят задача.
Членовете на OPEA споделят, че са силно заинтересовани от създаването на инструментариум за корпоративен генеративен изкуствен интелект.
Въпреки че всяка от компаниите има различен акцент – Cloudera се фокусира върху облачната AI екосистема, Domino предлага приложения за генеративен ИИ за бизнеса, а VMware се занимава с инфраструктурата за AI – всички те показват интерес към развитието на ИИ и са стартирали продукти и партньорства в тази област.
Въпросът за наистина съвместна работа върху разработването на съвместими инструменти за ИИ в рамките на OPEA остава обаче отворен. Въпреки че компаниите могат да имат различни интереси и стратегии, колаборацията е възможна, особено ако имат обща точка, която опира до развитието на ИИ технологиите.
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 1
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 2
ГЛЕДАЙТЕ: ИТ Индустрията във Варна – част 2 | Епизод 2 | The BIG TECH #BG | DevStyleR
]]>
Този напредък превръща Samsung в новия водещ производител на телефони, претендирайки за 20,8 % пазарен дял, с което е изпреварил Apple Inc.
НЕ ПРОПУСКАЙТЕ: Последен Ден за Записване за Безплатния Курс – Управление на Интернет Страници с WordPress
Въпреки че Apple доминира на пазара на смартфони през първото тримесечие на 2024 г. доставките на компанията намаляха с около 10%. Според данни на IDC Android е най-голямата конкуренция на iPhone, криейки опасност да заеме перманентна доминираща позиция.
Спадът в продажбите на Apple съвпадат и с китайските брандове като Huawei, които спечелиха пазарен дял. Xiaomi е друга китайска марка смартфони, която заема трета позиция с пазарен дял от 14,1 %.
Според някои серията Galaxy S24 е тази, която е изстреляла Samsung на върха още в началото на годината. Компанията съобщи още, че е доставила над 60 милиона телефона през периода, като глобалните продажби на смартфоните от серията Galaxy S24 са отбелязали 8-процентно увеличение в сравнение с 2023 г.
През първото тримесечие Apple е доставила 50,1 млн. броя iPhone, което е намаление в сравнение с 55,4 млн. броя, които са били доставени през същия период на 2023 г. Този спад на доставките е особено забележим на китайския пазар, където доставките на смартфони на Apple са намалели с 2,1% при анализа на последното тримесечие на 2023 г.
За спадът на доставките на Apple роля играят и компаниите заедно с правителствените агенции, които допълнително са ограничили служителите си да използват устройства на Apple.
Изкуственият интелект е друга причина, която, според запознати, е допринесла за отстъпването на водещата позиция от страна на Apple, тъй като компанията от силициевата долина е значително тиха по отношение на AI технологиите, за разлика от други свои конкуренти, които правят пробив с AI иновации.
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 1
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 2
ГЛЕДАЙТЕ: ИТ Индустрията във Варна – част 2 | Епизод 2 | The BIG TECH #BG | DevStyleR
Прочетете още:
1. Последен Ден за Записване за Безплатния Курс – Управление на Интернет Страници с WordPress
2. Ръководител в Amazon: “Мит” е, че Роботите ще Заменят Хората
3. OpenAI Пусна Подобрена Версия на ИИ – GPT-4 Turbo
]]>