New Relic въведе New Relic AI мониторинг, за да предостави на клиентите по-добра представа за състоянието на техните приложения с изкуствен интелект
“Мониторингът на New Relic AI предоставя на инженерите, работещи в областта на изкуствения интелект, силата на наблюдаемостта, като осигурява необходимата информация за отстраняване на грешки, наблюдение и подобряване на приложенията за изкуствен интелект, гарантирайки, че те работят по предназначение, предоставят точни резултати и отговарят на нововъзникващите стандарти за отговорно използване”, пише New Relic в публикация в блога, когато платформата е въведена за първи път в ранен достъп през ноември миналата година.
New Relic AI е вече общодостъпно и ще даде възможност на клиентите бързо да определят основната причина за проблемите с приложенията за изкуствен интелект, което ще позволи по-ефективно отстраняване и разрешаване на проблемите.
То предоставя цялостен поглед върху приложенията за изкуствен интелект и тяхната инфраструктура, като проследява показатели като брой заявки, време за отговор и използване на токени. От един изглед потребителите могат да видят тенденциите в отговорите на ИИ, да анализират настроенията и да видят отзивите на потребителите.
Клиентите могат също така да проследяват жизнения цикъл на отговорите на ИИ, което е полезно за отстраняване на проблеми с производителността и качеството, като халюцинации, например.
Инструментът предоставя и метод за сравняване на различни модели по отношение на производителността, разходите и качеството.
“Чрез проследяване на използването на токени в моделите на ИИ можете да определите кои модели са най-скъпи за изпълнение. След това можете да изберете по-евтини модели, за да оптимизирате архитектурата на приложението си за изкуствен интелект”, пише New Relic.
New Relic има над 60 интеграции в екосистемата на AI, включително популярни LLM, библиотеки за машинно самообучение, векторни бази данни и рамки за оркестрация.
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 1
ГЛЕДАЙТЕ: Къде Инвестират ИТ Специалистите? Успешните Стратегии – Част 2
ГЛЕДАЙТЕ: ИТ Индустрията във Варна – част 2 | Епизод 2 | The BIG TECH #BG | DevStyleR
Прочетете още:
1. Amazon Добави Още Актуализации в Amazon Bedrock
2. Изследователи: Windows Defender Може да Бъде Заблуден да Изтрие Бази Данни
3. ОТ ПЪРВО ЛИЦЕ: РАЗХОДКА ИЗ НОВИЯ ОФИС НА DELASPORT
