OpenAI прекрати връзките с производителя на детски играчки FoloToy, след като изследователи от Public Interest Research Group сигнализираха за сериозен проблем. Оказва се, че едно от задвижваните от изкуствен интелект плюшени мечета на компанията е давало опасни и дори сексуално неприлични съвети на деца
Откритията бяха публикувани миналата седмица в доклад на Public Interest Research Group (PIRG), който дава оценка на AI играчки за деца от 3 до 12-годишна възраст. Сред играчките е плюшеното мече „Kumma“ на FoloToy, което, според изследователите, притежава „най-слаби защитни механизми“.
Според доклада, по време на тестовете ,,Kumma“ не само предлага инструкции как да се намерят и запалят кибритени клечки, но и инициира разговори за „фетиши“ и сексуални ролеви игри. В някакъв момент, след обяснение на различните видове сексуални практики, мечето дори попитало: „Кое мислиш, че би било най-забавно да разгледаме?“
Разкритията веднага предизвикаха реакция от страна на OpenAI, чийто модел GPT-4o захранвал играчката.
„Мога да потвърдя, че отстранихме този разработчик поради нарушение на нашите политики“,
заявява говорител на OpenAI в имейл до PIRG, според изданието Futurism.
Първоначално FoloToy обещава да изтегли само модела на мечето ,,Kumma“, но след вълната от критики са предприети по-мащабни действия.
„Временно преустановяваме продажбите на всички продукти на FoloToy,“
каза представител на компанията.
„В момента извършваме цялостен одит по отношение на безопасността на всички продукти.“
От PIRG приветстват предприетите действия, но посочват, че те далеч не са достатъчни.
„Добре е, че компаниите реагират на проблемите, които посочихме,“
казва Ар Джей Крос, съавтор на доклада, цитиран от Futurism.
„Но AI играчките остават практически нерегулирани и има много други, които все още са на пазара. Изтеглянето на един проблемен продукт е добро начало, но не е системно решение.“
Инцидентът повдига неудобни въпроси относно бързото разпространение на играчките с изкуствен интелект. OpenAI тепърва започва значимо сътрудничество с Mattel, а решението да прекрати партньорството с FoloToy поставя висока летва за това как компанията трябва да реагира при бъдещи нарушения.
PIRG предупреждава, че случаят далеч не е изолиран.
„Други производители на играчки също твърдят, че използват чатботове от OpenAI или други водещи AI компании,“
казва съавторът на доклада Рори Ерлих.
Според него всяка компания, ангажирана в тази дейност, трябва да положи повече усилия, за да гарантира, че тези продукти са безопасни преди да бъдат пуснати на пазара.
Изображение: Freepik (generated)
