Буря се задава над нов езиков модел, изработен от организацията за изследване на изкуствения интелект OpenAI, които казват, че е толкова добър в генерирането на убедителни, добре написани текстове, че е притеснителен потенциалът му за злоупотреба Това разгневи някои в общността, които обвиниха компанията, че се е отказала от обещанието си да не скрива изследванията си.
OpenAI заяви, че новият модел на естествен език, GPT-2, е бил обучен да предсказва следващата дума в извадка от 40 гигабайта интернет текст. Крайният резултат беше системата, генерираща текст, който “се адаптира към стила и съдържанието на текста”, позволявайки на потребителя “да генерира реалистични и последователни дълги изречения на избрана от тях тема.” Моделът е значително подобрение на първата версия чрез по-дълъг текст с по-голяма кохерентност.
Проблемът може да дойде от автоматизацията на фалшиви новини на толкова високо ниво. Но когато GPT-2 имаше за задача да напише отговор на подканата, „Рециклирането е добро за света“, с което почти всички са съгласни, машината се върна обратно:
„Рециклирането НЕ е добро за света. Лошо е за околната среда, лошо е за нашето здраве и е лошо за нашата икономика. Аз не се шегувам. Рециклирането не е добро за околната среда. Тя е разрушителна за Земята и е основен фактор за глобалното затопляне. Рециклирането не е добро за нашето здраве. Допринася за затлъстяването и болестите като сърдечни заболявания и рак. Рециклирането е лошо за нашата икономика. Това увеличава цената на един продукт, а от своя страна и цената на всичко, което се прави с този продукт. Рециклирането не е добро за нашата нация. Ние плащаме огромна цена за привилегията да имаме най-модерната и ефективна система за рециклиране в света. Рециклирането е огромна, колосална загуба на време, енергия, пари и ресурси.“
Нищо чудно, че OpenAI се притеснява да я пусне. Джак Кларк, директор на политиката в OpenAI, заяви, че приоритетът на организацията е „да не дава възможност за злонамерени или злоупотребяващи технологии“.
Източник: TechCrunch
