26 юни, 2022

Deepfake става все по-голямо явление, което на този етап не можем да предположим до какви нива ще достигне. Но като превенция на потенциални лоши сценарии с технологията, някои компании вече започват да разработват инструменти, които да разпознават фалшификациите. Такъв е примерът с Microsoft, които разработиха Microsoft Video Authenticator, успяващ да анализира с проценти, до каква степен дадена снимка или видео са претърпели изкуствена манипулация.

От гледна точка на видеа, от Microsoft обявиха, че техният инструмент е способен да предоставя процентите в реално време фрейм по фрейм. Той работи като открива границите на смесване на deepfake с избледняващите greyscale елементи, неуловими с човешко око. В категорията на “дълбок фалшификат”, освен снимки и видеа, могат да попаднат и аудио файлове, обработени с изкуствен интелект. В разгара на президентските кампании в САЩ, Microsoft заявяват, че улавянето на фалшиви визуални и аудио материали може да се окаже ключово.

Очакваме, че методите за генериране на синтетично съдържание ще продължават да се развиват по все по-прецизен начин. Всички методи за улавяне на deepfake чрез AI са имали случаи на провал, поради което ние трябва да сме готови и да отговорим подобаващо на deepfake съдържанието, което успява да се прокрадне отвъд методите за определяне. Но освен това, в по-дългосрочен план, ние трябва да търсим по-силни варианти за поддържане и сертифициране на автентичността на новинарските статии и материали, и друг тип медии” пишат Microsoft в своя блог.

Технологията, създадена от Microsoft има два основни компонента. Най-напред е инструмент, построен в Microsoft Azure, който позволява на създателите да добавят дигитални хешове и сертификати към съдържанието. По този начин, където и дадена снимка или видео да попадне онлайн, тя ще се движи постоянно със своя метадата. Вторият компонент е четец, който се използва като разширение на браузъра, проверяващ сертификатите и съпоставящ хешовете, за да определи автентичност.

Освен това, в своята Deepfake битка, Microsoft си партнира и с AI Foundation. Двете структури предоставят видео автентикатора на различни организации, свързани с демократичните процеси. Това се случва през Reality Defender 2020 инициативата – глобално сдружение от големи компании, борещи се срещу дезинформацията в световен план.

Но към инструмента на Microsoft се присъединяват и още организации, съгласяващи се да участват в тестовете – Project Origin, Trusted News Initiative, University of Washington, Sensity, USA Today и др.

Познанието за медиите и съдържанието може да отключи критично мислене в хората, относно контекста, както и да ги ангажира повече като граждани,” споделят от Microsoft.

Партньорите подкрепиха борбата си с Deepfake и с въпросник, свързан с това, доколко хората могат да разпознаят фалшивите изображения.

Тагове: , , , , , , , , , , , , , , , , ,