Ang isang bilang ng mga kumpanya kabilang ang Microsoft і Facebook, at maging ang mga mananaliksik mula sa University of Southern California, ay gumagawa ng mga teknolohiya upang labanan ang mga deepfakes at maiwasan ang pagkalat ng mga ito sa pamamagitan ng yellow media at maling impormasyon sa pangkalahatan. Gayunpaman, nagawa pa rin silang linlangin ng isang grupo ng mga siyentipiko.
Nagbabala ang isang pangkat ng mga computer scientist sa University of California, San Diego na posible pa ring lokohin ang mga kasalukuyang deepfake detection system sa pamamagitan ng pagpasok ng data ng input na tinatawag na "mga nakikipagkumpitensyang halimbawa" sa bawat video frame. Iniharap ng mga siyentipiko ang kanilang mga natuklasan sa WACV 2021 Computer Vision Conference, na ginanap online noong nakaraang buwan.
Ang mga nakikipagkumpitensyang halimbawa ay bahagyang binago na mga input na nagiging sanhi ng mga artificial intelligence system, gaya ng mga machine learning model, na magkamali. Bukod pa rito, ipinakita ng team na gumagana pa rin ang pag-atake pagkatapos i-compress ang video. Sa video sa itaas, ipinakita ng mga siyentipiko na ang XceptionNet, isang deepfake detector, ay naglalagay ng label sa kanilang nakikipagkumpitensyang video bilang "totoo."
Karamihan sa mga detector na ito ay gumagana sa pamamagitan ng pagsubaybay sa mga mukha sa isang video at pagpapadala ng na-crop na data ng mukha sa isang neural network para sa pagsusuri. Susuriin ng neural network ang data na ito at hahanapin ang mga elemento na kadalasang hindi maganda ang pag-reproduce sa mga deepfakes, gaya ng pagkutitap.
Sa pamamagitan ng pagpasok ng mga nakikipagkumpitensyang halimbawa, natuklasan ng mga mananaliksik na maaari nilang lokohin ang mga deepfake detector na ito sa paniniwalang totoo ang mga video.
Sinabi nila sa papel na "upang magamit ang mga deepfake detector na ito sa pagsasanay, mahalagang suriin ang mga ito laban sa isang adaptive na kalaban na alam ang proteksyong ito at sadyang sinusubukang sirain ito. Ipinakikita namin na ang mga makabagong pamamaraan ng deepfake detection ay madaling ma-bypass kung ang umaatake ay ganap o bahagyang nalalaman ang detector."
Gaya ng ipinakita ng mga siyentipikong ito, ang mga teknolohiyang automation na binuo upang labanan ang disinformation ay maaaring hindi pa umabot sa gawain.
Basahin din: