Deepfakes zijn afbeeldingen of video’s waarbij beelden worden gecombineerd met behulp van artificiële intelligentie om zo nieuwe, valse beelden te creëren. Door het gebruik van deep learning is het moeilijk om te achterhalen of deze beelden authentiek zijn.
Om deze beoordeling te kunnen maken lanceert Microsoft nu Microsoft Video Authenticator. Deze toepassing kan een video of foto analyseren en een betrouwbaarheidsscore geven. Bij video’s kan de tool zelfs frame per frame een score toekennen. Dat doet hij door te kijken naar de overgang tussen elementen van de echte en computer-gecreëerde beelden. Deze subtiele fouten zijn vaak niet zichtbaar voor het menselijk oog.
Strijd tegen desinformatie
De nieuwe technologie is een onderdeel van Microsofts Defending Democracy Program. Dat wil bijdragen aan de strijd tegen desinformatie en het beschermen van de democratie. Het programma is een samenwerking tussen Microsoft Research, Microsofts Responsible AI team en het AI, Ethics and Effects in Engineering and Research (AETHER) Committee.
Het gebruik van deepfakes kan vaak een entertainend doel dienen, zoals deze deepfaketool voor Zoom. Toch is al meermaals gewaarschuwd voor misbruik van de toepassing. Zo kan je er snel video’s mee maken, waarin iemand woorden in de mond gelegd krijgt die hij of zij nooit heeft uitgesproken. Dat demonstreerde Jordan Peele in een video waarin hij Barack Obama imiteert. Wanneer niet duidelijk is of het gaat om origineel beeldmateriaal of deepfakes, kan dit objectieve berichtgeving in de weg staan. Daarom lanceert Microsoft zijn Video Authenticator in de aanloop van de Amerikaanse presidentsverkiezingen.
AI Foundation
Dat de technologie om deepfakes te creëren snel ontwikkelt weten ze bij Microsoft ook. Om te voorkomen dat deze ontwikkeling een boost krijgt door de Video Authenticator wordt deze niet vrij verspreid maar enkel aangeboden via de organisatie AI Foundation en zijn Reality Defender 2020 initiatief. Organisaties die bijdragen aan het democratische proces volgens Microsoft kunnen hier toegang verkrijgen.
Om te kunnen oordelen of beeldmateriaal authentiek is, introduceert Microsoft bovendien een tool in Azure. Die voegt een certificaat of digitale vingerafdruk of hash toe aan de metadata van een bestand. Dit maakt het mogelijk om het bestand altijd terug te leiden naar de originele bron.
