HTCinside


Microsoft oznamuje Video Authenticator k identifikaci Deepfakes

Bojovat proti šířeníhluboké padělkySpolečnost Microsoft vydala nový nástroj pro ověřování videa, který lze použít k analýze statického obrázku nebo videa k určení procentuální pravděpodobnosti, že médium bylo uměle zmanipulováno.

V případě videa Microsoft uvedl, že toto procento může být poskytnuto v reálném čase pro každý snímek během přehrávání videa. Detekuje splývající linii hlubokých, jemných odstínů šedé nebo vybledlých prvků, které nemusí být pro lidské oko viditelné.

Deepfakes nebo syntetická média mohou být fotografie, videa nebo zvukové soubory, které jsou manipulovány umělou inteligencí (AI). Detekce hlubokých padělků je podle Microsoftu zásadní v nadcházejících volbách v USA.

Technologie byla vytvořena pomocí veřejné datové sady od Face Forensic ++. Microsoft uvedl, že byl testován pomocí datové sady DeepFake Detection Challenge, která je považována za hlavní model. školit a testovat příchozí technologie detekce padělků.

„Předpokládáme, že složitost metod vytváření syntetických médií bude i nadále narůstat. Protože všechny metody detekce umělé inteligence mají chybovost, musíme pochopit a být připraveni reagovat na hluboce zakořeněné padělky, které procházejí detekčními metodami.“ uvedla společnost v příspěvku na blogu.

„Z dlouhodobého hlediska proto musíme hledat silnější způsoby, jak zachovat a ověřovat autenticitu zpravodajských článků a dalších médií.“

S několika dostupnými nástroji představil Microsoft také novou technologii, která dokáže detekovat zmanipulovaný obsah a zajistit, že média, která sledujete, jsou pravá.

Technologie se skládá ze dvou komponent. První je nástroj zabudovaný do Microsoft Azure, který umožňuje producentovi obsahu přidávat k obsahu digitální hash a certifikáty.

„Haše a certifikáty žijí s obsahem jako metadata, ať jsou kdekoli online,“ řekl Microsoft.

Druhým je čtečka, kterou lze zahrnout do rozšíření prohlížeče, které ověřuje certifikáty a porovnává hashe se shodami, aby se zjistila pravost.

Společnost Microsoft také spolupracovala s nadací AI Foundation v její hluboké podvodné bitvě. V rámci partnerství obě strany prostřednictvím iniciativy Reality Defender 2020 nadace poskytnou autentizátory videa organizacím zapojeným do demokratického procesu, včetně zpravodajských organizací a politických kampaní.

Video autentizátor bude zpočátku dostupný pouze prostřednictvím iniciativy.

Další partnerství s konsorciem mediálních společností známým jako Project Origin testuje technologii pravosti společnosti Microsoft. Iniciativa několika vydavatelů a společností sociálních médií, Trusted News Initiative, rovněž souhlasila se spoluprací s Microsoftem na testování jejich technologie.

Washingtonská univerzita, In-House Counterfeit Detection Sensitivity a USA Today se také spojily s Microsoftem, aby zlepšily mediální gramotnost.

„Zlepšením mediální gramotnosti mohou lidé eliminovat dezinformace založené na skutečných událostech a řídit rizika levných a hlubokých padělků,“ řekl Microsoft. 'Znalost médií nám všem může umožnit kriticky přemýšlet o mediálním kontextu a stát se angažovanějšími občany a zároveň si užívat satiru a parodii.'

Součástí tohoto partnerství bude veřejná oznamovací kampaň, která vyzve lidi, aby se „na chvíli zamysleli“ a ověřili, že informace pocházejí od renomované zpravodajské organizace, než je budou sdílet nebo propagovat. na sociálních sítích před volbami.

Strany také spustily dotazník pro americké voliče, aby se dozvěděli více o syntetických médiích.