Facebook a Instagram našly nový způsob, jak bojovat proti fake news

Nepravdivé informace se rychle šíří na sociálních sítích, a zejména na sítích Meta. Společnost proto našla nový způsob, jak mohou uživatelé zjistit, zda jsou některé obrázky falešné.

Meta, mateřská společnost Facebooku a Instagramu, oznámila, že začne označovat obrázky generované nebo manipulované umělou inteligencí (AI) na jejích platformách. Toto opatření je součástí úsilí společnosti Meta podporovat online transparentnost a zabránit šíření dezinformací, zejména v období před volbami v roce 2024.

Meta již používá viditelný vodoznak k označení obrázků vytvořených vlastním Imagine AI enginem, který dokáže generovat realistické fotografie lidí, míst a věcí. Společnost nyní plánuje rozšířit tuto praxi na obrázky ze zdrojů třetích stran, jako jsou OpenAI, Google a Midjourney. Štítky označují, že obrázky jsou generovány AI, a poskytují více informací o zdroji a procesu. Přesný design etiket se teprve dokončuje, ale Meta sdílela maketu toho, jak by mohly vypadat, se slovy „AI Info“ vedle obrázků.

Přečtěte si také – Na TikToku se kvůli AI šíří stále více fake news a konspirační teorie

Meta chce na svých sociálních sítích označovat falešné obrázky

Kromě viditelných štítků Meta také vyvíjí nástroje pro detekci neviditelných značek v obrázcích z generátorů třetích stran. Tyto značky jsou vloženy do metadat obrázku a slouží jako jedinečné identifikátory, které nelze změnit pomocí editačního softwaru. Meta uvedla, že to plánují i ​​další platformypoužívat takové značky a přeje si nastavit systém, který je rozpozná.

Ale co zvuk a video generované umělou inteligencí? Meta přiznala, že v současnosti nemá technologii k identifikaci tohoto typu obsahu na stejné úrovni jako obrázky. Uvedl však, že průmysl pracuje na vybudování této kapacity a že podle toho aktualizuje své zásady.

Mezitím bude Meta vyžadovat, aby uživatelé uvedli, zda audio nebo video obsah, který nahrávají, byl vytvořen nebo upraven AI. Pokud tak neučiní, budou sankcionováni. Navíc, pokud je obsah tak realistický, že by mohl publikum uvést v omyl, Meta umístí výraznější štítek s dalšími detaily.

Meta se chystá zatočit s falešnými zprávami

Meta také vylepšuje své vlastní nástroje AI, jako je Imagine AI engine a Large Language Models (LLM). FAIR AI Research Lab společnosti pracuje na nové technice vodoznaku nazvané Stable Signature, díky níž budou značky odolnější vůči smazání. Meta také školí své LLM o svých komunitních standardech, takže mohou hlásit obsah, který porušuje její zásady.

Jak se hranice mezi lidským a syntetickým obsahem stále více smazává, lidé chtějí vědět, kde tato hranice leží řekl prezident společnosti pro mezinárodní záležitosti Nick Clegg. “ Lidé často objevují obsah generovaný umělou inteligencí poprvé a naši uživatelé nám řekli, že oceňují transparentnost této nové technologie. Je tedy důležité, abychom lidem pomohli zjistit, zda byl fotorealistický obsah, který vidí, vytvořen pomocí AI “.

Meta uvedla, že v nadcházejících měsících zavede štítky pro obrázky generované AI, jak se připravuje na volby v roce 2024 v mnoha zemích, včetně Spojených států. Společnost doufá, že tato označení pomohou uživatelům činit informovaná rozhodnutí a zabrání šíření dezinformací na jejích platformách.

Nezávisle financovaná, ale nezávisle řízená dozorčí rada společnosti Meta nicméně nedávno požádala společnost, aby přezkoumala její „nekonzistentní“ politiku manipulovaných médií. poté, co potvrdil rozhodnutí, které umožnilo, aby upravené video prezidenta Joea Bidena zůstalo na Facebooku.

Leave a Reply

Your email address will not be published. Required fields are marked *