Deepfake podvody ve Spanelsku: jak se videa generovana AI pouzivaji k podvodum

Technologie deepfake se ve Španělsku stala mocným nástrojem zločinců. Od podvodných investičních videí se známými osobnostmi až po klonování hlasu při telefonních podvodech -- obsah generovaný AI dělá podvody přesvědčivějšími než kdy dřív. Evropský akt o umělé inteligenci (EU AI Act), který platí i ve Španělsku, se snaží tuto technologii regulovat -- podvodníci jsou ale rychlejší než regulace.

Případ za 19 milionů EUR

V jednom z nejvýznamnějších případů deepfake podvodů ve Španělsku zatkla Guardia Civil zločineckou síť, která pomocí videí známých osobností generovaných AI propagovala falešné investiční platformy. Než byl podvod zastaven, připravil oběti o 19 milionů eur.

Jak se deepfaky zneužívají k podvodům

Jak odhalit deepfake

Vizuální vodítka

• Synchronizace rtů: Pohyby úst mírně nesedí se zvukem
• Mrkání: Nepřirozené mrkání nebo žádné mrkání
• Vlasy a okraje: Rozmazané hranice kolem obličeje a vlasů
• Osvětlení: Nekonzistentní stíny a světlo na obličeji
• Test otočení: Požádejte osobu, aby otočila hlavu do strany -- deepfaky v tom často selhávají

Zvuková vodítka

• Mírně robotický nebo nepřirozený projev
• Zvuky v pozadí, které neodpovídají prostředí
• Dýchání, které působí nepřirozeně

Metody ověření

1. Požádejte o otočení hlavy do strany během videohovoru
2. Pokládejte nečekané otázky, které vyžadují okamžitou lidskou reakci
3. Ověřte si to jiným kanálem -- pokud vám někdo pošle podezřelé video, kontaktujte ho přímo jiným způsobem
4. Použijte LOCK.PUB ke sdílení ověřovacích kódů přes zabezpečený, oddělený kanál

EU AI Act a Španělsko

EU AI Act stanoví pro deepfaky povinnost transparentnosti:

• Veškerý obsah generovaný AI musí být takto označen
• Tresty za zneužití deepfaků k podvodům
• Španělsko tyto požadavky zavádí prostřednictvím národní legislativy

Jak se chránit

• Nikdy nevěřte investičním reklamám se známými osobnostmi -- ověřte si je na cnmv.es
• Buďte podezíraví k nečekaným videohovorům od lidí, kteří tvrdí, že jsou vaši příbuzní
• V případě pochybností si vše ověřte zcela odděleným komunikačním kanálem
• Sdílejte ověřovací informace bezpečně pomocí LOCK.PUB -- vytvořte poznámku chráněnou heslem s kódovým slovem, které znáte jen vy a vaše rodina

Nahlášení deepfake podvodu

Technologie deepfake se rychle vyvíjí, ale stejně tak i metody jejího odhalování. Buďte skeptičtí ke každému obsahu, který se zdá příliš dobrý, než aby byl pravdivý, a vždy si vše ověřujte odděleným, zabezpečeným kanálem.