Podvodníci a špioni využívají umělou inteligenci k podvádění zaměstnanců, manipulaci s voliči a šíření dezinformací. OpenAI odhalila desítky mezinárodních operací, kde AI pomáhala naplánovat kyberútoky, politické kampaně a podvody. Co to znamená pro vaši firmu a jak se chránit?
Podvodníci lákají zaměstnance na peněz a osobní údaje
Podvodníci využívají AI k vytváření přesvědčivých nabídek práce, které lákají oběti na jednoduché úkoly za nadstandardní odměny. Například jedna z operací slibovala více než 5 dolarů za jednoduché like na sociálních sítích – což je desetkrát více, než je běžná cena za tisíc likeů.
Podvod probíhá ve třech krocích: nejprve oběť přilákají neuvěřitelnou nabídkou, poté ji přesvědčí o své důvěryhodnosti pomocí falešných recenzí a malých výplat a nakonec požadují úplatu za vstup nebo platbu v kryptoměnách. Jedna z těchto operací, pojmenovaná Wrong Number, byla odhalena náhodou, když zaměstnanec OpenAI obdržel takovou zprávu přes SMS.
Politické kampaně a dezinformace ohrožují i české volby
AI se také stává nástrojem pro manipulaci s veřejným míněním. OpenAI odhalila ruskou kampaň, která používala ChatGPT ke generování textů v němčině před volbami. Kampaň, nazvaná Operation Helgoland Bite, šířila dezinformace proti USA a NATO a podporovala pravicovou populistickou stranu AfD. Kromě toho AI pomáhala překládat ruskou propagandu do němčiny a sledovat německé aktivisty.
Podobné kampaně by mohly ohrozit i české volby nebo veřejné debaty. AI umožňuje generovat přesvědčivé, ale falešné informace, které mohou ovlivnit rozhodování voličů i zaměstnanců.
Čínské operace: od falešných novinářů po dezinformace
OpenAI identifikovala také čínské operace, které využívaly AI k manipulaci s veřejným míněním a špionáži. Jedna z nich, Sneer Review, šířila komentáře na geopolitická témata na platformách jako TikTok a X, aby znevážila kritiky, například pakistánskou aktivistku Mahrangu Baloch. Další kampaň, Vague Focus, používala falešné mediální účty k sběru informací o západních cílech.
Další operace, Uncle Spam, zaplavila americké politické diskuze protichůdnými výrokmi o obchodní politice a používala AI-generované profily falešných válečných veteránů. Tyto metody mohou být využity i proti českým firmám nebo institucím.
Co to znamená pro vaši firmu nebo školu?
Pokud vaše firma nebo škola využívá AI, například pro komunikaci s klienty, zaměstnanci nebo studenty, musíte počítat s tím, že podvodníci nebo špioni mohou zneužít tyto nástroje. Například AI může generovat přesvědčivé zprávy od falešných dodavatelů, zaměstnanců nebo partnerů, jež požadují citlivé údaje nebo peníze.
Dále je důležité pochopit, že AI může být použita k manipulaci s veřejným míněním, například při šíření dezinformací o vaší firmě nebo jejím produktu. To může poškodit vaši reputaci a ovlivnit rozhodování zákazníků nebo investorů.
Co s tím udělat
- Zavedejte dvoufaktorovou autentizaci pro všechny důležité účty, včetně e-mailů a sociálních sítí. To ztíží podvodníkům přístup k vašim datům.
- Vzdělávejte zaměstnance o běžných typech podvodů a naučte je, jak rozpoznat podezřelé nabídky nebo zprávy. Pravidelně provádějte školení s praktickými příklady.
- Monitorujte zprávy o nových typech útoků a sledujte, jak se podvodníci a špioni snaží zneužít AI. Informujte se o aktuálních trendech v kybernetické bezpečnosti.
- Omezujte přístup k citlivým datům a používejte princip need-to-know – zaměstnanci by měli mít přístup pouze k těm datům, které pro svou práci skutečně potřebují.
- Zkontrolujte, jaké AI nástroje používáte a zjistěte, zda jsou vhodně nakonfigurovány. Některé nástroje mohou být zneužity k šíření dezinformací nebo podvodů.
Zdroj: The Decoder – ChatGPT scams range from silly money-making ploys to calculated political meddling (8. 6. 2025)
Článek vychází z uvedeného zdroje.