William Shatner utpekas falskt som dödssjuk i hjärncancer
Fejkgrupp på Facebook använder bildskapande artificiell intelligens och påhittade artiklar för att driva trafik och tjäna pengar, produktionskostnaden närmar sig noll och plattformarnas algoritmer belönar känslostormar snabbare än källkedjor
Bilder
standard.co.uk
standard.co.uk
Skådespelaren William Shatner uppger att en grupp på Facebook använt datorframställda bilder och påhittade artiklar för att påstå att han har hjärncancer i fjärde stadiet, och därefter spridit inläggen i sociala medier för att tjäna pengar. Shatner, 95 år och mest känd som kapten Kirk i Star Trek, säger att historierna var tillräckligt övertygande för att fans skulle dela dem vidare och skicka stödmeddelanden, medan kontoägarna gjorde pengar på trafiken, enligt Evening Standard.
Upplägget känns igen från äldre klickbetessvindlerier, men bild- och textmaskiner förändrar kalkylen. Den som driver ett bedrägeri behöver inte längre ett äkta fotografi, en gammal intervju eller ens sammanhängande språk. En bildmaskin kan på beställning skapa en trovärdig ”nyhetsbild”, och en textmaskin kan skriva en hel berättelse på några sekunder. Kostnaden för att producera ett enskilt trovärdigt inlägg sjunker mot noll, vilket gör mängd till strategi: publicera många varianter, pröva vad som får spridning och låt plattformarnas spridningssystem leverera publiken.
Sjukdomspåståenden är särskilt verkningsfulla eftersom de utlöser förutsägbara reaktioner. En cancerdiagnos driver fram brådskande delningar, känslomässigt engagemang och en vilja att ”hjälpa” genom att förstärka budskapet – just de signaler som sociala plattformar tolkar som bevis på relevans. Standard rapporterar att bluffinläggen om Shatner inte stannade vid cancer, utan också innehöll påhittat privat drama. Det pekar på en mall där personen i centrum kan bytas ut, medan målet är detsamma: uppmärksamhet som kan omvandlas till pengar.
Det finns metoder för kontroll, men de är ojämnt fördelade. Shatners råd till följare – att bara lita på hans konton som är verifierade – fungerar för en känd person med en etablerad närvaro på nätet. Det skalar inte till vanliga människor, och inte heller till floden av syntetiskt innehåll som efterliknar lokala nyhetsnamn och utseenden. Plattformar kan stänga enskilda grupper, vilket tycks ha skett här, men nedstängning är en åtgärd i efterhand när konton snabbt kan återskapas och intäkter kan hinna tas ut innan regleringen hinner ikapp.
En mer varaktig lösning är ursprungsmärkning: att kunna följa var en bild och ett påstående kommer ifrån och om det passerat en ansvarig publiceringsprocess. I praktiken når dock de flesta virala inlägg mottagaren utan spårbar källkedja, och drivkrafterna belönar snabbhet snarare än kontroll.
Shatner säger att historierna ”gjordes pengar på” och att ”inget av detta är sant”. Facebookgruppen han pekade ut tycks ha tagits bort.