Brittisk reklammyndighet förbjuder Youtube-annons för PixVideo

Storbritanniens reklammyndighet Advertising Standards Authority (ASA) har förbjudit en reklamfilm på Youtube för PixVideo – AI Video Maker efter klagomål om att den gav intryck av att användare kunde ta bort en kvinnas kläder. Enligt The Independent visade annonsen en ”före”-bild med röda kludd över en kvinnas mage och en ”efter”-bild med blottad hud, tillsammans med texten ”Radera vad som helst”, vilket ledde till åtta anmälningar.

Saeta Tech Ltd, som driver verksamheten under namnet PixVideo, uppgav för myndigheten att annonsen sannolikt kunde väcka allvarlig anstöt, men menade att problemet låg i framställningen snarare än i själva produkten. Företaget sade att villkoren förbjuder naket eller sexuellt explicit innehåll och att automatisk upptäckt stoppar blottade bilder. Det hävdade också att programmet inte är utformat för att möjliggöra att kläder tas bort. ASA godtog att programmet inte tillåter användare att skapa naket eller sexuellt explicit innehåll, men slog ändå fast att annonsen objektifierade och sexualiserade kvinnan och framstod som ett godkännande av att digitalt förändra och exponera kvinnors kroppar utan samtycke.

Beslutet är ett litet ärende men följer ett välkänt mönster: tillsynsmyndigheter kan ofta inte granska en modells faktiska förmågor direkt, men de kan sätta åt strypunkterna runt omkring – reklam, spridning via programbutiker och varumärkets budskap. Det förändrar hur produkter som bygger på artificiell intelligens marknadsförs. Även om ett verktygs verkliga funktioner är begränsade kan en annons som antyder ett kontroversiellt användningssätt bli den överträdelse som faktiskt går att beivra. För utvecklare blir den praktiska lärdomen att ”vad modellen kan göra” väger lättare än ”vad reklamen antyder att den kan göra”, eftersom det senare är begripligt och hanterbart för tillsynen.

Över tid tenderar en sådan tillsyn att gynna företag som har råd med efterlevnadsgranskning, förhandskontroll av marknadsföring och dokumenterade påståenden om innehållsmoderering. Mindre grupper, eller konsumentinriktade program som rör sig snabbt, löper större risk att fällas efter en enda aggressiv kampanj. ASA:s beslut visar också hur styrningen kan förskjutas: i stället för att reglera alstrande system direkt reglerar myndigheter det publika skalet och låter spridningsplattformarna göra resten.

Det förbjudna materialet var varken ett tekniskt faktablad om modellen eller en teknisk demonstration. Det var ett enda bildpar i en Youtube-annons, och det räckte för att utlösa ett formellt förbud.