Barnexperter kräver att Youtube slutar rekommendera AI-skräp till minderåriga

Över 200 barnutvecklingsexperter och påverkansgrupper uppmanar Google att sluta rekommendera datorframställt ”skräp” till barn på Youtube, rapporterar The Independent. I ett öppet brev till Alphabets verkställande direktör Sundar Pichai och Youtubes verkställande direktör Neal Mohan kräver koalitionen att rekommendationer av syntetiska medier stoppas för användare under 18 år och att Youtube Kids slutar tillhandahålla sådant innehåll.

Invändningen är inte att datorframställda videor existerar, utan att Youtubes rekommendationssystem sköter spridningen i stor skala av material som är billigt att producera och svårt för föräldrar att granska. Brevet beskriver ”handlingslösa, hypnotiserande” videor konstruerade för att hålla kvar tittaren, och menar att märkningar som ”ändrat och syntetiskt” saknar betydelse för barn som ännu inte kan läsa. Man hänvisar till forskning som antyder att efter att barn sett populärt förskoleinnehåll kan en stor andel av de efterföljande rekommendationerna bestå av datorframställt material, och till granskningar som funnit att kränkande eller obehagliga videor smugit sig igenom under barnvänliga etiketter.

Youtubes svar, via talespersonen Boot Bullwinkle, är att barnappen håller ”höga standarder” och begränsar innehåll av detta slag till ”en liten uppsättning kanaler av hög kvalitet”, medan huvudplattformen förlitar sig på märkning och skaparnas egna uppgifter. Svaret medger i praktiken kärnproblemet: samma rekommendationsmaskineri som gör vilket format som helst till en tillväxtprodukt gör också granskning och borttagning till en städinsats i efterhand. När den extra kostnaden för att producera ännu en video närmar sig noll blir flaskhalsen spridningen – och den kontrolleras av plattformen.

Nästa steg syns redan i parallella politiska diskussioner: när plattformar inte trovärdigt kan lova att barn inte matas med skräp rör sig lagstiftare mot åldersspärrar och identitetskontroller. Kanada prövar redan tanken på förbud för under 16 år (och därmed identitetsverifiering), och liknande resonemang cirkulerar i Europa. När ålder blir en efterlevnadsvariabel tenderar infrastrukturen att sprida sig: samma kontrollspår som byggs för ”barnsäkerhet” kan återanvändas för innehållsstyrning, regler för annonsinriktning och genomdrivande av ansvarssystem för plattformar.

Koalitionens krav visar också hur branschens egen ekonomi bjuder in reglering. Datorframställt skräp är ett förutsägbart resultat av annonsfinansierade flöden: volym driver tittartid, tittartid driver annonsutrymme och annonsutrymme driver intäkter. ”Säkerhetslagret” blir därefter en egen produkt: policyavdelningar, leverantörer av förtroende- och säkerhetstjänster, märkningssystem och verifieringsverktyg – alla lägger på kostnader samtidigt som ansvaret skjuts utåt till skapare och föräldrar.

Youtube kan fortsätta säga att datorframställt innehåll bara är ”en liten uppsättning” på Youtube Kids, men brevets huvudpoäng gäller rekommendationerna på den bredare plattformen. Tvisten handlar i grunden om vem som styr flödet – och vem som får stå för notan när ett automatiserat distributionssystem pekar barn mot fel videor.