YouTube je ažurirao svoja pravila o uznemiravanju i internetskom zlostavljanju kako bi suzbio sadržaj koji, kako su naveli, ‘realistično simulira’ preminule maloljetnike, žrtve smrtonosnih ili nasilnih događaja koji opisuju njihovu smrt.
Do promjene pravila dolazi zbog toga što su pojedini tvorci sadržaja upogonili umjetnu inteligenciju za stvaranje likova koji su nalik preminuloj ili nestaloj djeci.
Time nastoje djeci žrtvama u slučajevima koji su privukli pozornost šire javnosti dati glas nalik dječjem koji opisuje njihovu smrt.
Između ostalih, takvoj su praksi bili izloženi slučajevi poput otmice i smrti britanskog dvogodišnjeg Jamesa Bulgera, Madeleine McCann, britanskoj trogodišnjakinji koja je nestala iz odmarališta, i Gabriela Fernándeza, osmogodišnjeg dječaka kojeg su mučili i ubili njegova majka i njezin dečko u američkoj saveznoj državi Kaliforniji.
YouTube će ukloniti sadržaj koji krši nova pravila, a korisnici koji dobiju opomenu neće moći učitavati videozapise, prijenose uživo ili priče u razdoblju od tjedan dana.
Nakon tri opomene, kanal prekršitelja bit će trajno uklonjen s YouTubea.
Ove promjene dolaze gotovo dva mjeseca nakon što je YouTube uveo nova pravila vezana uz odgovorna otkrivanja sadržaja generiranog umjetnom inteligencijom, zajedno s novim alatima za zahtjeve za uklanjanjem uklanjanja deepfakeova.
Jedna od promjena od korisnika traži prijavu stvaranja izmijenjenog ili sintetičkog sadržaja koji se čini realističnim. Tvrtka je upozorila kako će korisnici koji nisu pravilno prijavili svoju upotrebu umjetne inteligencije biti podvrgnuti ‘uklanjanju sadržaja, suspenziji iz programa YouTube Partner ili drugim kaznama’.
YouTube je u to vrijeme također naznačio kako neki sadržaji kreirani umjetnom inteligencijom mogu biti uklonjeni ako se koriste za prikazivanje “stvarnog nasilja”, čak i ako su označeni.
U septembru 2023. TikTok je pokrenuo alat koji omogućuje kreatorima označavanje vlastitog sadržaja generiranog umjetnom inteligencijom nakon što je društvena aplikacija ažurirala svoje smjernice kako bi od kreatora zahtijevala da otkriju kada objavljuju sintetičke ili manipulirane medije koji prikazuju realistične scene.