TikTok a reçu l’ordre de présenter ses excuses à la famille de James Bulger pour la diffusion de vidéos générées par l’IA montrant le petit garçon décrivant son meurtre. Une version animée du bambin apparaît dans les vidéos, décrivant les moments précédant sa mort. Il a été enlevé dans un centre commercial de Merseyside le 12 février 1993 par Jon Venables et Robert Thompson, tous deux âgés de 10 ans à l’époque, qui l’ont ensuite torturé et tué. Sky News a visionné une vidéo dans laquelle une photo de James est animée pour lui faire parler en animant ses lèvres et en lui donnant une voix générée expliquant ce qui s’est passé. La vidéo était facilement accessible après que TikTok ait déclaré avoir supprimé de telles vidéos pour violation de ses directives. L’entreprise chinoise a été alertée par la mère de James, Denise Fergus, qui a déclaré au journal The Mirror que les vidéos étaient “inacceptablement choquantes” et a exigé qu’elles soient supprimées. Kym Darby, présidente du James Bulger Memorial Trust, a déclaré à Sky News qu’il y avait eu plus de 100 vidéos sur la plateforme et que certaines faisaient encore passer. Elle a déclaré : “C’est absolument choquant. Denise n’a pas d’objection à ce que l’on parle de James et de ce qui s’est passé parce que cela sensibilise, notamment les jeunes générations, mais cela a franchi la limite. TikTok lui doit des excuses personnelles et l’assurance qu’elles seront toutes supprimées.” TikTok a déclaré qu’il “n’y a pas de place sur notre plateforme pour du contenu perturbateur de cette nature” et que les médias “synthétiques” mettant en scène des jeunes étaient interdits et seraient supprimés.
Un porte-parole du gouvernement a déclaré à Sky News que le projet de loi sur la sécurité en ligne, sa législation tant attendue sur la sécurité sur l’internet, rendrait les plateformes de médias sociaux légalement responsables du respect de leurs conditions d’utilisation. “Les vidéos horribles de ce genre ne servent à rien d’autre qu’à causer de la détresse et des soucis”, ont-ils déclaré. “Le projet de loi sur la sécurité en ligne, qui deviendra loi dans quelques mois, veillera à ce que les plus grandes plateformes de médias sociaux agissent rapidement pour faire respecter les règles auxquelles elles se sont engagées avec leurs utilisateurs, et ce de manière décisive en cas de plainte. S’ils ne respectent pas les promesses faites aux utilisateurs, le projet de loi donnera au régulateur des médias, Ofcom, le pouvoir d’agir fermement, y compris d’infliger des amendes pouvant aller jusqu’à 18 millions de livres sterling ou 10 % du chiffre d’affaires annuel mondial.”
Mme Darby a déclaré que le mari de Mme Fergus, Stuart, avait contacté l’un des producteurs des vidéos, basé aux Philippines. “Il leur a demandé de les retirer, s’il vous plaît”, a-t-elle dit. “Ils lui ont répondu : ‘nous essayons de sensibiliser à ces affaires terribles’.” Des rapports suggèrent que des vidéos générées par l’IA mettant en scène d’autres enfants disparus ou assassinés, tels que Madeleine McCann et le jeune garçon de Liverpool Rhys Jones, ont également été partagées sur TikTok. Pete Price, animateur de radio qui a relaté l’histoire du meurtre de James il y a plus de 30 ans, a déclaré au programme matinal de Sky News qu’il était “outré” par ces informations. “Quelle est la mentalité derrière cela ? Cet enfant n’a pas seulement été assassiné par deux garçons, il a été torturé”, a-t-il déclaré.
Les tueurs de James, Venables et Thompson, ont été condamnés à la réclusion à perpétuité, mais ont été libérés sous licence avec de nouvelles identités en 2001. Venables, 40 ans, est retourné en prison en 2010 et 2017, ce dernier pour possession d’images indécentes d’enfants. Il s’est vu refuser la libération conditionnelle en 2020. Les vidéos offensantes surviennent alors que le gouvernement s’apprête à organiser un sommet mondial sur la réglementation de l’IA plus tard cette année. Les militants de la sécurité sur Internet demandent déjà que les images générées par l’IA mettant en scène des enfants soient une priorité, un groupe mettant en garde contre les dangers de la diffusion de matériel abusif réaliste.
Leave a Reply