La madre del niño asesinado James Bulger ha hablado de su agonía después de descubrir Tiktok los ghouls han creado AI Videos de su hijo hablando sobre su propio asesinato.
James, de dos años, fue secuestrado, torturado y golpeado hasta la muerte por niños de 10 años Jon Venables y Robert Thompson en 1993 en un delito lo que sorprendió a la nación.
La pareja se convirtió en la más joven en ser condenada por asesinato después de que el cuerpo de James fue encontrado en una vía ferroviaria dos días después.
Pero madre Denise Fergus ha contado cómo las personas enfermo continúan aprovechando su dolor tres décadas después creando videos de IA ‘repugnantes’.
Los clips, que se han compartido en Tiktok, pero también en otras plataformas, incluidas YouTube y InstagramCuentan con clones digitales generados por AI de James hablando sobre el asesinato en primera persona.
Otras películas enfermas muestran representaciones generadas por IA del secuestro de James e incluso entrevistas policiales en las que los asesinos niegan cualquier irregularidad.
Algunas incluso representaron imágenes de IA del cuerpo del niño que se fue abandonado en las vías del ferrocarril.
La Sra. Fergus le dijo al BBC Los videos eran «absolutamente repugnantes» y que los creadores detrás de ellos «no entienden cuánto están lastimando a las personas».
James, de dos años, fue secuestrado, torturado y golpeado hasta la muerte por los niños de 10 años Jon Venables y Robert Thompson en 1993 en un crimen que conmocionó a la nación
La madre Denise Fergus ha contado cómo las personas enfermo continúan aprovechando su dolor tres décadas después creando videos de IA ‘repugnantes’
Ella agregó: ‘Te juega en tu mente. Es algo de lo que no puedes escapar. Cuando ves esa imagen, se queda contigo.
La Sra. Fergus dijo que Tiktok no ha respondido a sus solicitudes de retirar los videos, ya que el gobierno advirtió que tales videos se consideran ilegales bajo la Ley de Seguridad en línea.
El contenido similar encontrado en Instagram y YouTube se ha eliminado desde entonces, dijeron las compañías. Un portavoz de Tiktok dijo: «No permitimos contenido dañino generado por IA en nuestra plataforma y encontramos proactivamente el 96% del contenido que rompe estas reglas antes de que se nos informa».
Un portavoz de YouTube dijo que las directrices de la plataforma «prohíben el contenido que simula de manera realista a las personas fallecidas que describen su muerte».
El portavoz dijo que un canal llamado Hidden Stories había sido rescindido por «violaciones graves de esta política».
La Sra. Fergus dijo que cree que la legislación actual no va lo suficientemente lejos como para proteger a las personas del contenido dañino en línea.
Agregó que tiene una reunión con la secretaria de justicia Shabana Mahmood más tarde hoy, en la que tiene la intención de plantear el problema.
La Sra. Fergus dijo: ‘Vamos a las redes sociales y la persona que ya no está con nosotros está allí, hablando con nosotros. ¿Qué tan enfermo es eso?
Jon Venables tenía solo diez años cuando secuestró y asesinó al pequeño James Bulger
El compañero asesino Robert Thomas (en la foto) y Venables se convirtieron en los asesinos más jóvenes condenados en la historia británica moderna
‘Es simplemente corrupto. Es solo extraño y no debería hacerse.
Kym Morris, la presidenta de James Bulger Memorial Trust, dijo a la BBC que el gobierno podría enmendar la Ley de Seguridad en línea para incluir protecciones específicas contra el contenido dañino generado por IA.
«Debe haber definiciones claras, medidas de responsabilidad y consecuencias legales para aquellos que explotan esta tecnología para causar daño, especialmente cuando involucra a las víctimas reales y sus familias», dijo Morris.
«No se trata de censura, se trata de proteger la dignidad, la verdad y el bienestar emocional de los directamente afectados por crímenes horribles».
Un portavoz del gobierno le dijo a la BBC: ‘Usar tecnología para estos fines inquietantes es vil.
‘Este gobierno está tomando medidas sólidas a través de la entrega de la Ley de Seguridad en línea, bajo las cuales videos como este se consideran contenido ilegal donde se comete un delito y debe ser eliminado rápidamente por plataformas.
‘Al igual que los padres en todo el país, esperamos ver que estas leyes ayuden a crear un mundo en línea más seguro.
‘Pero no dudaremos en ir más allá para proteger a nuestros hijos; Son la base, no el límite cuando se trata de la seguridad de los niños en línea ‘.
Los clips, que se han compartido en Tiktok, pero también en otras plataformas, incluidos YouTube e Instagram, cuentan con clones digitales generados por IA hablando sobre el asesinato en primera persona.
El cuerpo de James Bulger fue encontrado en una vía ferroviaria unos dos días después de su secuestro
El secretario de tecnología Peter Kyle a principios de este año dijo que cree que el gobierno tendrá que «legislar nuevamente» sobre la seguridad en línea.
La nueva orientación establecida por Ofcom esta mañana significa que las redes sociales y otras plataformas de Internet serán legalmente necesarias para bloquear el acceso de los niños al contenido dañino desde julio o enfrentar multas masivas.
El regulador ha publicado la versión final de sus códigos infantiles bajo la Ley de Seguridad en línea, estableciendo lo que los sitios deben hacer para seguir la ley y proteger a los niños en línea.
Según los códigos, cualquier sitio que alberga pornografía, o contenido que fomente la autolesión, el suicidio o los trastornos alimentarios deben tener herramientas de verificación de edad robustas para proteger a los niños de acceder a ese contenido.
Además, se requerirá que las plataformas configuren sus algoritmos para filtrar contenido dañino de los feeds y recomendaciones de los niños, asegurando que no se envíen por una madriguera de contenido dañino.
Los códigos también requieren que los sitios tengan sistemas de informes y quejas más fáciles para ayudar a los usuarios a marcar un contenido dañino más rápido, y se espera que los sitios en sí mismos respondan, eliminar el contenido dañino rápidamente.
La directora ejecutiva de Ofcom, Dame Melanie Dawes, dijo: ‘Estos cambios son un reinicio para los niños en línea.
‘Se referirán a las redes sociales más seguras con un contenido menos dañino y peligroso, las protecciones de ser contactadas por extraños y controles de edad efectivos sobre el contenido de los adultos. Ofcom ha tenido la tarea de lograr una generación más segura de niños en línea, y si las empresas no actúan, enfrentarán la aplicación ».
