El momento aterrador de 7.30 es secuestrado por un reportero de ‘Deepfake’ en vivo en el aire
- ABC Reporter crea ai ‘Deepfake’
- Su semejanza está acostumbrada en anuncios poco fiables
Anfitrión ABC 7.30 Sarah Ferguson ha sido derribado por un ‘profundo‘ AI La versión de uno de los reporteros del programa vive en el aire.
Ferguson presentó el segmento del jueves por la noche con una advertencia de que los videos producidos por AI de médicos y celebridades estaban utilizando para engañar a los australianos para que compren suplementos no probados.
Uno de los médicos cuya semejanza se estaba utilizando era el propio cisne normandero de ABC.
«Norman, bienvenido a las 7.30», dijo Ferguson mientras cruzaba al periodista.
«Gracias Sarah, es un placer estar aquí esta noche para hablar sobre las estafas de Deepfake que están estafando a los pacientes vulnerables», dijo Swan.
«Estas estafas se están volviendo increíblemente convincentes».
El verdadero cisne normando luego entró en el marco, revelando que una versión falsa y generada por IA había estado hablando con Ferguson.
«Tan convincente de hecho, que probablemente tuviste problemas para reconocer que ese soy yo», dijo el verdadero cisne.
La presentadora de ABC 7.30 Sarah Ferguson (en la foto) ha sido atacada por una versión de AI ‘Deepfake’ de uno de los reporteros del programa en vivo en el aire
El verdadero Swan Norman (en la foto a la derecha) luego entró en el marco, revelando que una versión falsa y generada por IA había estado hablando con Ferguson
Un video en Facebook presentó una Adele falsa que hablaba de perder peso gracias a un suplemento que, según ella, fue recomendado por Swan
La aterradora versión generada por la IA del Dr. Swan presentaba dos narices.
Explicó que los estafadores usaban cada vez más su identidad para vender ‘suplementos dudosos’ en línea.
Un video en Facebook presentó a un rebelde falso Wilson hablando sobre perder peso gracias a un suplemento que, según ella, Swan recomendó.
Otro video siguió la misma fórmula pero con la cantante Adele.
Los videos falsos fueron sorprendentemente fáciles de hacer, como Swan descubrió en una entrevista con Sanjay Jha de la Escuela de Informática e Ingeniería de UNSW.
Jha, que usa IA para fines de enseñanza, demostró que solo una conexión a Internet, una computadora portátil y algún software libre eran necesarios para clonar la voz y la apariencia de Swan.
El profesor rápidamente pudo producir un profundo cisne mientras miraba.
Pero la tecnología podría tener graves consecuencias, con el paciente de la diabetes David Bell, de Melbourne, diciéndole al programa que contenido similar en línea lo había persuadido para que dejara de tomar su medicamento prescrito, metformina y comenzar a tomar un suplemento.
La metformina es un medicamento efectivo para tratar la diabetes tipo 2 y ayuda a prevenir la ceguera y el daño renal.
«Estoy enojado conmigo mismo por haber enamorado de ello, pero eres una autoridad», dijo Bell a Swan.
Anuncio
