Probablemente ya haya sido engañado por un video de IA, ya sea que se dé cuenta o no. El 20 de mayo, Google lanzó VEO 3, Su última herramienta de generación de videos de IA, mostrándola con un video con un marinero generado por IA, y los resultados fueron impresionantes o horribles, dependiendo de su punto de vista.
Sí. Estamos cocinados. Si bien este video tiene una calidad ligeramente surrealista tras una inspección minuciosa, es lo suficientemente bueno como para engañar a la mayoría de los espectadores casuales. La barrera que evita que la persona promedio sea acogida por un video generado por computadora se ha destrozado. Los videos de Veo 3 son tan buenos que no se puede decir fácilmente que no son reales, especialmente cuando los ves mientras desplazas casualmente un feed de redes sociales. La gente ya está usando VeO 3 con fines de lucro, política y propaganda. Como dijo Jake Peterson de Lifehacker, «No estás preparado para esta nueva y aterradora ola de videos generados por la IA.«
VEO 3 produce videos hiperrealistas con iluminación de aspecto natural, fisicalidad, efectos de sonido, movimiento de la cámara y diálogo. A diferencia del CGI tradicional, la nueva raza de IA no requiere un presupuesto de Hollywood o un equipo de animadores, solo necesitas elaborar un aviso de unas pocas oraciones y alimentarla a Veo 3. Lo que obtiene la producción no muestra muchas de las distorsiones reveladoras que usado Para marcar el contenido como obviamente creado usando AI.
Eche un vistazo a este video de 3 hechos completamente VEO para tener una idea de lo convincente que puede ser:
Este tweet no está disponible actualmente. Puede estar cargando o ha sido eliminado.
Hacer estos videos también es extremadamente fácil: no necesitas pasar todo el día iterando las indicaciones para obtener un buen resultado. Pasé de «No sé cómo hacer esto» a la creación del video a continuación en aproximadamente media hora, e incluso se hizo usando la versión «Prueba gratuita» de la herramienta AI de Google:
¿Hay algo que un buscador de verdad devoto pueda hacer frente al próximo ataque de AI Video Slop? Tal vez. Un poco. Hay (algunos) pasos que puede tomar (tal vez a veces) detectar un video falso. Al menos hasta que Veo 4 lo haga mucho más difícil, o el servicio de generación de videos de AI compitiendo lanza un nuevo modelo que es aún mejor.
Algunos consejos para detectar videos falsos de IA (que pueden funcionar, a veces)
Busque las marcas de agua (tanto visibles como invisibles)
Según Google, una marca de agua de Synthid está integrada en todo el contenido creado con los modelos de IA generativos de Google. Desafortunadamente, no puedes verlo, y no puedes detectarlo fácilmente, al menos todavía no. La compañía dice que está probando un portal de verificación para «Identifique de manera rápida y eficiente el contenido generado por IA hecho con Google AI.«No está en vivo todavía. (Tal vez podrían haber terminado de trabajar en eso antes de lanzar Veo 3?) De todos modos, con suerte pronto cualquiera puede subir una pieza de contenido y aprender si se hizo con alguna de las herramientas de inteligencia artificial de Google.
A fines de la semana pasada, Google también lanzó una marca de agua visible en el contenido de VEO 3, llamado Synthid de DeepMind. Desafortunadamente (nuevamente), no se aplicará a los «videos generados por los miembros de Ultra en Flow, nuestra herramienta para los cineastas de IA,» para que cualquiera que use la versión costosa «profesional» de VEO 3 todavía puede engañarte.
Formas no técnicas de sentido común para detectar un video de IA
Aquí hay algunas sugerencias más para detectar video generado por IA que no requieren el uso de ninguna herramienta más sofisticada de que su propio cerebro:
¿Qué piensas hasta ahora?
Desacelerar. No confíe de inmediato los videos que ve en línea, incluso si son de personas o cuentas en las que suele confiar.
Verificar por distintos modos. ¿Se ha informado este clip en otro lugar? ¿Quién lo comparte y por qué?
Esté atento a las contadas. Incluso Veo 3 aún no es perfecto. Busque una física extraña, texturas de la piel antinaturales, movimientos de boca extraños o iluminación extraña.
Piensa críticamente. Siempre pregúntate ¿Quién se beneficia de mí creer que este video es real? Considere si tiene sentido. Piensa en quién podría haberlo disparado y por qué. Pregunta si el comportamiento de los temas del video rastrea con cómo sabes que los humanos reales se comportan.
Las limitaciones de la detección de IA
Esos son algunos pasos concretos que puedes tomar, pero en realidad no creo que muchas personas los tomarán al ver videos en las redes sociales. Incluso en un mundo perfecto, donde todos teníamos acceso a damas de IA infalibles que identificaron de manera confiable contenido falso, muchas personas aún creerían que Ai Gunk es real. ¿Quién se molestaría en investigar cada video que se desplazó en Tiktok y cada foto que apareció en Facebook? Eso es mucho trabajo, y no creo que la mayoría de la gente realmente cuidado Si lo que están viendo es real o no, siempre y cuando les guste.
Escribo sobre personas que se engañan por las creaciones de IA en esta columna con bastante regularidad, y no parece importar cuán convincentes son las falsificaciones. Incluso las creaciones más descuidadas y obviamente extrañas son lo suficientemente buenas cuando las personas que los ven quieren que sean reales. Y eso es lo más difícil de la detección de IA: somos más vulnerables al contenido falso cuando confirma nuestros sesgos. Los humanos son el eslabón débil en la cadena.
Si bien estos videos son aterradores, no hay nada nuevo de las noticias falsas
Si bien los programas de IA como VEO 3 hacen que sea más fácil crear videos falsos, no es como la creación de una desinformación efectiva era imposible antes. CGI ha estado convenciendo a personas de cosas irreales durante décadas. Antes de eso, podrías filmar una versión realista de lo que te gustaría ver, menos efectos digitales. Antes de que hubiera películas, la gente fingió fotografías, y antes de que hubiera fotografías, la gente mintió impresa. Y la gente se acuesta con la boca todo el tiempo, a veces mientras se encuentra detrás de un podio que lleva un sello oficial del gobierno. El engaño, la falsificación y el fraude son tan antiguos como la humanidad. La única diferencia es que ahora podemos hacerlo mucho más rápido.
El mejor medio para contar lo falso de lo real siempre ha sido desarrollando su detector personal de mierda, pero ese también es el método más difícil para confiar. Someterse al sesgo de confirmación es la naturaleza humana base, y aunque es fácil decir «Sospeche mucho de las cosas que te parecen verdaderas», no es una habilidad que muchos de nosotros (o tal vez cualquiera de nosotros) realmente poseemos.
Tal vez las personas que están más equivocadas esta semana (y cada semana) son personas como yo, por suponer que podría detectar falsificaciones de IA cuando realmente importa. Tal vez sea fácil de detectar y llamar Facebook slopPero, ¿cómo puedo saber lo que estoy seguro es cierto? de hecho ¿verdadero? No puedo. Nadie puede. Y ese es un enigma filosófico que no puede arreglar ninguna cantidad de marcas de agua o herramientas de detección.
