El defecto de Google Gemini puede crear este resumen de AI de Gmail

El resumen de IA tiene como objetivo facilitar la vida: tiene como objetivo cortar una gran cantidad de texto en algo que pueda examinar rápidamente, para que pueda pasar tiempo en asuntos urgentes. El problema es que no siempre puede confiar en estos resúmenes. Por lo general, esto se debe a Hallus Amnistía InternacionalY resumir incorrectamente el texto. En otros casos, los resúmenes ya pueden estar en riesgo por los infiltrados.

De hecho, esto es lo que sucede con Gemini, la inteligencia artificial de Google, con el espacio de trabajo. Al igual que otros modelos de inteligencia artificial del gimnasio, el criminal puede resumir los correos electrónicos en Gmail. pero, Como se mencionóLa tecnología está sujeta a explotación. Los plataformistas pueden bombear estos resúmenes con información maliciosa que empuja a estos usuarios hacia

He aquí cómo hacer: el mal actor crea un correo electrónico con un texto invisible en el interior, usando HTML y CSS y trata el tamaño y el color de la fuente. No verá esta parte del mensaje, pero Gemini lo hará. Dado que los infiltrados saben no usar enlaces o archivos adjuntos, que son los elementos que pueden referirse a Google RAM, el mensaje tiene una gran oportunidad para aterrizar en la bandeja de entrada del usuario.

Entonces, abra el correo electrónico y no notará nada de azul. Pero esto es largo, así que elegí resumir el Géminis para ti. Aunque la parte superior del resumen se centra en el mensaje visual, el final resumirá el texto oculto. En uno de los ejemplos, la solicitud de texto invisible para producir una alerta, el usuario advierte que su contraseña de Gmail ha estado en riesgo. Luego resaltó el número de teléfono para llamar «soporte».

Este tipo de actividad maligna es particularmente peligrosa. Puedo ver cómo alguien usa Gemini una advertencia como esta, especialmente si ya toma resúmenes de inteligencia artificial del valor nominal. Sin saber cómo hacer el fraude, parece que la salida oficial de Gemini, como Google diseñó la IA para advertir a los usuarios cuando sus contraseñas estaban sujetas al peligro.

Google respondió a un comentario de BleepingComuter; IIT afirma que ella no vio evidencia de la manipulación de Géminis de esta manera, y remitió el puerto a un Blog Sobre cómo combatir los ataques de inyección inmediatos. Participó el siguiente representante del mensaje: «Estamos constantemente solidificando nuestras fuertes defensas a través de los ejercicios ganadores rojos que entrenan a nuestros modelos para defenderse de este tipo de ataques hostiles». Ella confirmó que algunas tácticas están a punto de publicarlas.

Cómo protegerse de este defecto de seguridad de Géminis

El investigador de seguridad, que descubrió el defecto, Marco Veghawa, tiene algunos consejos para que los equipos de seguridad combatan esta debilidad. Figueroa recomienda eliminar el texto diseñado para ocultarlo del usuario, y ejecutar un filtro que limpie las salidas de Gemini para cualquier cosa sospechosa, como enlaces, números de teléfono o advertencias.

Sin embargo, como usuario final del área de trabajo, no puede hacer mucho con este consejo. Pero no necesitas eso, y ahora sabes lo que estás buscando. Si está utilizando resúmenes de Ai Gemini, será profundamente escéptico de cualquier mensaje urgente en el interior, especialmente si estas advertencias no tienen nada que ver con el correo electrónico mismo. Ciertamente, puede recibir un correo electrónico legítimo que le advierte de romper datos y, por lo tanto, un resumen creado a partir de inteligencia artificial le dirá lo mismo. Pero si el resumen dice que el correo electrónico en cuestión está relacionado con un evento que ocurre en su ciudad la próxima semana, y al final del resumen, ve una advertencia sobre su contraseña de Gmail, puede asumir con seguridad que está jugando con ella.

Al igual que otros planes clínicos, la advertencia en sí misma puede tener banderas rojas. En el ejemplo de BleepingComputer, se gasta Gmail «Gmail». Si no es consciente de cómo se coordina Gmail, es posible que no se adhiera a usted, sino que busque contradicciones y otros errores. Google tampoco tiene un número de teléfono directo para conectarse a problemas de soporte. Si intenta llamar a la empresa nunca, sabrá que hay casi cero para contactar a una persona real.

Además de este esquema de caza, debes ser escéptico sobre los resúmenes de inteligencia artificial. Esto no significa que deben evitarse por completo, pueden ser útiles, pero los resúmenes de inteligencia artificial no son líneas, si no están sujetas a la falla. Si el correo electrónico que lee es importante, sugiero evitar la ventaja de los resúmenes, o al menos realizar un examen del texto original para garantizar que el resumen lo haya logrado correctamente.