Cómo las conversaciones de chatgpt extremadamente personales terminaron en Google

Un investigador pudo descubrir más de 100,000 sensibles Chatgpt conversaciones que se pudieron buscar en Google gracias a un ‘experimento de corta duración’ de Opadai.

Henk Van Ess fue uno de los primeros en descubrir que cualquiera podría buscar estos chats usando ciertas palabras clave.

Descubrió que las personas habían estado discutiendo todo, desde acuerdos de no divulgación, contratos confidenciales, problemas de relación, esquemas de comercio interno y cómo engañar a los documentos.

Este problema imprevisto surgió debido a la función de compartir, que si el usuario hace clic en el usuario crearía un enlace previsiblemente formateado usando palabras del chat.

Esto permitió a las personas buscar las conversaciones escribiendo en ‘Sitio: chatgpt.com/share’ y luego colocando palabras clave al final de la consulta.

Van Ess dijo una chat que descubrió ataques cibernéticos detallados con nombres objetivos dentro de Hamasel grupo terrorista que controla Gaza eso Israel ha estado en guerra desde octubre de 2023.

Otro involucró a una víctima de violencia doméstica que hablaba de posibles planes de escape al tiempo que revelaba sus deficiencias financieras.

La función de compartir fue un intento de ChatGPT para facilitar que las personas muestren a otros sus chats, aunque la mayoría de los usuarios probablemente no se dieron cuenta de cuán visibles serían sus reflexiones.

Operai ha reconocido que la forma en que ChatGPT se configuró anteriormente permitió que más de 100,000 conversaciones se registraran libremente en Google

En una declaración a 404mediaOperai no disputó que hubo más de 100,000 chats que se habían buscado en Google.

‘Acabamos de eliminar una característica de (ChatGPT) que permitió a los usuarios hacer que sus conversaciones sean descubiertas por los motores de búsqueda, como Google. Este fue un experimento de corta duración para ayudar a las personas a descubrir conversaciones útiles », dijo Dane Stuckey, director de seguridad de la información de Operai.

«Esta característica requirió que los usuarios optaran, primero eligiendo un chat para compartir, luego haciendo clic en una casilla de verificación para que se comparta con los motores de búsqueda», agregó Stuckey.

Ahora, cuando un usuario comparte su conversación, ChatGPT crea un enlace aleatorio que no usa palabras clave.

«En última instancia, creemos que esta característica introdujo demasiadas oportunidades para que las personas compartieran accidentalmente cosas que no tenían la intención, por lo que estamos eliminando la opción», dijo Stuckey.

‘También estamos trabajando para eliminar el contenido indexado de los motores de búsqueda relevantes. Este cambio se está implementando a todos los usuarios hasta mañana por la mañana. La seguridad y la privacidad son primordiales para nosotros, y seguiremos trabajando para reflejarlo al máximo en nuestros productos y características «, agregó.

El investigador Henk Van Ess, además, muchos otros ya han archivado muchas de las conversaciones que fueron expuestas

Sin embargo, gran parte del daño ya se ha hecho, ya que muchas de las conversaciones ya estaban archivadas por Van Ess y otros.

Por ejemplo, una charla Eso todavía se puede ver un plan para crear un nuevo Bitcoin llamado Obelisk.

Irónicamente, Van Ess usó otro modelo de IA, Claude, para encontrar palabras clave para usar para dragar los chats más jugosos.

Para encontrar personas que discuten las conspiraciones criminales, Claude sugirió buscar «sin ser atrapado», «Evite la detección», «sin permiso» o «salirse con la suya».

Pero las palabras que expusieron las confesiones más íntimas fueron ‘mi salario’, ‘mi ssn’, ‘diagnosticado con’ o ‘mi terapeuta’.