A pesar de su rápida integración en casi todas las facetas de la vida diaria, la tecnología de IA no es perfecta. Si bien puede parecer que la IA generativa lo sabe todo, puede cometer errores, o inventar información por completo. Es por eso que es preocupante para los reporteros tecnológicos como yo que las empresas están agregando tecnología de inteligencia artificial a la herramienta que tanta gente confía y darlo por sentado.
La búsqueda es una de esas herramientas. Desde finales de los 90, hemos sido condicionados para confiar en los resultados de búsqueda para encontrar la información que estamos buscando. Para muchos de nosotros, eso significa cargar Google, ingresar una búsqueda y aceptar la primera página de resultados, a veces el primer resultado o dos solo. Ahora, con Descripción general de la IA de Google Asumiendo la parte superior de la mayoría de los resultados de búsqueda, muchos de nosotros simplemente miramos el resultado generado por la IA y lo tomamos al pie de la letra.
Hay muchos problemas con este nuevo enfoque, pero hay un tema clave en el que centrarse hoy: Según lo informado por las tendencias digitalesCuando busca el número de teléfono de una empresa, las vistas generales de la IA de Google e incluso Modo AI podría recomendar el número de teléfono de un estafador.
Los estafadores están «pirateando» la IA de Google
Las tendencias digitales destacan cuatro ejemplos de esta situación en acción. Primero, está Alex Rivlin, quien Publicado en Facebook sobre su experiencia de tratar de contactar a la experiencia del cliente de Royal Caribbean. Rivlin quería reservar un servicio de transporte a través del servicio, pero no pudo encontrar el número de soporte de la compañía en su sitio web. Entonces, como muchos de nosotros, Rivlin busquó en Google «Royal Caribbean Servicio al cliente Número de teléfono 24 horas de EE. UU.», Y llamó al número que apareció en la descripción general de la IA.
Cuando Rivlin llamó, la experiencia de «servicio al cliente» parecía encima del tablero, y el «representante» era muy conocedor. Rivlin proporcionó la información de su tarjeta de crédito para pagar el transbordador, pero le preocupaba una vez que el representante comenzó a pedir su fecha de nacimiento. Como Royal Caribbean ya tenía esa información, parecía sospechoso, por lo que después de colgar el teléfono, Rivlin revisó su declaración de tarjeta de crédito y notó un cargo de una compañía extranjera con la que nunca había tratado antes. Después de eso, notó un pequeño cargo a la American Cancer Society y llamó a la compañía de tarjetas de crédito a cancelar la tarjeta.
A partir de este artículo, si le pregunta a Google a quién pertenece ese número de correo no deseado, el resultado automatizado (ni siquiera la descripción general de la IA, eso sí) dirá Royal Caribbean. Eso es extraer de un sitio web que parece estar hacerse pasar por el sitio oficial de Simple.grants.gov. Si hace clic en el enlace, la página está muerta, pero Google todavía está extrayendo la información que existía mientras el sitio aún estaba arriba. Según esto, parece que los estafadores están enumerando números falsos en sitios web fraudulentos e engañando a Google para que obtenga esos datos. La IA de Google luego ve «Royal Caribbean» al lado de este número de teléfono en un sitio .gov, cree que es legítimo y lo aparece en un resultado generado por AI.
Tendencias digitales luego resaltadas este ejemplo de un Redditor Publicing a R/Scamnumbers. El Redditor estaba buscando en Google «cómo arreglar un nombre mal escrito en Southwest», lo que los llevó a un resultado general de AI con un número de estafa. Este usuario parece haber conocido el número suroeste legítimo, o tal vez ubicado el número real para compararse con el de este resultado, y vio a través de la estafa sin llamar.
Si busca en Google el número de teléfono falso, puede ver un enlace a «Document360», así como el siguiente fragmento: «Para corregir el nombre de un pasajero o cambiar el nombre en un boleto de vuelo de Southwest Airlines, comuníquese con Atención al cliente de Southwest Airlines. Llame al +1-855-234-9795. «Esta es, nuevamente, una táctica para engañar a Google para que presente el número de estafa en sus resultados. Esta vez, los estafadores están pheshing para los usuarios que buscan este problema específico, lo que aumenta las posibilidades de que Google entregue este resultado para esta búsqueda específica.
¿Qué piensas hasta ahora?
Las tendencias digitales también destacan una publicación eliminada en Reddit, un usuario estuvo cerca de ser estafado al buscar en Google el número de atención al cliente para un servicio de entrega de alimentos. Del mismo modo, en un ejemplo final, un hombre perdió más de $ 3,400 Cuando llamó al número que apareció para el servicio de entrega de alimentos Swiggy’s.
No asuma que la respuesta de AI es correcta
Las descripción general de la IA de Google no son maliciosas; Más bien, es defectuoso. La tecnología subyacente puede luchar para distinguir entre información legítima y falsa. Carece de la conciencia de comprender que un sitio que se hace pasar por una página del gobierno puede organizar un número y afirmar que es un cierto negocio: para la IA, eso significa que ese es el número de negocios y, como tal, lo incluye en los resultados. Es el mismo defecto que conduce al desastroso despliegue de Google para las descripciones de IA el año pasado. En aquel entonces, el modelo era aún peor, sacando bromas de Reddit como fuentes legítimas. (No, El pegamento en realidad no hace que tu queso se apegue a tu pizza.)
Eso no quiere decir que la respuesta de la IA siempre esté mal. La tecnología aún puede extraer de fuentes de alta calidad y devolver los resultados que son precisos. Pero aquí hay fallas que hacen que las respuestas de IA sean demasiado arriesgadas para contar. Si prefiere no desplazarse hacia abajo para ver el Lista tradicional de enlaces Usted mismo, al menos haga clic en las fuentes de la respuesta de AI para ver de dónde saca la información. Si la fuente es incompleta, suponga que la respuesta también es.
Cuando se trata de información de contacto de la empresa, recomendaría siempre ir directamente a la fuente. Si la compañía no enumera el número de teléfono en su sitio web, suponga que no existe e intente encontrar un método de contacto diferente directamente a través de la empresa. Los estafadores son demasiado inteligentes para confiar en la web abierta para esta información.
