Estudios han determinado que la IA de Google no es tan confiable como parece

Por Roberto Ugarte (La Razón)

Las consecuencias de la predilección por parte de Google hacia su ‘Vista creada con IA’ o AI Overviews se dejan notar en diferentes aspectos. Uno de ellos, el más complejo para los medios de comunicación, tiene que ver con las caídas de tráfico que ha provocado el creciente peso de las respuestas generadas por inteligencia artificial.

Otro, también de suma importancia, tiene que ver con la veracidad de la información que llega al usuario a través de esas búsquedas vitaminadas con IA. Un punto que cobra consideración si se tiene en cuenta que una de cada diez respuestas contiene errores que la gente está dando por válidos solo por proceder de la inteligencia artificial.

La inteligencia artificial de Google para las búsquedas, conocida como AI Overviews, está generando preocupación por la cantidad de errores que puede cometer al responder preguntas de los usuarios. Según un análisis reciente publicado por The New York Times, aproximadamente 1 de cada 10 respuestas generadas por esta herramienta contiene información incorrecta.

El diario encargó a la plataforma Oumi, centrada en la creación, entrenamiento y evaluación de modelos de inteligencia artificial personalizados que pusiera a prueba a Gemini, y los resultados mostraron la cara menos fiable de la IA.

Creciente preocupación ante las alucinaciones de la IA

Visto así, ese dato de un solo fallo por cada diez consultas parece insignificante, pero el tema cambia cuando se pone en contexto. No en vano, hablamos de una cifra que crece hasta los cinco billones (con b) de consultas que recibe y procesa el motor de búsqueda cada año. Esto quiere decir que las respuestas erróneas se pueden dar en un volumen de 57 millones de respuestas por hora, casi un millón por minuto.

Es lo que se conoce como alucinaciones. En lugar de asumir que no es capaz de encontrar la respuesta para algo, la IA divaga e inventa una respuesta por trasladar una contestación a quien espera una respuesta y no va a cuestionar nada sobre ella. El peligro está en que la respuesta llega con la misma carga de solemnidad que una respuesta acertada, por lo que distinguir lo cierto de lo falso resulta imposible si no se lleva a cabo un proceso de verificación de la respuesta obtenida.

De igual modo y tal como recoge el estudio publicado, los resúmenes hechos con IA a consultas realizadas mediante el buscador de la compañía de la gran G pueden dar dos respuestas diferentes a una misma cuestión en un margen de segundos. Otro aspecto que preocupa es el hecho de que, en ocasiones, el resumen mediante IA presenta información errónea mientras el enlace posterior y que lleva a la fuente original sí muestra en ella la respuesta correcta y que debería ser la que mostrase Google en su AI Overview.

Situaciones que demuestran la importancia de verificar todo cuanto sale de la IA

También pasa al revés, e incluso hay cuestiones para las que los enlaces mostrados por Google y el contenido del sitio al que dirigen poco o nada tienen que ver con la consulta efectuada. Por último, el ensayo mostraba también cómo las respuestas de la inteligencia artificial de Google no eran capaces de discernir una información errónea de una veraz, mostrando y divulgando la primera de ellas. La prueba la efectuó la cadena pública británica BBC, que publicó una noticia falsa para evaluar el comportamiento del buscador y vio como, en lugar de ignorarla, AI Overview la mostraba como referencia.

La llegada de la IA a los buscadores marca un cambio importante en cómo los usuarios acceden a la información y a la aparente seguridad con la que la abrazan. Sin embargo, este caso de estudio demuestra que, por ahora, la inteligencia artificial todavía no es totalmente fiable y los usuarios deben mantener una actitud crítica y contrastar la información cuando sea necesario.