Closeup hand coding programing computer software.

Google admite fallas en su función de Resúmenes Generados por IA

Comparte este artículo

Facebook
Twitter
WhatsApp
Telegram
LinkedIn

Liz Reid, directora de Búsquedas en Google, anunció que la compañía ha realizado ajustes a su nueva función “AI Overview” tras la difusión de capturas de pantalla que mostraban errores en los resultados generados por la IA. Los detalles sobre estas actualizaciones fueron publicados en el blog oficial de Google.

La semana pasada, las redes sociales se llenaron de ejemplos de respuestas inexactas y extrañas proporcionadas por la función “AI Overview” de Google. En un principio, la empresa minimizó la gravedad de estos problemas. Sin embargo, Liz Reid, Directora de Búsquedas en Google en una publicación del jueves en el blog oficial de Google, reconoció que estos errores destacaban áreas que necesitaban mejoras y explicó las medidas tomadas para corregirlas.

Errores en los resúmenes de IA de Google Search

Reid mencionó específicamente dos de los errores más virales: uno que sugería comer rocas como algo beneficioso para la salud y otro que recomendaba usar pegamento no tóxico para espesar la salsa de pizza. El primer error se debió a que el algoritmo interpretó incorrectamente un artículo satírico de The Onion como información real, debido a su redistribución por una empresa de software. El segundo error surgió al interpretar de manera incorrecta contenido irónico de foros de discusión.

Reid subrayó que, aunque los foros son una fuente valiosa de información, a veces pueden generar consejos absurdos como el uso de pegamento en la comida.

Evaluación de la función de búsqueda basada en capturas virales

La Directora de Búsquedas de Google afirmó que juzgar la calidad del nuevo sistema de búsqueda basándose en capturas de pantalla virales sería injusto. Según ella, Google llevó a cabo pruebas exhaustivas antes del lanzamiento y los usuarios valoran positivamente los resúmenes generados por IA, ya que estos aumentan la probabilidad de que los usuarios permanezcan en una página.

Reid atribuyó los errores a una auditoría global de internet que, en ocasiones, no fue bien intencionada. También mencionó que la función había sido sometida a búsquedas intencionalmente diseñadas para producir errores. Además, Google asegura que algunas capturas de pantalla difundidas eran falsas, como un ejemplo que sugería si una cucaracha podría vivir en un pene, lo cual no pudo ser recreado en pruebas posteriores.

Las descripciones generales de IA funcionan de manera muy diferente a los chatbots y otros productos LLM que las personas pueden haber probado. No están simplemente generando un resultado basado en datos de entrenamiento. Si bien las descripciones generales de IA funcionan con un modelo de lenguaje personalizado, el modelo está integrado con sistemas principales de clasificación web y está diseñado para llevar a cabo tareas de “búsqueda” tradicionales, como identificar resultados relevantes y de alta calidad. Es por eso que AI Overviews no solo proporciona resultados de texto, sino que incluye enlaces relevantes para que las personas puedan explorar más a fondo. Debido a que la precisión es primordial en la búsqueda, las descripciones generales de IA están diseñadas para mostrar solo información respaldada por los mejores resultados web.

Esto significa que las descripciones generales de IA generalmente no “alucinan” ni inventan cosas como lo harían otros productos LLM. Cuando AI Overviews se equivoca, generalmente es por otras razones: malinterpretar consultas, malinterpretar un matiz del lenguaje en la web o no tener mucha información excelente disponible. (Estos son desafíos que también ocurren con otras funciones de búsqueda).

Liz Reid, Directora de Búsquedas en Google

Medidas tomadas por Google

Google ha implementado más de una docena de mejoras técnicas en su función de resúmenes de IA. Reid destacó cuatro de ellas:

  1. Mejor detección de consultas sin sentido: Evitando generar resúmenes para preguntas absurdas.
  2. Menor dependencia de contenido generado por usuarios: Reduciendo la influencia de sitios como Reddit.
  3. Reducción de resúmenes no útiles: Limitando la frecuencia de resúmenes en contextos donde los usuarios no los encuentran útiles.
  4. Controles reforzados en temas sensibles: Desactivando los resúmenes de IA en temas críticos como la salud.

Para obtener más detalles sobre estos ajustes, puedes consultar la publicación completa en el blog oficial de Google. Google se compromete a seguir analizando los comentarios de los usuarios y ajustando sus funciones según sea necesario para mejorar la precisión y utilidad de los resúmenes generados por IA.

Carolina Quintanilla

Carolina Quintanilla