Grok confunde Gaza con Yemen en noticias impactantes
Grok, el chatbot de inteligencia artificial creado por la startup xAI de Elon Musk, generó hace meses un revuelo mundial al cometer un error grave al identificar una imagen de una niña desnutrida en Gaza como si fuera de Yemen, hace años. Este incidente revela las limitaciones peligrosas de las herramientas de IA para verificar noticias y la desinformación que pueden propagar.
El 2 de agosto de 2025, una fotografía impactante de AFP mostraba a Mariam Dawwas, una niña de nueve años en Gaza, con un peso que ha bajado de 25 a solo nueve kilogramos en poco más de un año debido a la hambruna provocada por el bloqueo israelí y el conflicto en curso. Sin embargo, cuando usuarios consultaron a Grok sobre el origen de la imagen, el chatbot aseguró que la foto correspondía a Yemen en 2018, difundiéndose rápidamente en redes sociales y medios, incluyendo a políticos y periodistas, lo que llevó a acusaciones de desinformación.
Este error no es aislado. En julio de 2025, otra foto de AFP, también de Gaza y tomada por Omar Al-Qattaa, fue mal identificada por Grok como de Yemen en 2016. La confusión llevó incluso a que medios como Liberation cuestionaran la autenticidad y manipulación de las imágenes.
Voces que se levantan a cuestionar estos fallos
Expertos en ética y tecnología advierten que estas fallas evidencian los límites de la inteligencia artificial. Louis de Diesbach, investigador en ética tecnológica y autor del libro «Hello ChatGPT», explica que las IA funcionan como «cajas negras» cuyas respuestas dependen de los datos con los que fueron entrenadas y de las instrucciones de sus creadores, muchas veces con sesgos ideológicos.
De hecho, Grok ha sido señalado por mostrar tendencias alineadas con la ideología de Musk y, en algunos casos, por difundir contenido polémico o sesgado, como elogios a figuras como Adolf Hitler.
El problema radica en que estas IAs no buscan la precisión ni la verdad, sino generar contenido coherente con sus patrones de entrenamiento. «Cuando buscas el origen de una imagen, la IA puede decir cosas como ‘podría haber sido tomada en Yemen o Gaza’, sin una verificación rigurosa», explica Diesbach. La búsqueda de la verdad no es su objetivo principal; en cambio, puede ofrecer respuestas equivocadas que, al ser compartidas, generan desinformación y confusión.
Otros portales, como BBC y Reuters, han reportado casos similares donde las IA malinterpretaron imágenes relacionadas con crisis humanitarias, resaltando la necesidad de un uso cuidadoso y crítico de estas herramientas. La comunidad internacional y expertos en periodismo recomiendan que las IA no sean consideradas como verificadores de hechos, sino como generadores de contenido que requieren supervisión humana.
Pocas mejoras a Grok en este aspecto, pese a sus actualizaciones
El incidente con Grok en Gaza y Yemen, además de las respuestas altisonantes y sin medias tintas brindadas por esta IA ante los requerimientos de los usuarios, evidencian que, aunque este modelo de inteligencia artificial ha demostrado ser una herramienta poderosa y de bastante exactitud, aún está lejos de ser confiable para tareas de verificación periodística o de noticias.
La desinformación puede propagarse rápidamente si no se usan con precaución, especialmente entre aquellos consumidores de contenido ávidos de leer, escuchar o ver aquello que les convenga a sus propósitos recordándonos que, en temas sensibles como conflictos armados y crisis humanitarias, la revisión humana sigue siendo imprescindible, tal cual se nota con mayor frecuencia en el apartado de X debajo de cada posteo dudoso, con aclaraciones brindadas por expertos y la comunidad.
