Chatbots: ¿verificación política o fuente de desinformación?
La promesa de respuestas rápidas y “fundamentadas” a preguntas complejas sobre política seduce cada vez más a los argentinos, pero la realidad es más turbia. El uso de chatbots de inteligencia artificial para verificar datos y noticias se ha duplicado en el último año, catapultado por herramientas como ChatGPT, Gemini y Grok, pero su fiabilidad es, como mínimo, cuestionable. La euforia tecnológica se topa con una cruda realidad: estos sistemas, en su afán por parecer convincentes, pueden inventar datos, distorsionar la información y, en definitiva, propagar noticias falsas.
El error es la norma, no la excepción
Según un estudio reciente del Instituto Reuters, Argentina figura entre los países con mayor adopción de chatbots para informarse. Sin embargo, investigaciones realizadas por organizaciones como Chequeado revelan que hasta el 36% de las respuestas generadas por estos sistemas presentan algún tipo de problema informativo. No se trata de simples imprecisiones; la cosa va más allá. Los chatbots pueden alucinar fuentes inexistentes, manipular estadísticas y, lo que es peor, presentar conclusiones erróneas con una solidez engañosa.
La situación se agrava si hablamos de español. Estudios de AI Democracy Projects y Factchequeado indican que la tasa de errores al verificar afirmaciones políticas en español (52%) supera considerablemente la registrada en inglés (43%). ¿La razón? Los modelos de IA, como explica la investigadora Laura Alonso Alemany, priorizan la coherencia y la credibilidad sobre la veracidad. Su objetivo es generar secuencias de palabras plausibles, aunque sean falsas.
El problema no es la Tecnología, sino su diseño. Estos sistemas se entrenan con enormes cantidades de texto extraído de internet, un caldo de cultivo para la desinformación, y se les instruye para ser amables, expresar certeza y evitar confrontaciones. El resultado es un emisor de información que, sin querer, puede convertirse en un vehículo para la manipulación.
La trampa de la apariencia
Quizás el riesgo más insidioso de estos chatbots es su capacidad para generar respuestas que parecen autorizadas y convincentes, incluso cuando son completamente erróneas. La BBC, en una investigación exhaustiva, documentó cómo estos modelos pueden distorsionar contenidos periodísticos de calidad, omitir datos relevantes o priorizar información irrelevante.
Pensemos en el debate sobre la seguridad del voto por correo en Estados Unidos. Modelos como Gemini, sin basarse en estudios sólidos, generaron dudas infundadas sobre la integridad del sistema. La tendencia a no reconocer los propios límites, a ofrecer respuestas incompletas o ambiguas cuando carece de información suficiente, agrava aún más el problema.
En definitiva, ante la creciente popularidad de los chatbots como fuente de información política, la prudencia es obligatoria. No se puede confiar ciegamente en estos sistemas, ni tomar sus respuestas como verdades absolutas. La verificación cruzada de la información, el pensamiento crítico y la consulta a fuentes oficiales confiables siguen siendo las mejores herramientas para combatir la desinformación. La Tecnología es un arma de doble filo, y en este caso, el filo más afilado apunta a la credibilidad de nuestra democracia.