En la actualidad, un número creciente de personas elige utilizar chatbots basados en inteligencia artificial como ChatGPT, Gemini, Le Chat y Copilot, dejando de lado los tradicionales motores de búsqueda para acceder a información en línea. Estos modelos de lenguaje extenso (LLM) ofrecen la ventaja de no solo proporcionar enlaces a información relevante, sino que también resumen contenido de manera concisa, permitiendo a los usuarios obtener respuestas rápidas y efectivas.

Sin embargo, este enfoque también presenta riesgos significativos. Los chatbots no son infalibles y, de hecho, pueden cometer errores. Este fenómeno, conocido como 'alucinación', se ha documentado ampliamente en la literatura sobre IA. Además, los chatbots pueden mezclar información de diferentes fuentes de tal forma que proporcionen respuestas incorrectas; a este fenómeno se le conoce como 'confabulación'.

Un aspecto menos conocido es que los chatbots de IA pueden ser susceptibles a la desinformación, particularmente sobre eventos actuales. La plataforma estadounidense NewsGuard, que se dedica a verificar la credibilidad de las fuentes de información, ha advertido sobre este problema.

Analizando la Desinformación Rusia

Una de las fuentes más destacadas de desinformación en línea es 'Portal Kombat', una red de propaganda rusa que alimenta la narrativa a favor de la invasión rusa de Ucrania mediante una serie de portales que difunden propaganda. Según investigaciones realizadas por Viginum, una unidad del gobierno francés encargada de combatir la desinformación, se han identificado al menos 193 sitios que forman parte de esta red entre septiembre y diciembre de 2023.

Uno de los principales portales de esta red es Pravda, que trae contenido en varios idiomas, incluyendo alemán, francés, polaco, español e inglés. Este sitio no genera contenido original sino que reproduce información de terceros, principalmente a través de cuentas en redes sociales de actores rusos, agencias de noticias rusas y comunicados de instituciones locales.

El sitio ha sido señalizado por publicaciones que abusan de errores tipográficos y comentarios sensacionalistas. En un informe de la iniciativa estadounidense contra la desinformación, American Sunlight Project (ASP), se ha identificado más de 180 dominios sospechosos alineados con Portal Kombat, los cuales, según estimaciones, publican más de 10,000 artículos al día.

El impacto de la desinformación en los chatbots

Con el auge de la desinformación, surge la pregunta de si los chatbots son un nuevo objetivo para tales campañas. NewsGuard sugiere que la cantidad masiva de artículos en línea afecta a los modelos de lenguaje, que pueden clasificar los contenidos de la red Pravda como fuentes confiables. En una serie de experimentos, se descubrió que los chatbots confirmaron desinformación en más del 25% de las ocasiones, incluso al responder a afirmaciones claramente falsas.

Por lo tanto, los usuarios de LLM deben permanecer alerta y adoptar un enfoque crítico. Un enfoque eficaz puede incluir preguntar a varios chatbots y validar las respuestas cruzándolas con fuentes confiables. También se debe tener en cuenta que la presentación de noticias puede ser manipulada para dar credibilidad a las plataformas de desinformación, lo que requiere una vigilancia constante de los usuarios.

La veracidad de la información jamás debe ser tomada a la ligera; mientras los chatbots innovan y avanzan, el riesgo de difundir información incorrecta también aumenta. Ante la rapidez de las noticias falsas, es esencial esperar a que la información sea verificada antes de darla por cierta.