En reciente artículo, referido a los viajes espaciales a la Luna y al mito de la Luna y el Sol, di por ciertos algunos datos de las distancias y los tiempos que se emplearon en este último viaje, el Artemis II. Las cifras en millas las tomé tal cual aparecen en los informes, y la conversión a kilómetros fue asunto mío. Con un poco de humor, escribí al final del párrafo: «si los datos no resultan falseados por IA».
Esa herramienta que han inventado los cibernéticos, y que atinadamente llaman Inteligencia, pero Artificial, es, como todo instrumento, algo que puede ser utilizado en forma correcta o incorrecta, honesta o deshonesta, para bien o para dañar. Lo que sucede es que ha recorrido ya un gran trecho como un medio de evitarse el tedioso y agotador trabajo de verificar lo que aporta y ha dado pie a situaciones desafortunadas.
En la Página Nota Antropológica del 7 de abril, se menciona lo ocurrido a un informático de la Universidad de Toulouse, Francia: una revista internacional de odontología hizo una cita de uno de sus trabajos, pero la cita generada por I.A. resultó falsa, pues el estudio original solo estaba en borrador y nunca había sido publicado. Solo vale como ejemplo, pero no deja de ser una realidad y los casos se multiplican.
La Redacción de Nota Antropológica, adaptada de Nature, “Hallucinated citations are polluting the scientific literature”, 2026, menciona que «Los programas de inteligencia artificial, como los chatbots que mucha gente usa para redactar textos, a veces inventan referencias que parecen reales, pero no lo son. Mezclan títulos verdaderos con autores incorrectos, crean enlaces que no existen o asignan números de identificación falsos. El resultado es una referencia que cualquier persona podría creer auténtica a simple vista».
Los datos que aporta son llamativos: Un análisis realizado por el equipo de la revista Nature, en colaboración con la empresa Grounded AI, revisó más de 4 mil artículos publicados durante 2025. Los resultados indican que «al menos 65 de cada 4 mil publicaciones contenían una referencia inválida, es decir, una cita que no llevaba a ningún estudio real. Si esa proporción se mantiene en el total de la producción científica, más de 110 mil artículos publicados el año pasado podrían tener citas falsas». Las llamadas citas Frankenstein.
Dudar de manera radical y anatemizar toda la información que es proporcionada o firmada por I.A. es un error. Que hay quien recurre a esa herramienta por simple desidia o le otorga una credibilidad absoluta, es indudable, pero, si a un hacha no le afinamos el filo antes de usarla, no debemos atribuirle que no sirva para cortar un leño porque esté roma o mellada; el hacha no es culpable del uso que se hace de ella.
La misma página mencionada da una explicación (que no justificación): «La respuesta está en el funcionamiento de los modelos de lenguaje, que es el nombre técnico que reciben estos programas de inteligencia artificial. Estos sistemas aprenden a escribir a partir de enormes cantidades de textos existentes. Pero no entienden lo que escriben. Para ellos, una cita es solo un patrón de palabras. Cuando no encuentran una referencia real que encaje, la inventan. Es como pedirle a alguien que recite una lista de direcciones de memoria y si no las recuerda bien, las completa con datos que suenan verosímiles». El que no sabe, inventa. La inteligencia artificial nos da lo que queremos ver, escuchar.
El problema de las citas falsas, de que muchas veces nos hemos encontrado que damos por válida y confiable una información y resulta un fiasco, es asunto grave porque «Una cita falsa no es una errata. Es un dato inventado. Y cuando alguien utiliza ese dato para apoyar una conclusión, se convierte en una forma de fabricación de información». Y da pie a una cadena de errores que se vuelve incontenible, imparable y verdaderamente peligrosa, hasta el grado de constituir una mala conducta científica, una falta de ética profesional. La I.A. no está creando el problema, aunque sí lo está propiciando.
Pero no solo eso, «el asunto también genera un problema práctico para quienes investigan de buena fe… Si alguien confía en una cita falsa y la reproduce en su propio trabajo, está difundiendo un error. Y si varios investigadores hacen lo mismo, se forma una cadena de desinformación académica que puede llevar a conclusiones equivocadas».
Y ciertamente, no solo está el juego la credibilidad y la ética de quien cita sin confirmar, sin verificar, «Lo que está en juego es la confianza en la ciencia. Si los lectores no pueden saber si las referencias de un artículo son reales o inventadas, todo el edificio del conocimiento se vuelve frágil y lo más inquietante es que el problema probablemente crecerá», la falsedad proliferará.
Y ya tenemos suficiente con la que viene por sistema.
