La respuesta parecía impecable, pero nadie pudo encontrar la fuente

Una respuesta de inteligencia artificial llega lista para pegar en un informe: buena estructura, tono seguro y una bibliografía que parece profesional. Antes de enviarla, alguien intenta abrir la referencia que sostiene la recomendación principal. El enlace no lleva al estudio anunciado. La escena es hipotética, pero plantea una pregunta muy concreta: ¿qué debe poder reconstruir otra persona para confiar en una afirmación?

No basta con que el texto incluya apellidos, un año y un identificador. Tampoco basta con que una publicación exista. Hace falta comprobar que la obra encontrada es la citada, que realmente sostiene lo escrito y que sus límites no desaparecieron durante el resumen. La trazabilidad comienza en esa cadena, no en el aspecto de la bibliografía.

Una referencia puede fallar de tres maneras distintas

La primera falla es la inexistencia: el título, los autores y la revista forman una combinación plausible, pero no corresponden a una obra localizable. La segunda es la identidad equivocada: el enlace funciona y el documento existe, aunque no es el que la respuesta describe. La tercera es más difícil de notar: la fuente es auténtica, pero la afirmación le atribuye un alcance que no tiene.

Walters y Wilder estudiaron en 2023 las referencias de revisiones bibliográficas producidas con GPT-3.5 y GPT-4. Encontraron tanto citas fabricadas como errores sustantivos en referencias a obras reales. Su investigación no permite asignar una tasa de error a cualquier herramienta actual, a cualquier idioma o a cualquier tarea. Sí ofrece una razón empírica para no tratar una referencia generada como si ya hubiera sido comprobada.

El perfil de inteligencia artificial generativa del NIST, publicado en 2024, describe la confabulación como producción de contenido falso o erróneo presentado con confianza. También advierte que las justificaciones y citas generadas pueden inducir una confianza indebida. La seguridad del tono no constituye evidencia, y una explicación detallada puede acompañar una conclusión incorrecta.

Salir de la respuesta para comprobarla

En la presentación editorial de Verified, Mike Caulfield y Sam Wineburg proponen usar la web para verificar la web, apoyándose en SIFT y en la lectura lateral. Aquí tomamos ese planteamiento general, sin atribuir al libro un protocolo empresarial específico ni fingir que una ficha editorial sustituye su lectura completa.

La explicación pública de SIFT, escrita por Caulfield, ofrece cuatro movimientos: detenerse, investigar la fuente, buscar mejor cobertura y rastrear afirmaciones hasta su contexto original. Su utilidad para una respuesta de IA está en cambiar el lugar de la comprobación. En vez de preguntar una y otra vez al mismo sistema si está seguro, se sale de la conversación para localizar documentos y contrastar identidades.

Volver al modelo puede servir para pedir términos de búsqueda o separar afirmaciones. No debe ser la única vía de validación. Si la respuesta inicial inventó una referencia, una segunda respuesta convincente no la convierte en real. El criterio de cierre debe estar fuera de esa conversación: una obra identificada y un pasaje comprobado.

Un protocolo mínimo antes de pegar el párrafo

El siguiente procedimiento es una propuesta editorial para informes, clases y decisiones ordinarias. No es una escala validada ni una certificación de exactitud. Combina las orientaciones de SIFT con una ficha de revisión que permite a otra persona repetir el recorrido sin depender del historial de quien consultó la herramienta.

Primero, aislar la afirmación. Copia la frase concreta que necesitas comprobar. Un párrafo puede mezclar un dato, una explicación causal y una recomendación. Verificar el dato no valida automáticamente lo demás. Conviene separar “el estudio observó una asociación” de “por tanto, la empresa debe aplicar esta política”. La segunda frase añade un juicio que necesita argumentos propios.

Segundo, localizar e identificar. Busca el título y los autores fuera del chat. Contrasta editorial o revista, año y, cuando exista, DOI. La documentación de Crossref explica cómo recuperar metadatos bibliográficos depositados por sus miembros. Esos registros ayudan a comprobar identidad, pero no prueban por sí solos que el documento sostenga la afirmación ni garantizan su calidad metodológica.

Tercero, encontrar el respaldo exacto. Abre el documento y ubica la sección, página, tabla o resultado relevante. Si solo se dispone del resumen, anota esa limitación. No atribuyas al texto completo detalles que no consultaste. Una fuente que analiza percepciones de usuarios no demuestra necesariamente cambios en productividad, aunque ambas ideas aparezcan próximas en la conversación.

Cuarto, reconstruir el contexto. ¿En qué población se investigó? ¿En qué país, periodo y condiciones? ¿Qué comparaciones se hicieron y cuáles no? Comprueba si la paráfrasis convirtió una posibilidad en certeza, una asociación en causalidad o un resultado localizado en una regla general. Esta revisión suele cambiar la redacción más que la búsqueda inicial del enlace.

Quinto, decidir y dejar registro. Marca la afirmación como utilizable, utilizable con límites o pendiente. Guarda el enlace estable y el localizador del pasaje, junto con la fecha y el nombre de quien revisó. No es necesario conservar todo el chat para justificar cada frase. Es necesario conservar la evidencia suficiente para entender qué se aprobó y por qué.

El enlace abre, pero el argumento no llega

Imaginemos que una síntesis recomienda sustituir tutorías humanas por un asistente automático porque “la evidencia demuestra mejores resultados de aprendizaje”. Al abrir la referencia, el equipo encuentra una investigación sobre satisfacción declarada en una actividad breve. El artículo puede ser auténtico y pertinente para una parte de la discusión. Lo que no sostiene es la sustitución general propuesta.

La reparación no consiste en conservar la recomendación y buscar cualquier cita que la adorne. Consiste en reducir la afirmación al respaldo disponible: en determinadas condiciones se observó una percepción favorable, mientras que la sustitución de tutorías exige evidencia adicional. Si la decisión depende de esa diferencia, debe volver a discutirse. Este ejemplo es ilustrativo; no describe un estudio ni una organización reales.

Algo parecido ocurre cuando una respuesta resume una revisión como si todas sus fuentes fueran experimentos, omite resultados contradictorios o transforma una advertencia en una conclusión central. La trazabilidad no termina al llegar al PDF. Continúa al comparar lo que el documento dice con lo que el informe pretende hacerle decir.

Qué hacer cuando una fuente no se puede abrir

Un bloqueo de acceso no demuestra que una obra sea falsa. Puede haber una barrera editorial, un problema de red o una restricción automatizada. Conviene distinguir “la obra no existe”, “la referencia no coincide” y “no pude consultar el contenido”. Mezclarlas produce decisiones injustificadas en sentidos opuestos: confiar sin leer o descartar sin investigar.

Si la identidad está confirmada, busca una versión legal de la misma obra en un repositorio institucional o en la revista. Compara título, autores y versión. Un artículo distinto sobre un tema parecido no es una copia alternativa. Si solo aparece el registro bibliográfico, puedes confirmar existencia, pero no presentar hallazgos específicos como si hubieras revisado el texto.

Cuando no hay acceso suficiente, declara el límite y busca evidencia consultable para reformular el argumento. No es obligatorio mantener una referencia inicial si no puede sostener responsablemente la redacción. Lo obligatorio es no ocultar que cambió el fundamento. En asuntos médicos, jurídicos o laborales de consecuencias importantes, este control documental tampoco sustituye la revisión profesional correspondiente.

El esfuerzo debe seguir a la consecuencia

Caulfield recuerda en su explicación de SIFT que no todas las consultas requieren la misma profundidad y que detenerse también sirve para evitar búsquedas interminables. Ese criterio permite priorizar: una idea para iniciar una conversación no demanda el mismo expediente que una afirmación usada para justificar una inversión o evaluar a una persona.

Para organizar el trabajo, proponemos empezar por las afirmaciones que podrían cambiar la decisión. Después vienen las cifras destacadas, las atribuciones a terceros y las explicaciones causales. Los conectores y las frases puramente editoriales no necesitan una ficha independiente. Así se concentra la revisión donde un error podría alterar el resultado, sin convertir cada documento en una colección inmanejable de comprobantes.

También importa proteger los documentos utilizados. Registrar procedencia no significa subir información confidencial a una herramienta externa. Puede bastar con un identificador interno, una ubicación autorizada y permisos adecuados para quien revise. La posibilidad de reconstruir una afirmación debe convivir con las obligaciones de privacidad y con las restricciones de acceso de la organización.

Una ficha que permita discrepar

La ficha más útil no dice solamente “verificado”. Explica qué se verificó. Puede contener la afirmación, la fuente, el pasaje, una paráfrasis fiel, el límite y el uso aprobado. Si otra persona considera que la conclusión excede el respaldo, tendrá un punto concreto para discutir. Sin ese registro, la conversación vuelve a la confianza personal en quien preparó el informe.

Conviene separar además lo que dice la obra de lo que propone el autor del documento. “Los autores observaron…” y “a partir de ello proponemos…” cumplen funciones diferentes. La segunda formulación no es menos legítima por ser una interpretación. Se vuelve problemática cuando se disfraza de resultado científico y toma prestada una autoridad que la fuente no le concede.

La IA puede ayudar a ordenar esa ficha o señalar frases que merecen comprobación. Su contribución sigue siendo una asistencia, no la firma de revisión. La responsabilidad debe quedar en alguien que haya consultado el respaldo y pueda explicar las reservas. Una casilla marcada automáticamente no sustituye esa lectura.

Antes de enviar, prueba una afirmación decisiva

Elige una frase de tu próximo informe y pide a un colega que reconstruya su origen usando solo el registro adjunto. Si encuentra la obra, el pasaje y el límite sin pedirte una explicación adicional, la cadena es más revisable. Si solo puede encontrar una bibliografía extensa, todavía falta conectar las referencias con el argumento.

La meta no es demostrar que toda respuesta automática está equivocada. Es impedir que la facilidad para producir texto borre la diferencia entre una hipótesis atractiva y una afirmación respaldada. Una respuesta puede servir como punto de partida. La decisión necesita saber qué parte fue comprobada, por quién y hasta dónde llega.

¿Qué afirmación de un informe, una clase o una decisión reciente te resultaría más difícil rastrear hasta el pasaje original, y qué cambiarías para que otra persona pudiera revisarla?

Elaborado por Ricardo Gaibor.

Este artículo fue elaborado por Ricardo Gaibor con ayuda de sistemas de inteligencia artificial en tareas de investigación, organización y edición. La selección, interpretación y responsabilidad editorial del contenido corresponden al autor.

Referencias y lecturas

• Caulfield, M. y Wineburg, S. (2023). Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online. University of Chicago Press. Ficha editorial consultada; se utiliza para el planteamiento general, no como consulta integral del libro.
• Walters, W. H. y Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, 14045. DOI: 10.1038/s41598-023-41032-5. Texto completo en la revista.
• Caulfield, M. (2019). SIFT (The Four Moves). Hapgood. Explicación original pública de los cuatro movimientos.
• Autio, C., Schwartz, R., Dunietz, J., Jain, S., Stanley, M., Tabassi, E., Hall, P. y Roberts, K. (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1, sección 2.2. DOI: 10.6028/NIST.AI.600-1. Ficha y acceso al documento.
• Crossref (s. f.). REST API. Documentación sobre recuperación de metadatos bibliográficos. Consulta: 11 de noviembre de 2026.