La IA ya entró por la puerta lateral: cómo gobernar herramientas que nadie aprobó
Una persona copia un correo de un cliente en un asistente gratuito para contestarlo antes. Otra resume un documento interno desde su cuenta personal. Nadie compró una plataforma ni pidió autorización, pero la organización ya tiene un problema de gobierno de la inteligencia artificial. La respuesta útil empieza por descubrir qué necesidad están resolviendo esas personas y qué información sale de la empresa.
Estas escenas son ejemplos hipotéticos, no casos investigados. Sirven para plantear una pregunta concreta: ¿cómo responder al uso informal de IA sin reducir el problema a prohibiciones que nadie puede cumplir? Una salida razonable combina límites inmediatos para los datos sensibles, alternativas utilizables y un proceso para aprender de los usos que aparecen. No todo ensayo merece convertirse en proyecto, pero tampoco todo uso no registrado significa lo mismo.
La cuenta personal no cuenta toda la historia
Llamaremos IA en la sombra al uso de herramientas de inteligencia artificial que queda fuera del conocimiento o de los controles acordados por la organización. Es una definición operativa para este artículo. Conviene distinguir tres situaciones: una herramienta personal permitida para tareas acotadas; una herramienta cuyo uso todavía no está regulado; y una herramienta utilizada contra una prohibición expresa. Mezclarlas dificulta tanto la protección como el aprendizaje.
El Work Trend Index de Microsoft y LinkedIn de 2024 ayuda a entender la presión por actuar. El informe, basado entre otras fuentes en una encuesta de 31.000 personas de 31 países, señala que el 78 % de quienes usan IA llevan sus propias herramientas al trabajo. Ese dato no demuestra que el 78 % incumpla políticas. Tampoco representa una medición universal de todas las organizaciones: procede de una investigación empresarial con población y metodología determinadas. Sí muestra por qué no basta con mirar el catálogo de compras para conocer las herramientas utilizadas.
El mismo informe recoge reservas para admitir el uso de IA. La lectura organizacional no debería ser que toda persona oculta algo peligroso. Puede haber dudas sobre las reglas, temor a parecer reemplazable o una presión contradictoria: entregar más rápido, pero sin recursos aprobados. Son posibilidades que deben investigarse en cada entorno, no motivos que puedan atribuirse automáticamente a sus trabajadores.
La utilidad explica la adopción, no concede permiso
Hay evidencia académica de que ciertas tareas pueden beneficiarse de estos asistentes. Brynjolfsson, Li y Raymond estudian una introducción escalonada de asistencia generativa en atención al cliente. La versión de trabajo revisada en noviembre de 2024, consultada para este artículo, analiza 5.172 agentes y encuentra mejoras de productividad heterogéneas: las personas con menos experiencia obtienen beneficios mayores que algunos grupos experimentados. No es un estudio sobre herramientas clandestinas ni sobre cualquier profesión.
En otro contexto, Noy y Zhang realizaron un experimento con tareas de escritura profesional. La versión de marzo de 2023 disponible en MIT, expresamente identificada como documento de trabajo, describe mejoras promedio en tiempo y calidad y una reorganización del esfuerzo entre borrador y edición. Existe una publicación posterior, pero el análisis que sigue se limita expresamente a la versión preliminar consultada. Ninguno de ambos trabajos permite concluir que subir documentos confidenciales a una cuenta personal sea seguro.
La consecuencia práctica es más modesta y más útil: puede existir una necesidad genuina detrás del atajo. Antes de cancelarlo, hay que saber qué tarea facilita, qué errores introduce y qué alternativa permitiría conservar su utilidad sin aceptar la exposición. Productividad y autorización son preguntas distintas. Un texto entregado antes no prueba que se hayan respetado la confidencialidad, los derechos de terceros o los criterios de calidad.
Descubrir usos sin convertir la conversación en una trampa
Una primera ronda de descubrimiento puede preguntar qué tareas se aceleran, qué herramientas intervienen, qué datos se introducen y quién recibe el resultado. Es preferible describir actividades antes que acumular nombres de marcas: resumir reuniones, traducir propuestas o revisar código implican riesgos distintos incluso dentro de la misma plataforma. También hay IA integrada en aplicaciones ya contratadas; limitar la revisión a los chats conocidos deja zonas sin examinar.
La organización debe explicar el propósito de esa indagación, quién verá las respuestas y qué ocurrirá si aparece un incidente. No conviene prometer una amnistía que la dirección no pueda sostener ni confundir el aprendizaje con una investigación disciplinaria. Si ya existe una exposición de información sensible, corresponde activar el procedimiento aplicable. Descubrir necesidades y atender incidentes pueden coexistir, pero requieren reglas claras y un tratamiento proporcional.
El inventario inicial debería contener tarea, responsable, herramienta, tipo de cuenta, categoría de datos, destinatario del resultado y control actual. No necesita copiar conversaciones privadas para resultar útil. Recoger más datos de los necesarios puede crear otro riesgo. Cuando hagan falta registros técnicos, habrá que justificar su finalidad y acceso conforme al contexto jurídico y laboral, sin convertir este diagnóstico en vigilancia indiscriminada.
Clasificar el uso, no solo la herramienta
El AI Risk Management Framework del NIST organiza el trabajo alrededor de gobernar, mapear, medir y gestionar. Es un marco voluntario, no una certificación automática ni una obligación idéntica para cualquier empresa. Su aporte aquí consiste en desplazar la atención desde una lista de productos hacia el contexto, las responsabilidades y los efectos posibles. La tabla siguiente es una propuesta editorial inspirada en ese enfoque; no reproduce una clasificación oficial del NIST.
| Uso encontrado | Qué comprobar | Respuesta inicial |
|---|---|---|
| Ideas con información pública | Exactitud, derechos y destino del texto | Permitir ensayo acotado con revisión |
| Resumen de documentos internos | Confidencialidad, retención y acceso del proveedor | Exigir entorno aprobado antes de cargar archivos |
| Datos de clientes o empleados | Necesidad, base jurídica y protección aplicable | Detener carga no autorizada y consultar al responsable |
| Recomendaciones sobre personas | Impacto, sesgos, revisión y posibilidad de impugnar | No automatizar decisiones sin evaluación específica |
| Conexión con correo o repositorios | Permisos, alcance y capacidad de ejecutar acciones | Aplicar privilegios mínimos y pruebas controladas |
La diferencia importa: una herramienta aprobada para generar ideas con materiales públicos no queda aprobada para evaluar candidatos. Y quitar nombres de un documento no garantiza anonimato si su contenido permite reconocer a alguien. La clasificación debe considerar también qué sucede después de generar la respuesta. Un borrador revisado internamente no tiene el mismo alcance que un mensaje enviado automáticamente a un cliente.
Una alternativa segura tiene que poder usarse
Prohibir una herramienta sin resolver la tarea puede dejar intacto el incentivo que originó el uso. Esto no significa que toda prohibición fracase, sino que debe acompañarse de una respuesta operativa. Si se permite resumir documentos solo en un entorno corporativo, ese entorno necesita acceso disponible, instrucciones comprensibles y responsables capaces de responder dudas. Una licencia comprada pero inaccesible no constituye una alternativa real para quien tiene una entrega pendiente.
Antes de aprobar el servicio conviene revisar condiciones de tratamiento de datos, retención, uso para entrenamiento, accesos administrativos, eliminación y posibles integraciones. No hay que asumir que una modalidad empresarial resuelve por sí sola todos estos puntos. La configuración concreta y el contrato importan. El perfil de IA generativa del NIST de 2024 identifica, entre otros, riesgos de privacidad, seguridad, confabulación y configuración de la relación entre personas e IA; sirve para ordenar estas preguntas, no para declarar seguro a un proveedor.
También hace falta diseñar una ruta rápida para casos nuevos: qué información presentar, quién decide y cómo se comunica la respuesta. Es preferible un permiso limitado y explícito a una aprobación ambigua. Por ejemplo, una prueba de dos semanas con textos públicos, sin conexiones externas y con revisión antes de compartir. Sus límites deben quedar registrados y revisarse antes de ampliar datos, usuarios o facultades de ejecución.
Del uso invisible al aprendizaje controlado
- Descubrir: identificar tarea, necesidad y datos.
- Clasificar: valorar exposición e impacto del resultado.
- Decidir: permitir, limitar, sustituir o detener.
- Acompañar: ofrecer alternativa y criterios de revisión.
- Aprender: medir resultados y actualizar reglas.
El circuito vuelve al comienzo cuando cambian el proveedor, los datos o la tarea. Una aprobación no es un cheque en blanco.
Revisar una respuesta exige algo más que leerla
La fórmula «siempre habrá revisión humana» es insuficiente cuando nadie define qué revisar. Para un resumen, puede significar contrastar decisiones, fechas y omisiones con el documento original. Para una comunicación comercial, verificar compromisos y condiciones. Para un análisis de personas, evaluar además pertinencia, trato desigual y posibilidad de corrección. El revisor necesita tiempo, acceso a la información relevante y autoridad para detener la entrega.
La responsabilidad tampoco debería diluirse entre quien escribe la instrucción y quien administra la cuenta. Un responsable de proceso decide para qué sirve el uso; tecnología y seguridad evalúan accesos e integración; las funciones jurídicas o de protección de datos intervienen cuando corresponda. Quien recibe el resultado debe saber sus límites. Estas son responsabilidades propuestas para adaptar, no una estructura obligatoria para todas las organizaciones.
Una prueba sencilla consiste en pedir al equipo que explique qué haría ante una respuesta convincente pero incorrecta. Si solo responde que confiaría en la experiencia de alguien, falta concretar el control. La fluidez del texto no verifica su contenido. El perfil del NIST utiliza la categoría de confabulación para abordar respuestas falsas o erróneas presentadas con aparente confianza; ese riesgo necesita controles adecuados a la tarea, no una advertencia genérica al final de la política.
Un primer mes con resultados observables
Como propuesta práctica, la primera semana puede dedicarse a un inventario limitado de usos y a detener cargas de información claramente no autorizadas. La segunda, a priorizar dos o tres necesidades repetidas y revisar alternativas. La tercera, a ejecutar pruebas acotadas con materiales apropiados. La cuarta, a decidir qué mantener, corregir o cerrar. Es una secuencia orientativa, no un calendario validado experimentalmente ni una promesa de resolver todos los riesgos en treinta días.
Las métricas deben mirar más allá de cuántas personas abren una cuenta. Interesa conocer qué tareas disponen de una ruta aprobada, cuánto tarda una consulta en resolverse, qué errores detecta la revisión y qué exposiciones se notifican. Conviene registrar también el trabajo de corrección: una reducción del tiempo de borrador puede desaparecer si aumenta la verificación. El ahorro declarado y la calidad comprobada no son la misma medida.
Un aumento inicial de reportes tampoco demuestra por sí solo un deterioro: podría indicar mayor disposición a comunicar lo que antes era invisible. Para interpretarlo habrá que contrastar gravedad, recurrencia y cambios en los controles. La meta no es producir un inventario impecable mientras continúan los mismos atajos, sino reducir la distancia entre el trabajo real y las condiciones bajo las que la organización puede responder por él.
Gobernar empieza por hacer visible la decisión
La IA en la sombra reúne necesidades de trabajo, incertidumbres y exposiciones que una prohibición aislada no alcanza a describir. La organización necesita saber qué permite, con qué datos, bajo qué revisión y quién responde cuando algo cambia. Eso exige escuchar la utilidad que las personas encuentran sin convertirla en una justificación automática para cualquier uso.
El criterio para llevar a una conversación de equipo cabe en una frase: antes de aprobar una herramienta, describamos la tarea, los datos y las consecuencias. Con esa información será más fácil distinguir una experimentación razonable de una exposición que debe detenerse. Y también será posible ofrecer una alternativa que no obligue a elegir entre cumplir las reglas y terminar el trabajo.
¿Qué tarea de tu organización está empujando a usar IA por fuera de los canales acordados y qué alternativa concreta permitiría hacerla con controles?
Este artículo fue elaborado por Ricardo Gaibor con ayuda de sistemas de inteligencia artificial en tareas de investigación, organización y edición. La selección, interpretación y responsabilidad editorial del contenido corresponden al autor.
Referencias
- National Institute of Standards and Technology (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). Marco técnico voluntario. DOI: 10.6028/NIST.AI.100-1. Texto completo oficial.
- National Institute of Standards and Technology (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1. DOI: 10.6028/NIST.AI.600-1. Texto completo oficial.
- Brynjolfsson, E., Li, D. y Raymond, L. (2024). Generative AI at Work. Versión de trabajo revisada, arXiv:2304.11771v2, consultada en su texto completo. Registro y versiones; Documento consultado. Publicación posterior en The Quarterly Journal of Economics (2025): DOI: 10.1093/qje/qjae044. Los datos citados corresponden a la versión de trabajo de 2024.
- Noy, S. y Zhang, W. (2023). Experimental Evidence on the Productivity Effects of Generative Artificial Intelligence. Documento de trabajo del 2 de marzo, no revisado por pares en esta versión. Versión preliminar consultada, alojada en MIT. Se cita exclusivamente esta versión preliminar, sin DOI asignado en el documento, no la publicación posterior.
- Microsoft y LinkedIn (2024). AI at work is here. Now comes the hard part. Work Trend Index, investigación empresarial; no es un artículo académico revisado por pares. Informe y metodología.

Abre la conversación
Comparte una idea, una pregunta o una experiencia relacionada con el artículo. También puedes responder directamente a otros miembros.