La IA puede ahorrar tiempo en soporte, ventas, administracion, documentacion interna y analisis operativo. Pero cuando se conecta sin reglas, tambien puede mostrar informacion a quien no debe verla, guardar datos sensibles en registros o responder con fuentes que no estaban autorizadas.
El punto critico no es si la IA es util. El punto critico es que permisos tiene antes de tocar documentos, sistemas o acciones reales.
Una empresa no deberia conectar IA a “todo” solo porque la tecnologia lo permite. Primero necesita decidir que datos puede consultar, que usuarios pueden usarlos, que fuentes son confiables y que debe pasar cuando el resultado tenga impacto.
Que significa filtrar datos con IA
Filtrar datos no siempre significa que un archivo completo salga de la empresa. Tambien puede ocurrir cuando:
- un usuario recibe informacion de otra area;
- un asistente usa documentos que el usuario no podia abrir;
- un prompt guarda datos personales, contratos o folios internos;
- una respuesta mezcla informacion publica con informacion confidencial;
- un indice de busqueda queda disponible para demasiados usuarios;
- un proveedor o herramienta conserva contenido que no debia recibir;
- una automatizacion ejecuta acciones sin aprobacion suficiente.
Por eso la seguridad de IA no se resuelve solo con una politica escrita. Necesita controles en la aplicacion, en las fuentes y en el flujo operativo.
Empieza por el caso de uso
Antes de conectar documentos, bases de datos o APIs, define una tarea especifica.
No es lo mismo:
- responder preguntas sobre manuales internos;
- resumir tickets de soporte;
- buscar informacion en contratos;
- clasificar correos;
- preparar cotizaciones;
- sugerir respuestas para clientes;
- consultar inventarios o pedidos;
- crear reportes ejecutivos.
Cada caso usa datos distintos, tiene usuarios distintos y puede requerir niveles diferentes de revision.
Una buena definicion inicial responde:
- que proceso se quiere mejorar;
- quien usara la IA;
- que datos necesita;
- que datos quedan prohibidos;
- que salida debe generar;
- quien revisa el resultado;
- que error seria aceptable y cual no;
- que sistemas se conectaran ahora y cuales quedan fuera.
Si el alcance no esta claro, los permisos tampoco van a estar claros.
Clasifica fuentes antes de indexar
Muchas fugas empiezan antes de que alguien haga una pregunta. Empiezan cuando se indexan documentos sin revisar que contienen.
Una clasificacion sencilla ayuda a decidir que entra al piloto:
| Fuente | Riesgo principal | Control minimo |
|---|---|---|
| Documentacion publica | Respuestas desactualizadas o inconsistentes | Validar version vigente y responsable |
| Manuales internos | Exponer procesos internos a areas no autorizadas | Separar por area, rol y vigencia |
| Tickets de soporte | Datos de clientes, errores sensibles o credenciales pegadas | Sanitizar, filtrar y limitar por asignacion |
| Contratos y propuestas | Informacion comercial, legal o financiera | Usar solo extractos aprobados y permisos estrictos |
| Bases de datos operativas | Acceso excesivo o acciones sobre datos reales | Consultas limitadas, aprobacion y registros |
| Logs y evidencias tecnicas | Tokens, IPs, rutas internas o datos personales | Enmascarar, truncar y controlar retencion |
El objetivo no es bloquear toda la informacion. Es permitir que la IA use solo lo necesario para el caso de uso.
La IA debe respetar permisos originales
Una regla practica: si una persona no puede ver un documento en el sistema original, la IA tampoco deberia usarlo para responderle.
Esto requiere permisos antes de la respuesta, no solo instrucciones al modelo.
En una implementacion empresarial, conviene validar:
- identidad del usuario;
- rol o grupo autorizado;
- fuentes permitidas por rol;
- documentos excluidos;
- fragmentos recuperados;
- acciones disponibles;
- bitacora de consultas;
- excepciones aprobadas.
El asistente puede parecer correcto tecnicamente y aun asi ser riesgoso si responde con informacion de otra area, otro cliente o un documento restringido.
No todo debe entrar al prompt
Copiar informacion completa dentro de un prompt puede ser rapido, pero no siempre es necesario.
Antes de enviar contenido a un modelo, revisa si se puede:
- reducir a los campos necesarios;
- eliminar nombres, correos, telefonos o identificadores;
- reemplazar datos reales por referencias internas;
- enviar solo un fragmento relevante;
- usar resultados agregados;
- separar instrucciones de datos;
- bloquear secretos, tokens o contrasenas;
- pedir confirmacion antes de incluir datos sensibles.
La IA no necesita conocer todo el expediente para ayudar con una tarea concreta. Mientras menos datos sensibles toque, menor es el riesgo operativo.
Pide evidencia y permite decir “no se”
Un asistente empresarial no debe inventar para verse util.
Cuando la IA responda usando documentos o sistemas internos, conviene mostrar:
- fuente consultada;
- fecha o version;
- seccion o fragmento relevante;
- nivel de confianza cuando aplique;
- mensaje claro cuando no hay evidencia suficiente;
- opcion para escalar a una persona.
Esto ayuda a reducir errores y tambien deja una ruta para revisar respuestas despues.
Guías como el AI Risk Management Framework de NIST y el OWASP Top 10 for LLM Applications son utiles como referencia porque ordenan riesgos de IA, seguridad, trazabilidad y abuso. En una empresa, esos riesgos deben aterrizarse a datos concretos, usuarios concretos y procesos concretos.
Registra actividad sin crear otro riesgo
Los registros son necesarios para saber que paso: quien pregunto, que fuentes se consultaron, que respuesta se genero y si alguien aprobo una accion.
Pero los registros tambien pueden convertirse en otro repositorio sensible si guardan prompts completos, documentos o respuestas con datos privados.
Define desde el inicio:
- que eventos se registran;
- que datos se enmascaran;
- quien puede ver registros;
- cuanto tiempo se conservan;
- como se investigan errores;
- que eventos se consideran incidentes;
- como se elimina informacion cuando ya no se necesita.
Trazabilidad no significa guardar todo. Significa guardar lo necesario para operar, auditar y mejorar sin duplicar exposicion.
Revisa antes de automatizar acciones
La IA puede resumir, clasificar, sugerir o preparar trabajo. Eso no significa que siempre deba ejecutar.
Mantén revision humana cuando el flujo pueda:
- enviar informacion a un cliente;
- modificar registros;
- generar cotizaciones;
- cambiar permisos;
- cerrar tickets criticos;
- responder temas legales, financieros o laborales;
- mover informacion sensible;
- afectar disponibilidad o seguridad.
Un buen primer paso es usar IA como copiloto interno: propone, explica y deja evidencia. La ejecucion automatica puede venir despues, cuando el proceso ya fue probado.
Piloto recomendado
Para empezar sin abrir demasiado riesgo, usa un piloto corto y controlado:
- Elige un proceso repetitivo y de bajo impacto.
- Selecciona pocas fuentes vigentes.
- Define usuarios piloto y permisos.
- Excluye datos restringidos.
- Registra preguntas, fuentes y resultados sin guardar datos de mas.
- Revisa respuestas con usuarios reales.
- Mide utilidad, errores, tiempo ahorrado y costo.
- Ajusta permisos antes de ampliar alcance.
El piloto no debe demostrar que la IA puede contestar cualquier cosa. Debe demostrar que puede ayudar en un proceso real sin ampliar acceso, romper controles o crear evidencia imposible de revisar.
Cuando conviene ayuda tecnica
Conviene tratar la IA como un proyecto de software y seguridad cuando necesita:
- conectarse a documentos privados;
- respetar permisos por rol;
- consultar sistemas internos;
- registrar evidencia;
- ejecutar acciones con aprobacion;
- operar con datos de clientes;
- integrarse con CRM, ERP, mesa de ayuda o aplicaciones propias;
- medir costo y uso por proceso.
En esos escenarios, una herramienta aislada suele quedarse corta. La solucion necesita arquitectura, integracion, controles de acceso y mantenimiento.
Enlaces internos utiles
- Como implementar IA sin exponer datos sensibles
- Checklist antes de usar IA con datos sensibles
- Gobierno de datos para IA
- Conectar IA a documentos sin filtrar datos
- Errores al conectar IA a sistemas internos
- Integracion de IA en software
- Consultoria en inteligencia artificial
La IA puede ser muy valiosa para una empresa, pero debe entrar con limites. Permisos, fuentes, revision y registros no son frenos al proyecto: son lo que permite llevarlo a produccion con menos riesgo.