Adopción segura de IA en la empresa: gobierno, políticas y guardrails

La adopción segura de IA en la empresa consiste en decidir qué herramientas se usan, con qué datos y bajo qué reglas, antes de que cada empleado lo decida por su cuenta. En la práctica son tres capas: un responsable con un marco de gobierno, una política de uso que todos entienden y guardrails técnicos que hacen cumplir esa política en Microsoft 365 y en la red. Sin esas capas la IA entra a tu empresa igual, pero fuera de tu control.

La IA ya está en tu empresa, la hayas aprobado o no

Según el Work Trend Index 2024 de Microsoft y LinkedIn, el 75% de los trabajadores del conocimiento ya usa IA en su trabajo, y el 78% de quienes la usan lleva sus propias herramientas, sin esperar a que la empresa elija una. El mismo estudio encontró que el 60% de los líderes teme que su organización no tenga un plan ni una visión para implementar la IA.

A eso se le llama shadow AI: IA que se usa sin aprobación ni supervisión de TI. Un vendedor que pega la lista de clientes en un chatbot gratuito para redactar correos, una contadora que sube un estado financiero para que se lo resuman, un gerente que instala una extensión del navegador que lee su correo. Nadie actúa de mala fe. Quieren trabajar más rápido y la herramienta está a un clic.

Panamá va en la misma dirección. El Índice Latinoamericano de Inteligencia Artificial (ILIA) 2025, que publica el Centro Nacional de Inteligencia Artificial de Chile (CENIA), ubica al país en el grupo de “adoptantes”, con 38.95 puntos frente a un promedio regional de 42.98, y destaca una adopción alta de IA generativa basada en web. La gente ya usa estas herramientas. La pregunta para tu empresa no es si usar IA, sino cómo ordenarla para que trabaje a tu favor.

Qué puede salir mal cuando la IA se usa sin reglas

El informe Cost of a Data Breach 2025 de IBM midió el efecto de la shadow AI en las filtraciones de datos. Una de cada cinco organizaciones reportó una filtración causada por shadow AI, y donde había mucho uso no autorizado la filtración costó en promedio USD 670,000 más. Solo el 37% tenía políticas para administrar la IA o detectar su uso no aprobado, y el 63% de las organizaciones que sufrieron una filtración no tenía una política de gobierno de IA o todavía la estaba preparando.

A esto se suma la ley. En Panamá, la Ley 81 de 2019 sobre protección de datos personales rige desde el 29 de marzo de 2021. Pide que los datos se traten con una finalidad determinada, explícita y lícita, en general con el consentimiento del titular, y pone condiciones para transferirlos a otro país. Pegar datos personales de clientes en una herramienta que los procesa en el extranjero, sin revisar esas condiciones, es un riesgo legal además de técnico.

Para una empresa mediana, los riesgos técnicos se resumen en cuatro. Están descritos en el perfil de IA generativa del NIST (NIST AI 600-1) y en el Top 10 de riesgos para aplicaciones de modelos de lenguaje (LLM) del proyecto OWASP, dos referencias que vale la pena tener a mano:

• Fuga de información. Datos de clientes, contratos o la planilla que terminan en una herramienta pública cuyas condiciones de uso nadie revisó. OWASP la incluye como “divulgación de información sensible”, el segundo riesgo de su lista 2025.
• Exceso de permisos internos. Un asistente conectado a tus archivos encuentra en segundos documentos que llevan años mal compartidos: salarios, evaluaciones, actas de junta.
• Respuestas inventadas. El NIST llama “confabulación” al contenido falso presentado con total seguridad. Si nadie lo revisa, ese error llega a una propuesta o a un cliente.
• Manipulación de la IA. La inyección de prompts, primer riesgo del Top 10 de OWASP, ocurre cuando un texto escondido en un correo, un documento o una página web cambia lo que hace el asistente.

Gobierno de IA: quién decide y con qué marco

Gobierno de IA suena a burocracia de multinacional, pero en una pyme es algo concreto: una persona o un comité pequeño que decide qué herramientas se aprueban, para qué usos y con qué datos, y que revisa esas decisiones cada cierto tiempo. Sin un dueño claro, cada área termina con su propia herramienta y nadie sabe qué información salió de la empresa.

No hace falta inventar el método. El Marco de Gestión de Riesgos de IA del NIST (AI RMF 1.0, enero de 2023) es voluntario, sirve para cualquier sector y organiza el trabajo en cuatro funciones: gobernar (cultura, roles y políticas), mapear (entender el contexto y dónde se usa la IA), medir (evaluar los riesgos) y gestionar (priorizar y actuar). Para quien necesita certificarse, la norma ISO/IEC 42001:2023, publicada en diciembre de 2023, fija los requisitos de un sistema de gestión de IA para organizaciones que ofrecen o usan productos y servicios basados en IA.

Si tu empresa vende a Europa o atiende clientes europeos, también conviene seguir la Ley de IA de la Unión Europea, que entró en vigor el 1 de agosto de 2024. Desde el 2 de febrero de 2025 aplican sus prohibiciones y la obligación de que el personal que usa sistemas de IA tenga una formación suficiente en el tema.

Para una empresa de 20 a 200 personas, el arranque cabe en tres pasos. Primero, nombrar un responsable. Segundo, hacer un inventario de las herramientas de IA que ya se usan: pregunta en cada área y revisa lo que muestran los logs del firewall. Tercero, clasificar cada uso por riesgo, porque no es lo mismo pedir ideas para una publicación en redes que analizar expedientes de clientes.

Qué debe decir tu política de uso de IA

La política convierte esas decisiones en reglas para todos. Funciona mejor si cabe en dos páginas, usa ejemplos de tu propia operación y se explica en una reunión corta en lugar de llegar como un adjunto que nadie abre. Como mínimo, debería responder estas preguntas:

• Herramientas aprobadas: cuáles se pueden usar, siempre con la cuenta de la empresa y nunca con cuentas personales.
• Datos permitidos y prohibidos: qué se puede escribir o subir (información pública, borradores internos) y qué nunca (datos personales de clientes, información financiera no publicada, contraseñas, contratos).
• Revisión humana: todo lo que sale hacia un cliente, un regulador o una decisión importante lo revisa una persona.
• Transparencia: cuándo hay que avisarle a un cliente que un contenido se preparó con ayuda de IA.
• Herramientas nuevas: cómo se solicita una herramienta o una extensión nueva y quién la aprueba.
• Incidentes: a quién avisar, y en cuánto tiempo, si alguien compartió algo que no debía.

Guardrails técnicos: cómo hacer que la política se cumpla

Una política sola no alcanza. Si la herramienta aprobada es más lenta o más difícil que la gratuita, la gente vuelve a la gratuita. Por eso la política se acompaña de una buena herramienta, de capacitación y de guardrails: los controles técnicos que limitan lo que la IA puede ver y hacer, y lo que los usuarios pueden compartir con ella.

En una empresa que trabaja con Microsoft 365, los guardrails principales son cinco. Ninguno es exótico; la mayoría se configuran con herramientas que muchas empresas ya pagan en sus licencias y no tienen activadas:

• Una herramienta empresarial que no entrena con tus datos. Microsoft indica que en Copilot los prompts, las respuestas y los datos a los que accede por Microsoft Graph no se usan para entrenar los modelos de base. Antes de aprobar cualquier otra herramienta, revisa qué dicen sus condiciones sobre el uso de tus datos.
• Identidad protegida. MFA para todos y Acceso condicional, para que la IA corporativa se use con cuentas de la empresa y desde equipos que cumplen tus reglas.
• Etiquetas de confidencialidad. Con Microsoft Purview, un documento cifrado con una etiqueta conserva sus permisos, y Copilot respeta los derechos de uso que esa etiqueta da a cada usuario.
• Control de aplicaciones de IA no aprobadas. Desde el firewall o la solución de seguridad web puedes ver qué servicios de IA se usan en tu red y bloquear o limitar los que no están aprobados.
• Registro y retención. Microsoft Purview permite buscar y conservar las interacciones con Copilot, útil para investigar un incidente o responder una auditoría.

Antes de activar Copilot, ordena los permisos

Microsoft 365 Copilot, que Microsoft ahora llama Microsoft Copilot, solo muestra datos de la organización que el usuario ya tiene permiso de ver, por lo menos en modo lectura. Es una buena noticia siempre que los permisos estén bien. El problema es que con los años se desordenan: carpetas compartidas con toda la organización, enlaces abiertos que nadie recuerda, sitios de SharePoint de proyectos que terminaron hace tiempo.

Copilot no crea ese problema, pero lo hace visible en segundos: basta una pregunta para que aparezca un documento que nadie sabía que estaba abierto. Por eso la guía de Microsoft para preparar los datos antes de Copilot se organiza en tres frentes: corregir el exceso de permisos (oversharing), configurar guardrails y cumplir con las regulaciones. Para eso usa Microsoft Purview y SharePoint Advanced Management; este último, según Microsoft, viene incluido con la licencia de Copilot.

Microsoft también advierte que no se garantiza que las respuestas de la IA generativa sean 100% correctas y pide revisarlas antes de enviarlas. La recomendación práctica es esta: antes de asignar licencias, revisa quién tiene acceso a qué en SharePoint, OneDrive y Teams, corrige lo más expuesto, etiqueta la información sensible y empieza con un grupo piloto.

Un plan en cuatro fases para adoptar IA de forma segura

Así trabajamos la adopción de IA con nuestros clientes, en el mismo orden que describimos en nuestra página de inteligencia artificial para empresas. Cada fase deja algo listo antes de pasar a la siguiente:

• Evaluación: inventario de las herramientas que ya se usan, revisión de permisos y licencias, y casos de uso con valor real para tu negocio.
• Preparación: política de uso, MFA y Acceso condicional, permisos corregidos y etiquetas de confidencialidad en la información sensible.
• Piloto: un grupo pequeño con casos concretos, como reuniones resumidas, correo o análisis de ventas, con capacitación y medición de resultados.
• Ampliación: más usuarios y más casos, incluida la automatización con Power Automate o agentes en Copilot Studio, con los mismos guardrails.

Por qué el orden importa

Una empresa que salta directo al piloto sin ordenar permisos corre el riesgo de que la primera sorpresa con Copilot sea encontrar la planilla de salarios. Una que se queda solo en la política, sin una herramienta aprobada, empuja a su gente de vuelta a la shadow AI. Y una que compra licencias para todos sin un piloto termina pagando por herramientas que nadie sabe aprovechar.

El orden también facilita medir. Si el piloto tiene casos definidos, al cabo de unas semanas puedes comparar cuánto tiempo toma preparar una propuesta o cerrar el reporte del mes, y decidir con datos si vale la pena ampliar.

Cómo te acompañamos en Techno Sistemas

Hacemos este trabajo junto con el equipo de TI del cliente o como su área de TI. Revisamos el tenant de Microsoft 365, ordenamos permisos y licencias, configuramos la identidad con MFA resistente al phishing y Acceso condicional, y acompañamos el piloto con capacitación y medición.

Si tu empresa ya tiene un plan de soporte técnico mensual con nosotros, la administración de Microsoft 365 forma parte del servicio y la adopción de IA se suma a ese trabajo. Si prefieres empezar por un diagnóstico, hacemos una evaluación de seguridad de tu entorno y te entregamos los hallazgos con prioridades claras.

Preguntas frecuentes

¿Qué es la shadow AI?

Es el uso de herramientas de IA que la empresa no aprobó ni supervisa, casi siempre con cuentas personales. En su informe de 2025, IBM encontró que una de cada cinco organizaciones reportó una filtración causada por shadow AI.

¿Copilot usa los datos de mi empresa para entrenar sus modelos?

No. Microsoft indica que los prompts, las respuestas y los datos a los que Copilot accede por Microsoft Graph no se usan para entrenar los modelos de base. Copilot solo muestra lo que el usuario ya tiene permiso de ver, por eso conviene ordenar los permisos antes de activarlo.

¿Prohibir ChatGPT y otras herramientas resuelve el problema?

Rara vez. Si la gente no tiene una alternativa aprobada, usa la que conoce desde su celular o su cuenta personal. Funciona mejor ofrecer una herramienta empresarial, explicar qué datos no se comparten y bloquear solo lo que representa un riesgo.

¿Necesito certificarme en ISO/IEC 42001?

No es obligatorio. Tiene sentido si tus clientes o tu sector lo piden, o si desarrollas productos con IA. Para la mayoría de las pymes, aplicar el marco del NIST con una política clara y guardrails técnicos es un buen punto de partida.

¿Qué dice la ley panameña sobre usar datos de clientes en herramientas de IA?

Las reglas de la Ley 81 de 2019 aplican a cualquier tratamiento de datos personales, también cuando se hace con IA: finalidad determinada, consentimiento del titular en los casos que lo exige y condiciones para transferir datos a otro país. Revisa con tu asesor legal los usos que involucren datos personales.

Si quieres que tu equipo use IA con reglas claras y tus datos bajo control, empezamos con una evaluación de tu entorno Microsoft 365. Conoce cómo acompañamos la adopción de IA

Fuentes

1. Microsoft WorkLab – Work Trend Index 2024: AI at Work Is Here. Now Comes the Hard Part (2024): 75% de los trabajadores del conocimiento usa IA en el trabajo, 78% de los usuarios lleva sus propias herramientas y 60% de los líderes teme no tener un plan.
2. IBM Newsroom – IBM Report: 13% of Organizations Reported Breaches of AI Models or Applications, 97% of Which Reported Lacking Proper AI Access Controls (2025): Una de cada cinco organizaciones con filtración por shadow AI, USD 670,000 más de costo, 37% con políticas de IA y 63% sin política de gobierno de IA.
3. CENIA – Índice Latinoamericano de Inteligencia Artificial (ILIA) 2025: fichas de país y aspectos metodológicos (2025): Panamá en el grupo de países adoptantes, 38.95 puntos frente a un promedio regional de 42.98, con alta adopción de IA generativa.
4. IAPP – Panamá y el futuro reglamento de su ley de protección de datos (2020): Vigencia de la Ley 81 desde el 29 de marzo de 2021, finalidad del tratamiento, consentimiento y bases para transferencias internacionales.
5. NIST – Artificial Intelligence Risk Management Framework (AI RMF 1.0) (2023): Marco voluntario para cualquier sector, con sus cuatro funciones: gobernar, mapear, medir y gestionar.
6. NIST – AI 600-1 Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (2024): Riesgos propios de la IA generativa, entre ellos la confabulación, la privacidad de datos y la seguridad de la información.
7. OWASP Gen AI Security Project – OWASP Top 10 for LLM Applications 2025: LLM01 inyección de prompts y LLM02 divulgación de información sensible.
8. ISO – ISO/IEC 42001:2023 AI management systems (2023): Requisitos de un sistema de gestión de IA para organizaciones que ofrecen o usan productos basados en IA; publicada en diciembre de 2023.
9. Comisión Europea – Marco regulador de la IA (Ley de IA): Entrada en vigor el 1 de agosto de 2024; prohibiciones y obligación de alfabetización en IA desde el 2 de febrero de 2025.
10. Microsoft Learn – Datos, privacidad y seguridad para Microsoft Copilot (2026): Copilot solo muestra datos que el usuario puede ver, no entrena los modelos de base con prompts ni respuestas, respeta etiquetas de confidencialidad y cambio de nombre a Microsoft Copilot.
11. Microsoft Learn – Secure & Governed Data Foundation for Microsoft Copilot: Foundational Deployment Guidance (2026): Tres frentes antes de Copilot: corregir el exceso de permisos, configurar guardrails y cumplir regulaciones, con Purview y SharePoint Advanced Management.