¿Qué revela el caso de CISA sobre el uso de IA en Ecuador?

Cuatro documentos gubernamentales sensibles habrían sido cargados en la versión pública de ChatGPT entre mediados de julio y principios de agosto de 2025. Entre ellos, según la información publicada por TechRepublic, figuraban materiales de contratación clasificados para uso oficial únicamente. El hecho involucró a Madhu Gottumukkala, director interino de CISA, y fue detectado por los sistemas de ciberseguridad del Departamento de Seguridad Nacional de Estados Unidos.

Aunque CISA afirmó que existía autorización para utilizar ChatGPT y que el uso fue breve y limitado, la pregunta importante no desaparece: ¿quién responde cuando una herramienta de IA interactúa con información sensible?

Para las empresas en Ecuador, y especialmente para las organizaciones de Quito, esta no es una anécdota lejana de Washington. Es una advertencia concreta sobre lo que puede ocurrir cuando un colaborador utiliza una herramienta pública sin una política clara, un responsable identificable o un registro capaz de explicar qué información fue introducida, cuándo ocurrió y con qué propósito.

En mi experiencia como consultor en Quito, he encontrado equipos que ya usan ChatGPT, automatizaciones y asistentes de IA antes de que la gerencia, TI o seguridad conozcan siquiera el alcance real de ese uso.

Ahí aparece el verdadero problema de la inteligencia artificial en Ecuador: no basta con preguntar si una plataforma está permitida. También hay que determinar si su uso es seguro, proporcional y trazable. Una empresa puede autorizar ChatGPT de forma general y, aun así, dejar expuestos contratos, datos de clientes, información financiera o documentos internos.

La autorización es una puerta; la gobernanza consiste en saber quién tiene la llave, qué habitaciones puede abrir y quién registra cada movimiento. Hasta el tablero más sencillo se vuelve riesgoso cuando nadie sabe quién está moviendo las piezas.

Recuerdo el caso de una empresa quiteña a la que acompañé en la implementación de un asistente interno. El equipo quería conectarlo rápidamente a su repositorio documental para responder consultas comerciales. El entusiasmo era comprensible, pero descubrimos que la carpeta incluía archivos con información personal y acuerdos que no debían estar disponibles para todos los usuarios.

La solución no fue prohibir la IA, sino clasificar la información, limitar permisos, definir un dueño del sistema y registrar las consultas. Parece sentido común; en algunas organizaciones, el sentido común todavía necesita comité, formulario y tres firmas.

La lección para las PYMES ecuatorianas es directa: los agentes y asistentes generativos deben tener una cadena de responsabilidad tan clara como una credencial corporativa. Alguien debe aprobar su uso, alguien debe supervisar los datos que consultan y alguien debe responder ante un incidente.

Esto incluye revisar proveedores, separar entornos de prueba y producción, establecer zonas rojas para información confidencial y conservar evidencias útiles para auditorías y cumplimiento de la LOPDP.

En Ecuador, además, la conversación no puede separarse de la protección de datos personales. Las organizaciones que implementan inteligencia artificial deben preguntarse qué datos procesa el sistema, cuál es la base legal, cómo se informa al titular y qué controles permiten intervenir o corregir una decisión automatizada.

El cumplimiento de la Ley Orgánica de Protección de Datos Personales no debería tratarse como una tarea documental que aparece al final del proyecto. Debe incorporarse desde el diseño, junto con la seguridad, la supervisión humana y la trazabilidad.

Esto es especialmente relevante cuando una PYME incorpora agentes de IA para atender clientes, revisar documentos, generar reportes o ejecutar acciones dentro de un CRM. Un agente no es simplemente un chatbot con mejor marketing: puede consultar sistemas, combinar información y actuar con cierto nivel de autonomía.

Por eso, cada asistente utilizado por una organización necesita límites, permisos y un responsable concreto. La innovación puede avanzar rápido, pero la rendición de cuentas no puede quedarse esperando en recepción.

La pregunta ya no es solamente si podemos usar esta IA, sino si podemos demostrar que sabemos qué hizo, con qué datos y quién debía supervisarla.

El caso CISA expone una brecha que también puede aparecer en Ecuador: la distancia entre el uso real de la inteligencia artificial y la capacidad de una organización para gobernarla. Una herramienta pública puede ser útil, accesible y aparentemente inofensiva; sin controles, también puede convertirse en un canal accidental de exposición.

Para las PYMES ecuatorianas, empezar por un inventario de herramientas, responsables y tipos de datos suele ser más valioso que redactar una política extensa que nadie consulta. Es un primer paso de gobernanza y también una forma práctica de demostrar cumplimiento de obligaciones de seguridad, privacidad y protección de datos.

No se trata únicamente de adoptar la tecnología que todos están probando, sino de decidir qué tipo de organización queremos construir con ella. En Quito y en el resto de Ecuador, esa decisión ya está ocurriendo en los escritorios de los colaboradores, en los equipos comerciales y en los departamentos de operaciones.

El siguiente desafío es identificar el fenómeno que hace más difícil verlo: el shadow AI, es decir, el uso de herramientas y agentes que operan fuera de los canales formales de seguridad y supervisión.

Shadow AI: la brecha entre el uso autorizado y el uso seguro

La advertencia del caso CISA conduce naturalmente a un fenómeno menos visible, pero mucho más extendido: el shadow AI. Se produce cuando colaboradores, equipos comerciales, áreas de operaciones o directivos utilizan herramientas de inteligencia artificial sin que estas hayan sido registradas, evaluadas o aprobadas por TI, seguridad o la dirección.

La diferencia entre uso autorizado y uso seguro es fundamental. Una empresa puede permitir ChatGPT, Gemini o un asistente conectado a su CRM y, aun así, desconocer qué datos se introducen, qué permisos tiene la herramienta y qué proveedor procesa la información.

En mi experiencia como consultor de inteligencia artificial en Ecuador, esta brecha aparece con frecuencia en organizaciones de Quito que no se consideran tecnológicas. Un ejecutivo copia contratos en una plataforma pública para resumirlos; una persona de recursos humanos utiliza IA para filtrar hojas de vida; un equipo comercial conecta un complemento a su correo corporativo.

Cada acción parece pequeña y razonable. El problema surge cuando se acumulan sin inventario, sin límites y sin una persona que pueda responder por el conjunto.

Recuerdo una implementación en una empresa quiteña donde el área de ventas había creado varios asistentes para preparar propuestas y responder consultas internas. Nadie los consideraba sistemas formales porque se habían configurado en pocos días y con herramientas disponibles en internet.

Al revisar el flujo, encontramos que uno de esos asistentes podía consultar carpetas con precios especiales, contratos y datos de clientes. No hubo una intención maliciosa; hubo velocidad sin gobierno. La IA avanzaba con buen motor, pero sin brújula ni capitán. Y, como suele ocurrir, todos confiaban en que alguien más estaba mirando el mapa.

El papel del CISO, o del responsable de seguridad cuando la organización no cuenta con un CISO formal, no debe limitarse a bloquear herramientas. Su función consiste en hacer visible el riesgo, establecer controles proporcionales y asegurar que cada sistema tenga un dueño de negocio, un responsable técnico y una ruta de escalamiento.

En las PYMES ecuatorianas, esa función puede recaer inicialmente en una persona de tecnología, cumplimiento o dirección, siempre que la responsabilidad quede documentada y tenga autoridad real.

Una estructura mínima para reducir el shadow AI debería contemplar los siguientes pasos:

Crear un inventario vivo: registrar chatbots, copilotos, automatizaciones, modelos integrados en aplicaciones empresariales y herramientas utilizadas por terceros. El inventario debe incluir sistemas oficiales y soluciones descubiertas mediante entrevistas, revisión de facturas, análisis de tráfico y encuestas internas.
Asignar responsables: cada herramienta debe tener un dueño de negocio, un responsable técnico y una persona encargada de revisar seguridad, privacidad y continuidad. El responsable de seguridad debe poder consultar esta información sin tener que reconstruirla después de un incidente.
Clasificar los datos: no es lo mismo trabajar con información pública que con datos personales, información financiera, secretos comerciales o documentos sujetos a obligaciones contractuales. Las zonas rojas deben estar definidas antes de conectar un agente.
Separar ambientes: desarrollo, pruebas y producción no deben compartir automáticamente datos reales. Un asistente experimental no debería acceder al correo completo, al CRM productivo ni a una carpeta corporativa sin filtros.
Registrar y revisar: la organización necesita saber qué consultó el sistema, qué respuesta generó, qué acción ejecutó y quién aprobó el resultado. La trazabilidad es especialmente importante para los agentes que pueden realizar acciones, no solo redactar textos.
Preparar una respuesta ante incidentes: debe existir un procedimiento para revocar credenciales, aislar integraciones, conservar registros, identificar los datos expuestos, notificar a los responsables y evaluar las obligaciones legales aplicables.

El control no tiene que convertirse en una burocracia que frene toda innovación. Para las empresas en Ecuador, una política de uso aceptable puede comenzar con reglas sencillas: qué información nunca debe cargarse en una herramienta pública, qué casos requieren autorización, qué proveedores están aprobados y cómo se reporta una herramienta no registrada.

También conviene ofrecer un canal de declaración sin castigo para que los colaboradores informen qué soluciones ya utilizan. Si la única respuesta institucional es prohibir, el shadow AI no desaparece: simplemente aprende a esconderse mejor.

En Quito, donde muchas organizaciones están adoptando asistentes de IA para atención al cliente, análisis comercial y soporte interno, esta conversación debe involucrar a dirección, tecnología, legal, recursos humanos y las áreas usuarias. Seguridad no puede enterarse cuando el agente ya está conectado a todo.

Un comité pequeño de gobernanza puede revisar los casos de mayor riesgo, mientras que los usos simples pueden aprobarse mediante criterios predefinidos. Lo importante es que exista una puerta de entrada visible y un mecanismo para detener un sistema cuando cambian sus datos, permisos o propósito.

La supervisión humana también debe ser concreta. No basta con escribir en una política que una persona revisa las decisiones de la IA. Hay que definir qué revisa, con qué información, en cuánto tiempo puede intervenir y qué ocurre si discrepa del resultado.

En procesos de crédito, selección de personal, salud, cobranzas o atención de reclamos, el humano debe tener capacidad efectiva de corregir, rechazar o escalar la recomendación. Un botón decorativo de aprobación no constituye gobierno; es apenas una firma digital sobre la incertidumbre.

Para las PYMES ecuatorianas, el punto de partida puede ser una matriz de riesgo sencilla:

Riesgo bajo: generación de ideas con información pública, sin conexión a sistemas internos.
Riesgo medio: análisis de documentos corporativos no sensibles, con acceso restringido y registros de actividad.
Riesgo alto: tratamiento de datos personales, decisiones que afectan a personas o agentes con capacidad de ejecutar transacciones.
Riesgo crítico: acceso autónomo a información financiera, credenciales, infraestructura, expedientes sensibles o procesos irreversibles sin supervisión humana.

Esta clasificación ayuda a decidir cuándo basta una autorización del área usuaria, cuándo debe intervenir seguridad y cuándo se requiere una evaluación más completa de privacidad, proveedor y continuidad. También ofrece evidencia útil de que la organización no adoptó la herramienta de manera improvisada.

El shadow AI no empieza cuando la tecnología falla; empieza cuando la organización deja de preguntar quién la configuró, qué datos puede ver y quién puede detenerla.

La lección para las empresas en Ecuador es que la visibilidad debe preceder a la expansión. Antes de implementar más agentes o multiplicar los asistentes internos, conviene saber qué soluciones ya existen, qué información manejan y qué riesgos producen.

En Quito y en el resto de Ecuador, la gobernanza no debería verse como un obstáculo para la inteligencia artificial, sino como la infraestructura que permite confiar en ella. Un sistema trazable, supervisado y alineado con la protección de datos puede crecer con seguridad; uno invisible solo está esperando su primer incidente.

Cómo elegir herramientas de IA y proteger datos sensibles

El caso de CISA y el crecimiento del shadow AI muestran que la pregunta ya no es si una organización utilizará inteligencia artificial, sino en qué entorno la utilizará, con qué información y bajo qué responsabilidad.

Para las PYMES ecuatorianas, comparar herramientas públicas, soluciones empresariales y entornos privados no es un ejercicio académico: es una decisión operativa que puede afectar la confidencialidad de contratos, datos de clientes, información financiera y obligaciones de cumplimiento.

Muchas empresas empiezan por la herramienta y no por el riesgo. Un equipo descubre un asistente gratuito, lo prueba con información real y, cuando funciona, intenta conectarlo al correo, al CRM o a una carpeta compartida.

En una empresa de Quito tuve que detener una integración porque el agente podía leer propuestas comerciales, documentos laborales y bases de clientes sin distinguir entre usuarios. El proyecto tenía entusiasmo, pero no tenía límites. Era como entregar las llaves de toda una biblioteca a alguien que solo necesitaba consultar un libro.

La primera comparación es sencilla:

Herramientas públicas: son accesibles, rápidas y útiles para ideación, redacción o análisis de información pública. Sin embargo, presentan riesgos sobre retención de datos, configuración de privacidad, jurisdicción del proveedor, entrenamiento de modelos y falta de trazabilidad empresarial. No deberían recibir contratos confidenciales, datos personales ni credenciales.
Soluciones empresariales: ofrecen controles administrativos, gestión de usuarios, registros de actividad, acuerdos corporativos y mejores opciones de integración. No son automáticamente seguras: una mala configuración de permisos puede exponer información aunque el proveedor sea reconocido.
Entornos privados: pueden ejecutarse en infraestructura propia o dedicada, con mayor control sobre datos, accesos y registros. Requieren más inversión, mantenimiento, talento técnico y capacidad para actualizar modelos, monitorear vulnerabilidades y responder ante incidentes.

Para las empresas en Ecuador, la elección debe depender de la sensibilidad de los datos, el impacto de un error, el nivel de autonomía del sistema y la capacidad interna de supervisión. Un asistente que resume noticias públicas no merece los mismos controles que un agente capaz de modificar pedidos, consultar expedientes o recomendar condiciones de crédito.

Las soluciones de agentes IA para empresas requieren una evaluación adicional: además de responder, pueden consultar información, activar flujos, enviar comunicaciones o actualizar sistemas. Mientras mayor sea su capacidad de acción, más importante será definir permisos mínimos, aprobaciones y límites operativos.

Una guía práctica para las PYMES ecuatorianas puede seguir estos pasos:

Inventariar lo que ya existe: entrevistar a las áreas usuarias, revisar facturas de software, extensiones del navegador, automatizaciones y conexiones con correo, almacenamiento, CRM o ERP. El inventario debe incluir también herramientas no declaradas.
Definir zonas rojas: prohibir por defecto la carga de datos personales sensibles, claves, información bancaria, secretos comerciales, expedientes laborales y documentos sujetos a restricciones contractuales en plataformas públicas.
Clasificar el riesgo del caso de uso: separar generación de contenido, análisis interno, recomendaciones y acciones autónomas. Mientras mayor sea el impacto sobre personas o sistemas, más estricta debe ser la aprobación.
Asignar tres responsables: un dueño de negocio, un responsable técnico y una persona encargada de revisar privacidad y seguridad. En una PYME una misma persona puede asumir varias funciones, pero ninguna de ellas debe quedar sin nombre.
Separar ambientes: probar los agentes con datos ficticios o anonimizados antes de conectarlos a producción. El agente experimental no debe tener acceso ilimitado a carpetas, correos o bases reales.
Exigir trazabilidad: registrar quién consultó el sistema, qué datos utilizó, qué respuesta generó, qué acción ejecutó y quién aprobó el resultado. Sin registros, investigar un error se convierte en una conversación de opiniones.
Establecer aprobaciones proporcionales: los usos de bajo riesgo pueden tener una autorización simple; los de riesgo medio deben pasar por tecnología y privacidad; los de riesgo alto requieren dirección, seguridad, evaluación de impacto y supervisión humana.

Un riesgo local frecuente es asumir que una empresa pequeña no será objetivo de incidentes. En realidad, las PYMES ecuatorianas suelen tener menos personal especializado, configuraciones más heterogéneas y mayor dependencia de proveedores externos.

Eso puede convertir una herramienta aparentemente económica en un punto de entrada para exposición de datos, fraude o errores operativos. La innovación no elimina estas vulnerabilidades; a veces las acelera con una sonrisa y una prueba gratuita.

Por eso, los asistentes y agentes de IA deberían incorporar controles desde el diseño: autenticación multifactor, permisos mínimos, revisión de proveedores, cifrado, copias de seguridad, monitoreo y un mecanismo de apagado inmediato.

También deben informar cuándo interviene la IA, especialmente si el resultado puede afectar una contratación, una cobranza, una solicitud de crédito o la atención de un reclamo.

La mejor arquitectura de IA no es la más sofisticada: es la que permite saber qué puede hacer el sistema, qué no puede hacer y quién puede detenerlo.

IA, LOPDP y responsabilidad empresarial

La documentación debe quedar conectada con la Ley Orgánica de Protección de Datos Personales, las obligaciones contractuales y las políticas internas de seguridad. Cada revisión debería comprobar si existe una base adecuada para tratar los datos, si el proveedor ofrece garantías suficientes, si la información se conserva durante el tiempo necesario y si la empresa puede reconstruir lo ocurrido mediante registros.

Para las PYMES ecuatorianas, este enfoque convierte la selección de una herramienta en una decisión empresarial verificable, no en una preferencia individual del colaborador más entusiasmado con la novedad.

La empresa necesita documentar qué datos trata el sistema, con qué finalidad, durante cuánto tiempo, quién accede a ellos y cómo puede intervenir una persona. Si existe una decisión automatizada con efectos relevantes, deben analizarse la transparencia, la posibilidad de revisión y los derechos del titular.

No basta con confiar en que el proveedor cumple. La responsabilidad empresarial no se terceriza tan fácilmente como el almacenamiento en la nube.

Una comparación útil no empieza por preguntar qué modelo produce la respuesta más brillante. Empieza por identificar qué datos tocará la herramienta, qué acciones podrá ejecutar y qué pasaría si la respuesta fuera incorrecta.

Para cada caso de uso, conviene registrar al menos:

Objetivo de negocio: qué tarea se quiere resolver y qué beneficio se espera obtener.
Tipo de información: pública, interna, confidencial, personal o sensible.
Capacidades del sistema: solo lectura, generación de contenido, consulta de bases, envío de mensajes o ejecución de transacciones.
Proveedor y arquitectura: herramienta pública, servicio empresarial, entorno privado o desarrollo propio.
Responsable: una persona concreta que apruebe, supervise y coordine la revisión del sistema.
Evidencias: registros de acceso, consultas, respuestas relevantes, cambios realizados y acciones ejecutadas.

Este inventario debe incluir tanto los sistemas oficiales como las herramientas que los equipos ya utilizan por iniciativa propia. Para los agentes de IA, conviene añadir una ficha de permisos: qué repositorios pueden consultar, qué información no deben recuperar, qué aplicaciones pueden activar y qué operaciones requieren aprobación humana.

Si un agente puede crear una cotización, modificar un registro o enviar una comunicación a un cliente, no debería tener la misma autonomía que un asistente que únicamente propone un borrador.

El segundo control consiste en definir zonas de información. Una zona verde puede contener material público y plantillas aprobadas; una zona amarilla, documentos internos que solo pueden procesarse en herramientas empresariales; y una zona roja, datos personales sensibles, secretos comerciales, credenciales, información financiera crítica o archivos sujetos a restricciones contractuales.

Esta clasificación debe traducirse en permisos técnicos, no quedarse en un documento que nadie revisa. Para las PYMES ecuatorianas, incluso una tabla sencilla con ejemplos concretos suele funcionar mejor que una política de veinte páginas.

También es necesario separar los entornos de desarrollo, pruebas y producción. Un asistente experimental no debería conectarse directamente a datos reales de clientes ni enviar mensajes desde una cuenta corporativa. En la fase de pruebas pueden utilizarse datos ficticios, muestras anonimizadas y límites de volumen.

Antes de pasar a producción, el responsable debe verificar las instrucciones del agente, sus fuentes, sus permisos, sus mecanismos de registro y la forma de detenerlo. Este principio resulta esencial para las empresas que quieren probar inteligencia artificial sin convertir a sus clientes en participantes involuntarios del experimento.

El proceso de aprobación puede organizarse por niveles de riesgo. Una herramienta que trabaja con información pública puede aprobarse mediante un procedimiento breve. Un asistente que consulta documentos internos debería requerir revisión de TI, negocio y seguridad.

Un agente que procesa datos personales, recomienda decisiones relevantes o ejecuta acciones externas necesita una evaluación más completa, controles de intervención y evidencia de revisión. En todos los casos, el expediente debe dejar claro quién autorizó el uso, con qué alcance, durante cuánto tiempo y bajo qué condiciones de retiro.

En una empresa quiteña con la que trabajé, el equipo comercial quería desplegar un asistente para responder preguntas sobre productos. Durante el inventario descubrimos que la fuente propuesta mezclaba catálogos públicos con listas de precios negociadas y observaciones internas de clientes.

No fue necesario cancelar el proyecto: se separaron las fuentes, se creó un repositorio aprobado y se configuró el asistente para escalar consultas sensibles a una persona. Ese tipo de decisión permite avanzar con IA sin confundir velocidad con ausencia de controles.

Una IA bien gobernada no es la que tiene más permisos, sino la que tiene exactamente los permisos necesarios y puede demostrar cómo los utilizó.

Checklist para implementar IA responsable en Quito y Ecuador

Antes de habilitar cualquier herramienta, una organización puede exigir cinco validaciones mínimas: inventario del sistema, dueño identificable, clasificación de datos, separación del entorno y aprobación proporcional al riesgo.

A ello debe sumar registros suficientes para cumplir con la LOPDP, revisión periódica de accesos y un mecanismo para suspender el agente cuando cambie el proveedor, la finalidad o el tipo de información procesada.

Identificar todas las herramientas de IA que utilizan los equipos, incluso las no declaradas.
Nombrar un responsable de negocio, un responsable técnico y un responsable de seguridad o privacidad.
Definir qué información puede utilizarse en herramientas públicas, empresariales o privadas.
Prohibir la carga de credenciales, datos personales sensibles, contratos confidenciales e información financiera en plataformas no autorizadas.
Separar los entornos de prueba y producción.
Aplicar permisos mínimos y autenticación multifactor.
Registrar consultas, respuestas relevantes, acciones ejecutadas y aprobaciones humanas.
Revisar proveedores, condiciones contractuales, retención de datos y mecanismos de seguridad.
Establecer un protocolo para revocar accesos, aislar integraciones y responder ante incidentes.
Revisar periódicamente si el agente continúa procesando los mismos datos, con los mismos permisos y para la misma finalidad.

Así, la inteligencia artificial deja de crecer como una colección de experimentos aislados y empieza a integrarse en una arquitectura donde cada herramienta tiene límites, contexto y responsabilidad asignada.

Gobernar la IA no significa frenar el negocio. Significa evitar que el negocio dependa de una herramienta que nadie sabe realmente quién controla. También significa construir una ventaja competitiva: una organización que conoce sus datos, entiende sus riesgos y puede explicar sus decisiones genera más confianza en clientes, colaboradores, socios y autoridades.

Si tu empresa está explorando automatizaciones, asistentes internos o agentes capaces de conectarse a procesos comerciales, conviene revisar primero cómo se integrarán con los sistemas y datos existentes. Una implementación de agentes de inteligencia artificial en Ecuador debe empezar por un caso de uso concreto, permisos limitados y métricas que demuestren valor sin ampliar innecesariamente la superficie de riesgo.

Este enfoque también aplica a organizaciones que operan fuera del país. La gobernanza de IA Ecuador comparte principios con proyectos de Inteligencia Artificial España, Inteligencia Artificial Málaga o Inteligencia Artificial Barcelona: conocer los datos, limitar accesos, definir responsables y mantener supervisión humana donde realmente importa.

Preguntas frecuentes sobre IA en Ecuador, shadow AI y protección de datos

¿Se puede usar ChatGPT en una empresa de Quito o Ecuador?

Sí, siempre que el uso responda al nivel de riesgo y al tipo de información procesada. ChatGPT u otras herramientas públicas pueden servir para ideación, redacción o análisis de información pública y anonimizada, pero no deberían recibir contratos confidenciales, datos personales, claves, información bancaria o bases de clientes sin una evaluación previa.

Para casos empresariales, la recomendación es utilizar entornos con controles de usuarios, registros, permisos y condiciones claras sobre el tratamiento de datos. La Inteligencia Artificial Quito funciona mejor cuando el equipo sabe qué puede cargar, qué debe evitar y a quién consultar antes de conectar una nueva herramienta.

¿Qué es el shadow AI y por qué afecta a las PYMES ecuatorianas?

El shadow AI es el uso no registrado o no aprobado de asistentes de inteligencia artificial, automatizaciones, chatbots o extensiones conectadas a herramientas corporativas. Suele aparecer cuando un colaborador busca resolver una tarea rápidamente, no necesariamente por una intención incorrecta.

En las PYMES de Ecuador, el riesgo aumenta porque estas herramientas pueden acceder a correos, CRM, documentos, precios o datos de clientes sin que TI, gerencia o seguridad conozcan su existencia. Un inventario simple y un canal de aprobación reducen más riesgo que una prohibición que nadie puede cumplir.

¿La LOPDP aplica cuando una empresa usa agentes de inteligencia artificial?

Sí, cuando los agentes de inteligencia artificial procesan datos personales, la empresa debe considerar las obligaciones aplicables de la LOPDP. Esto incluye revisar la finalidad del tratamiento, la base legal, las medidas de seguridad, la información al titular, el tiempo de conservación y los derechos de revisión o corrección.

La responsabilidad no desaparece porque un proveedor externo procese los datos. Antes de implementar IA Ecuador para atención al cliente, recursos humanos, cobranzas o análisis comercial, conviene documentar qué información consultará el agente y qué controles impedirán accesos o decisiones indebidas.

¿Qué datos no deben cargarse en una IA pública?

Como regla general, una herramienta pública no debería recibir credenciales, claves API, datos personales sensibles, información financiera, historias laborales, contratos confidenciales, secretos comerciales, expedientes de clientes ni documentos con restricciones contractuales.

Si el caso de uso exige trabajar con información interna, la empresa debe evaluar una solución empresarial o privada, configurar accesos mínimos y probar con datos anonimizados antes de pasar a producción. Los asistentes de Inteligencia Artificial deben recibir solo la información necesaria para cumplir su función, no las llaves de toda la organización.

¿Cuándo necesita supervisión humana un agente de IA?

La supervisión humana es indispensable cuando un agente puede afectar derechos, oportunidades, dinero, reputación o relaciones con clientes. Por ejemplo, en selección de personal, crédito, cobranzas, salud, reclamos, emisión de cotizaciones, cambios en un CRM o envío de comunicaciones externas.

La persona supervisora debe tener capacidad real para revisar, corregir, rechazar o detener la acción. Un agente de IA que ejecuta tareas en una empresa de Quito, Guayaquil o Cuenca no debería operar con mayor autonomía de la que la organización puede monitorear y explicar.

Artículo de referencia: CISA, ChatGPT y la gobernanza de agentes de IA.