¿Recuerdas las Reglas de los Gremlins?
Como Arquitecta de Soluciones, he visto muchas cosas. Pero lo que está pasando ahora me recuerda constantemente a esa película de los 80. En Gremlins, te daban un “Mogwai” adorable (como Gizmo) con tres reglas simples: no luz brillante, no mojarlo y, la más importante, nunca darle de comer después de medianoche.
Tu piloto de Inteligencia Artificial de 2024 es tu “Mogwai”. Es impresionante, funciona, quizás hasta te hizo quedar como un héroe en una demo. Pero tu CEO, emocionado, acaba de dar la orden de “mojarlo”: quiere escalarlo a toda la compañía para 2026. Y nadie, absolutamente nadie, leyó las reglas. Estás a punto de desatar un caos de Gremlins operativos y ni siquiera lo sabes.
Bienvenidos a la Deuda Técnica de la IA. No es un “bug” de código; es una bomba de tiempo de gobernanza.
El Síndrome del Piloto Exitoso (Que en Realidad es “Shadow AI”)
El escenario es siempre el mismo. Un área de negocio (Marketing, Operaciones, Finanzas) no quiso esperar a TI. Usaron una herramienta No-Code, conectaron una API de un gran modelo de lenguaje y crearon un chatbot interno, un analizador de reportes o un generador de descripciones de productos. ¡Y funciona! Ahorra 10 horas a la semana. Es el héroe local.
Este es el nacimiento del “Shadow AI”: inteligencia artificial desarrollada fuera de la supervisión, gobernanza y arquitectura oficial de la empresa.
El “caos” no es el piloto en sí. El caos es la petición del Gerente General que dice: “¡Esto es increíble! Quiero que todos los vendedores lo usen con los datos de clientes… para el próximo trimestre”.
El silencio que sigue es el del desarrollador que se da cuenta de que su “Mogwai” no tiene frenos, no tiene seguridad y, si mil personas lo usan, probablemente cueste más que la nómina de un mes en costos de API. O peor: que empiece a filtrar datos confidenciales entre departamentos.
Los Gremlins Técnicos: Por Qué Escalar un Piloto sin Auditoría es un Suicidio Operativo
Como arquitecta, mi trabajo es ver cómo se conectan los sistemas. Y estos pilotos “Shadow” no están conectados a nada. Son islas. Intentar escalar una isla no crea un continente; crea un archipiélago ingobernable. Aquí están los tres Gremlins que veo en el 90% de los pilotos:
- Gremlin 1: El Bot Fantasma (Sin Gestión de NHI). NHI significa Identidad No Humana (Non-Human Identity). ¿Quién es tu bot? ¿Usa la clave API personal de “Daniel de Operaciones”? Si Daniel renuncia, ¿se muere el bot? ¿O peor, sigue corriendo con los permisos de administrador de Daniel? Escalar esto es crear un ejército de fantasmas con llaves maestras de tu empresa.
- Gremlin 2: El Mentiroso Convincente (Sin RAG). La mayoría de los pilotos usan el modelo “base” (ej. GPT-4). Este modelo sabe mucho del mundo, pero no sabe nada de tu negocio. No conoce tus políticas internas, tu stock de productos en Chile, ni los descuentos aprobados. Cuando un vendedor le pregunte, el bot “alucinará”: inventará una respuesta que suena profesional pero es 100% falsa. La solución a esto es RAG (Retrieval-Augmented Generation), una arquitectura que “aterriza” al modelo con tus datos reales. Los pilotos casi nunca lo tienen.
- Gremlin 3: El Pozo Sin Fondo (Sin Control de Costos ni Auditoría). El piloto, usado por 5 personas, cuesta $15.000 CLP al mes. Escalarlo a 500 personas no costará $1.500.000 CLP. Costará mucho más, porque el uso no es lineal. Sin un framework de gobernanza, no hay control de costos, ni logs para saber quién preguntó qué, ni un “botón de apagado” si algo sale mal.
El Plan de Diciembre: De Cazar Gremlins a Construir una Fábrica de Mogwais
Sé lo que estás pensando. “Mariemily, ¿me estás diciendo que apague mi piloto exitoso?”. No. Rotundamente no.
Te estoy diciendo que uses Diciembre, el mes de la planificación y los presupuestos, para hacer lo que debimos hacer al inicio: auditar. No puedes construir el rascacielos de IA de 2026 sobre los cimientos de una cabaña de 2024.
Necesitas un Framework de Gobernanza. Y eso empieza por hacer las preguntas difíciles a tus pilotos “Shadow”.
Herramienta Práctica: Blueprint de Auditoría de “Shadow AI” (Nivel Arquitecta)
Como tu Arquitecta-Guía, no te voy a dejar solo con el diagnóstico. Esta es la lista de verificación exacta que uso con mis clientes para auditar pilotos de IA antes de que piensen en escalarlos. Tómala, envíasela a tu equipo de TI (o al valiente “Daniel de Operaciones”) y úsenla como el framework base para su planificación de 2026.
El objetivo: Pasar de “Shadow AI” a “IA Gobernada y Escalable”.
### BLUEPRINT DE AUDITORÍA RÁPIDA DE IA (PARA PILOTOS "SHADOW")
MÓDULO 1: IDENTIDAD Y ACCESO (El Problema NHI)
[ ] ¿Quién es el "Bot"? (NHI): ¿Tiene una identidad única (Service Account, API Key dedicada) o usa las credenciales de un humano?
* (Alerta Roja si usa las de un humano).
[ ] ¿Qué puede "Ver"? (Permisos): ¿Qué acceso tiene esta identidad? ¿Es "Lector" o "Admin"? ¿Tiene acceso a datos sensibles (ej. $CLP, RUTs)?
[ ] ¿Quién lo "Cuida"? (Propietario): ¿Quién es el propietario de negocio y el propietario técnico? ¿Qué pasa si renuncian?
MÓDULO 2: DATOS Y CALIDAD (El Problema RAG)
[ ] ¿De Dónde Aprende? (Fuente): ¿Usa solo el modelo base (ej. GPT-4) o consulta datos internos?
[ ] ¿Es un Piloto con RAG o sin RAG? (Calidad):
* (Sin RAG): El bot solo sabe de cosas públicas. Riesgo: Alucina sobre tu negocio.
* (Con RAG): ¿Cómo se conectan los datos? ¿Están actualizados? ¿Respeta la seguridad de esos datos?
[ ] ¿Qué "Recuerda"? (Manejo de PII): ¿El bot almacena el historial de chat? ¿Dónde? ¿Almacena datos personales (PII)?
MÓDULO 3: GOBERNANZA Y ESCALABILIDAD
[ ] ¿Hay un "Botón de Apagado"? (Control): Literalmente, ¿cómo se detiene si empieza a fallar o a costar mucho dinero?
[ ] ¿Cuánto Cuesta? (Costos): ¿Se está monitoreando el costo por API call? ¿Qué pasa si 1000 usuarios lo usan mañana?
[ ] ¿Se Puede "Auditar"? (Logging): ¿Queda un registro (log) de lo que la gente le pregunta y lo que responde? (Crítico para detectar sesgos o fallas).
[ ] ¿Cuál es el Plan de "Luz Brillante"? (Manejo de Fallos): ¿Qué pasa cuando el bot falla o dice algo incorrecto? ¿Cómo se reporta y corrige?Cómo Aplicar el Blueprint (Sin Pánico)
La deuda técnica, como cualquier deuda, no desaparece ignorándola. Solo genera intereses. Pero la IA tiene intereses compuestos.
- Paso 1: Identifica tus “Mogwais”. Haz un censo. Pregunta a los equipos qué herramientas de IA están usando. Sé empático, no punitivo. El objetivo es descubrir, no culpar.
- Paso 2: Audita con el Blueprint. Sienta al propietario del piloto y revisen el checklist. Marca las “Alertas Rojas”. Esto te dará una foto clara de tu deuda técnica.
- Paso 3: Define tus Reglas. Ahora sí, crea tu framework. Define tus “3 reglas” para cualquier proyecto de IA futuro. (Ej: “Todo proyecto DEBE tener una NHI dedicada”, “Todo proyecto DEBE pasar por la arquitectura RAG”, “Todo proyecto DEBE tener un monitor de costos”).
Hacer esto ahora, en Diciembre, significa que en lugar de pasar 2026 apagando los incendios de los Gremlins, estarás dirigiendo una fábrica organizada, segura y escalable de “Mogwais” que realmente transformen tu negocio.
Cierre: ¿Cuántos Gremlins Encontraste?
La IA no es magia, es ingeniería. Y la buena ingeniería requiere un blueprint. Has construido un prototipo genial; ahora es el momento de actuar como los arquitectos que somos y asegurarnos de que el edificio no se caiga cuando llegue el resto de la gente.
Tómate un café, mira a tu alrededor en la oficina y pregúntate: ¿Dónde están mis “Shadow AI”? ¿Cuántos Gremlins estoy alimentando sin saberlo?
Me encantaría saber qué encuentras. Déjame un comentario abajo, ¿cuál es el piloto de IA más sorprendente que has descubierto en tu organización?
