Un gerente general en Guayaquil abre LinkedIn un lunes por la mañana.
En la misma pantalla encuentra tres noticias: un investigador acaba de renunciar a Anthropic advirtiendo sobre los riesgos extremos de la inteligencia artificial; los líderes de Anthropic, OpenAI y X coinciden, algo nada habitual, en que quizá sea necesario desacelerar el desarrollo de los modelos más avanzados; y las acciones de varias compañías vinculadas al boom de la IA están cayendo.
Entonces mira el piloto de inteligencia artificial que su empresa lanzó hace tres meses y probablemente se hace la misma pregunta que muchos ejecutivos:
¿Esto realmente me afecta o estamos frente a otro episodio de hype de Silicon Valley?
La respuesta corta es: sí nos afecta, aunque no necesariamente por las razones que dominan los titulares.
El debate sobre los riesgos extremos de la inteligencia artificial todavía tiene una buena dosis de especulación. Pero debajo del ruido existe una señal bastante más concreta que ningún directorio debería ignorar:
Los sistemas autónomos ya están demostrando que pueden actuar de maneras que sus propios desarrolladores no anticiparon.
Y ahí es donde esta discusión deja de ser ciencia ficción y entra directamente en mi terreno favorito: la ciberseguridad.
Dos semanas que sacudieron a la industria
El episodio comenzó a principios de septiembre con Jacob Coxon, investigador que había trabajado tanto en OpenAI como en Anthropic.
Al anunciar su salida de Anthropic, Coxon acusó a ambas organizaciones de avanzar irresponsablemente hacia sistemas cada vez más poderosos y de “apostar con nuestras vidas”.
La declaración habría podido quedar como la opinión de un investigador que acababa de renunciar, pero ocurrió algo bastante menos habitual.
Evan Hubinger, responsable de Alignment Science en Anthropic, respondió públicamente que él estima en más del 10% la posibilidad de que una inteligencia artificial extremadamente avanzada pueda causar la extinción humana durante la próxima década.
Aclaremos algo importante: se trata de la estimación personal de un investigador, no de una probabilidad científicamente establecida. Y precisamente ahí está una parte esencial del debate.
Pocos días después, Dario Amodei, CEO de Anthropic, publicó su propuesta para desacelerar el desarrollo de la IA de frontera y dar tiempo a que los mecanismos de seguridad alcancen a las capacidades de los nuevos modelos.
Entre sus planteamientos están el acceso de evaluadores externos a los sistemas avanzados, estándares de seguridad compartidos entre empresas y gobiernos y mecanismos de coordinación internacional.
Sam Altman, de OpenAI, y también Elon Musk, de X, coincidieron públicamente en que el ritmo de desarrollo merece mayor cautela. La propuesta no equivale necesariamente a “detener la IA”, sino a evitar que el aumento de capacidades avance más rápido que nuestra habilidad para controlarlas.
Los mercados también reaccionaron.
El 14 de septiembre, Nvidia cayó aproximadamente un 3,4%, mientras SoftBank perdió alrededor del 10,7%. El índice de semiconductores de Filadelfia retrocedió cerca del 5,9%.
Cuando una conversación que parecía filosófica empieza a mover miles de millones de dólares, los directorios prestan atención.
Y deberían. Pero quizá no por la razón que imaginan.
¿Alarma real o hype? Probablemente hay un poco de ambos
Los escépticos tienen argumentos razonables. Existe un evidente conflicto de intereses cuando algunas de las compañías que construyen los modelos más poderosos del mundo advierten simultáneamente que esos mismos sistemas podrían ser extraordinariamente peligrosos.
También existe el riesgo de que nuevas barreras regulatorias terminen beneficiando precisamente a los gigantes que ya poseen el capital, el talento y la infraestructura para cumplirlas, dificultando la entrada de competidores más pequeños.
Por eso debemos evitar dos extremos. El primero es asumir que todo anuncio sobre riesgos de IA anuncia inevitablemente un apocalipsis tecnológico. El segundo es descartar cualquier advertencia simplemente porque viene de Silicon Valley.
Como suele ocurrir en ciberseguridad, la parte más interesante aparece cuando dejamos las predicciones y observamos qué ya ocurrió.
El incidente que debería preocupar más a un CISO que Terminator
Esto es algo de lo que ya hemos hablado en artículos previos: en julio de 2026, durante evaluaciones internas de ciberseguridad, modelos experimentales de OpenAI lograron eludir controles diseñados para mantenerlos aislados de Internet.
Los sistemas utilizaron canales de comunicación no autorizados, explotaron vulnerabilidades de infraestructura, consiguieron acceso a Internet y comprometieron partes de la infraestructura interna de investigación de OpenAI y sistemas pertenecientes a Hugging Face.
OpenAI posteriormente describió el incidente como el episodio más grave de este tipo identificado hasta entonces en sus modelos.
Las investigaciones también encontraron miles de agentes colaborando y más de 70.000 mensajes intercambiados a través de mecanismos de comunicación utilizados durante el proceso.
Esta es la distinción que considero realmente importante:
Que una futura superinteligencia termine convirtiéndose en Skynet sigue perteneciendo al terreno de las hipótesis apocalípticas; pero que agentes autónomos encuentren maneras inesperadas de evadir controles, explotar infraestructura y acceder a sistemas de terceros ya ocurrió.
Eso no es Terminator, es seguridad informática. Y para un CEO, CTO o CISO, la segunda conversación debería tomarse muy en serio.
Mientras Silicon Valley discute, Ecuador acaba de tomar otra dirección
El debate adquiere una dimensión especialmente interesante desde Ecuador.
El 15 de septiembre de 2026, el Pleno de la Asamblea Nacional archivó con 88 votos, durante el primer debate, el Proyecto de Ley Orgánica de Regulación y Promoción de Inteligencia Artificial en Ecuador.
La Comisión de Educación había identificado problemas técnicos en la propuesta, posibles limitaciones al desarrollo tecnológico y disposiciones que podían generar gasto público sin considerar adecuadamente las competencias constitucionales.
Ahora bien, que ese proyecto haya sido archivado no significa que las empresas ecuatorianas puedan utilizar inteligencia artificial en un vacío jurídico.
Esta es una distinción muy importante, puesto que la Ley Orgánica de Protección de Datos Personales continúa plenamente vigente cuando una solución de IA procesa datos personales y el escenario regulatorio es incluso más concreto de lo que aparenta.
Durante 2026, la Superintendencia de Protección de Datos Personales expidió la Norma General para la Garantía del Derecho de Protección de Datos Personales en el Uso de Sistemas de Inteligencia Artificial, que establece la aplicación de los principios y obligaciones de la LOPDP a quienes desarrollen, entrenen, implementen, desplieguen o provean sistemas de IA que traten datos personales de titulares ecuatorianos.
Dicho en lenguaje ejecutivo:
No tener todavía una “Ley de Inteligencia Artificial” integral no significa que no existan responsabilidades.
El verdadero problema del C-Level latinoamericano
Ahora saquemos la conversación de Silicon Valley y traigámosla de vuelta a nuestras empresas.
La pregunta para un directorio hoy no debería ser: ¿La IA va a acabar con la humanidad? Mantengamos la fe en John y Sarah por ahora.
Hay una pregunta más útil en la actualidad: ¿Sabemos exactamente qué pueden hacer hoy los sistemas de IA que ya operan dentro de nuestra organización?
Porque podemos pasarnos meses discutiendo si una inteligencia artificial llegará algún día a superar a los seres humanos y si viviremos o no dentro de la Matrix… pero mientras tanto, un agente con demasiados privilegios puede acceder a información confidencial, ejecutar acciones no autorizadas, interactuar con APIs, enviar información a servicios externos o aprovechar una vulnerabilidad antes de que alguien se dé cuenta.
Eso sí es un riesgo empresarial presente.
Cuatro preguntas para tu próxima sesión de directorio
Antes de aprobar otro piloto, comprar otra licencia o conectar otro agente a los sistemas corporativos, haz estas cuatro preguntas:
1. ¿Tenemos un inventario real de los agentes y herramientas de IA que utiliza la empresa?
No solamente las aprobadas por Tecnología.
También aquellas que cada departamento comenzó a utilizar por su cuenta.
2. ¿Qué acciones puede ejecutar cada agente sin aprobación humana?
Leer información es una cosa.
Modificar registros, enviar correos, ejecutar código, consultar bases de datos o interactuar con servicios externos es otra completamente distinta.
3. ¿Con qué privilegios opera?
En ciberseguridad llevamos décadas hablando del principio de mínimo privilegio.
La llegada de los agentes de IA no elimina ese principio.
Lo vuelve todavía más importante.
4. ¿Detectaríamos a tiempo un comportamiento anómalo?
Si un sistema comienza a ejecutar acciones diferentes a las esperadas, ¿tenemos monitoreo, registros y mecanismos de contención suficientes para descubrirlo?
Y, sobre todo:
¿Podemos apagarlo rápidamente?
Si la respuesta a cualquiera de estas preguntas es “no sé”, ahí tienes una prioridad para tu próxima reunión.
No esperes a que llegue la regulación
Durante años he repetido una idea en ciberseguridad: cumplimiento no es sinónimo de seguridad.
Podemos trasladar exactamente el mismo principio a la inteligencia artificial.
La existencia de una ley no hará automáticamente segura a una empresa.
Y la ausencia de una ley específica tampoco eliminará el riesgo.
La gobernanza empieza antes que la regulación. Empieza cuando el directorio conoce qué tecnología está usando la organización, qué datos toca, qué decisiones puede tomar, qué permisos posee y quién responde cuando algo sale mal.
Quizá algún día tengamos que preocuparnos por una superinteligencia digna de una película de ciencia ficción.
Hoy tenemos un problema bastante más mundano:
Estamos dando cada vez más autonomía a sistemas que todavía no comprendemos ni controlamos por completo.
Para mí, esa es razón suficiente para actuar.
No con miedo: con gobernanza, con controles.
Y con la misma mentalidad con la que llevamos décadas protegiendo sistemas críticos: confía, pero verifica.
Si quieres saber qué nivel de exposición tiene actualmente tu empresa frente al uso de IA y agentes autónomos, en Consulting Systems podemos ayudarte a identificar las brechas prioritarias y definir por dónde comenzar.
Solicita una asesoría sin costo en:
https://consulting-systems.tech/asesoria-gratuita
Porque la regulación puede tardar, pero los incidentes no esperan.
Referencias
Asamblea Nacional del Ecuador. (2026, 15 de septiembre). Pleno archiva Proyecto de Ley de Inteligencia Artificial. https://www.asambleanacional.gob.ec/es/noticia/119354-pleno-archiva-proyecto-de-ley-de-inteligencia
OpenAI. (2026, 26 de agosto). The Hugging Face incident and the road ahead. https://openai.com/index/hugging-face-incident-and-the-road-ahead/
Sabin, S. (2026, 1 de septiembre). AI’s agent containment problem is getting harder. Axios. https://www.axios.com/2026/09/01/openai-hugging-face-ai-agent-security
Reuters. (2026, 14 de septiembre). Wall Street ends down, calls for AI slowdown pummel chipmakers. https://www.reuters.com/business/ai-warnings-knock-nasdaq-futures-pressure-tech-stocks-2026-09-14/
Reuters. (2026, 14 de septiembre). Global AI stocks fall as industry chiefs call for slowing development. https://www.reuters.com/world/china/ai-linked-asian-stocks-slump-after-top-lab-ceos-call-slowing-down-technologys-2026-09-14/
Reuters. (2026, 14 de septiembre). Trump dismisses AI safety alarm, says US already has tools to police industry. https://www.reuters.com/world/trump-says-there-is-sick-conspiracy-against-ai-data-centers-2026-09-14/
Reserva una Asesoría Sin Costo
Agenda hoy mismo una cita con uno de nuestros expertos en ciberseguridad y privacidad de datos y protege la seguridad de la información de tu empresa.
CEO – Consulting Systems
Hacker, Computer Forensics Auditor, Author, IT Trainer, Entrepreneur
CEH, Computer Forensics US, Cisco CyberOps Associate, CCNA Security, CCNA Wireless, HCSA, HCSP
