Suscríbete aquí al boletín informativo del Brennan Center en español
- El éxito de la orden de Trump dependerá de la eficacia con la que la administración gestione el complejo ejercicio de equilibrar la gobernanza, algo que no puede hacer sola.
- El Congreso también debe intervenir para establecer estándares de evaluación y una estructura clara de liderazgo y rendición de cuentas.
Este mes, la administración Trump emitió una muy anticipada orden ejecutiva con el objetivo de vigilar los riesgos en ciberseguridad que representan los modelos de inteligencia artificial más avanzados. La orden busca un equilibrio entre la postura antirreguladora de la administración y el reconocimiento de que no puede permanecer al margen ante los graves riesgos que la inteligencia artificial representa para la seguridad nacional.
La caótica prohibición federal de la semana pasada que impidió a los extranjeros usar el nuevo Claude Fable 5 de Anthropic, sin embargo, puede que haya dado una idea sobre cómo se desarrollará la regulación de la inteligencia artificial por parte de la administración, y aún quedan muchas preguntas por resolver.
Fable 5 es la versión de acceso público de Claude Mythos 5, un extenso modelo de lenguaje que la compañía lanzó en abril de 2026 y que es capaz de identificar errores de seguridad en los sistemas de software. El modelo puede ayudar a los gobiernos, bancos, las empresas de servicios públicos, los hospitales y otros proveedores de servicios esenciales a detectar y corregir vulnerabilidades.
Sin embargo, actores malintencionados también podrían usar esta capacidad para explotar estas debilidades y así bloquear redes de pago, cerrar hospitales y desconectar los servicios de telecomunicaciones e internet.
El lanzamiento de Mythos fue un factor que motivó la orden del presidente Trump, que establece un proceso voluntario para que los desarrolladores de la inteligencia artificial presenten sus modelos al gobierno para realizar pruebas clasificadas durante un período de hasta 30 días, tras el cual pueden divulgar el modelo a otros socios de confianza.
La orden también crea un “centro de intercambio de información sobre la seguridad de la inteligencia artificial” que fomenta la colaboración entre desarrolladores de la IA y los operadores de la infraestructura crítica para identificar y corregir vulnerabilidades en los softwares.
La nueva apertura de la administración a establecer salvaguardas para la IA no revertirá por sí sola el debilitamiento y la politización de las agencias reguladoras, que ahora deben asumir la responsabilidad de ensayar, mitigar y supervisar un panorama de amenazas en rápida evolución.
Las pruebas y el intercambio de información sobre las amenazas por sí solos no evitarán una catástrofe de ciberseguridad. Lograrlo dependerá también de cómo la administración reactive y movilice la experiencia regulatoria en todo el gobierno.
Además, deberá colaborar con figuras de la industria para establecer límites a las capacidades emergentes de la IA, manteniendo al mismo tiempo la capacidad de ralentizar o detener su lanzamiento según sea necesario para reforzar las defensas y la infraestructura crítica del país.
En otras palabras, el éxito de la orden dependerá de la eficacia con la que la administración gestione el complejo ejercicio de equilibrar la gobernanza, algo que no puede hacer sola. El Congreso también debe intervenir para establecer estándares de evaluación y una estructura clara de liderazgo y rendición de cuentas. El Brennan Center dará seguimiento a al menos tres preguntas relacionadas con la orden.
¿Quién del gobierno se encargará del proceso de evaluación?
Tres agencias son responsables conjuntamente de establecer el proceso de evaluación clasificado, una evaluación hecha en varias etapas conocida como evaluación comparativa: la Agencia de Ciberseguridad e Infraestructura (CISA, por sus siglas en inglés) del Departamento de Seguridad Nacional, el Departamento del Tesoro y la Agencia de Seguridad Nacional (NSA, por sus siglas en inglés), que cuenta con una dirección dedicada a la ciberseguridad.
Pero la CISA, la agencia enfocada en las amenazas a la infraestructura física y cibernética del país, está en ruinas. La administración Trump redujo en un tercio el personal y destituyó a casi todos sus altos funcionarios de trayectoria profesional. La agencia no ha tenido un líder confirmado por el Senado desde que Trump asumió la presidencia, y la última propuesta presupuestaria de la Casa Blanca planteó recortar aún más su presupuesto por $700 millones.
La NSA se ha librado en gran medida de los recortes drásticos, pero el año pasado se enfrentó a una purga con motivaciones políticas de sus líderes que podría obstaculizar su capacidad para coordinar la implementación de los marcos de ensayos y supervisión de la orden.
Estos recortes han aniquilado décadas de experiencia interna en amenazas de ciberseguridad y debilitado la moral. La orden no especifica cómo se dotarán de personal y recursos a ambas agencias para ensayar y salvaguardar las capacidades cibernéticas de los modelos avanzados de la IA, una tarea compleja y llena de dificultades incluso en las mejores circunstancias.
En cambio, la orden parece recurrir al Departamento del Tesoro para llenar el vacío de liderazgo. Si bien el Departamento del Tesoro está familiarizado con las amenazas a la seguridad de la infraestructura bancaria, carece de la experiencia necesaria para liderar un enfoque integral del gobierno ante los riesgos derivados de la IA.
El Departamento de Comercio también ha ejercido una amplia autoridad para regular el acceso a los modelos de la IA, aunque la orden lo limita a un papel de consultor en el desarrollo del proceso de pruebas clasificadas. El viernes pasado, la Oficina de Industria y Seguridad del departamento ordenó a Anthropic suspender el acceso a Fable 5 y Mythos 5 a cualquier ciudadano extranjero, en virtud de la facultad de la oficina para establecer controles de exportación de tecnología sensible.
Esto se debió, aparentemente, a que otra empresa le alertó sobre la posibilidad de que adversarios extranjeros podrían explotar una laguna en las restricciones de los modelos para identificar vulnerabilidades de software. Pero esta decisión se tomó incluso antes de que se pudiera implementar el proceso de ensayos clasificados de la orden, lo que agrega aún más incertidumbre sobre cómo actuará la administración con la información obtenida dentro y fuera de sus propios ensayos.
¿Quién tendrá la última palabra sobre si un modelo es seguro para su lanzamiento?
Ensayar las capacidades cibernéticas de los modelos de la IA rara vez será certero. Los evaluadores de la agencia podrían, por ejemplo, llegar a conclusiones diferentes a las de los desarrolladores de la IA sobre el alcance y la gravedad de las vulnerabilidades que han identificado. Es posible que ambas partes discrepen sobre la mejor manera de remediar estas vulnerabilidades. E incluso si hubiera consenso, la implementación de las soluciones necesarias llevará tiempo.
Es mucho lo que hay que resolver en 30 días, el plazo máximo que tiene el gobierno para evaluar los modelos antes de su lanzamiento general. Una versión anterior de la orden contemplaba un período de revisión de 90 días, pero Trump rechazó el borrador tras expresar su preocupación de que frenaría la innovación.
Nadie tiene certeza sobre qué ocurrirá si transcurren los 30 días y el gobierno no ha completado sus evaluaciones comparativas, o si persiste el desacuerdo con los desarrolladores de la IA sobre cómo solucionar los problemas detectados durante el proceso de revisión. El carácter voluntario del acuerdo de pruebas implica que, aparentemente, los desarrolladores de la IA pueden ignorar las preocupaciones del gobierno y publicar sus modelos.
Sin embargo, son conscientes de que podrían enfrentar consecuencias legales y financieras si deciden seguir adelante sin la aprobación del gobierno. Además, la repentina decisión de la administración de restringir el acceso a los modelos de Anthropic, basándose en preocupaciones de seguridad nacional vagamente especificadas, indica que incluso podría adelantarse a su propio período de pruebas.
La dura disputa de Anthropic con el Departamento de Defensa también ha alertado a la industria sobre hasta dónde está dispuesta a llegar esta administración para presionar a quienes se nieguen a acatar sus órdenes.
En febrero, el Departamento de Defensa designó a Anthropic como un "riesgo para la cadena de suministro" después de que la compañía se negara a eliminar las restricciones contractuales que limitaban el uso de Claude en la vigilancia masiva interna y en armas letales totalmente autónomas —una designación que un juez federal consideró un abuso inconstitucional del poder ejecutivo.
La restricción impuesta por el Departamento de Comercio a Fable 5 ha suscitado dudas sobre si la disputa de Anthropic con el Pentágono pudo haber influido, aunque los aliados de la administración lo han negado.
