El presidente de Estados Unidos, Donald Trump, ha emitido una orden ejecutiva que instruye a las agencias gubernamentales a colaborar con empresas de inteligencia artificial para fortalecer la defensa contra ciberataques potenciados por IA. Esta directiva, largamente esperada, había sido pospuesta el mes pasado debido a preocupaciones del mandatario sobre un posible freno a la innovación tecnológica.
Detalles de la orden ejecutiva
La orden, firmada el martes, otorga al gobierno estadounidense acceso voluntario a modelos de IA de vanguardia para realizar pruebas de capacidades hasta 30 días antes de su lanzamiento público, con medidas de confidencialidad. También facilita el acceso de agencias federales, estatales y locales, así como de operadores de infraestructuras críticas, a herramientas de ciberseguridad integradas en estos modelos de última generación.
Según el documento publicado en el sitio web de la Casa Blanca, se establecerá un centro de coordinación para la industria y las agencias, incluyendo el Departamento del Tesoro y el Pentágono, con el objetivo de coordinar y resolver conflictos relacionados con vulnerabilidades de software. Trump también encargó a la Agencia de Seguridad Nacional (NSA) y otras entidades trabajar con desarrolladores de IA para definir estándares que determinen si un modelo es lo suficientemente avanzado para cumplir con los requisitos de la orden.
Antecedentes y controversias
Esta política había sido objeto de intenso debate dentro de la administración, donde se discutía el papel del gobierno en las pruebas de nuevos modelos de IA antes de su lanzamiento. Originalmente, Trump planeaba firmar la orden a finales de mayo, pero canceló la ceremonia en el último momento, manifestando a la prensa que "no le gustaban ciertos aspectos" y temía que perjudicara la competitividad de Estados Unidos frente a China en la carrera por la IA.
La industria tecnológica ejerció presión sobre algunos puntos de la orden antes de su publicación. Según informes, David Sacks, antiguo asesor del presidente en inteligencia artificial y criptomonedas, expresó objeciones personales a Trump.
Participación voluntaria y reducción de plazos
La orden enfatiza la participación voluntaria de los desarrolladores, a pesar de discusiones previas sobre la obligatoriedad de la aprobación gubernamental para nuevos sistemas de IA. El período de revisión se reduce a un máximo de 30 días, en comparación con los 90 días de un borrador anterior.
El papel de Mythos de Anthropic
El impulso a la seguridad mediante IA se intensificó tras el anuncio de Anthropic PBC sobre su nuevo modelo Mythos, que demostró ser extraordinariamente eficaz para detectar vulnerabilidades en redes, lo que podría representar un grave riesgo para la ciberseguridad. Inicialmente, la compañía limitó el acceso a Mythos a un pequeño grupo de grandes empresas tecnológicas y de Wall Street, pero el martes anunció que estará disponible para 150 organizaciones adicionales.
Este avance llevó a la administración a acelerar los esfuerzos para desarrollar una política de IA que abordara diversas cuestiones de seguridad, iniciativa liderada por la jefa de gabinete de la Casa Blanca, Susie Wiles. Wiles y otros funcionarios se reunieron el 17 de abril con el director ejecutivo de Anthropic, Dario Amodei, para tratar temas como Mythos.
La administración Trump buscó que Mythos estuviera más ampliamente disponible para agencias federales con el fin de probar sus redes en busca de fallos de seguridad. Funcionarios y expertos en ciberseguridad han expresado su preocupación de que futuros modelos sigan mejorando y sean utilizados para amenazar la seguridad nacional.
Medidas del Pentágono y disputas con Anthropic
La orden deja claro que el Pentágono debe proteger sus sistemas de información colaborando con el sector privado, sin especificar empresas concretas. El Departamento de Defensa ha tenido una acalorada disputa con Anthropic por las directrices de uso que la empresa exigía en sus contratos gubernamentales. El secretario de Defensa, Pete Hegseth, impulsó la exclusión de Anthropic de todos los flujos de trabajo militares, aunque otras dependencias como la NSA han seguido colaborando con la empresa.
Programa voluntario y evaluaciones
Según la directiva, los desarrolladores de IA pueden presentar voluntariamente al gobierno modelos de vanguardia para promover la ciberseguridad, sin especificar pruebas de seguridad obligatorias. Actualmente, el Departamento de Comercio de EE. UU. gestiona un programa voluntario para evaluar sistemas de IA antes de su lanzamiento. La orden establece que el director de la NSA tomará las decisiones sobre qué modelos se incluyen en las evaluaciones gubernamentales previas al lanzamiento, en consulta con otros organismos.
Como parte del programa existente, Google, Microsoft y XAI acordaron brindar acceso a sus modelos. OpenAI y Anthropic ya formaban parte de la iniciativa liderada por el Centro de Estándares e Innovación de IA.
Resultados de Mythos
En los dos meses desde que Anthropic anunció Mythos, afirmando que era demasiado potente para su lanzamiento público, el modelo ha detectado 6,202 vulnerabilidades de alta y crítica gravedad en software de código abierto. Anthropic ha señalado que otros laboratorios pronto alcanzarán este nivel. Pruebas del Instituto de Seguridad de IA del gobierno británico muestran que ChatGPT es uno de los modelos más robustos en tareas de ciberseguridad como ingeniería inversa, explotación web y criptografía.
