La seguridad de la IA en Estados Unidos abarca las políticas, instituciones y programas técnicos a través de los cuales el gobierno de los Estados Unidos busca comprender y reducir los posibles daños de la inteligencia artificial. Estos esfuerzos se han intensificado a medida que los sistemas avanzados de aprendizaje automático, incluidos los modelos de lenguaje de gran tamaño y las herramientas de IA generativa, se han vuelto más capaces y ampliamente desplegados. El enfoque combina compromisos voluntarios de la industria, investigación y evaluación federal, y orientación regulatoria, con un enfoque tanto en riesgos a corto plazo como el sesgo y el mal uso, como en preocupaciones a largo plazo sobre sistemas autónomos.
Coordinación Federal e Institutos
Un elemento central de la seguridad de la IA en Estados Unidos es el Instituto de Seguridad de la IA de EE. UU. (AISI), establecido dentro del Instituto Nacional de Estándares y Tecnología (NIST) en 2023. El AISI realiza pruebas y evaluaciones de modelos de IA de frontera, desarrolla pautas de seguridad y colabora con contrapartes internacionales. Surgió de la Orden Ejecutiva de octubre de 2023 de la administración Biden sobre el Desarrollo y Uso Seguro, Protegido y Confiable de la Inteligencia Artificial, que ordenó al NIST crear el instituto. La orden también exigió evaluaciones de riesgos para infraestructuras críticas y requirió que los desarrolladores de los modelos más potentes compartieran los resultados de las pruebas de seguridad con el gobierno.
Además del AISI, la Casa Blanca estableció el Grupo de Trabajo sobre IA y posteriormente la Junta de Seguridad y Protección de la IA bajo el Departamento de Seguridad Nacional. Estos organismos reúnen a funcionarios de agencias como el Departamento de Defensa, el Departamento de Energía y la Fundación Nacional de Ciencias. Su trabajo incluye evaluar aplicaciones de IA en sectores como energía, atención médica y transporte, y garantizar que la contratación federal de sistemas de IA cumpla con los estándares de seguridad.
Compromisos Voluntarios y Participación de la Industria
El gobierno de EE. UU. ha dependido en gran medida de acuerdos voluntarios con los principales desarrolladores de IA. En julio de 2023, la Casa Blanca aseguró compromisos de empresas líderes, incluidas OpenAI, Anthropic, Google DeepMind y otras, para implementar pruebas externas de red team, marcar contenido generado por IA y compartir información sobre incidentes de seguridad. Estos compromisos fueron seguidos por un conjunto más amplio de promesas en 2024, que cubren temas como la evaluación de modelos antes de su lanzamiento y la inversión en medidas de ciberseguridad.
Aunque no son legalmente vinculantes, estos acuerdos han dado forma a la práctica de la industria. El AISI también ha colaborado directamente con empresas para realizar evaluaciones previas al lanzamiento de modelos de frontera, con resultados a veces publicados en informes de seguridad. Este modelo colaborativo busca equilibrar la innovación con la supervisión, aunque los críticos argumentan que las medidas voluntarias carecen de mecanismos de aplicación.
Investigación Técnica y Evaluación
La seguridad de la IA en Estados Unidos incluye una inversión sustancial en investigación técnica para medir y mejorar la seguridad de los modelos. El NIST ha desarrollado el Marco de Gestión de Riesgos de IA, un conjunto voluntario de pautas para identificar y gestionar riesgos de IA. Los protocolos de prueba del AISI cubren áreas como la generación de contenido dañino, el sesgo y el potencial de los modelos para ayudar en ciberataques o la creación de armas biológicas.
Las agencias federales también financian investigación académica sobre temas de seguridad de la IA como interpretabilidad, robustez y alineación. La Fundación Nacional de Ciencias ha lanzado programas que apoyan estudios sobre los impactos sociales de la IA, mientras que la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) ha explorado métodos para verificar y validar sistemas de IA. Estos esfuerzos buscan crear herramientas que puedan detectar cuando los modelos se comportan de manera impredecible o se desvían de sus propósitos previstos.
Panorama Legislativo y Regulatorio
La seguridad de la IA en Estados Unidos ha evolucionado a través de una mezcla de acción ejecutiva y legislación propuesta. Hasta 2025, el Congreso no ha aprobado una legislación integral de seguridad de la IA, pero se han presentado varios proyectos de ley. Estos incluyen propuestas para exigir evaluaciones de impacto para aplicaciones de IA de alto riesgo, crear una agencia federal de supervisión de la IA y mandatar la divulgación de datos de entrenamiento. Las iniciativas a nivel estatal, particularmente en California y Colorado, también han introducido requisitos de transparencia y gestión de riesgos, aunque varían significativamente.
Las agencias regulatorias han actuado dentro de sus autoridades existentes. La Comisión Federal de Comercio ha investigado prácticas engañosas de IA, la Comisión de Igualdad de Oportunidades en el Empleo ha emitido pautas sobre contratación algorítmica, y la Oficina de Protección Financiera del Consumidor ha abordado la IA en los préstamos. Estas acciones reflejan un enfoque sector por sector en lugar de un estatuto federal unificado.
Colaboración Internacional y Desafíos
Los esfuerzos de seguridad de la IA en Estados Unidos están estrechamente vinculados a la cooperación internacional. EE. UU. participa en la Red Internacional de Institutos de Seguridad de la IA, una coalición lanzada en 2024 que incluye al Reino Unido, la Unión Europea y otras naciones. Esta red facilita ejercicios de prueba conjuntos y el intercambio de mejores prácticas. EE. UU. también ha participado en foros multilaterales como el G7 y las Naciones Unidas, abogando por principios de seguridad comunes.
Los desafíos siguen siendo significativos. El rápido ritmo del desarrollo de la IA a menudo supera los procesos regulatorios, y la naturaleza descentralizada de la gobernanza estadounidense significa que las pautas federales pueden no aplicarse a todos los actores. Además, hay un debate continuo sobre cómo definir y medir la 'seguridad' para sistemas que pueden evolucionar a través del aprendizaje profundo y el aprendizaje por refuerzo. Hasta 2025, EE. UU. continúa refinando su enfoque, equilibrando la promoción de la innovación en inteligencia artificial con el imperativo de proteger el bienestar público.