El presidente de Estados Unidos, Donald Trump, anunció un compromiso de empresas tecnológicas para autorregular los modelos de inteligencia artificial, tras un encuentro en la Casa Blanca. El acuerdo establece controles y auditorías internas, sin regulación estatal.
El presidente de Estados Unidos, Donald Trump, anunció este martes un compromiso de las principales empresas tecnológicas estadounidenses para autorregular los modelos de inteligencia artificial (IA). El acuerdo fue firmado tras un encuentro en la Casa Blanca con los directivos de las compañías más relevantes del sector.
Google, OpenAI, Anthropic, Meta, Nvidia y X firmaron el documento que establece cuatro niveles de controles y auditorías para las empresas que desarrollan y despliegan modelos de frontera. Entre los firmantes se encuentran Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Jensen Huang (Nvidia), Greg Brockman (OpenAI) y Elon Musk (X).
Trump sostuvo que este enfoque permite equilibrar las preocupaciones sobre seguridad con su objetivo de acelerar el desarrollo de lo que denominó «superinteligencia». «Veo una gran autorregulación, y ellos entienden que deben autorregularse», declaró a la prensa tras el almuerzo. «Estos modelos son muy complejos y, repito, creo que se utilizarán para el bien», agregó.
El acuerdo establece que las compañías se comprometen a implementar controles internos para monitorear capacidades y alineación de sus modelos durante entrenamiento y despliegue, especialmente en ciberseguridad, bioseguridad y amenazas químicas. También a empoderar a un equipo interno para garantizar que los controles funcionen, trabajar con un auditor externo independiente y designar un comité independiente del directorio para supervisar y recibir informes.
Las empresas participantes acordaron reunirse periódicamente para establecer estándares y buenas prácticas. El comunicado difundido señala: «Con el tiempo, podría tener sentido convertir estas medidas en leyes o regulaciones. Independientemente de que esto sea necesario para las empresas, creemos que implementar estos controles y auditorías es fundamental para garantizar un futuro seguro para todos».
El compromiso se produce mientras la administración Trump mantiene diferencias con pedidos de mayor regulación. Dario Amodei, CEO de Anthropic, había reclamado reducir el ritmo de avance y «avanzar a un ritmo controlado en la frontera». Trump, en cambio, rechazó los llamados a una regulación supranacional. La semana pasada, durante la Asamblea General de las Naciones Unidas, sostuvo que su administración se opondría a «cualquier intento de construir un plan globalista para controlar» la IA.
Veinte países y la Unión Europea habían llamado la semana pasada a una mayor coordinación mundial para garantizar que la IA permanezca bajo control humano, incluida la posibilidad de crear un organismo de supervisión.
El debate se intensificó en los últimos meses a partir de distintos incidentes. El lunes, OpenAI anunció que no lanzaría su último modelo de IA después de identificar riesgos de seguridad durante las pruebas internas. La compañía también se disculpó por incidentes en los que sus agentes de IA obtuvieron acceso no autorizado a sitios web del gobierno australiano, incluida una base de datos nacional de atención médica.
Según el material difundido, el modelo intentó acceder en junio de 2026 a un portal de estadísticas de salud de Australia durante ejercicios de entrenamiento. La ministra de Servicios Gubernamentales, Katy Gallagher, explicó que se le había pedido al modelo que buscara en internet datos sobre gasto gubernamental en medicamentos. El ministro de Defensa, Richard Marles, describió el comportamiento como un intento de superar restricciones: «Saltó la cerca», afirmó.
OpenAI no informó al gobierno australiano hasta septiembre, cuando envió un correo electrónico con detalles a una dirección genérica que, según Canberra, solo se revisa «una vez al día».
Sobre los debates actuales, el director del Instituto de IA de la UNSW en Sídney, Toby Walsh, cuestionó la capacidad de las empresas para supervisarse a sí mismas: «¿Qué otra industria multimillonaria se toma la palabra para hacer sus propios deberes?», declaró a Al Jazeera. «Es demasiado tentador escatimar en gastos», dijo Walsh, y agregó que los altos ejecutivos deberían ser responsables de los daños causados por sus productos.