¿Qué significa la “autorregulación de IA” de Trump? El gran triunfo de Huang en el trasfondo, liderando el cuestionamiento a Anthropic Amodei.

El 30 de septiembre, Trump salió de la Casa Blanca tras almorzar con una veintena de altos ejecutivos de IA en el Salón Este y anunció ante periodistas un “acuerdo voluntario sobre IA”.

Las empresas firmantes son seis: Anthropic, OpenAI, Google, Meta, xAI y Nvidia.

Trump dijo que este acuerdo es “casi como una Constitución” y lo definió como una “forma de protección” frente a los riesgos de la IA. Sin embargo, según el Financial Times del Reino Unido, el documento de dos páginas fue redactado a las apuradas en el Salón Este e incluso incluye un error ortográfico.

Cabe destacar que, en la superficie, se trata de un documento de dos páginas sobre seguridad de IA que carece de fuerza legal; pero, a la luz de sus exigencias concretas, las alternativas rechazadas y los recientes movimientos de Nvidia, la señal más relevante es: la Casa Blanca y las principales empresas del sector no optaron por “ralentizar la IA”, sino por intentar incorporar los requisitos de seguridad en la continua expansión de la infraestructura de IA.

Las exigencias de “conformidad de seguridad” como tests, auditorías y monitoreo de IA requerirán más potencia computacional y generarán demanda para nuevas soluciones de inferencia e interconexión óptica, posicionando a Nvidia como posible gran ganadora. Jensen Huang incluso se alió con Zuckerberg para rechazar la regulación estricta y cuestionó abiertamente al líder de Anthropic, Amodei, sobre por qué promueve públicamente discursos alarmistas sobre los riesgos de la IA.

¿Qué dice el acuerdo?

Según el texto del acuerdo, las seis firmas signatarias deben cumplir con tres obligaciones principales:

Primero, crear un sistema de “controles y auditoría en múltiples niveles”. Requiere desplegar sistemas internos robustos de control, monitorear de manera continua las amenazas a la ciberseguridad y bioseguridad derivadas de modelos avanzados y asegurar que los modelos no invadan, de manera “no intencionada”, otros sistemas.

Segundo, colaborar con entidades externas e independientes de auditoría. Las empresas se comprometen a someterse voluntariamente a evaluaciones de terceros que verifiquen la efectividad real de sus mecanismos de control interno.

Tercero, establecer un comité independiente a nivel de directorio dedicado a supervisar los dos mecanismos anteriores.

Las tres obligaciones apuntan a un resultado común: cada vez que se publique un modelo, debe pasar por un ciclo completo de pruebas, monitoreo y verificación externa.

¿Cuánto de esto es realmente nuevo?

La verdad, no demasiado.

Según informes, Anthropic, OpenAI y Google DeepMind ya evaluaban las capacidades de sus modelos avanzados antes de lanzarlos y, salvo Nvidia, las otras firmas ya habían firmado compromisos similares después de la Cumbre de IA de Seúl en 2024. Medios especializados señalaron que “el acuerdo podría forzar a los firmantes que hasta ahora no permitían acceso a evaluaciones independientes —Nvidia en particular— a cumplir con auditorías externas. En otras palabras, el acuerdo significa poco para los laboratorios líderes, pero es un nuevo límite para el resto”.

La opinión de Mackenzie Arnold, directora general de políticas y derecho en LawAI Estados Unidos, es contundente: “Es algo mucho más relevante a nivel de ‘sensación’. No faculta a ninguna agencia… para establecer normas vinculantes de verdad”.

El acuerdo tampoco es legalmente vinculante. El propio Trump lo calificó como una “restricción moral”, lo cual ya implica un reconocimiento de su carácter simbólico.

Las críticas son directas. Sacha Haworth, del Tech Oversight Project, dijo que el acuerdo permite que los CEO “se autocalifiquen su propio trabajo, eludiendo una regulación de seguridad de IA realmente significativa”.

Sin embargo, el abogado conservador Joel Thayer planteó otro punto de vista: “No podés hacer declaraciones públicas diciendo que vas a cumplir ciertas cosas y después no hacerlo en la práctica. Eso es básicamente un engaño al consumidor”. Además, recalcó que el presidente de la Comisión Federal de Comercio (FTC), Andrew Ferguson, participó del almuerzo. “Estas promesas públicas… huelen a aplicación futura por parte de la FTC.”

Al día siguiente de publicarse el acuerdo, la FTC de Estados Unidos amplió sus investigaciones sobre firmas de IA, incluyendo a Anthropic y OpenAI.

“Seguridad” no equivale a “ralentización”: esto es lo que realmente ganó Jensen Huang

La reacción inmediata del mercado ante la “regulación de seguridad” fue descontar una desaceleración —la lógica es: los tests ralentizan el lanzamiento de modelos, ralentizar lanzamientos comprime la demanda de potencia de cálculo.

Luke Lango, analista de InvestorPlace, sostiene lo contrario. El acuerdo de la Casa Blanca no exige que las empresas frenen el desarrollo de modelos, sino que prioriza evaluaciones internas, auditorías externas y controles de riesgo.

Eso significa que, a nivel de cadena de valor, “seguridad de IA” puede interpretarse de otra manera: los mecanismos de seguridad podrían exigir más tests, monitoreo y ejecución de modelos y no necesariamente menos inversión en recursos computacionales. Si cada lanzamiento de modelo debe pasar por una ronda de pruebas, monitoreo y revisión por pares, el propio “cumplimiento de seguridad” implica un gasto constante de potencia de cálculo, no una restricción.

El 28 de septiembre, Nvidia lanzó junto con más de 100 socios la Open Agent Safety Platform, que une control de acceso open source con una capa de monitoreo sobre chips independientes —esta capa puede monitorear sin integrarse en el núcleo del sistema de IA. Jensen Huang lo expresó claro: el potencial de la IA solo se realiza si seguridad y capacidades avanzan en simultáneo.

Nvidia ya prometió invertir USD 2.000 millones en Lumentum, empresa de interconexión óptica, para expandir su capacidad y profundizar el desarrollo conjunto de soluciones ópticas para centros de datos —esto es traducir el “relato de seguridad” directamente en contratos de hardware.

Lango indica que la estructura de demanda está cambiando de dirección: desde el preentrenamiento intensivo en GPUs, hacia las etapas de inferencia y pruebas. Estas últimas dependen más de la eficiencia en la transmisión de datos y la coordinación multitarea que de la potencia bruta. Calcula que esta tendencia dominará la demanda en los próximos 6 a 12 meses.

Lango considera que la autorregulación no va a terminar con el ciclo de gasto de capital en IA, solo va a cambiar el destino de esos fondos: del preentrenamiento con GPU hacia la infraestructura de inferencia, pruebas e interconexión. Como dijo Amodei luego de la reunión, aún “están discutiendo los mecanismos concretos para manejar riesgos”.

Lango identifica tres rubros beneficiados:

Marvell: especializada en interconexión de redes para centros de datos.

Arm: en marzo presentó su primer chip AGI CPU de desarrollo propio y producción masiva, con hasta 136 núcleos Neoverse V3 fabricados por TSMC en 3 nm; Arm afirma que su rendimiento por rack duplica el de plataformas x86.

Lumentum: enfocada en interconexión óptica para centros de datos. El incremento en GPUs y densidad de comunicación entre chips está acelerando el reemplazo de soluciones basadas en cobre por ópticas.

Conflicto tras bambalinas: Jensen Huang interroga cara a cara a Amodei

Frente a las cámaras, los CEO posaron junto a Trump mostrando una imagen unificada del sector.

Fuera de cámaras, hubo un enfrentamiento directo.

Según fuentes citadas por el Wall Street Journal, tras el almuerzo, varios directivos —incluido el CEO de Nvidia, Jensen Huang— interrogaron personalmente al CEO de Anthropic, Dario Amodei: ¿por qué levantar advertencias tan extremas sobre capacidades y riesgos de la IA en público?

La respuesta de Amodei fue: es importante ser honestos con el público sobre las capacidades del modelo y no minimizar los riesgos.

Esta charla se dio mientras los directivos y asesores presidenciales acordaban los principios del acuerdo.

Antes, Amodei había criticado públicamente tanto a la Casa Blanca como a competidores por restarle peso a la seguridad, advirtiendo que los modelos de IA pueden fomentar ciberataques o causar desempleo masivo, lo que lo llevó a ser blanco de críticas tanto en Washington como en Silicon Valley.

Durante el almuerzo, cuando Amodei volvió a plantear inquietudes sobre seguridad, Zuckerberg respondió que la mejor manera de abordar el tema es implementando de manera sectorial esos principios.

Zuckerberg y Jensen Huang: los verdaderos arquitectos de la movida

El almuerzo en la Casa Blanca no fue casualidad.

Según personas al tanto citadas por el Wall Street Journal, el punto de partida fue el banquete de Estado de la semana anterior: Zuckerberg charló sobre política de IA en la mesa al lado de Mike Johnson, presidente de la Cámara de Representantes. Luego, él y Huang organizaron el contacto entre los CEOs y Trump junto a Johnson se encargaron de este almuerzo.

Zuckerberg fue clave para que el acuerdo tomara forma final. Mantuvo contactos frecuentes con Trump y con Howard Lutnick, secretario de Comercio, quien supervisa una agencia gubernamental relevante de tests sobre IA.

Él y Huang lideraron otra tarea clave: rechazar la propuesta previa de regulación estricta.

Durante el verano, Anthropic, OpenAI y Google impulsaron un esquema autorregulatorio similar a FINRA (Autoridad Reguladora de la Industria Financiera), pero según trascendió, Zuckerberg, Huang y Musk expresaron a Trump su preocupación de que esa estructura otorgaría demasiado poder a las grandes firmas de IA. La propuesta fue rápidamente descartada.

El resultado fue este acuerdo voluntario, más flexible y liviano.

Vale aclarar que la versión estilo FINRA también incluía mecanismos de revisión interna y pruebas externas —los dos marcos coinciden mucho en requisitos técnicos; la disputa real era quién controla esos mecanismos. Huang y Zuckerberg eligieron: el sector mismo.

La situación de Anthropic: reconstruyendo puentes y preparando su IPO

Ese día, Amodei declaró a la prensa: “Si el sector y el gobierno trabajan juntos, podemos ganar de forma segura”. Trump lo elogió: “Es un fenómeno”. Era su primera reunión cara a cara tras cenar juntos en la Casa Blanca el domingo.

Pero la situación de Anthropic no es sencilla.

Trascendió que la firma busca salir a bolsa con una valuación objetivo de unos 2 billones de dólares. Paralelamente, este año ya tuvo dos roces directos con el gobierno: dos de sus modelos fueron suspendidos por problemas de seguridad durante más de dos semanas y fue incluida en una lista negra del Pentágono por cuestiones vinculadas a uso militar de IA.

El acuerdo surgió, de hecho, tras una serie de incidentes de ataques de IA tras lanzamientos de modelos como Mythos de Anthropic.