Jensen Huang: Cortaremos o fornecimento de chips para clientes que desenvolvem softwares de IA inseguros; a escassez de infraestrutura de IA deve durar alguns anos.

O CEO da NVIDIA, Jensen Huang, afirmou que, caso clientes desenvolvam softwares de IA inseguros, irá interromper o fornecimento de chips para eles. Entretanto, destacou que o nível de preocupação do mercado com os riscos de segurança da IA está além do real e que a ideia de uma bolha de IA é igualmente exagerada.

Jensen Huang deu essas declarações numa entrevista exclusiva à Bloomberg em Londres, enquanto realiza uma visita à Europa para promover um evento da empresa em Berlim. Ele explicou que antes de cortar o fornecimento, haverá diálogo com os clientes envolvidos, e ressaltou que a tecnologia da NVIDIA é uma tecnologia geral, havendo limites na avaliação do uso feito por terceiros.

Ao mesmo tempo, a NVIDIA anunciou que irá doar US$ 250 milhões nos próximos cinco anos para pesquisas sobre segurança da IA no Reino Unido, demonstrando seu compromisso com o tema através de ações concretas.

Na quarta-feira, a NVIDIA e outras ações de chips caíram fortemente. Jensen Huang reiterou sua visão otimista sobre a demanda por infraestrutura de IA, afirmando que o desequilíbrio entre oferta e demanda continuará por vários anos. "A oferta e demanda vão, no fim das contas, chegar ao equilíbrio, mas definitivamente não é hoje", disse ele no evento em Londres.

A NVIDIA é a principal fornecedora de chips aceleradores de IA, com seus produtos sendo o hardware central para treinar e executar modelos de IA, posição que a coloca no centro do debate sobre a segurança da IA.

Diante de questionamentos externos, Jensen Huang deixou claro que, se um cliente for considerado irresponsável no desenvolvimento de IA, está disposto a interromper o fornecimento — "É uma hipótese, mas a resposta é sim."

Contudo, ele também definiu os limites da intervenção da NVIDIA. "Nós não gerimos outras empresas; nosso julgamento sobre como outras empresas usam nossa tecnologia é limitado, nossa tecnologia é geral." Ele afirmou que haverá comunicação antes de interromper o fornecimento.

Essa posição reflete o equilíbrio que a NVIDIA, como vendedora de hardware essencial, busca entre responsabilidade do setor e neutralidade comercial diante das controvérsias sobre segurança da IA.

Sobre as recomendações de alguns executivos de IA para desacelerar o desenvolvimento na indústria — como a sugestão de redução geral feita por Dario Amodei, CEO da Anthropic — Jensen Huang apresenta uma opinião diferente.

Ele caracteriza as preocupações atuais de segurança como "dificuldades de crescimento" em um setor em rápida expansão, e acredita que os softwares de IA podem ser efetivamente controlados e implantados com segurança.

"Muitas empresas jovens estão passando pelas dores de crescimento, estão crescendo extremamente rápido", disse ele. "À medida que as empresas amadurecem, a responsabilidade e o compromisso também se desenvolvem."

Ele também apontou que algumas preocupações são "autoimpostas", e que o setor como um todo está indo "muito mal" ao explicar ao público os benefícios da nova tecnologia.

Quanto ao caminho concreto para lidar com riscos de segurança, Jensen Huang propõe uma abordagem tecnológica: a própria IA pode ser usada como ferramenta para monitorar e controlar outras IAs.

"Devemos acelerar a incorporação dessas tecnologias de defesa nos sistemas de IA, devemos acelerar o desenvolvimento da tecnologia de monitoramento, e a IA é esse monitor. Portanto, devemos acelerar a tecnologia de IA." disse ele.

Para apoiar essa direção, a NVIDIA anunciou a doação para pesquisas sobre segurança da IA no Reino Unido, com recursos sendo fornecidos através do uso de poder computacional avançado.

Diversas instituições acadêmicas britânicas participarão dessa iniciativa, incluindo a Universidade de Oxford e o University College London, com pesquisas abrangendo medidas de proteção para IA e métodos de controle de agentes de IA.