A corrida global pela inovação em Inteligência Artificial acaba de sofrer um revés significativo. Os Estados Unidos proibiram, nesta sexta-feira, o acesso de estrangeiros, inclusive funcionários da própria empresa, aos seus mais recentes modelos de IA da Anthropic, o Fable 5 e o Mythos 5.
A medida, que pegou a comunidade tecnológica de surpresa, foi justificada com a alegação de “risco de segurança nacional”. Para cumprir a diretiva, a Anthropic precisou derrubar seus modelos globalmente.
O Motivo Inesperado: Medo de ‘Jailbreak’
Embora o governo americano não tenha detalhado o “risco de segurança nacional”, a Anthropic acredita que a preocupação principal seja a possibilidade de um “jailbreak” do Fable 5.
Esta prática envolve a manipulação de prompts ou simulações para que um bot de IA retorne informações ou execute ações fora de sua programação original.
O Que é um ‘Jailbreak’ em IA?
Um jailbreak pode ser utilizado para diversas finalidades, muitas delas problemáticas. As principais incluem:
- Ignorar regras de segurança e princípios éticos.
- Executar ações restritas ou não intencionadas pelos desenvolvedores.
- Implementar nos modelos um viés diferente do programado inicialmente.
A Reação da Anthropic: “Mal-entendido”
Em comunicado oficial, a Anthropic, dona do popular Claude, expressou seu desacordo com a medida. A empresa classificou a diretiva como um “mal-entendido”.
A companhia argumenta que a possibilidade de um jailbreak não é motivo suficiente para barrar o acesso de milhões de pessoas a uma ferramenta inovadora.
Críticas da Empresa à Decisão Governamental
A Anthropic, que já havia informado o governo sobre a vulnerabilidade de “invasão”, criticou veementemente a forma como a decisão foi tomada:
- Acredita que a determinação, se aplicada a toda a indústria, paralisaria inovações.
- Defende que proibições devem ser transparentes, justas e fundamentadas em fatos técnicos.
- Afirma que a ação atual não está em conformidade com esses princípios.
Histórico de Divergências
Esta não é a primeira vez que o governo americano e a Anthropic entram em rota de colisão. A ordem de proibição veio apenas três dias após o lançamento dos modelos Fable 5 e Mythos 5, que estariam disponíveis gratuitamente por um período limitado.
Em fevereiro, o governo já havia determinado que agências americanas parassem de usar os modelos da startup. Naquela ocasião, a empresa se recusou a permitir que as forças armadas utilizassem suas IAs sem restrições e salvaguardas éticas, alegando razões éticas.
Implicações Futuras
A proibição levanta questões importantes sobre o equilíbrio entre segurança nacional, inovação tecnológica e o acesso global a ferramentas de IA. A decisão dos EUA pode criar um precedente perigoso para a forma como governos regulam tecnologias emergentes e a liberdade de desenvolvimento.
