Na sexta-feira (12), o governo dos Estados Unidos emitiu uma ordem que suspende os modelos de inteligência artificial (IA) Fable 5 e Mythos 5. A diretiva de controle de exportação, como explica a companhia, afeta o acesso das ferramentas “por qualquer cidadão estrangeiro, dentro ou fora” do país, “incluindo funcionários estrangeiros” da própria Anthropic.
A Anthropic confirmou que, com a ordem, desativou “abruptamente o Fable 5 e o Mythos 5 para todos” os clientes da empresa. Lançados na última terça-feira (9), os modelos seguem uma categoria robusta de IA com capacidades de engenharia de software, pesquisa científica e visão computacional, por exemplo.
smart_display
Nossos vídeos em destaque
Os modelos partem da mesma classe do Mythos, considerado “perigoso para a humanidade”. O modelo foi considerado um risco em potencial para a sociedade. Entre os motivos está a sua capacidade avançada de escrever e analisar códigos, por exemplo, e seria excepcional para encontrar falhas de segurança de alto risco e de dia-zero (ainda sem correções).
No anúncio do Fable 5, a Anthropic apontou que os recursos do modelo de IA “poderiam ser usados indevidamente para causar danos graves” em áreas como cibersegurança, e disse ter reforçado medidas para evitar usos indevidos.
“Lançar um modelo tão poderoso traz riscos”, admitiu a companhia ao abordar o assunto. Por isso, o Mythos 5 foi implementado para um grupo seleto de especialistas em cibersegurança e provedores de infraestrutura.
Anthropic desativa modelos, mas discorda de decisão
A Anthropic desativou os modelos Fable 5 e Mythos 5 para todos os usuários, mas não concorda com a decisão. A empresa diz que a carta recebida pelo governo dos EUA “não forneceu detalhes específicos sobre a preocupação com a segurança nacional”. Ela também afirma que as vulnerabilidades citadas “parecem relativamente simples”.
)
“No entanto, discordamos que a descoberta de uma possível vulnerabilidade de jailbreak, ainda que limitada, deve ser motivo para o recolhimento de um modelo comercial implementado para centenas de milhões de pessoas”, disse a empresa, em nota.
“Se esse padrão fosse aplicado a toda a indústria, acreditamos que isso praticamente paralisaria todas as novas implementações de modelos por parte de todos os principais fornecedores de modelos [de IA]”, ressaltou a Anthropic.
A empresa ainda ressaltou as medidas de segurança adotadas para os modelos. Segundo a Anthropic:
- Medidas de segurança robustas foram implementadas para o Fable. Elas reduzem a probabilidade do modelo ser usado em crimes contra a segurança cibernética;
- Ela diz que trabalhou em conjunto com o governo dos EUA, por exemplo, antes do lançamento para assegurar tais medidas de segurança;
- Nos testes, as medidas teriam sido “substancialmente mais eficazes do que as de qualquer modelo implementado anteriormente”;
- A empresa aponta que nenhum testador conseguiu encontrar um “jailbreak universal”;
- O “jailbreak” se trata de um método que pode contornar as salvaguardas de um sistema, servindo como uma espécie de desbloqueio.
De acordo com a nota publicada pela Anthropic, a empresa espera restabelecer o acesso aos modelos Fable 5 e Mythos 5 “o mais rápido possível”. A empresa afirma acreditar na participação do governo nesse tipo de implementação e até bloqueio, mas compreende que a medida atual “se trata de um mal-entendido”.
