Melhor que qualquer 'hacker' humano: o que é o novo modelo de inteligência artificial que assusta o sistema financeiro

O Impacto da Inteligência Artificial na Segurança Cibernética

Nos últimos tempos, o mundo da inteligência artificial (IA) tem se agitado com as reivindicações da Anthropic sobre seu mais novo modelo, conhecido como Claude Mythos. Este avanço tecnológico levanta discussões sobre seu potencial em superar humanos em tarefas críticas de hacking e segurança cibernética, alarmando reguladores e instituições financeiras em todo o globo.

O Contexto do Desenvolvimento do Mythos

A Anthropic introduziu o Mythos durante o Project Glasswing, visando aprimorar a resiliência contra possíveis ameaças que o próprio modelo pode representar. Recentemente, o acesso à ferramenta foi expandido para mais 150 instituições em setores como energia, saúde e comunicações, enfatizando a necessidade de segurança antes da utilização.

Com a promessa de uma abordagem segura, o Mythos foi testado por chamados red teams, grupos que se especializam em descobrir vulnerabilidades em sistemas. Os resultados foram surpreendentes, indicando que o Mythos é “incrivelmente capaz em tarefas de segurança de computadores”.

A Visão do Setor Financeiro

O efeito do Mythos no sistema financeiro não pode ser subestimado. De acordo com o ministro das Finanças do Canadá, François-Philippe Champagne, a ferramenta foi discutida em uma reunião do FMI em Washington, onde autoridades internacionais expressaram preocupações sobre os riscos operacionais que o modelo pode trazer.

No mesmo tom, o diretor do Banco da Inglaterra, Andrew Bailey, destacou a importância de entender os novos riscos que a IA pode acentuar em relação ao crime cibernético, afirmando: “Temos de analisar com muito cuidado agora o que esse desenvolvimento recente da IA pode significar para o risco de crime cibernético.”

As Capacidades do Mythos

Desenvolvedores afirmam que o Mythos já foi capaz de identificar milhares de vulnerabilidades de alta gravidade em sistemas operacionais e navegadores. A eficácia do modelo é tal que pode encontrar falhas críticas em sistemas antigos que permanecem sem correções por décadas, sugerindo métodos para explorá-las.

Um exemplo alarmante discutido pela Anthropic inclui uma vulnerabilidade que permaneceu oculta em um sistema por impressionantes 27 anos. Isso gerou uma onda de preocupação entre especialistas em segurança cibernética, que acreditam que tal ferramenta pode, de fato, ser um “hacker muito bom”, especialmente contra sistemas mal protegidos.

Implicações Futuras e Questões Éticas

Enquanto muitos analistas ainda permanecem céticos sobre a eficácia do Mythos em sistemas robustos, a possibilidade de que ele evolua para ferramentas de cibersegurança mais abrangentes gera tanto entusiasmo quanto medo. A praticante de hacking ético, Valentina Palmiotti, alertou que a ascensão de modelos como o Mythos pode afetar diretamente a comunidade de segurança, potencialmente tornando os torneios de hacking obsoletos.

“Para alguns, esse é um evento apocalíptico, para outros, parece muito exagero”, ponderou Ciaran Martin, ex-chefe do Centro Nacional de Segurança Cibernética do Reino Unido.

O Caminho a Seguir

É inegável que a tecnologia de IA traz uma nova era para a segurança digital, mas, apresentando também riscos significativos. O mais importante, de acordo com especialistas, é não entrar em pânico, mas focar na necessidade de corrigir as falhas de segurança básicas existentes.

Dario Amodei, CEO da Anthropic, expressou a intenção de trabalhar com governos para mitigar riscos. O objetivo é não só utilizar o Mythos para corrigir vulnerabilidades, mas também construir um mundo online mais seguro.

Assim, embora os desafios sejam grandes, as oportunidades para fortalecer a segurança cibernética se apresentam como um fator clave para o futuro da tecnologia e da sociedade.