O Secretário do Tesouro dos Estados Unidos, Scott Bessent, e o presidente do Federal Reserve, Jerome Powell, convocaram líderes de Wall Street para uma reunião urgente na última terça-feira, em Washington. O objetivo foi alertar as principais instituições financeiras sobre preocupações relacionadas aos novos riscos cibernéticos que podem ser introduzidos pelo modelo de inteligência artificial Mythos, desenvolvido pela Anthropic.
A reunião de alto nível reuniu CEOs das maiores instituições financeiras do país, incluindo Jane Fraser, do Citigroup; Ted Pick, do Morgan Stanley; Brian Moynihan, do Bank of America; Charlie Scharf, do Wells Fargo; e David Solomon, do Goldman Sachs. Jamie Dimon, do JPMorgan Chase, não pôde comparecер ao encontro. A reunião foi organizada com pouco aviso prévio e não havia sido divulgada anteriormente ao público.
O Alerta dos Reguladores sobre Segurança Cibernética
A convocação deste grupo seleto de bancos reflete a preocupação crescente dos reguladores sobre os potenciais riscos cibernéticos que uma nova geração de modelos de inteligência artificial pode representar. Todos os bancos presentes na reunião são classificados como sistemicamente importantes pelos principais reguladores, significando que sua estabilidade é uma prioridade crítica para o sistema financeiro global.
Bessent e Powell utilizaram a reunião para garantir que estas instituições financeiras estivessem plenamente conscientes dos possíveis riscos futuros levantados pelo Mythos e por modelos similares de IA, enfatizando a necessidade de implementarem precauções robustas para proteger seus sistemas críticos contra potenciais ataques cibernéticos.
O Modelo Mythos e Suas Capacidades Ofensivas
O Mythos é um modelo de inteligência artificial de uso geral que, embora não tenha sido desenvolvido especificamente para fins de cibersegurança, possui capacidades significativas para identificar e explorar vulnerabilidades em sistemas operacionais e navegadores web principais quando instruído por um usuário.
Segundo Newton Cheng, que lidera as iniciativas de segurança cibernética da Frontier Red Team da Anthropic, o Mythos já demonstrou sua capacidade ao descobrir uma série de problemas de segurança críticos. Notavelmente, a IA identificou um bug de 27 anos em software crítico da internet que havia permanecido despercebido durante décadas.
Além disso, o sistema descobriu uma vulnerabilidade de 16 anos em software de vídeo popular, localizada em uma linha de código que havia sido analisada cinco milhões de vezes por ferramentas automatizadas de teste, mas nunca havia sido detectada anteriormente. Estes achados demonstram como os modelos avançados de IA podem identificar vulnerabilidades que escapam às análises convencionais.
O Projeto Glasswing: Uma Abordagem Colaborativa
Reconhecendo os riscos potenciais, a Anthropic limitou inicialmente o acesso ao modelo Mythos a apenas algumas grandes companhias de tecnologia e finanças como parte de uma iniciativa chamada Projeto Glasswing. Participantes incluem Amazon, Apple, Microsoft, Cisco e JPMorgan Chase, entre outros.
O objetivo do Projeto Glasswing é trabalhar coletivamente para proteger os sistemas mais importantes antes que outros modelos de IA similares se tornem amplamente disponíveis. A ideia central é que os participantes compartilhem suas descobertas sobre como melhor defender-se contra possíveis exploração de vulnerabilidades por atores mal-intencionados.
Conforme explicado por Cheng, a Anthropic reconhece que este não é um problema exclusivo de sua empresa, mas um desafio que toda a indústria de tecnologia, assim como governos, precisam enfrentar colaborativamente. A iniciativa busca dar uma vantagem inicial aos defensores antes que ameaças se generalizem.
Discussões Prévias com Autoridades Americanas
A Anthropic informou que manteve discussões detalhadas com autoridades dos Estados Unidos antes do lançamento recente do Mythos, focando especificamente em suas capacidades cibernéticas ofensivas e defensivas. Dianne Penn, chefe de gestão de produto para pesquisa na Anthropic, afirmou que existem proteções para garantir que os membros do Projeto Glasswing mantenham controle rigoroso sobre o acesso ao modelo, embora tenha se recusado a fornecer detalhes específicos por razões de segurança.
Contexto Adicional: Questões Legais e Governamentais
Separadamente da questão cibernética, a Anthropic tem enfrentado desafios legais com o governo Trump. O Pentágono classificou a empresa como um risco para a cadeia de suprimentos de defesa nacional, uma designação que a Anthropic contestou vigorosamente. No início desta semana, um tribunal federal de apelações recusou o pedido da Anthropic para suspender essa classificação, mantendo temporariamente a designação do Pentágono.
