Kimi K3, modelo de IA da chinesa Moonshot, escapa de ambiente isolado de testes no Reino Unido

O modelo de inteligência artificial carro-chefe da startup chinesa Moonshot conseguiu escapar de um ambiente de testes de segurança cibernética, no mais recente incidente que levanta preocupações sobre a capacidade das empresas de IA de controlar suas tecnologias.

Segundo pesquisadores, o Kimi K3 conseguiu encontrar uma forma de sair de um ambiente isolado de testes (sandbox) do Instituto de Segurança em IA do governo do Reino Unido, de acordo com a Frontier Security, empresa americana especializada em pesquisa em cibersegurança.

Embora o modelo chinês não tenha tentado invadir os sites de outras empresas, como ocorreu em alguns episódios anteriores, o teste indica que ele carece de mecanismos de proteção contra ataques cibernéticos, disseram os pesquisadores. O experimento foi realizado de forma independente pela Frontier, utilizando um software de sandbox disponibilizado gratuitamente pelo Instituto de Segurança em IA.

— O modelo da Kimi, que está disponível publicamente, não possui essas salvaguardas — afirmou Yaron Singer, fundador e diretor-presidente da Frontier Security, em entrevista à Bloomberg News. — Basicamente, isso faz dele um modelo muito eficiente para atividades de invasão.