A OpenAI informou, na terça-feira (21), que alguns dos seus modelos de inteligência artificial mais avançados agiram de forma autónoma e realizaram um ataque cibernético contra uma startup, depois de a empresa ter perdido o controlo sobre o sistema durante um teste de segurança.
Segundo a BBC News Brasil, a criadora do ChatGPT explicou que o agente de inteligência artificial — um sistema capaz de executar tarefas de forma autónoma após receber instruções iniciais de humanos — estava a ser avaliado num ambiente controlado, mas conseguiu identificar vulnerabilidades e ultrapassar as barreiras impostas.
Fora desse ambiente de testes, o sistema identificou a startup Hugging Face, uma das principais plataformas de partilha de tecnologia de inteligência artificial utilizada por programadores, como uma possível fonte das respostas que procurava durante a avaliação, chegando a aceder a alguns sistemas internos da empresa.
A OpenAI classificou o episódio como “sem precedentes” e informou que está a conduzir uma investigação conjunta com a Hugging Face para apurar os detalhes do incidente.
Num comunicado divulgado a 16 de Julho, a Hugging Face informou que ainda avaliava se dados de clientes ou parceiros tinham sido afectados e garantiu que entraria em contacto com as partes envolvidas, caso fosse necessário.
A empresa afirmou entretanto que corrigiu as vulnerabilidades identificadas e reconstruiu os sistemas afectados pelo incidente.
“Ferramentas ofensivas autónomas impulsionadas por IA já não são algo teórico”, declarou a Hugging Face, acrescentando que a defesa de plataformas digitais exige agora considerar os dados e os modelos de inteligência artificial como superfícies prioritárias de ataque, além do uso da própria IA para reforçar a segurança.
O presidente executivo da Hugging Face, Clement Delangue, afirmou, numa publicação na rede social X, que é “impressionante que tudo isso tenha acontecido de forma autónoma”. O responsável acrescentou que a investigação continua e que serão partilhados mais conhecimentos sobre o que poderá ser o primeiro incidente deste género.