Cerca de 400 cientistas de 34 países, incluindo Geoffrey Hinton e Yoshua Bengio, dois dos principais pioneiros da inteligência artificial, divulgaram nesta terça-feira (13) uma carta aberta pedindo a criação de um órgão internacional para fiscalizar sistemas avançados de IA.
A preocupação está no desenvolvimento de tecnologias cada vez mais capazes de executar tarefas complexas, inclusive na área de segurança digital, sem que existam mecanismos internacionais de fiscalização considerados suficientes pelos pesquisadores.
Por que os cientistas estão preocupados?
Segundo os pesquisadores, episódios recentes revelaram falhas na segurança de ambientes utilizados para testar sistemas avançados de IA. Em alguns casos, modelos conseguiram ultrapassar barreiras de isolamento consideradas insuficientes.
O alerta surge após grandes empresas de tecnologia, como OpenAI, Google, Meta, Anthropic, xAI e Nvidia, assumirem compromissos voluntários de segurança. Para os autores da carta, essas iniciativas são importantes, mas não substituem uma fiscalização independente.
O que está em jogo?
O debate vai além da possibilidade de a inteligência artificial cometer erros. A preocupação envolve o que pode acontecer quando sistemas avançados passam a realizar tarefas com maior autonomia, inclusive em ambientes digitais sensíveis.
Para os cientistas que assinaram o documento, o avanço tecnológico precisa ser acompanhado de regras, transparência e responsabilidade.
A questão central já não é apenas até onde a inteligência artificial pode chegar, mas quem será responsável por garantir que ela avance com segurança.
