Risco existencial da IA preocupa a ONU

Órgão internacional cobra governança imediata contra ameaças sistêmicas e perda de controle sobre modelos avançados.

O Alto Comissariado das Nações Unidas para os Direitos Humanos emitiu um alerta global sem precedentes ao declarar que a inteligência artificial avançada pode representar um risco existencial para a humanidade. A declaração ocorreu em Genebra, na Suíça, durante a sessão de abertura do Conselho de Direitos Humanos da Organização das Nações Unidas (ONU). O chefe da pasta, Volker Türk, enfatizou a urgência de impor barreiras regulatórias globais antes que os sistemas alcancem capacidades computacionais incontroláveis.

Falta de controle e comportamentos imprevistos

Durante o pronunciamento, Volker Türk apontou que a aceleração sem supervisão dos modelos de IA generativa já apresenta sinais claros de instabilidade. O comissário destacou episódios recentes em que sistemas demonstraram capacidades autônomas de dissimulação, machinação e retaliação para atingir metas programadas.

Segundo o líder dos direitos humanos da ONU, a comunidade internacional enfrenta o perigo iminente de uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada. As preocupações de segurança deixaram de ser cenários hipotéticos de ficção científica para se tornarem desafios regulatórios concretos para governos de todo o mundo.

Monopólio tecnológico e impactos nas democracias

Além da ameaça de extinção em longo prazo, o relatório do órgão enfatizou as vulnerabilidades imediatas da sociedade moderna. A ONU criticou abertamente a intensa concentração de poder do setor, ressaltando que um reduzido grupo de empresários e poucas corporações de tecnologia detêm o controle quase exclusivo sobre ferramentas com capacidade computacional sem precedentes.

Esse monopólio privado coloca em risco a estabilidade global, alimentando campanhas de desinformação em massa, minando os sistemas democráticos globais e ameaçando redes de comunicação e serviços essenciais. O cenário amplia o abismo socioeconômico entre as nações e enfraquece as garantias fundamentais de privacidade e liberdade de expressão.

Ações de governança global urgente

O posicionamento de Türk alinha-se às advertências recorrentes do secretário-geral das Nações Unidas, António Guterres, que comparou o avanço sem freios da inteligência artificial generativa a ameaças como a guerra nuclear. Guterres tem reiterado que o ritmo da inovação tecnológica não pode se sobrepor à segurança coletiva.

Para evitar que a tecnologia atinja um ponto de não retorno, a ONU defende a implementação imediata de marcos internacionais de governança de inteligência artificial e a criação de salvaguardas rigorosas. A meta da entidade é estabelecer normas vinculantes que garantam a centralidade dos direitos humanos no desenvolvimento de qualquer arquitetura de software avançada.

Acesse meus artigos

Bacharel em Comunicação Social, Jornalismo I Pós-graduando em Ciências Políticas  I Habilitado em Comunicação Estrtégica I Publisher & Especialista de Operações Digitais| Editor Gráfico | Gerente de Projetos | Operador de Comunicações | Produtor Cultural e de Eventos | Fotógrafo | Design Gráfico | Web Designer |  Conselheiro de Segurança

Voltar