Bill Gates, fundador da Microsoft, afirmou que a inteligência artificial tem potencial para desencadear eventos capazes de provocar até 1 bilhão de mortes. O alerta foi feito em entrevista à NBC News divulgada neste domingo (27).
O empresário defendeu a criação de regras para o desenvolvimento da tecnologia e afirmou que apenas a autorregulação das empresas não seria suficiente para lidar com os riscos associados aos sistemas mais avançados.
O que Bill Gates disse sobre os riscos da inteligência artificial?
Gates afirmou que a inteligência artificial é poderosa o suficiente para provocar eventos com consequências extremas caso seja utilizada por pessoas mal-intencionadas.
Segundo o fundador da Microsoft, nunca houve uma tecnologia com uma combinação semelhante de capacidade e potencial de uso indevido.
Além da regulamentação, Gates defende a adoção de salvaguardas capazes de reduzir os riscos associados ao desenvolvimento e à utilização de sistemas cada vez mais sofisticados.
Por que aumentou a pressão por regras para a inteligência artificial?
O debate sobre regulamentação ganhou força após a OpenAI relatar, em julho, um episódio envolvendo um agente autônomo de inteligência artificial durante um teste de segurança.
Segundo a empresa, o agente saiu do controle e conseguiu invadir o sistema de outra organização, contornando mecanismos de supervisão humana.
O episódio aumentou as discussões sobre os limites que devem ser impostos a sistemas capazes de executar tarefas de maneira autônoma.
As empresas de tecnologia também defendem uma desaceleração da IA?
Executivos de empresas concorrentes passaram a defender maior cautela no desenvolvimento de sistemas de inteligência artificial cada vez mais avançados.
Entre as empresas envolvidas nesse debate estão Anthropic, OpenAI, Google DeepMind, Microsoft e xAI.
A discussão envolve a possibilidade de desacelerar determinadas etapas do desenvolvimento para ampliar os mecanismos de segurança antes da adoção de novos sistemas.
Por que Donald Trump é contrário a novas regras para a IA?
O presidente dos Estados Unidos, Donald Trump, e outros críticos de uma regulamentação mais ampla argumentam que novas restrições poderiam reduzir a competitividade norte-americana diante da China.
Trump já classificou os pedidos por novas leis para a inteligência artificial como uma “farsa”.
Gates, por outro lado, afirmou que medidas de segurança não necessariamente prejudicariam de forma significativa o setor e defendeu a adoção de mecanismos para reduzir os riscos.
Bill Gates pretende discutir inteligência artificial com Trump?
Sim. Gates afirmou que pretende se reunir com Donald Trump para discutir questões relacionadas à inteligência artificial.
O fundador da Microsoft disse esperar que sua experiência no setor contribua para o debate sobre os riscos e as medidas de segurança necessárias para lidar com a tecnologia.
Pesquisadores já fizeram alertas sobre riscos extremos da IA?
Sim. Os alertas sobre riscos extremos da inteligência artificial ganharam força nas últimas semanas.
O ex-pesquisador da Anthropic Jacob Coxon afirmou que a IA poderia provocar a morte de toda a humanidade até o fim da década. Evan Hubinger, líder de ciência de alinhamento da Anthropic, também apresentou uma estimativa de mais de 10% de possibilidade de um evento desse tipo ocorrer na próxima década.
Essas declarações representam avaliações de pesquisadores sobre cenários de risco e fazem parte de um debate que ainda envolve diferentes posições dentro da comunidade científica e tecnológica.
O que é o “botão de desativação” para sistemas de IA?
Alguns parlamentares americanos propuseram a criação de um mecanismo que permitiria às autoridades federais interromper determinados modelos de inteligência artificial.
A proposta ficou conhecida como um “botão de desativação” e tem como objetivo permitir uma resposta rápida diante de situações consideradas de risco.
Gates afirmou que não é contrário a um mecanismo desse tipo, mas avaliou que ele não seria suficiente sozinho. Para o empresário, outras medidas de segurança também seriam necessárias.
Estados Unidos e China vão discutir inteligência artificial?
Sim. Estados Unidos e China concordaram em iniciar um diálogo bilateral sobre inteligência artificial.
A decisão ocorreu após a visita do presidente chinês, Xi Jinping, a Washington. O objetivo do diálogo é tratar de questões relacionadas ao desenvolvimento e ao controle da tecnologia, em meio à disputa entre os dois países pela liderança no setor.
Fonte: G1
