Em meio a uma corrida desenfreada pelo avanço da inteligência artificial (IA), o renomado pesquisador Yoshua Bengio fez um alerta global. Em um evento realizado em Paris, ele expressou suas preocupações sobre os potenciais riscos dessa tecnologia revolucionária.
Ao divulgar o primeiro Relatório Internacional de Segurança de IA na Universidade ENS, Bengio destacou a necessidade urgente de controles mais rigorosos sobre esses programas. O especialista está preocupado com a possibilidade de os humanos perderem o controle sobre sistemas de IA.
O medo é de que, ao evoluírem, essas inteligências possam desenvolver uma vontade de “sobreviver”. Essa possibilidade, segundo ele, poderia levar a consequências desastrosas, como a criação de conteúdos falsos e a execução de ciberataques.
O Relatório Internacional de Segurança de IA, lançado em janeiro de 2024, foi elaborado por 100 especialistas internacionais e teve sua criação motivada por discussões de uma cúpula em 2023.
Questões de segurança e regulamentação
O pesquisador destacou a falta de investimentos adequados para garantir a segurança da IA. Criticou a ausência de regulamentação robusta e pediu maior intervenção governamental para proteger a sociedade em tempos de evolução tecnológica.
Bengio acredita que a competição desenfreada, exemplificada por modelos como o DeepSeek, expõe a fragilidade das atuais medidas de segurança.
Os Estados Unidos, líderes no setor de IA, não estão implementando regras eficazes como deveriam, opina o pesquisador. Desde o início da nova administração de Donald Trump, o país tem falhado em instituir regulamentações que assegurem o uso seguro dessa tecnologia.
Esse cenário, segundo o especialista, gera um terreno fértil para riscos significativos. Sem as medidas necessárias, ele teme a possibilidade de a humanidade ser ameaçada pela IA em uma década.
Apesar dos avanços rápidos, os riscos associados ao uso prejudicial da IA estão crescendo, e Bengio acredita que uma abordagem mais segura e regulamentada é crucial para impedir consequências graves no futuro. Sem ações concretas, a sociedade poderá enfrentar desafios sem precedentes.
