Os riscos do avanço da inteligência artificial, os mecanismos de segurança e os benefícios da tecnologia para a ciência foram os principais assuntos do Conexão CBN. A pesquisadora Patrícia Lima comentou alertas de cientistas que apontam riscos relacionados ao desenvolvimento de sistemas cada vez mais autônomos e explicou a proposta de criação de um mecanismo de desligamento, conhecido como kill switch. A discussão também envolve a necessidade de acordos internacionais e medidas de controle sobre os data centers que mantêm os sistemas de IA em funcionamento.
A coluna também destacou o uso da inteligência artificial em pesquisas científicas, incluindo aplicações relacionadas à física, à química e à matemática. Patrícia explicou o conceito de “human in the loop”, em que a IA atua como assistente, mas os resultados precisam ser analisados e comprovados por seres humanos. No Brasil, a discussão envolve o projeto de lei 2338/2023, que trata do marco legal da inteligência artificial, além de iniciativas relacionadas à segurança e à governança da tecnologia.
Para acompanhar a análise sobre os avanços, riscos e possibilidades da inteligência artificial, ouça o áudio completo do Conexão CBN.
