Fernando Machado, head de inovação, fala sobre as vantagens e limitações que as IAs possuem; confira a coluna ‘Conexão CBN’
A inteligência artificial (IA) aberta, como a OpenAI, tem surpreendido com sua velocidade e capacidade, mas também demonstra falhas significativas, mostrando que ainda está longe de substituir a inteligência humana. Erros grotescos, como atribuir a descoberta do Brasil a Cristóvão Colombo, expõem a necessidade de cautela em sua utilização.
IA e a Geração de Conteúdo Falso
Um dos problemas mais preocupantes é a capacidade da IA de gerar conteúdo falso, mesmo em tarefas aparentemente simples. Cientistas do MIT solicitaram à IA a criação de currículos, e o resultado foram currículos com informações inventadas sobre experiência profissional e funções. A ferramenta também tem apresentado dificuldades em distinguir fatos reais de falsos, como demonstrado pela resposta equivocada sobre a primeira presidente americana.
O Desafio da Verificação de Fatos
A facilidade com que a IA gera informações falsas levanta preocupações sobre a disseminação de fake news. Embora existam mecanismos de feedback para sinalizar respostas incorretas, o processo de aprendizado da máquina ainda é lento e suscetível a erros. A ferramenta precisa de um aprimoramento significativo para identificar e rejeitar informações falsas de forma consistente. Mesmo com um sistema de feedback em tempo quase real, a IA ainda pode ser manipulada para gerar conteúdo falso se alimentada com informações incorretas.
Leia também
O Futuro da IA e a Necessidade de Cautela
Exemplos como a criação de imagens de um astronauta cavalgando um cavalo-marinho, em vez de um cavalo, ilustram as limitações atuais da IA. Apesar de apresentar um “bom senso” inicial, a IA pode ser induzida a gerar informações falsas se alimentada com dados incorretos. A precisão e a capacidade de verificar informações da IA ainda estão em desenvolvimento, e é crucial manter a cautela e o senso crítico ao utilizar essas ferramentas. O aprendizado de máquina necessita de mais tempo e aprimoramento para garantir a confiabilidade das informações geradas.
