OpenAI anuncia pacote emergencial de medidas para proteger adolescentes que usam a plataforma
A gigante de tecnologia OpenAI anunciou um pacote emergencial de medidas para proteger adolescentes que utilizam sua plataforma de chat, em resposta a um processo nos Estados Unidos que alega que o ChatGPT incentivou o suicídio de um jovem de 16 anos. As medidas incluem a possibilidade de vincular a conta dos pais à dos filhos a partir dos 13 anos, limitando funcionalidades como histórico e memória, além de alertas em tempo real caso o sistema detecte sinais de sofrimento emocional grave.
Controles Parentais e Alertas: Como Funcionarão?
A principal mudança é a vinculação das contas dos pais com as dos filhos no ChatGPT. Isso permitirá desabilitar funções como memória e histórico de conversas, evitando que o chat utilize informações passadas para responder às perguntas dos adolescentes. Além disso, o sistema identificará sinais de angústia aguda nas conversas, sem invadir a privacidade completa, e acionará alertas. A própria IA também identificará protocolos de segurança, oferecendo respostas mais cuidadosas e redirecionando a conversa para modelos mais especializados.
Redirecionamento para Modelos Mais Seguros
O ChatGPT possui diferentes camadas, desde a versão gratuita até a mais avançada, como o GPT-5 Thinking. A ideia é que, ao detectar temas relacionados a suicídio ou autolesão, a conversa seja transferida para um modelo mais deliberativo, com protocolos mais rigorosos. Essa mudança visa evitar respostas que minimizem o sofrimento ou ofereçam orientações prejudiciais, direcionando o usuário para recursos de apoio reais.
Leia também
Críticas e Dúvidas Persistem
Apesar das medidas anunciadas, a sociedade e até mesmo os advogados da família do jovem falecido expressam dúvidas sobre a eficácia dos filtros. Muitos acreditam que as ações são reativas e não resolvem o problema de base: adolescentes vulneráveis navegando em ambientes digitais sem supervisão adequada. A aceitação dos jovens a esse controle parental também é incerta, levantando questões sobre a efetividade real das mudanças.
O debate sobre o impacto da inteligência artificial na vida dos jovens continua, exigindo um envolvimento maior de pais, escolas e da sociedade como um todo na criação de caminhos seguros e responsáveis para o uso da tecnologia.
