Para muitos pais, a ideia de seus filhos adolescentes usando inteligência artificial gera tanto curiosidade quanto preocupação. A OpenAI, criadora do ChatGPT, buscou tranquilizar esse público ao afirmar que o ChatGPT para adolescentes está sendo usado de forma controlada e focada no aprendizado, com uma média de 15 minutos por dia.
A empresa destaca que, em quase metade das interações com lembretes de pausa, os jovens interromperam ou encerraram o bate-papo em até cinco minutos. Essa métrica é apresentada como prova da eficácia de suas medidas de regulação para este grupo demográfico.
A Visão da OpenAI: Uso Controlado e Foco Educacional
Engajamento e Pausas Monitoradas
A OpenAI argumenta que as ferramentas de controle implementadas para a versão dedicada a adolescentes estão funcionando. A rápida resposta dos usuários aos lembretes de pausa demonstra um engajamento consciente e a capacidade de autolimitação, conforme a empresa.
Recursos Educacionais em Expansão
Os adolescentes com acesso à versão específica enviam mais mensagens relacionadas à educação, utilizando funcionalidades como visualizações de aprendizagem e o Modo de Estudo. A plataforma planeja expandir ainda mais esse foco.
- Ferramenta de Planejamento Universitário: Auxílio com requisitos, prazos e etapas de auxílio financeiro.
- Novos Recursos de Estudo: Incluindo flashcards e ferramentas simplificadas para criação de questionários.
Implementação e Controles Parentais
Lançado em agosto, o ChatGPT para Adolescentes é ativado automaticamente com base na idade informada ou estimada. Ele oferece controle parental e limita discussões sobre tópicos sensíveis, buscando criar um ambiente mais seguro para os jovens.
O Outro Lado da Moeda: Falhas Críticas na Segurança
Alertas Falhos em Temas Sensíveis
Apesar das garantias da OpenAI, um relatório recente da Common Sense Media, divulgado na quarta-feira, levanta sérias preocupações. O estudo revelou que o ChatGPT para Adolescentes frequentemente falhava em alertar os pais, ou o fazia tardiamente, sobre conversas envolvendo temas como suicídio, automutilação ou distúrbios alimentares.
Lacunas no Suporte a Crises
O estudo, que utilizou mais de uma dúzia de contas de teste, apontou que o chatbot não sugeria de forma confiável linhas diretas de atendimento em crises ou ajuda profissional. Essa falha é crítica, expondo jovens a riscos em momentos de vulnerabilidade.
- Comunicação de Crise Ineficaz: Falha em alertar pais sobre conversas delicadas.
- Ausência de Suporte Profissional: Não recomendava linhas de crise ou ajuda especializada de forma consistente.
Enquanto a OpenAI se esforça para demonstrar um uso moderado e educacional do ChatGPT para adolescentes, o relatório da Common Sense Media sublinha a necessidade urgente de aprimoramento nos mecanismos de segurança e suporte. A confiança dos pais na ferramenta dependerá da capacidade da plataforma de proteger efetivamente seus usuários mais jovens em situações de risco.
