OpenAI Lança Ferramenta de Previsão de Idade

Introdução

A OpenAI, empresa por trás do popular chatbot ChatGPT, está lançando uma ferramenta de previsão de idade para contas do serviço. Essa iniciativa visa proteger menores de conteúdo inapropriado e garantir que os usuários tenham uma experiência segura e adequada para sua idade.

Como funciona a ferramenta

A ferramenta de previsão de idade da OpenAI analisa uma combinação de sinais comportamentais e de conta para determinar a idade do usuário. Isso inclui o tempo de existência da conta, os horários de atividade, padrões de uso ao longo do tempo e a idade declarada pelo usuário. Com essas informações, a ferramenta pode identificar se um usuário é menor de idade e, se necessário, restringir o acesso a conteúdo inapropriado.

Proteção de menores

A proteção de menores é um desafio significativo para as plataformas de tecnologia. A OpenAI não é a primeira empresa a enfrentar esse desafio, e outras plataformas, como o Roblox, também têm lutado para proteger seus usuários mais jovens. No entanto, a abordagem da OpenAI é inovadora, pois utiliza uma combinação de sinais para determinar a idade do usuário, em vez de confiar apenas em autodeclarações ou verificações de idade simples.

Correção de erros

Se um usuário for incorretamente caracterizado como menor, poderá corrigir o erro enviando uma selfie através da plataforma de verificação de idade Persona. Isso permite que os usuários que foram erroneamente identificados como menores possam acessar conteúdo apropriado para sua idade.

Launch do modo adulto

A OpenAI está preparando o lançamento de um 'modo adulto' para o ChatGPT, que permitirá que os usuários criem e consumam conteúdo que seria considerado inapropriado para menores. No entanto, é provável que usuários menores encontrem maneiras de contornar as ferramentas de proteção existentes se quiserem acessar esse conteúdo.

Desafios e limitações

A ferramenta de previsão de idade da OpenAI não é perfeita e pode ter limitações. Por exemplo, usuários menores podem criar contas com informações falsas ou usar dispositivos de outros usuários para acessar conteúdo inapropriado. Além disso, a ferramenta pode não ser capaz de detectar todos os casos de usuários menores, especialmente se eles forem habilidosos em esconder sua idade.

Consequências legais

A OpenAI já enfrentou consequências legais devido à falta de proteção de menores. A empresa foi processada em um caso de morte errada de um adolescente que supostamente usou o ChatGPT para planejar seu suicídio. Após esse incidente, a OpenAI começou a considerar restrições automáticas de conteúdo para usuários menores e lançou um conselho consultivo de saúde mental.

Conclusão

A ferramenta de previsão de idade da OpenAI é um passo importante para proteger menores de conteúdo inapropriado. No entanto, é importante reconhecer que essa ferramenta não é perfeita e que ainda há desafios e limitações a serem superados. A OpenAI deve continuar a trabalhar para melhorar sua ferramenta e garantir que os usuários tenham uma experiência segura e apropriada para sua idade.