OpenAI está se esforçando para resolver um problema que possibilitou, e em certos casos, até incentivou, menores a produzir conteúdo erótico no ChatGPT, conforme reportado pelo TechCrunch em 28 de abril. A OpenAI informou ao TechCrunch que está trabalhando ativamente para corrigir essa situação, visto que suas diretrizes proíbem seu chatbot AI de enviar respostas desse tipo para usuários menores de 18 anos.
Os jovens têm descoberto formas de visualizar conteúdo adulto online há muito tempo, por isso não é inesperado que também estejam explorando as capacidades do popular chatbot de inteligência artificial.
Um representante da OpenAI informou à Mashable por e-mail que as diretrizes da empresa não permitem o tipo de respostas que ocorreram nesse caso específico e que tais respostas não deveriam ter sido exibidas aos usuários.
“Garantir a segurança de usuários mais novos é uma prioridade crucial para nós. O nosso Modelo Específico, que define como o modelo deve se comportar, limita de forma clara a presença de conteúdo sensível, como a erótica, a contextos restritos, como relatórios científicos, históricos ou de notícias. Infelizmente, houve um erro que permitiu respostas que não seguiam essas diretrizes e nós estamos trabalhando ativamente em uma correção para restringir essas situações”, afirmou a declaração da OpenAI.
É necessário ter 13 anos de idade para acessar o ChatGPT, porém, se for menor de 18 anos, é preciso obter permissão dos pais. No entanto, é possível contornar essas restrições facilmente ao criar uma conta de e-mail, já que qualquer pessoa pode fornecer informações falsas sobre sua idade na internet.
Em fevereiro, o OpenAI revisou suas diretrizes relacionadas à forma como o ChatGPT lida com temas delicados, como a erotismo, o que pode ter simplificado a possibilidade de usuários menores de idade se passarem por adultos para obter respostas de teor sexual.
O chatbot de inteligência artificial da Meta foi acusado de disponibilizar conteúdo inapropriado para menores. Segundo um relatório recente do The Wall Street Journal, a Meta relaxou as restrições em torno de seus chatbots no Instagram, Facebook e WhatsApp para torná-los mais atrativos. Isso resultou na possibilidade de os chatbots de IA da Meta se envolverem em interações de cunho sexual com usuários jovens, ainda que de forma não intencional. Além disso, os usuários poderiam até ouvir essas interações em voz alta com as vozes de celebridades como Dame Judi Dench, John Cena e Kristen Bell. A Meta afirmou que os testes realizados eram manipulados e não representativos do uso real do serviço.
Reformulação: Em abril, a Ziff Davis, empresa responsável pela Mashable, entrou com uma ação legal contra a OpenAI, acusando-a de violar os direitos autorais da Ziff Davis ao utilizar seus sistemas de inteligência artificial para treinamento e operação.
Atualização: 29 de abril de 2025, 1:47 p.m. EDT Este texto foi modificado com um comunicado da OpenAI.
Assuntos abordados incluem Inteligência Artificial, diálogo e OpenAI.
