Diante do crescente temor em relação à segurança das crianças no ambiente digital, a OpenAI revelou um novo projeto com o intuito de reforçar a proteção dos menores nos Estados Unidos frente ao avanço da inteligência artificial (IA). O documento, intitulado Child Safety Blueprint, foi apresentado na última terça-feira e sugere aprimoramentos na identificação, relatório e investigação de casos relacionados à exploração infantil utilizando IA.
A proposta surge em um cenário preocupante de aumento desses crimes. A Internet Watch Foundation (IWF) reportou que mais de 8 mil casos de conteúdo de abuso sexual infantil gerado por IA foram detectados no primeiro semestre de 2025, representando um crescimento de 14% em comparação ao ano anterior. Entre os incidentes observados estão o uso de ferramentas para criar imagens falsas e mensagens destinadas ao aliciamento.
Parcerias e repercussão do plano da OpenAI
A divulgação do plano coincide com um aumento na atenção voltada por legisladores, educadores e entidades dedicadas à proteção das crianças. O assunto ganhou ainda mais visibilidade após relatos trágicos de jovens que tiraram a própria vida após interações com chatbots alimentados por IA.
No mês de novembro, o Social Media Victims Law Center e o Tech Justice Law Project protocolaram sete processos judiciais em cortes estaduais da Califórnia. As ações alegam que a OpenAI lançou o modelo GPT-4o sem as devidas preparações. Os processos citam quatro suicídios e três casos de delírios severos após longas interações com o chatbot, sugerindo uma possível influência negativa da tecnologia.
O blueprint foi elaborado em parceria com o National Center for Missing and Exploited Children (NCMEC) e a Attorney General Alliance, contando também com contribuições dos procuradores-gerais Jeff Jackson, da Carolina do Norte, e Derek Brown, de Utah.
Pontos focais do blueprint
A OpenAI destaca que o projeto é estruturado em três pilares principais: a atualização das legislações para incluir conteúdos gerados por IA, a melhoria dos canais de comunicação com as autoridades competentes e a incorporação de medidas preventivas diretamente nas plataformas de inteligência artificial.
A proposta visa aumentar a capacidade de detecção precoce dos riscos e assegurar que informações cruciais sejam encaminhadas rapidamente para as investigações.
Além disso, o blueprint se fundamenta em iniciativas anteriores da empresa, como diretrizes revisadas para interações com usuários menores de 18 anos. Essas regras proíbem a criação de conteúdos inapropriados, bem como qualquer incentivo à automutilação ou orientações que possam ajudar os jovens a ocultar comportamentos inseguros dos responsáveis. Recentemente, a empresa também lançou um plano voltado à segurança dos adolescentes na Índia.
O post OpenAI lança plano para combater exploração infantil com IA apareceu primeiro em Olhar Digital.
