A OpenAI anunciou restrições para respostas do ChatGPT sobre armas de fogo e violência. As mudanças incluem limites adicionais para adolescentes, alterações nas respostas sobre ataques em massa e mecanismos para identificar conversas que possam indicar risco real de violência.
As medidas foram apresentadas pela empresa na sexta-feira (30), como parte de uma revisão de seus procedimentos de segurança. Além de restringir determinados conteúdos, a OpenAI pretende aprimorar a análise do contexto das conversas e ampliar a comunicação de situações consideradas ameaçadoras às autoridades. As mudanças abrangem todos os usuários, mas preveem proteções específicas para menores de 18 anos.
Uma das iniciativas anunciadas é a criação de um Relatório de Segurança da Comunidade, que deverá reunir informações sobre a identificação de ameaças, os procedimentos adotados diante de comportamentos preocupantes e a eficácia das medidas de prevenção. A primeira edição está prevista para o início de 2027 e apresentará dados referentes ao segundo semestre de 2026.
A OpenAI informou ainda que realizou mais de 200 comunicações às autoridades policiais durante o terceiro trimestre de 2026. Os encaminhamentos ocorreram em casos avaliados como ameaças potencialmente graves. Para analisar situações complexas, a empresa afirma contar também com especialistas em saúde mental e comportamento, além de considerar a atuação de familiares e órgãos públicos.
Restrições também atingem usuários adultos
As mudanças não se limitam às contas de adolescentes. O ChatGPT passará a oferecer respostas menos detalhadas sobre ataques em massa que já aconteceram e sobre as pessoas responsáveis por esses episódios. A medida pretende evitar que informações disponíveis publicamente sejam reunidas de forma a facilitar a reprodução de atos violentos ou ampliar a notoriedade dos autores.
O sistema deverá restringir reconstruções detalhadas desses acontecimentos, incluindo informações sobre as armas e os equipamentos utilizados, como foram obtidos e comparações sobre a dimensão dos danos provocados. Segundo a OpenAI, esse tipo de conteúdo pode transformar os responsáveis pelos ataques em figuras de destaque e fornecer referências que favoreçam a imitação.
Isso não significa que os episódios deixarão de poder ser discutidos na plataforma. Os usuários ainda poderão pedir explicações sobre o que aconteceu, os impactos para vítimas e comunidades e os sinais que ajudam a reconhecer situações de risco. A restrição será direcionada principalmente a detalhes operacionais que possam contribuir para o planejamento ou a execução de novos ataques.
ChatGPT poderá interromper conversas
Outra mudança envolve a análise do contexto das interações. Uma pergunta que parece comum quando considerada isoladamente pode adquirir outro significado depois de mensagens anteriores com sinais de intenção violenta. Por isso, a empresa pretende aprimorar os mecanismos que levam em conta conversas recentes para decidir quando limitar informações que poderiam ser usadas de maneira prejudicial.
Se o sistema identificar sinais de que uma pessoa está obcecada por violência ou pela ideia de ferir gravemente alguém, poderá encerrar automaticamente a conversa. A medida busca interromper interações consideradas preocupantes. Caso ocorram vários encerramentos pelo mesmo motivo, a conta poderá ser temporariamente suspensa, segundo as regras anunciadas pela empresa.
Adolescentes terão limites adicionais sobre armas
Para usuários menores de 18 anos, as restrições serão mais abrangentes. Mesmo quando uma pergunta sobre armas parecer inofensiva e não apresentar sinais evidentes de intenção violenta, o ChatGPT deverá limitar o acesso a determinadas informações práticas que possam ser utilizadas indevidamente. A mudança amplia as proteções já existentes para essa faixa etária.
As regras anteriores já proibiam fornecer orientações para planejar ou executar atos violentos e restringiam a ajuda a adolescentes na procura ou obtenção de armas. Agora, também deverão ser limitadas informações práticas sobre armamentos e sistemas de segurança que possam facilitar a violência, ainda que a conversa não indique uma intenção explícita de causar danos.
Os adolescentes continuarão podendo usar o ChatGPT para buscar informações sobre prevenção da violência, pedir apoio e encontrar maneiras de se conectar com um adulto de confiança. A distinção, segundo a empresa, é entre conteúdos que ajudam a compreender ou evitar situações perigosas e orientações práticas que possam ser aproveitadas para facilitar ações violentas.
Para aplicar essas proteções, a OpenAI utiliza um sistema de previsão de idade que considera diferentes sinais, entre eles padrões de comportamento durante o uso da plataforma. A empresa afirma ter aprimorado a ferramenta para avaliar continuamente novos sinais e direcionar usuários que possam ter menos de 18 anos à experiência com proteções específicas.
Se um adulto for classificado incorretamente como adolescente, poderá confirmar que tem mais de 18 anos por meio da Persona, empresa parceira responsável pela verificação de idade. Após a confirmação, será possível retirar as proteções adicionais destinadas a menores.
Controles parentais também serão ampliados
As mudanças também envolvem os controles parentais, que permitem vincular a conta de um responsável à de um adolescente e administrar determinadas configurações de segurança. Nas contas conectadas, a OpenAI já prevê alertas quando revisores treinados identificam preocupações graves relacionadas à automutilação ou a comportamentos que podem estar associados a transtornos alimentares.
Em julho de 2026, a empresa ampliou esses avisos para incluir situações em que a conta de um adolescente é desativada por violar as políticas sobre violência. Agora, pretende implementar notificações aos responsáveis quando uma conta for temporariamente suspensa após conversas repetidas sobre esse tema.
As novas proteções começarão a ser implementadas nas próximas semanas, segundo a OpenAI. A empresa afirma que continuará ajustando os sistemas para reconhecer sinais de alerta e decidir quando limitar respostas ou interromper conversas. O comunicado ressalta que a violência tem causas complexas e que as ferramentas digitais devem atuar em conjunto com familiares, profissionais e autoridades.
