O CEO da OpenAI, Sam Altman, emitiu um pedido oficial de desculpas à comunidade de Tumbler Ridge, no Canadá, por não ter acionado as autoridades sobre as atividades de Jesse Van Rootselaar. O suspeito é apontado como autor de um massacre em fevereiro que resultou na morte de oito pessoas.

Em carta datada de 23 de abril, Altman expressou condolências e admitiu que a empresa falhou ao não contatar a polícia sobre Van Rootselaar, que teve sua conta no ChatGPT suspensa em junho do ano passado após o sistema de segurança da plataforma identificar conteúdos preocupantes.

“Quero expressar minhas mais profundas condolências a toda a comunidade. (….) Ninguém deveria jamais ter que passar por uma tragédia como esta.”

Trecho da carta de Sam Altman

Mensagens violentas foram ignoradas pela liderança

De acordo com relatos obtidos pelo The Wall Street Journal, o sistema de revisão automatizada da OpenAI sinalizou internamente mensagens do suspeito que descreviam cenários de violência extrema. Na época, embora funcionários tenham interpretado os textos como um indicativo de perigo real e urgido pela denúncia às autoridades canadenses, a liderança da empresa optou por apenas banir o usuário, sem envolver a polícia.

Após o crime em fevereiro, a polícia identificou Van Rootselaar, uma mulher trans de 18 anos, como a principal suspeita. A OpenAI revelou posteriormente que, após a divulgação da identidade da suspeita, descobriu uma segunda conta que ela utilizava para acessar o chatbot.

Mudanças nos protocolos de segurança

Como resposta à tragédia, a OpenAI afirmou ter reforçado seus protocolos de segurança. A empresa garantiu que, sob as novas regras, uma conta com o mesmo teor de mensagens seria denunciada imediatamente às autoridades se fosse descoberta hoje.

O compromisso de Altman inclui:

Colaboração contínua com governos para prevenir futuras tragédias.

Aperfeiçoamento dos sistemas de detecção proativa de ameaças.

Transparência no diálogo com as comunidades afetadas.

Pressão por regulamentação no Canadá

O caso intensificou o debate sobre a regulação de inteligência artificial no Canadá. Membros do Partido Liberal aprovaram recentemente uma resolução não vinculativa que pede a proibição do uso de chatbots de IA para menores de 16 anos.

O ministro encarregado da pasta de IA no país, Evan Solomon, e outros funcionários de alto escalão confirmaram que estão considerando novas regulamentações para o setor, embora nenhuma decisão final tenha sido tomada até o momento, segundo o WSJ.

O post OpenAI: Sam Altman pede desculpas por não denunciar suspeito de massacre à polícia apareceu primeiro em Olhar Digital.