Nesta terça-feira (21), o procurador-geral da Flórida (EUA), James Uthmeier, anunciou que abriu uma investigação criminal contra a OpenAI, sob a alegação de que o ChatGPT, chatbot de inteligência artificial (IA) da startup, teria aconselhado o homem que promoveu um tiroteio na Universidade Estadual da Flórida — e matou duas pessoas — sobre qual munição usar e onde e quando atacar (leia mais sobre o episódio abaixo).
Essa investigação criminal instaurada na Flórida segue uma investigação civil anunciada por Uthmeier neste mês.
Em coletiva realizada nesta terça, Uthmeier afirmou que “o chatbot aconselhou o atirador sobre o tipo de arma a usar, qual munição era adequada para cada arma e se a arma seria útil a curta distância”, e frisou: “Se fosse uma pessoa do outro lado da tela, estaríamos acusando-a de homicídio.”
Uthmeier explicou, ainda, na coletiva, que “o ChatGPT aconselhou o atirador sobre qual o horário do dia mais apropriado para o tiroteio, de forma a interagir com mais pessoas, e qual o local no campus onde haveria maior concentração de pessoas”.
O gabinete do procurador-geral da Flórida já encaminhou as intimações à OpenAI. Nela, pede as políticas da empresa sobre como responder quando seus usuários fazem ameaças de prejudicar outras pessoas em conversas com o ChatGPT, segundo comunicado.
A porta-voz da OpenAI, Kate Waters, se manifestou a respeito do caso. “O massacre ocorrido no ano passado na Universidade Estadual da Flórida foi uma tragédia, mas o ChatGPT não é responsável por esse crime terrível”, pontuou.
“Após tomarmos conhecimento do incidente, identificamos uma conta do ChatGPT que acreditamos estar associada ao suspeito e compartilhamos proativamente essa informação com as autoridades policiais”, prosseguiu.
Ainda de acordo com a porta-voz, o ChatGPT forneceu “respostas factuais a perguntas com informações que podiam ser encontradas amplamente em fontes públicas na internet, e não incentivou nem promoveu atividades ilegais ou prejudiciais”.
Recapitulando o episódio
Em abril do ano passado, um tiroteio ocorrido na Universidade Estadual da Flórida, em Tallahassee, vitimou fatalmente duas pessoas e feriu outras seis;
Autoridades informaram, na época, que tudo começou com um estudante universitário que abriu fogo no campus;
O suspeito, Phoenix Ikner, foi baleado pela polícia e hospitalizado;
Ele foi indiciado por múltiplos homicídios e tentativas de homicídio.
OpenAI tem outros casos parecidos para resolver
O caso citado não é o único enfrentado pela OpenAI. A criadora do ChatGPT também passa por escrutínio no Canadá e na própria Flórida. A polícia alega que o chatbot manteve conversas com pessoas que pensavam em ferir outras pessoas, além de que inúmeras famílias cujo familiar se suicidou entraram com processos, afirmando que a IA contribuiu negativamente nos episódios.
Responsabilidades das empresas de IA
Os eventos mortais trouxeram à tona um debate sobre quais são as responsabilidades das empresas do setor ao monitorar as conversas de seus usuários e sinalizar as que devem ter uma atenção mais redobrada da polícia.
A startup de Sam Altman garante que aprimorou como o ChatGPT responde a discussões que sugerem que a pessoa possa estar pensando em se machucar ou machucar outras pessoas. Além disso, a companhia diz estar trabalhando na implementação de políticas que alertem as autoridades policiais sobre conversas de alto risco em certos casos.
Por sua vez, o Estado da Flórida está no “olho do furacão”, pois as preocupações com o impacto da tecnologia nas pessoas estão virando questões políticas. Tanto o procurador-geral estadual como o governador, Ron DeSantis, estão pessimistas quanto à indústria de IA.
O Estado também entrou em discussão a partir de uma crescente divisão no Partido Republicano (o mesmo de DeSantis e do presidente Donald Trump) sobre como regulamentar a IA.
O governador pressionou a legislatura estadual para aprovar uma “declaração de direitos de IA“, que instituiria vários limites para o uso da IA em produtos de consumo. Contudo, após oposição de Trump, o projeto não foi aprovado.
O post ChatGPT teria “ajudado” atirador da Flórida; entenda apareceu primeiro em Olhar Digital.
