Se o Pica-Pau tivesse avisado a polícia, isso não teria ocorrido

Se o Pica-Pau tivesse comunicado a polícia, isso nunca teria acontecido Imagem gerada por IA Nesta segunda feira, o governo da província de British Columbia entrou com uma ação judicial contra a OpenAI por causa de um atentado em uma escola ocorrido em fevereiro deste ano na pequena cidade canadense de Tumbler Ridge. Na hora que li essa notícia me lembrei de outro caso que aconteceu aqui no Brasil há alguns meses. Em junho, no Espírito Santo, um homem de 36 anos usava o ChatGPT quase como um diário enquanto planejava matar o próprio filho, uma criança de 8 anos, segundo a investigação policial. As conversas foram identificadas pelos sistemas de segurança da OpenAI, o caso chegou às autoridades americanas e a informação foi repassada para a polícia brasileira. O homem acabou preso um dia antes da data em que, de acordo com a investigação, pretendia cometer o crime. A história canadense começou de maneira parecida, só que tomou outro caminho. Em junho de 2025, os sistemas automatizados da OpenAI identificaram violações em uma conta que mais tarde seria associada ao autor do massacre de Tumbler Ridge. O caso passou por revisão humana, a conta foi banida, mas a empresa decidiu que aquilo que havia encontrado ainda não atingia o seu critério de risco “crível e iminente” para justificar um alerta às autoridades. Oito meses depois, em 10 de fevereiro de 2026, oito pessoas foram assassinadas na escola de Tumbler Ridge, entre elas cinco crianças e uma educadora, e outras 27 ficaram feridas. Agora, o governo local está processando a OpenAI na Califórnia, argumentando que a empresa deveria ter comunicado as ameaças previamente identificadas em sua plataforma. Existe um detalhe que torna tudo ainda mais complicado: depois da tragédia, a própria OpenAI revisou seus protocolos e afirmou oficialmente que, se aquela mesma conta aparecesse hoje, seria encaminhada às autoridades. A empresa passou a trabalhar com especialistas em saúde mental, comportamento e segurança pública e tornou mais flexíveis os critérios usados para definir quando existe risco suficiente para romper a barreira entre uma conversa privada e uma intervenção externa. Quando eu falo em sala de aula sobre Human in the Loop, geralmente estou tentando explicar por que decisões importantes não deveriam simplesmente ser terceirizadas para um algoritmo. Esses dois casos mostram uma camada mais profunda do problema, porque havia seres humanos no processo e, ainda assim, toda a responsabilidade se concentra em uma pergunta absurdamente difícil: qual é a quantidade de evidência necessária para que alguém decida violar a expectativa de privacidade de uma pessoa em nome da possibilidade de proteger outra? Eu costumo dizer que privacidade é uma ilusão que morreu em 11 de setembro de 2001. Depois daquela data, aceitamos progressivamente que governos ampliassem mecanismos de vigilância, coleta de dados e monitoramento em nome da segurança. Desde então, plataformas digitais, smartphones, redes sociais e sistemas de publicidade fizeram o resto do trabalho, transformando uma quantidade gigantesca de informações sobre nossas vidas em matéria-prima para governos e empresas. O que a inteligência artificial acrescenta a essa história é uma capacidade diferente. Até aqui, boa parte da discussão sobre privacidade estava relacionada à coleta de informações: quem sabe onde você está, o que você comprou, com quem falou ou quais sites visitou. Agora começamos a falar de sistemas capazes de interpretar o conteúdo dessas informações e tentar inferir intenção, contexto e risco. Quem já conversou longamente com um chatbot sabe o tamanho desse problema. As pessoas contam coisas para essas ferramentas que não contam para um amigo, um colega de trabalho ou alguém da própria família. Desabafam raiva, medo, fantasias, ressentimentos, fazem perguntas estranhas e muitas vezes usam a inteligência artificial justamente porque existe uma sensação de intimidade naquela conversa. Nessas horas é sempre interessante observar como a arte costuma enxergar determinados dilemas antes de conseguirmos transformá-los em discussão pública. Em Minority Report, de Steven Spielberg, lançado em 2002 e baseado em um conto de Philip K. Dick, existe uma divisão da polícia chamada PreCrime, capaz de prender pessoas antes que elas cometam um assassinato. A premissa do filme gira justamente em torno do problema de transformar uma previsão sobre o futuro em justificativa para uma ação no presente. Vinte e quatro anos depois, a pergunta moral começou a ficar estranhamente familiar. Se um sistema identifica padrões que indicam que alguém pode cometer um crime, qual deve ser o grau de certeza necessário para que outra pessoa intervenha? E o que acontece quando essa previsão está errada? Ao mesmo tempo, estamos criando sistemas capazes de analisar essas conversas em uma escala que nenhum ser humano jamais conseguiria. A OpenAI explica que utiliza classificadores, modelos de raciocínio e revisão humana para identificar determinados comportamentos de risco e que, quando uma situação é considerada uma ameaça iminente e crível contra terceiros, pode encaminhá-la às autoridades. Isso significa que entramos numa discussão que vai muito além da capacidade técnica de um chatbot. Estamos delegando a empresas privadas a criação dos critérios que determinam quando uma conversa deixa de ser uma conversa e se transforma em evidência potencial de que alguma coisa está prestes a acontecer no mundo real. Essas empresas estão definindo, sem nenhuma regulação governamental clara, o que significa “risco iminente”, qual conjunto de sinais merece uma segunda análise, quem faz essa análise, quanta incerteza é aceitável e em que momento a proteção da vida passa a justificar uma intervenção. Se essas decisões vão afetar cada vez mais a nossa vida, a pergunta mais urgente é: quem nós queremos que tenha o poder de definir esse limite?