A mulher Carli Michelle Heller, residente na Flórida, foi presa após autoridades americanas receberem informações de Anthropic sobre conversas que ela teria feito com o chatbot Claude, indicando planos de ataque. Segundo investigadores, as conversas com o sistema de inteligência artificial foram interpretadas como ameaças de ataque contra o gabinete do xerife do condado de Lee. A empresa Anthropic, desenvolvedora do Claude, informou que os sistemas de segurança detectaram as conversas e alertaram as autoridades.
A investigação revelou que a suspeita havia discutido detalhes de um plano de ataque, incluindo a possibilidade de usar armas e a escolha de alvos. As autoridades confirmaram que as conversas foram analisadas e que a mulher foi identificada como a pessoa envolvida. A polícia local está conduzindo a investigação e aguarda a conclusão das autoridades para determinar a gravidade do caso.
A situação destaca o uso crescente de inteligência artificial como ferramenta de risco. Anthropic já havia alertado sobre o potencial de abuso de seus sistemas e reforçou medidas de segurança. Além disso, a empresa tem discutido como definir o comportamento ético do Claude, consultando filósofos e teólogos. O caso em questão é um exemplo concreto da necessidade de regulamentação e vigilância em torno da IA.
