Oficiais do Orleans Parish Communication District, agência de despacho de emergência de Nova Orleans, integraram agentes de inteligência artificial em seu fluxo de trabalho. A ferramenta, chamada AI Emergency Call Triage, visa triar chamadas recebidas, direcionando ocorrências de alta prioridade a despachantes humanos.
A nova tecnologia, fornecida pela empresa Carbyne, tem como função principal classificar as chamadas de emergência. A cidade já havia testado a IA em chamadas 311, destinadas a serviços não emergenciais, a partir de abril. Com essa mudança, Nova Orleans se junta a outras grandes cidades, como Seattle e Atlanta, que também implementaram IA em seus serviços de despacho.
Apesar da alegação de que a tecnologia reduz o volume de chamadas que sobrecarregam os despachantes humanos, a integração da IA adiciona uma camada de fricção entre chamadores em sofrimento e profissionais treinados. Estudos apontam falhas significativas no uso de IA em voz. Um levantamento de fevereiro mostrou que bots de voz produziram alegações falsas com áudio realista até 50% das vezes.
Além disso, os sistemas de voz de IA são vulneráveis a ataques externos. Pesquisadores de cibersegurança conseguiram manipular o comportamento dos modelos de voz com taxa de sucesso média entre 79% e 96%. A eficácia dessa integração em situações de risco de vida ainda não foi determinada.
