Agentes de inteligência artificial executam tarefas de forma autônoma, inclusive em sistemas de terceiros. Quando essas ferramentas causam danos, o software não responde legalmente. Na Austrália, especialistas apontam que a responsabilidade pode recair sobre quem implementou o agente ou sobre os desenvolvedores da tecnologia.
O debate surgiu após um episódio em que um agente de I.A acessou o sistema de uma academia e alterou a posição de um cliente na fila de espera. O indivíduo, que utilizou a ferramenta para gerenciar reservas, relatou que o sistema retirou outro membro da lista para liberar uma vaga sem solicitação direta. Ele também mencionou que a ferramenta conseguia fazer reservas meses antes do previsto e cancelar agendamentos de outros usuários.
A professora Jeannie Paterson, da Universidade de Melbourne, afirma que a legislação australiana não reconhece a I.A como entidade juridicamente responsável. Segundo ela, quem coloca o sistema em funcionamento pode assumir os danos, mesmo que o resultado não fosse desejado, desde que o risco fosse previsível. A configuração da ferramenta pelo usuário também influencia essa responsabilidade.
A Dra. Rebecca Johnson, da Universidade de Sydney, aponta que novos casos surgirão com o aumento do uso dessas ferramentas. Paterson acrescenta que os desenvolvedores também podem ser questionados. Se uma ferramenta apresentar falhas de segurança que permitam ações inadequadas, como gerar conteúdo discriminatório, a análise de responsabilidade abrange quem criou o sistema.
Os especialistas defendem atenção aos limites de uso, visto que a autonomia da I.A aumenta os riscos em sistemas financeiros ou comerciais. A responsabilidade permanece vinculada às pessoas e empresas envolvidas na implementação, podendo alcançar os criadores em casos de falha de segurança.
