O órgão regulador cibernético da China divulgou, no último sábado, uma proposta de regras para regulamentar serviços de inteligência artificial que simulam interações humanas. Essas diretrizes visam aumentar a supervisão sobre tecnologias que se comunicam emocionalmente com os usuários, refletindo a intenção do governo de enfrentar os desafios da rápida implementação da IA para consumo. A proposta inclui requisitos éticos e de segurança que devem ser seguidos pelos provedores de serviços.
As novas regras estabelecem que as empresas devem alertar os usuários sobre os riscos de uso excessivo e intervenções necessárias quando sinais de dependência emocional forem identificados. Além disso, os provedores são obrigados a garantir a segurança dos dados ao longo do ciclo de vida do produto, promovendo uma revisão constante dos algoritmos e a proteção das informações pessoais. O documento também aborda riscos psicológicos, exigindo que as empresas monitorem as emoções dos usuários e intervenham quando necessário.
Com essa iniciativa, o governo chinês busca limitar a produção de conteúdo que possa comprometer a segurança nacional ou incitar comportamentos violentos. As medidas propostas refletem um movimento crescente em direção à regulamentação da inteligência artificial em todo o mundo, à medida que governos e organizações tentam equilibrar inovação tecnológica com a proteção dos usuários. A implementação dessas regras poderá ter impactos significativos na forma como os serviços de IA são desenvolvidos e utilizados na China e além.