A inteligência artificial se integra ao ambiente de trabalho, impulsionando a busca por maior eficiência. Esse aumento gera o fenômeno da ‘shadow AI’, o uso de ferramentas não aprovadas pelas organizações, o que causa perda de visibilidade sobre o uso de dados e potenciais riscos.
O desafio é grande. Enquanto noventa por cento dos executivos se sentem confiantes na visibilidade da empresa sobre as ferramentas de IA, cinquenta e dois por cento dos funcionários admitem usar tais ferramentas sem autorização, muitas vezes por contas pessoais. Isso cria uma distância entre a adoção da IA e a governança da tecnologia.
Quando a IA opera sem supervisão formal, ela pode contornar controles de governança, elevando o risco de erros, violações regulatórias e vazamento de dados sensíveis. Esse risco aumenta quando a IA afeta atividades críticas, como atendimento ao cliente e desenvolvimento de software. Sistemas futuros, que executam ações, intensificarão esse desafio.
Para garantir a segurança, a governança de IA deve permitir a inovação, estabelecendo limites transparentes e auditáveis. As empresas precisam de um conjunto de ferramentas aprovado e políticas baseadas em risco, definindo o que pode ser compartilhado e onde a aprovação humana é necessária. Treinamento dos colaboradores também é fundamental para que compreendam a razão desses controles.
Os líderes devem focar em tornar a adoção responsável a opção mais simples. Restringir o uso pode empurrar a atividade para áreas não monitoradas. Empresas que equilibram produtividade e controle reconhecem que o uso não autorizado é, muitas vezes, sintoma de uma demanda não atendida.
