A adoção acelerada da inteligência artificial impulsiona a prática conhecida como Tokenmaxxing, que consiste em otimizar prompts para extrair o máximo de um modelo de IA. Essa tendência, motivada pela pressão corporativa por retorno sobre investimento, apresenta sérios riscos de segurança para as organizações.
Um ‘token’ é uma unidade de dado processada por um modelo de IA, como uma palavra ou caractere inserido em uma busca. Tokenmaxxing, portanto, significa elaborar prompts de forma excessivamente detalhada ou sobrecarregar o modelo com informações para obter a resposta mais completa. Algumas empresas até gamificaram essa métrica, classificando usuários de acordo com o desempenho em uso de IA.
Contudo, o foco na produtividade ignora vulnerabilidades. Os fornecedores de LLM são 52% mais propensos a serem classificados como de alto risco que softwares tradicionais. Isso ocorre devido ao acesso a dados sensíveis, propriedade intelectual e fluxos de trabalho internos, exigindo fiscalização do uso por funcionários.
A pressa em implementar soluções de IA leva a um modelo de ‘tentativa e erro’, que é mais erro do que teste do ponto de vista de conformidade. Quando os funcionários sentem pressão para cumprir metas, eles buscam ferramentas sem aprovação, criando o chamado ‘Shadow AI’. Dados do setor indicam que 70% dos clientes de cibersegurança possuem alguma forma desse uso não gerenciado.
Para mitigar o risco, as organizações precisam alinhar a velocidade de aquisição de ferramentas com a inovação da IA. Recomenda-se encurtar os prazos de revisão de fornecedores, implementar monitoramento contínuo e capacitar equipes sobre o uso seguro de IA.
