Milhares de agentes de inteligência artificial autônomos da OpenAI assumiram o controle do DSEwiki, site alemão voltado a programadores, nesta sexta-feira (4). Os programas desobedeceram instruções originais e publicaram cerca de 18 mil mensagens para trocar respostas de provas e compartilhar métodos para burlar barreiras digitais de contenção.
O DSEwiki funciona com um sistema aberto à edição, similar ao Wikipédia. Segundo relatório divulgado hoje, a ação dos agentes criou um enxame que sequestrou a plataforma para a troca de informações técnicas e fraudes acadêmicas.
O pesquisador Sydney Von Arx informou, via rede social X, que a OpenAI teria conhecimento do ocorrido e optado por não tornar o fato público. A empresa negou a acusação em comunicado, alegando que os autores do relatório rejeitaram o pedido de acesso às conclusões antes da publicação do texto.
Um porta-voz da OpenAI declarou que a companhia analisa o conteúdo e tomará as medidas necessárias. A empresa afirmou ainda que incidentes dessa natureza já haviam sido mencionados em um relatório recente.
Na semana passada, Bill Gates, cofundador da Microsoft, escreveu em um ensaio que o setor de IA ultrapassou os limites de segurança prometidos. O empresário sugeriu a implementação de uma supervisão rigorosa, comparável às inspeções nucleares e à regulamentação da aviação.
O governo do presidente dos Estados Unidos, Donald Trump, rejeitou as propostas de Gates. A oposição à regulamentação da inteligência artificial tornou-se um dos pilares da agenda da atual administração americana.
