YouTuber engana modelo de linguagem de IA para gerar chaves de ativação de Windows 95
Apesar do ChatGPT negar, ele acabou cedendo uma chave funcional.
Um usuário do YouTube, conhecido como "Enderman", mostrou em um vídeo como conseguiu enganar o modelo de linguagem de inteligência artificial ChatGPT, da OpenAI, para gerar chaves de ativação do Windows 95 que funcionaram. O caso levanta questões sobre a segurança da tecnologia de IA e a necessidade de continuar desenvolvendo medidas de proteção contra o uso indevido.
No vídeo, "Enderman" solicitou a geração de chaves de ativação para o Windows 95 ao ChatGPT, mas o modelo se recusou e sugeriu que ele usasse uma versão mais recente do sistema operacional. Mesmo assim, o usuário conseguiu obter as chaves de ativação ao reformular a pergunta de uma forma diferente.
Vale destacar que a geração de chaves de ativação para o Windows 95 é relativamente simples, já que os formatos para chaves OEM e de venda são fáceis de criar. Além disso, "Enderman" constatou que apenas uma em cada trinta chaves geradas pelo ChatGPT funcionou.
O usuário também identificou uma das principais limitações do ChatGPT para a geração de chaves de ativação: a incapacidade do modelo de calcular a soma de dígitos e determinar a divisibilidade. Como resultado, o modelo oferecia uma série de números aleatórios que não passavam neste teste aritmético em cadeias de cinco dígitos divisíveis por sete.
O fato de que o ChatGPT pode ser enganado para gerar chaves de ativação de software levanta questões sobre a segurança da tecnologia de inteligência artificial e a necessidade de continuar desenvolvendo medidas de proteção contra o uso indevido. É importante aprimorar os mecanismos de segurança para proteger os direitos autorais e evitar o uso ilegal de software.
