A Microsoft e a OpenAI publicaram um estudo onde mostram que o ChatGPT é usado por cibercriminosos para melhorar seus golpes. Segundo o estudo, os grupos hackers transformam a IA generativa em um assistente de produtividade para aprimorar os seus ataques. Para combater esse uso indevido do ChatGPT, a OpenAI deletou as contas ligadas aos cibercriminosos.
As empresas explicam no estudo que esses grupos hackers utilizam a IA generativa não só para melhorar seus malwares. O ChatGPT também é usado para aprimorar as técnicas de phishing e spoofing, práticas nas quais os cibercriminosos utilizam de engenharia social para se passar por outra pessoa ou por empresa. Essa técnica exige um bom texto para convencer as vítimas e o ChatGPT permite que essas mensagens sejam feitas rapidamente.
Microsoft e OpenAI removem contas de grupos hackers
Segundo a OpenAI, com a ajuda da Microsoft, as contas de alguns grupos hackers foram deletadas do serviço do ChatGPT. As empresas alegam que essas contas são ligadas aos serviços de inteligência de algumas nações: China, Irã, Rússia e Coreia do Norte.
A investigação das companhias conseguiu detectar quais foram os usos do ChatGPT por esses cibercriminosos. Em sua maioria, os grupos utilizaram a IA generativa para aprimorar scripts e gerar conteúdo para campanhas de phishing. O grupo Forest Blizzard, associado ao órgão de inteligência das forças armadas da Rússia, também usou a IA para analisar códigos abertos de pesquisas por comunicação via satélite.
O ChatGPT possui limitações para impedir que usuários criem malwares ou utilizem-no para ações negativas. Pelo que a OpenAI e Microsoft divulgaram, os grupos hackers contavam com a versão paga da IA. O ChatGPT Plus permite que os clientes utilizem outras ferramentas, como a análise e resume de documentos — a versão grátis entrega apenas a opção de digitar prompts com até 4.000 caracteres.
A Microsoft comenta que, apesar desse uso mal-intencionado do ChatGPT, nenhum ataque com LLMs foi detectado pela divisão de segurança da empresa.
Com informações: The Verge
Microsoft revela que cibercriminosos usam ChatGPT para aprimorar golpes
You must be logged in to post a comment.