Hackers estão vendendo dados e credenciais de contas roubadas de IA Generativa na dark web, explorando a crescente popularidade da tecnologia para obter grandes recompensas.
Pesquisas recentes da Unidade de Resposta a Ameaças (TRU) da eSentire identificaram que mais de 400 credenciais de contas são vendidas por cibercriminosos todos os dias. Essas credenciais são principalmente obtidas de computadores de usuários corporativos infectados com malware infostealer, que recupera qualquer coisa que o usuário tenha inserido em seu navegador de internet. Isso pode incluir informações sensíveis, como detalhes bancários, registros financeiros, dados de clientes e informações de login.
credenciais da OpenAI são as mais comumente roubadas, com uma média de 200 listagens diárias.
Além disso, se os usuários finais estiverem inscritos em um serviço ou modelo de IA Generativa, essas credenciais também são roubadas. Quando um infostealer é usado para capturar informações, o ‘registro do Stealer’ de dados roubados é então vendido por cerca de $10. As credenciais da OpenAI são as mais comumente roubadas, com uma média de 200 listagens diárias.
LLM Jacking
Além disso, descobertas da organização de pesquisa em segurança Sysdig também mostraram que agentes de ameaças estão ganhando controle de um grande número de LLMs (Modelos de Linguagem Grande) em um processo apelidado de ‘LLM Jacking’. A eSentire alerta que o objetivo dos hackers é adquirir, revender e abusar do acesso aos LLMs.
A Sysdig confirmou que o LLM Jacking frequentemente usa um proxy reverso para revender e monetizar o acesso aos LLMs, e alertou que um ataque desse tipo poderia custar à vítima até $46.000 por dia em custos de consumo.
Lojas subterrâneas como a LLM Paradise usaram essa tática para obter e vender credenciais roubadas de IA Generativa, até mesmo anunciando descaradamente em sites como TikTok. Embora este site tenha sido fechado, um mercado saudável garante que muitos outros permaneçam em seu lugar.
Com o crescimento do uso de IA, a ameaça de cibercriminosos descobrindo novas maneiras de lucrar com dados roubados também aumentou. Empresas são aconselhadas a manter medidas de segurança rigorosas, como estabelecer processos robustos de gerenciamento de vulnerabilidades, monitorar atividades suspeitas e utilizar autenticação multifatorial.
aumento significativo de ataques direcionados a usuários de serviços de IA
Outras fontes na web corroboram a seriedade da situação. Um relatório da Kaspersky ressalta que o uso de malware infostealer está crescendo, com um aumento significativo de ataques direcionados a usuários de serviços de IA . A IBM também publicou um estudo enfatizando a necessidade de fortalecer a cibersegurança nas empresas que utilizam tecnologia de IA, destacando a importância de treinamentos de conscientização de segurança para os funcionários .
A proliferação de técnicas como o LLM Jacking é um exemplo claro de como os cibercriminosos estão se adaptando rapidamente às novas tecnologias para explorar vulnerabilidades e obter ganhos financeiros. A constante evolução das ameaças cibernéticas exige que empresas e usuários estejam sempre atentos e preparados para implementar as melhores práticas de segurança cibernética.
