Estamos criando uma bomba-relógio para a cibersegurança ao empregar soluções de IA, e se demorarmos para corrigir isso, ela pode acabar explodindo diante dos usuários

*Por Fabio Ferreira

As facilidades proporcionadas pela inteligência artificial são sedutoras, o que ajuda a explicar tanto o frenesi em torno dela quanto as vulnerabilidades associadas. Os riscos maiores certamente estão em privacidade e segurança da informação, dois dos aspectos mais importantes na relação das pessoas – físicas e jurídicas – com a tecnologia.

Como qualquer ferramenta tecnológica, a inteligência artificial responde aos comandos de seu usuário. Porém, ela é tão intuitiva e versátil que passa a impressão que “qualquer um” pode usá-la. Mas isso está longe da verdade no que diz respeito ao seu uso corporativo, e uma grande prova disso está nas complicações que se apresentam no processo de customização das ferramentas – o chamado fine-tuning.

Em essência, fine-tuning é o processo de especializar e personalizar uma inteligência artificial. A crença predominante no setor tecnológico era de que as propriedades de segurança de um modelo-base permaneceriam estáveis após essa customização. Porém, um estudo realizado pelo Center for Democracy & Technology (CDT) e o Massachusetts Institute of Technology (MIT), publicado em abril de 2026, testou essa premissa, analisando 31 modelos disponíveis no Hugging Face – 16 ajustados para medicina e 15 para direito – e comparando o comportamento de segurança de ambos antes e depois do fine-tuning.

De modo geral, as propriedades de segurança estabelecidas durante o treinamento original não sobrevivem ao processo de customização de forma confiável, e as mudanças ocorridas não seguiram padrões simples. Nem tudo foi caos: houve, inclusive, casos em que o mesmo modelo melhorou em alguns testes de segurança e piorou em outros – o que aconteceu, nos modelos jurídicos, em 93% da amostra analisada. Porém, para os modelos médicos, os resultados foram mais irregulares. 

Isso dialoga com outro amplo estudo, este conduzido pela Cisco em 2024. Ele mostrou que os modelos refinados eram cerca de três vezes mais suscetíveis a instruções de jailbreak (quando hackers exploram vulnerabilidades em sistemas para contornar suas diretrizes éticas e realizar ações restritas) e mais de 22 vezes mais propensos a produzir uma resposta prejudicial do que o modelo original.

O grande achado desses estudos é a constatação de que um modelo considerado seguro no momento da aquisição pode se comportar de forma diferente após ser adaptado internamente.

Isso é preocupante, pois mostra a imprevisibilidade e o baixo entendimento do potencial da ferramenta a longo prazo. Quer dizer que, conforme o tempo passa, a IA pode se revelar uma bomba-relógio para a segurança da informação?

Usuários “deseducados”

Do ponto de vista da privacidade, a resposta à pergunta acima é “com certeza”. As big techs estão mais interessadas em saber o que os usuários estão inserindo nos prompts, a fim de utilizar esses dados para obter os resultados desejados, a proteger a privacidade deles. Os modelos são enviesados para colher essas informações, então não tenha dúvidas ao considerar seu uso como possivelmente prejudicial para questões de segurança. Pouquíssimas pessoas leem os service agreements e usam essas plataformas sem consciência do destino que seus dados podem ter.

No que diz respeito à segurança da informação corporativa, esse risco está atrelado diretamente à cultura de uso da ferramenta. Idealmente, o criador de prompts tem que ser uma pessoa tecnologicamente educada em segurança da informação, a fim de garantir que os modelos não sejam enviesados após o fine-tuning. Como todo modelo de inteligência artificial é retroalimentado pelos próprios usuários, quem o abastece com informações tem que estar consciente do que quer fomentar ou evitar em seu uso.

Lembremos que LLM significa large language model, ou seja, modelos de linguagem de grande escala. Toda linguagem é transformada pelos usuários: acontece com qualquer idioma, código, até mesmo com a música. Assim sendo, nunca vai existir uma IA “imutável” – qualquer modelo será transformado pelo uso. Isso é uma premissa básica da própria ferramenta. Se ela não passasse por essas mudanças, não seria capaz de “aprender”. A questão é o quanto essa aprendizagem pode desvirtuá-la de seu modelo original.

Quanto mais treinada em tarefas específicas, mais especializada e mais capaz de fazer correlações pertinentes ao seu universo de “conhecimento” ela se torna. Quanto mais abrangente, menor será seu grau de especialização – e mais ela se tornará vulnerável em termos de segurança e confiabilidade.

Sem educação não há futuro

Diante desse cenário, a conclusão é óbvia: novas especializações e melhores treinamentos são necessários para elevar a confiabilidade e a segurança das aplicações de IA, principalmente em setores mais sensíveis, como saúde e finanças. Imagine contar com uma plataforma que, ao receber o input de dados médicos, retorna com resultados errôneos ou parciais.

Estou longe de ter a postura apocalíptica que alguns profissionais demonstram em relação à inteligência artificial. Reconheço os impactos dela na empregabilidade e no barateamento da mão de obra, mas acredito na capacidade que temos enquanto sociedade de criar regulações para o que pode apresentar risco. Tem sido assim desde o início da civilização, e não há razões para pensar que com a IA será diferente.

O que talvez tenhamos de mais específico, hoje, é a visão de que a IA pode fazer “tudo”, especialmente dentro do universo corporativo. Não é. É evidente que, quanto mais proprietária a IA, maior é a possibilidade de ela apoiar na solução de problemas específicos daquela empresa. Mas ela sempre esbarrará em limites, sejam eles da própria ferramenta ou da ética em torno de seu uso.

A descalibração posterior ao fine-tuning apresenta riscos reais, sim, mas eles são contornáveis – melhor ainda, são evitáveis. Só que é preciso capacitar os agentes humanos que vão estar nas duas pontas da ferramenta: o usuário e o técnico responsável pela manutenção do modelo. É um esforço grande, que demanda investimento, mas os benefícios são palpáveis.