Deepfakes – Riscos de segurança para as empresas

A cada dia que passa ficamos surpresos com a evolução e as diversas aplicações da Inteligência Artificial – IA, seja na vida corporativa, como na vida pessoal. Baseada na capacidade de os dispositivos pensarem e aprenderem como os seres humanos ela pode raciocinar, decidir e deliberar de forma racional sobre questões até hoje nunca imaginadas.

Mas, como nos filmes de ficção científica, a mesma inteligência que promove o bem pode promover o mal e quem decide a sua aplicação são as pessoas que estão por trás dela. E essa é a realidade atual do lado negro da IA.

Muitas de vocês já devem ter ouvido falar dos Deepfakes. Esse termo é um acrônimo dos termos em inglês ‘deep learning’ – aprendizagem profunda e ‘fake’ – falso. Ele produz imagens, áudios e vídeos fictícios manipulados digitalmente, para criar representações falsas e convincentes de pessoas e empresas em diversas situações e operações.

Atualmente, os deepfakes se tornaram extremamente preocupantes, especialmente por promoverem inúmeras distorções em uma tecnologia que foi desenvolvida para melhorar e agilizar processos, reduzir custos e promover maior comodidade aos usuários.

A técnica iniciou alterando textos, voz e redes sociais, criando perfis falsos para causar prejuízos a pessoas. Hoje a IA Generativa (aquela que cria novos conteúdos a partir do aprendizado de linguagens complexas de programação, humanas, dentre outras) evoluiu a ponto de oferecer riscos de segurança a empresas. Hoje a preocupação está em como identificar um deepfake e como se proteger dele.

Até meses atrás era possível identificar, com mais facilidade, se um áudio ou um vídeo eram falsos observando o tom de voz, a inconsistência nas cores e os movimentos dos olhos e boca. Hoje, os profissionais do mal estão se especializando e tornando os vídeos e áudios cada vez mais perfeitos.

E como isso acontece? A máquina passa a ser treinada a partir de duas redes adversárias generativas (GAN). Aqui, uma rede neural geradora compete com outra rede, a discriminadora, com o objetivo de gerar mídias cada vez mais próximas da realidade (uma corrigindo a outra). A repetição desse ciclo faz com que os deepfakes melhorem a sua qualidade tornando cada vez mais difícil identificar as falhas. Muito louco, não é mesmo?

E o mais grave de tudo é que os seres humanos acreditam naquilo que seus olhos e ouvidos percebem. E todas nós estamos suscetíveis a cairmos nessa cilada. Mas existem 3 gerações que merecem maior atenção: as “baby boomer”, “Z” e “alpha”. A primeira por possuírem um número de pessoas que ainda não domina algumas tecnologias e mídias sociais e as Z e alpha por acreditarem (com mais facilidade) que tudo o que vem das redes e mídias é verdadeiro. Elas podem se tornar presas fáceis.

Infelizmente estamos vivendo em perigo permanente, quando o objetivo é difamar ou destruir empresas e imagens de pessoas.

Existem formas de se precaver? Sim. Investir em sistemas de cibersegurança mais elevados e checar se o que está sendo divulgado é real.

Certa vez ouvi a frase: “Confiar é bom, mas checar é melhor”. E acho que ela vale muito para a atual situação. Fiquemos atentas.