Riscos da Inteligência Artifical Generativa

A Inteligência Artificial não é tão nova como muitos imaginam. Desde a sua origem, em 1943, quando foi criado o primeiro modelo computacional para redes neurais, pelos pesquisadores americanos Warren McCulloch e Walter Pitts, ela não parou de evoluir.

Mas foi nos anos 90 que a IA ganhou força com a democratização dos computadores e o salto exponencial das pesquisas nesse campo.

Hoje, a sua ascensão marca um ponto crucial na evolução tecnológica, carreando consigo inúmeras possibilidades, como também desafios e riscos intrínsecos.

Dentre os desafios estão questões como a regulamentação da IA e os valores éticos e morais que envolvem a criação, difusão e exploração das informações geradas. O certo é que ainda não se tem controle sobre esses aspectos, até porque a mitigação dos desafios e a constituição do arcabouço legal que propõe limites no desenvolvimento da tecnologia, não caminham à mesma velocidade da evolução da IA.

Aqui não há a intenção de demonizar essa importantíssima tecnologia. O objetivo é fazer um contraponto entre seus aspectos positivos e os riscos que ela pode provocar, caso não seja regulada. A construção da confiança digital dos consumidores é imperativa para a inovação tecnológica.

A Inteligência Artificial Generativa possui benefícios extraordinários, nos permitindo otimizar tempo e recursos que podem ser aplicados a inúmeras atividades produtivas, seja no ambiente empresarial ou social.

Mas como nem tudo é perfeito e, a depender do seu uso, ela pode se tornar um risco grave aos negócios ou à vida pessoal. Apresento aqui alguns riscos mapeados sobre o uso indevido da IA:

– Segurança e Privacidade: A tecnologia pode aumentar a sofisticação e velocidade dos ataques cibernéticos. Ela pode manipular dados e injetar informações maliciosas, com objetivo de destruir qualquer processo. No que diz respeito à manipulação de dados pessoais a produção de textos, vídeos e imagens podem ser tão perfeita, que podem comprometer a imagem de uma pessoa. Vide vídeos utilizando fotos de autoridades, papas, modelos, atores e outras pessoas populares;

– Propriedade Intelectual: Por serem treinados com dados reais os algoritmos são capazes de cruzar informações e criar produtos e processos oferecendo riscos significativos de violação da propriedade intelectual. Materiais protegidos por direitos autorais de marcas patentes podem ser violados sem que o detentor do bem seja notificado;

– Regulamentação: Como citamos, por se tratar de algo novo e que evolui de forma exponencial, ainda não se tem regulamentação definitiva para essa inovação tecnológica. A União Europeia é a mais avançada na aprovação da legislação, seguida pelos Estados Unidos e China, que estão em fase de construção.

Outro risco inerente ao uso da IA é a desinformação de parte da população. Não conhecer a tecnologia, não saber sobre suas funções e acreditar em tudo o que é divulgado através de mídias sociais, pode levar a situações irreversíveis de conceito de imagem.

Portanto, fique atenta a tudo o que é distribuído nas redes e mídias. Pode ser que você esteja lidando com uma deepfake.