A recriação de fotos por meio de inteligência artificial (IA) tem se tornado uma prática crescente, no entanto, a tecnologia subjacente ainda carece de regulamentação adequada. A utilização de imagens pessoais em plataformas de IA pode resultar na perda de controle sobre o uso e o destino desses dados.
André Maini, especialista em Tecnologia e Marketing de Influência, ressalta que os riscos associados ao envio de imagens incluem o treinamento não consentido de modelos de IA com dados pessoais, a criação de deepfakes para fraudes ou desinformação e o potencial uso indevido de dados visuais sensíveis, como a imagem facial e o ambiente familiar do usuário.
Esses dados podem ser monetizados ou expostos indevidamente.
“O cerne da questão está nos termos de uso das plataformas. Muitos desses termos permitem o reaproveitamento das imagens geradas e até das imagens originais, frequentemente para finalidades que o usuário ignora. É crucial discernir entre plataformas que operam com políticas alinhadas a regulamentações como a LGPD e a futura Lei de IA e aquelas que demonstram baixa transparência”, explica Maini.
O caso do ChatGPT
No contexto do ChatGPT, uma das plataformas mais utilizadas para interações baseadas em IA, Maini destaca a importância de esclarecer sua política em relação ao envio de imagens.
Imagens enviadas ao ChatGPT podem ser utilizadas para treinar os modelos da OpenAI. Os usuários têm a opção de desabilitar essa funcionalidade nas configurações de privacidade. Tanto a versão gratuita quanto a Plus oferecem controle para que o usuário desative o uso de dados para treinamento. Existe também um modo temporário de chat que não armazena nem reutiliza informações. Nas versões corporativas (Enterprise/Team), os dados são, por padrão, não utilizados para treinamento, garantindo maior segurança e conformidade com regulamentações como a SOC 2 Type 2. A OpenAI realiza testes de segurança e avaliações de terceiros, mas o envio de imagens sensíveis continua a representar um risco, especialmente se as configurações de privacidade não forem ajustadas. Maini destaca que essas ferramentas podem ser utilizadas de forma recreativa e criativa, desde que o usuário esteja ciente dos riscos envolvidos. Sua recomendação é evitar o envio de imagens sensíveis e ler atentamente os termos de uso.
Ele também sugere que se considere a rastreabilidade das informações. “Nenhuma IA é neutra ou isolada, e o que é compartilhado pode alimentar uma base de dados global no futuro”, comenta.
‘Me transformaram em homem’
Essas questões ganham uma dimensão concreta em experiências como a da especialista em marketing de influência Gigi Grandin. Após a publicação de um artigo na revista Meio & Mensagem, ela capturou uma foto da página com seu celular.
A imagem original estava em baixa qualidade e desalinhada. Para melhorá-la, Gigi utilizou uma ferramenta de IA para “restaurar” a foto.
Contudo, o resultado não foi uma versão aprimorada da imagem original, mas uma substituição total.
“A IA trocou minha imagem por um homem branco de meia-idade e ainda alterou meu nome para um nome masculino fictício. Senti como se tivesse deixado de existir”, relata.
“O algoritmo aparentemente considerou que a imagem de um homem era mais adequada para figurar na página como CEO e autor de um artigo em uma revista de negócios do que a minha imagem.”
Gigi interpreta a ocorrência não como um erro técnico, mas como um reflexo de estereótipos sociais. Segundo ela, a IA, ao ser treinada com vastos conjuntos de dados, tende a aprender e amplificar esses mesmos estereótipos.
Maini concorda com essa análise.
“A substituição por uma imagem fictícia masculina levanta sérias questões sobre o futuro que está sendo delineado, onde uma mulher com nome, rosto, currículo e cargo pode ser apagada por uma máquina que ‘decide’ que um homem fictício é mais compatível com um determinado contexto. Essa exclusão, vivida no mundo real, pode ser transposta para o digital, permitindo que a exclusão automatizada se torne padrão e parte da base de dados”, conclui o especialista.
