DEEPFAKES

Já foi assim. Bateu. Bateu forte um certo saudosismo essa semana, e lembrei muito de como já foram algumas coisas – se melhores ou piores não sei bem, mas eram legais. Foram transformadas. O que havia aqui e ali, como se comportavam, onde nos divertíamos e crescíamos.

já foi

Em uma escola tradicional do Rio de Janeiro um grupo de estudantes moleques e malcriados se reúne. E, usando aplicativos de deepfake, inteligência artificial para trocar e sincronizar vozes, caras, imagens e o que mais se puder imaginar, criam imagens das estudantes nuas e passam a espalhá-las. Usam um efeito de, digamos, sumir com as suas roupas, usando inclusive as fotos delas próprias em suas redes sociais. Escândalo. Panos quentes para os que foram parar na polícia, porque isso é crime, e dos bravos, dá cana, e não se tem ainda nem ideia do número de estudantes atingidas nem se foi só na tal escola, escola essa, inclusive, particular, católica, Igreja e Colégio Santo Agostinho; muito menos se sabe como conter a expansão dessas imagens, que podem ir parar em sites de sexo e conteúdo adulto e os estragos durarem anos. No meu tempo diríamos que é uma maldade do tamanho de um bonde, com consequências quase tão imprevisíveis como os das invasões de escolas por estudantes insanos, armados, querendo vingar bullyings sofridos. Ou influenciados por grupos do mal, no tal descontrolado Discord.

Deepfakes e facadas. O que antes era rusga entre crianças, coisas de primeiros amores, sacanagens como grudar chicletes em cabelos, tachinhas nas cadeiras, resolvidas entre os alunos ou com idas à sala de diretoria, anotações no boletim e suspensões. Agora, crimes, hediondos e odientos.

Esse fato me chamou muito a atenção, até porque estava nessa, de lembrar de momentos, lugares e coisas antigas legais. É mais do que os #tbt que chegam às quintas-feiras, e onde todo mundo aproveita para desovar fotos. Nas redes sociais há muitos grupos de memória de São Paulo, que publicam antigos registros fotográficos de ruas, regiões, arquitetura, costumes, propaganda, moda, fatos, momentos, pessoas. É como se eles balançassem fortemente os galhos da nossa árvore de memórias. E daí vem uma cascata com uma coisa puxando a outra, nem todas boas, mas algumas que estavam bem guardadas. Quando tem o Antes e o Depois, então, é de chorar.

Foi a única vez que me atrevi num treco de despencar desses: a lembrança mais legal da semana foi recordar a alegria, os berros e a gargalhada de minha mãe descendo comigo o tobogã do PlayCenter quando este era só um parque de diversões mirradinho, na Rua Brigadeiro Luis Antonio, e do qual revi agora uma foto; talvez você aí nem tinha nascido. Faz tempo, tanto que até o PlayCenter da Marginal, enorme, já sumiu. Puf!

São Paulo tem passado por uma transformação violenta de lugares afetivos, com a demolição de quarteirões inteiros para a subida de prédios de vidros fechados, condomínios cercados e varandas gourmet. Nada contra o progresso, mas é que ele tem chegado violentando muito agressivamente, bem além do que se transforma do analógico ao digital, e que muitas vezes nem nos damos conta. Vocês têm noção do que é usar, por exemplo, o Waze, em carro totalmente analógico? “Vire em 800 metros”, e você lá tentando ver os números virando nos relógios do painel.

O tempo transforma a vida, a linguagem – palavras e expressões que hoje soam até esquisitas quando ouvimos – casa noturna (que perdeu o sentido, por exemplo). Fora as condenadas que passam até por exageros como a polêmica recente que ousou classificar como racista até um termo cientifico, astronômico, buraco negro (“região do espaço-tempo em que o campo gravitacional é tão intenso que nada — nenhuma partícula ou radiação eletromagnética como a luz — pode escapar”). Lacração pura, na linguagem atual, proferida por uma ministra, Anielle, que até agora, desculpem, só fez lacrar, para tristeza de quem achou que ela poderia honrar e ser bem mais significativa do que o triste momento que sua irmã, Marielle Franco, foi assassinada.

Vivi, muitos vivemos, novidades, avanços inquestionáveis, melhorias, progressos. Mas que estes sejam os que possamos celebrar para melhorar. O que incomoda é que em muitas coisas, aqui e no mundo, estamos mesmo é andando para trás, e a maior constatação é que isso tudo está se infiltrando e fazendo terríveis distopias virarem realidade, com muita desumanidade.

___________________________________________________ marli - imprensa

MARLI GONÇALVES – Jornalista, consultora de comunicação, editora do Chumbo Gordo, autora de Feminismo no Cotidiano – Bom para mulheres. E para homens também, pela Editora Contexto. (Na Editora e na Amazon).

marligo@uol.com.br / marli@brickmann.com.br

___________________________________________

Apavorante. Em deepfakes eles podem tirar sua roupa, fazer você falar o que quiserem, colocar você em qualquer lugar do mundo, ou até participando de um animado vídeo pornô. Muito mais. Pior: dependendo do que possam pretender, nem precisam de você. Podem criar as pessoas que quiserem com as características e pensamentos que bem entenderem

São Tomé? Já era. Essa de acreditar só no que se vê está indo por terra e em toda a Terra. Estamos em perigo real, de vermos criados mundos paralelos completos, como a própria Criação, como religiosamente acreditamos que foi. Sete dias, descanso, costelas, ceias – tudo ultrapassado. Sairão de máquinas potentes, hardwares, guiados por mentes com domínio tecnológico, e nos serão apresentados em vídeos tão perfeitos que não será possível perceber sua manipulação. Com eles, facilmente o sentimento coletivo poderá ser manipulado.

São deepfakes, vídeos criados por softwares de inteligência artificial, que conseguem utilizar fotos e gravações da voz de alguém para criar um vídeo falso dela, mostrando não apenas ela fazendo algo que nunca fez como ainda dizendo algo que nunca disse. Ou criar essas pessoas, totalmente virtuais, com idades, raças, credos, ideologias, gêneros. Que surgirão buscando nos influenciar, domesticar, pensar como elas, até nos fazer ter raiva de outras que sejam reais. Distopia total.

Lembram daquele vídeo tosco do agora Governador de São Paulo João Doria, e que surgiu pouco antes das eleições? Ele, numa suruba. Como o conheço pessoalmente e fui capaz de jurar que por vários motivos não era ele naquela cena – ambiente sujo, etcs, principalmente os etceteras… – não me toquei à época do perigo, nem do que se tratava exatamente. E é mais, muito mais, do que mera manipulação de imagens. É infernal. Aquela era bem tosca, assim como grande parte do que está sendo feito ainda é rudimentar, produzido por nerds digitais e por pura diversão, humor, gracinhas.

Mas a tecnologia, e em pouquíssimo tempo, está ficando a cada dia mais apurada. E perigosa. E a gente aqui ainda preocupado com as fake news, que já abalam muitas estruturas e poderes, elegendo líderes desconcertantes, trazendo riscos inclusive à vida humana quando trata de saúde, como no caso das vacinas, ou causando linchamentos, que também já ocorreram. Para você entender: com deepfakes até o Drauzio Varella, em carne e osso, pode aparecer em vídeo condenando a imunização. Claro que não será ele, mas poderá ser tão perfeita a produção do falso, que você bateria o pé que, sim, você viu, você recebeu o vídeo, era ele, falando, a voz, os movimentos, os tiques. A técnica é a síntese de imagens, vídeos e sons, combinados e sobrepostos cuidadosamente.

Inacreditável é que o assunto perturbador ainda não está com a devida atenção dos governos e nações. Os deepfakes representam a mais nova ameaça à cyber segurança, sem que ainda se saiba como combatê-los. Não há regulação, normatização, legislação ética sobre a sua má utilização com os geradores de textos falsos, imagens falsas, vídeos falsos, clonagem de vozes e, o máximo, clonagem de personas. Se hoje nem as fake news conseguem ser combatidas, imaginem se esses novos monstros o serão em curto espaço de tempo. A inteligência artificial aprimorada aprendendo, sendo nutrida por informações, a criar um mundo falso em algoritmos.

Apavorante, repito. Discursos de ódio, manipulação nas eleições, ataques aos movimentos sociais, as relações humanas, tudo poderá ser afetado de forma ainda mais violenta do que o que já vem ocorrendo celeremente em todo o mundo. Tudo virtual, não haverá como prender o autor de calúnias, difamações, informações falsas que aparecem nas imagens, porque ele simplesmente não existirá. E o mundo ainda não está preparado para capturar os jovens, em geral, muito jovens, que já detêm essa tecnologia, a operam cada vez melhor, e estão gostando muito, orgulhosos dessa brincadeira que inventaram. Sem limites, farão nascer exércitos que hipoteticamente podem ser maiores do que os chineses, com a fidelidade dos soldados norte-coreanos, e com a loucura dos radicais.

Fica a dúvida: como agirão quando tiverem noção do poder que essa poção mágica poderá lhes proporcionar? Devemos temê-los? Afinal, estarão criando uma nova civilização. Como se deuses fossem. De mentira. Mas o que é verdade, ultimamente?

______________________________

MARLI GONÇALVES – Jornalista, consultora de comunicação, editora do Site Chumbo Gordo, autora de Feminismo no Cotidiano – Bom para mulheres. E para homens também, pela Editora Contexto. À venda nas livrarias e online, pela Editora e pela Amazon.