Deepfake E A Democratização Da Influência

1_Eg2XXB6w7GWZti_JlN_JvA.jpeg

Por Dani Branco

Estamos no século XXI, a era digital e da informação acontecendo a todo vapor e testemunhamos uma explosão de fraudes online. Um novo conceito para aprendermos: deepfake. Vídeos e imagens existentes combinadas, completamente fabricados, mostrando coisas que nunca aconteceram criadas a partir da inteligência artificial para fins de benefícios próprios, caos, confusão e desinformação. E enquanto você está aí pensando que algum hacker do mal inventou isso, não se engane! Empresas como a Adobe Research, Universidade de Stanford, Universidade de Princeton entre outras, já desenvolveram algoritmos que permitem editar a imagem e a fala de uma pessoa. Qualquer um pode ser alvo, basta encontrarem uma imagem ou um vídeo seu na internet e pronto, reconhecimento facial e de voz mapeiam suas características e aplicam em outro vídeo já existente.

Além do potencial uso indevido da combinação de vídeos e perfis deepfake com as fakes news é bom lembrar que são os seres humanos, e não robôs, os responsáveis pela distribuição de toda essa farsa online.

Todas estas tecnologias da transformação digital como IA, IoT, blockchain, machine learning, VR, AR, robótica, etc, estão se desenvolvendo em um ritmo nunca antes visto. Um novo espaço digital surge prometendo muito, mas também trazendo uma série de preocupações sobre direitos, liberdades individuais e democracia.

Além das notícias sensacionalistas e duvidosas que se concentram principalmente na cena política, não escapam sites de fofocas, de guerra, de violência e por aí vai. Cidadãos lutam cada vez mais para ser parte atuante da mudança ao seu redor. Querem ser ouvidos, respeitados e capazes de influenciar as decisões daqueles que os acompanham digitalmente. Não importa se são 200 seguidores ou mais de 1 milhão. É a convergência dos meios de comunicação, da cultura participativa e da inteligência coletiva. São todos participantes interagindo de acordo com um novo conjunto de regras que, por estar em pleno desenvolvimento, nenhum de nós entende por completo. Um processo de transformação complicado marcado por decisões táticas, consequências inesperadas, interesses conflitantes e resultados imprevisíveis.

Como será o mundo em que nem mesmo um vídeo poderá provar que algo de fato ocorreu sem culpar a tecnologia pelas fake news? Um suposto vídeo do prefeito em uma orgia, uma troca de mala de dinheiro registrada por um paparazzi, imagens de câmeras de segurança que poderiam inocentar ou incriminar alguém de um assassinato. O que faremos sobre a confiança? Houve um tempo onde confiavam muito no que as pessoas falavam, honra era palavra de ordem e o famoso boca a boca tinha muito mais poder do que trinta segundos no horário nobre. Já a atual geração Z, por exemplo, passa tanto tempo na internet que sua realidade é mais repleta de eventos online do que face a face. Como será quando o deepfake for pulverizado em massa e tivermos que viver checando os fatos? A gente vai acreditar na vizinha, no chefe, no namorado? Já estamos discutindo nos grupos de whatsapp com a família e amigos sobre as verdades e mentiras da política, desconfiamos do like recebido ou dado e quando recebemos um exame do laboratório averiguamos tudo no Google para poder discutir com o médico e ter certeza que podemos confiar na receita prescrita, assinada e carimbada com o CRM. Talvez a ideia de que as pessoas no futuro poderão gravar e compartilhar memórias como no episódio "The Entire History of You" de Black Mirror será a única forma de provarmos os fatos daqui algum tempo.

Em contrapartida ao deepfake, cada vez mais vemos influenciadores e marcas se posicionando politicamente e ideologicamente para se alinharem com propósitos reais e lutarem por suas verdades com seus consumidores. Dos nano influenciadores aos big voices, todos vêm promovendo e ampliando espaços de conversas para influenciar comportamentos e até mesmo revisões de leis, tornando-se mais relevantes na jornada de vida do consumidor. Existem muitas conversas impulsionadas pelas redes sociais que causam impacto positivo extrapolando comunidades específicas. Saindo do nosso quadradinho percebemos outras formas de vida e esta responsabilidade tem se mostrado efetiva. Não é o número de impressões que importa, mas o de expressões. E estas podem ser do grupo de oração, das amigas da escola, dos caras da banda, dos colegas do trabalho ou da turma da prima, se você utiliza alguma rede social você é um influenciador.

Ainda assim, assistiremos a desinformação aumentar de tal maneira que vão gerar um mundo de eventos míticos de imersão, entretenimento e um capitalismo de vigilância que será (se já não é) profundamente perturbador para nossa saúde mental e estabilidade política. Talvez se conseguirmos identificar a origem do problema e educar a população, temos uma chance de reescrever e transformar a comunicação que conduz nossas vidas. Principalmente para as gerações mais novas que, na contramão do isolamento social por causa das novas tecnologias, tem se mostrado bastante hábeis, barulhentas e criativas assumindo o controle das mídias. São elas que nos revelam como conhecimento se transforma em poder. Não há regras e ninguém controla a participação. Não existe fair play na internet.

Manuela Rahal