A regulação das plataformas digitais e o aumento da fiscalização sobre conteúdos produzidos com Inteligência Artificial foram defendidos por pesquisadoras durante um debate sobre tecnologia e eleições. O encontro ocorreu nesta terça-feira (15), no webinário Tecnologias, IA e Eleições, promovido pela Articulação de Organizações de Mulheres Negras Brasileiras.
Participaram da discussão Fernanda Rodrigues, diretora executiva do Instituto de Referência em Internet e Sociedade (IRIS), e Larissa Santiago, cofundadora da plataforma de comunicação independente Blogueiras Negras.
Como os algoritmos das plataformas influenciam o conteúdo recebido pelos usuários?
Fernanda Rodrigues chamou atenção para o funcionamento dos algoritmos de recomendação utilizados pelas plataformas digitais. Segundo ela, esses mecanismos interferem na definição dos conteúdos apresentados aos usuários.
A pesquisadora defendeu uma regulação que permita às pessoas escolherem não receber determinados conteúdos padronizados e que estabeleça medidas contra possíveis vieses discriminatórios nos sistemas de recomendação.
“É preciso uma regulação mínima que assegure que as pessoas possam optar por não receber conteúdos padronizados e que assegure que os mecanismos de recomendação não tenham vieses discriminatórios”, afirmou.
Por que as pesquisadoras defendem mais fiscalização sobre a Inteligência Artificial?
Durante o debate, as pesquisadoras avaliaram que o desenvolvimento da Inteligência Artificial ainda não estaria sendo orientado de forma suficiente pelas demandas da sociedade. Também foi apontada a concentração das grandes empresas de tecnologia nas discussões sobre o futuro da tecnologia.
Larissa Santiago afirmou que o Brasil possui, na avaliação dela, um sistema regulatório de IA desenvolvido em comparação com outros países. Ao mesmo tempo, defendeu o aumento da fiscalização e investimentos em educação midiática.
Como a educação midiática pode ajudar no combate à desinformação?
Para Larissa Santiago, parte da população ainda encontra dificuldades para identificar quando um conteúdo foi produzido ou manipulado por Inteligência Artificial.
“As pessoas não conseguem entender a diferença entre uma pessoa real e uma pessoa criada pela IA. É preciso educar a população”, afirmou.
A educação midiática foi apresentada como uma das medidas para ampliar a capacidade dos usuários de reconhecer conteúdos manipulados, especialmente em um ambiente digital no qual imagens, vídeos e outros materiais podem ser produzidos ou alterados por ferramentas de IA.
Como a Inteligência Artificial pode ser usada para disseminar desinformação nas eleições?
As pesquisadoras também discutiram os possíveis impactos da IA sobre processos eleitorais, com destaque para o uso de desinformação e deepfakes, que são conteúdos manipulados ou produzidos artificialmente para representar pessoas ou situações de maneira falsa.
Larissa Santiago afirmou que essas ferramentas podem ampliar formas de violência política de gênero e raça. Ao abordar o impeachment da então presidenta Dilma Rousseff, ela mencionou a circulação de imagens e notícias que classificou como distorcidas.
O processo de impeachment ocorreu em 2016, antes da popularização das atuais ferramentas de Inteligência Artificial generativa. A referência feita pela pesquisadora foi utilizada para discutir como conteúdos manipulados podem influenciar debates políticos e, segundo sua avaliação, ganhar nova escala com o avanço da IA.
O que está sendo defendido para enfrentar os riscos das plataformas digitais?
Entre as medidas apresentadas durante o debate estão o fortalecimento da regulação das plataformas, maior fiscalização sobre conteúdos produzidos com Inteligência Artificial e ampliação da educação midiática.
As pesquisadoras também defenderam mecanismos que permitam aos usuários ter mais controle sobre os conteúdos recomendados pelas plataformas e medidas para reduzir possíveis vieses discriminatórios nos sistemas de recomendação.
