TSE proíbe 'deepfake' e determina que uso de IA em campanhas precisa ter aviso explícito

O plenário do Tribunal Superior Eleitoral (TSE) aprovou nesta terça-feira uma resolução sobre propaganda eleitoral que disciplina o uso de tecnologias de inteligência artificial (IA) nas campanhas das eleições municipais que ocorrerão em outubro. A proposta foi aprovada por maioria.

– Esta foi a resolução que eu propus o desdobramento para que ela apenas cuide deste tema, um tema especialmente sensível nos tempos em que vivemos – disse a relatora das resoluções sobre as eleições de 2024, ministra Cármen Lúcia.

No texto aprovado, Cármen Lúcia estabeleceu a proibição das "deep fakes" e que a inteligência artificial só pode ser usada em campanhas com um aviso de que o conteúdo foi feito a partir de uma ferramenta do tipo.

Em um dos trechos da minuta sobre inteligência artificial obtidos pelo GLOBO, o TSE prevê que a utilização de IA pode acarretar na cassação do registro e mandato, além de responsabilizar as big techs. Para a Corte, o descumprimento das normas sobre deepfake "configura abuso de utilização dos meios de comunicação, acarretando na cassação ou perda do mandato e impõe apuração das responsabilidades" conforme disposto no Código Eleitoral. Essas medidas, também segundo interlocutores ouvidos pela reportagem, foram propostas pelo presidente do TSE, ministro Alexandre de Moraes.

Sobre as "deep fakes", a medida aprovada pelo TSE prevê a "vedação absoluta". Segundo a proposta, "conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia não pode ser usado, para prejudicar ou para favorecer candidatura".

O uso deste método de fake news vinha preocupando o Judiciário em função do avanço das tecnologias. É o caso, por exemplo, de uma voz é introduzida em um vídeo para induzir os eleitores a acreditarem que um político disse algo que ele não falou.

Há ainda a restrição ao uso de chatbots e avatares para intermediar a comunicação da campanha, que não poderá simular interlocução com pessoa candidata ou outra pessoa real.

– Vivemos com o perigo das fake news 'anabolizadas' pela inteligência artificial. Nós já vimos o que aconteceu na Argentina, um vídeo transformando uma fala com perfeição, e isso pode acarretar num problema gigantesco, o que pode até afetar o resultado de uma eleição – ressaltou o presidente do TSE, ministro Alexandre de Moraes, para quem a resolução aprovada garante a "verdadeira liberdade de expressão".

Exigência de rótulos de identificação de conteúdo sintético multimídia

Restrição ao uso de chatbots e avatares para intermediar a comunicação da campanha, que não poderá simular interlocução com pessoa candidata ou outra pessoa real

Vedação absoluta de uso de deep fake: conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia não pode ser usado, para prejudicar ou para favorecer candidatura

A minuta prevê ainda que os provedores de aplicações na internet são responsáveis pela implantação de medidas que impeçam a publicação de conteúdo irregular, que atinja a integridade do pleito. O TSE sstematiza a aplicação da Lei Geral de Proteção de Dados Pessoais ao contexto eleitoral.

Para tanto, prevê a adaptação de regulamentos da Autoridade Nacional de Proteção de Dados, de forma compatível às particularidades do tratamento de dados pelas campanhas e a consideração das campanhas municipais, em Municípios com menos de 200.000 eleitores, como agentes de tratamento de pequeno porte.

Além disso, entende que as campanhas deverão apresentar registro de operações de tratamento de dados, em modelo a ser disponibilizado pela Justiça Eleitoral e que juízas e juízes eleitorais das capitais de Estado poderão solicitar relatório de impacto à proteção de dados no caso de tratamento de alto risco pelas campanhas ao cargo de prefeito.

Além das medidas sobre inteligência artificial, o TSE também aprovou, no âmbito da regulação sobre a propaganda eleitoral, medidas para aperfeiçoar o combate às notícias falsa, sobretudo com relação às plataformas e aplicativos de redes sociais.

Entre elas estão a adoção e publicização de medidas para impedir ou diminuir a circulação de fatos notoriamente inverídicos ou gravemente descontextualizados que atinjam a integridade do processo eleitoral. Ainda, a obrigação da veiculação, por impulsionamento e sem custos, do conteúdo informativo que elucide o fato notoriamente inverídico ou gravemente descontextualizado.

Pela norma adotada pelo TSE existe a previsão da responsabilidade dos provedores de aplicativos que "não promoverem a indisponibilização imediata de conteúdos e contas, durante o período eleitoral, em casos de risco".

Estes casos de risco são classificados pela Corte como "condutas, informações e atos antidemocráticos tipificados no Código Penal" e "comportamento ou discurso de ódio, inclusive promoção de racismo, homofobia, ideologias nazistas, fascistas ou odiosas contra uma pessoa ou grupo mediante preconceito de origem, raça, sexo, cor, idade e quaisquer outras formas de discriminação".

Especialistas ouvidos pelo GLOBO defendem a importância da regulação sobre o uso da inteligência artificial aprovada pelo TSE.

–O TSE, ao definir concretamente o que se entenderá como o uso ilícito da inteligência artificial para fins eleitorais, estabeleceu medidas fundamentais para o combate de fake news, visando a proteção da democracia e do direito de liberdade de expressão – observa a advogada Yuri Nabeshima, especialista na área de inovação.

Além da resolução sobre inteligência artificial, o TSE aprovou outras 11 resoluções sobre as eleições de 2024 – como calendário eleitoral, fundo especial de financiamento de campanha, registro de candidatura ilícitos eleitorais e fiscalização e auditoria. Entre as novidades está a ampliação do teste de integridade com biometria: de cinco capitais de estados e Distrito Federal, passa para todas as capitais de estados.