Idiocracia e o bombeiro que queima livros – por Elen Biguelini

Continuando o tema da coluna passada, resolvemos retornar a questão da inteligência artificial, isto porque como escritores e pesquisadores a temática se tornou uma necessidade.

Durante a semana passada surgiram nas mídias sociais diversas admissões de plágio. Autores de textos acadêmicos informando que utilizavam da IA generativa para escrever seus textos.

A IA generativa é justamente aquela que se utiliza de outros textos para escrever um novo. É aquela que se apropria de imagens de fotógrafos legítimos para criar outra foto. Ou seja, são os aplicativos que cometem, essencialmente, plágio.

Mas agora a situação piora, quando surgem notícias de que empresas criadoras de dados digitais compraram acervos literários, os digitalizaram exclusivamente para seu IA, e depois teriam queimado esses matérias.

Assim, informações ficam fechadas apenas para os aplicativos de Inteligência artificial. Livros de coleções que poderiam conter obras raras, perdidas.

E conhecendo que muitas coleções privadas contem obras extremamente raras, isto causa um medo muito forte em pessoas que estudam a história ou tem interesse pela literatura. A obra de Maria Firmina dos Reis, a primeira autora negra brasileira, que escreveu o primeiro romance abolicionista brasileiro “Ursula” tinham ficado perdida em um acervo particular durante anos, até que finalmente foi reencontrada. E se uma obra com tal valor estiver entre as queimadas pela empresa criadora de uma IA?

O livro “Fahrenheit 451” do escritor americano Ray Bradbury apresenta um universo no qual os bombeiros ao invés de impedir incêndios, os criam, ao colocar fogo em bibliotecas particulares. O conhecimento torna-se proibido. As empresas de IA estariam caminhando para este futuro? Como podemos admitir que acervos sejam apagados?

Queimar livros já não é mais o primeiro passo de uma sociedade totalitária. Não é também o segundo, nem o terceiro.

Quando permitimos o apagamento do conhecimento ancestral, permitimos que nossas mentes sejam diminuídas, a capacidade humana inferiorizada.

Em 2006 um filme despretensioso de comédia chamado “Idiocracy” ou “Terra de Idiotas” apresentava uma data futura onde os seres humanos não necessitavam mais pensar, o que ocasiona em uma sociedade na qual havia se esquecido a necessidade da água para a plantação de alimentos. No filme, o protagonista que era um ser humano normal na contemporaneidade, acaba acordando neste futuro distópico e se tornando o presidente após demonstrar que a plantação de alimentos não poderia ser regada à energéticos.

Claramente é um futuro imaginado e exagerado, mas em poucos meses de uso destas Inteligências artificias generativas (ou seja, criadoras de conteúdo), já percebemos que as respostas por elas criadas já não são mais confiáveis. Não apenas porque são baseadas em coisas que estão na internet (e como estamos cansados de saber, a internet é a terra das notícias falsas), como agora há tanto conteúdo criado por IA, que este se baseia em conteúdo criado por outras IA para trazer conteúdo e assim, emburrecendo a resposta e tirando aquilo que faz dos textos humanos tão interessantes: a nossa própria humanidade.

Claramente, há Inteligências artificiais muito uteis. Mas é preciso encontrar os métodos de usá-las para melhorar a vida humana e não o contrário. É preciso descobrir o meio termo entre permitir que a informação seja propagada, sem queimar livros. É preciso alcançarmos formas de melhorar a forma como os “dada centers” são criados e mantidos. E é preciso a criação de leis para monitorar a forma como estas inteligências artificias são usadas. Para não nos tornarmos nem um” Fahrenheit 451”, nem uma “Idiocracia”, e nem um Apocalipse causado pela Skynet (do filme “Terminador do Futuro’) ou comandado por um “Big Brother” (do livro “1984”).

Referências
Empresa de IA queima livros: Acesso via: https://www.tecmundo.com.br/mercado/405576-empresa-dona-do-claude-destruiu-milhoes-de-livros-para-treinar-a-ia-entenda-o-caso.htm
IA é o “achatamento cognitivo”. Acesso via: https://exame.com/inteligencia-artificial/especialistas-alertam-sobre-achatamento-criativo-causado-pelo-uso-excessivo-de-ia/

(*) Elen Biguelini é doutora em História (Universidade de Coimbra, 2017) e Mestre em Estudos Feministas (Universidade de Coimbra, 2012), tendo como foco a pesquisa na história das mulheres e da autoria feminina durante o século XIX. Ela escreve semanalmente aos domingos no Site.