Por Elizabeth Souza
A Inteligência Artificial Generativa (IAG) seus riscos e desafios. É a partir desse raciocínio que o mais novo ebook organizado por Tarcízio Silva, publicado nesta quarta-feira, apresenta artigos escritos por pesquisadoras/es negras/os de diversas regiões do país, que através de suas produções científicas buscam reforçar e lançar novas lentes sobre a IAG. O ebook está disponível gratuitamente para acesso online.
Com o título “Inteligência Artificial Generativa: Discriminação e Impactos Sociais”, o livro reúne nove artigos que apontam os impactos discrminatórios e sociais dessa nova tecnologia, abordando diversos campos, como a arte, a comunicação e a segurança pública. Quem explica é Tarcízio Silva, doutorando em Ciências Humanas e Sociais pela Universidade Federal do ABC e autor do livro “Racismo Algorítmico: inteligência artificial e discriminação nas redes digitais”, lançado em 2022.
“O ebook traz algumas perspectivas baseadas em dados, evidências, sobre o fato de que a [Inteligência Artificial] Generativa é um tipo de tecnologia que parece ter mais malefícios do que benefícios, pelo menos do jeito que foi construída”, aponta. Questões que Tarcizio aborda em seu artigo “Papagaios Estocásticos: a revanche da epistemologia da ignorância”, que também integra o ebook.
O termo “papagaios estocásticos” foi desenvolvido por pesquisadoras, como a etíope Timnit Gebru, renomada cientista da computação, e diz respeito a debates principalmente envolvendo o famigerado ChatGPT. A ideia do termo é destacar como modelos de linguagem funcionam, comparando-os a papagaios que repetem o que ouvem. Aplicando à realidade da IA, o intuito é compreender como esses sistemas geram respostas com base em banco de dados da web, sem ter uma compreensão genuína disso.
“Uma dessas provas são dados de outra pesquisa que eu trago para o trabalho, que mostra como sistemas de agenda nativa, como o chatGPT; o Cloud, da Amazon; e o Bard, do Google, têm gerado respostas que incluem ideias racistas da medicina que já foram superadas há muito tempo”, observa Tarcizio.
Os perigos do uso irresponsável
Outro trabalho que também integra a coletânea é o “Desafios Comunicacionais diante da Inteligência Artificial”, de autoria de Gustavo Souza, graduado em Direito pela Universidade Federal do Acre (UFAC) e especialista em Estratégia de Inteligência Artificial no Programa das Nações Unidas para o Desenvolvimento (PNUD/ONU).
“Acho que tem uma fronteira que é sobre como as tecnologias digitais, além de serem meio para a difusão das informações, também passam a ser um instrumento para criar informações que não são coerentes com a realidade”, comenta Gustavo associando tal perspectiva ao objetivo do seu estudo. “Um desses objetivos é olhar para esses desafios, tentar mapear quais eles seriam, e iniciar o debate sobre o que a gente precisa olhar, afinal de contas, a comunicação é a base do que nós temos vivido hoje globalmente.”
Nesse contexto, a pesquisa aborda pontos como a divulgação de fake news através de IA, como aconteceu durante as catástrofes climáticas no Rio Grande do Sul e a utilização de imagens de pessoas falecidas para a criação indiscriminada de conteúdos. Relacionado a isso, o texto menciona a importância de medidas como o PL 3592/2023, que tramita no Senado e define orientações para o uso de imagens e áudios de pessoas falecidas por meio de inteligência artificial, visando assegurar a proteção da dignidade, da privacidade e dos direitos dos indivíduos mesmo após o falecimento.
Tarcízio chama atenção para a prorrogação da Comissão Temporária Interna sobre Inteligência Artificial (CTIA) no Senado e alertou às mudanças que o PL 2.338/2023 – que visa regulamentar o uso da IA no Brasil – pode sofrer. “A comissão está prestes a lançar uma nova sugestão de minuta para o PL e a perspectiva é que ela consiga diminuir ainda mais, infelizmente, as proteções a direitos que estão presentes no texto”, lamenta mencionando a influência do lobby do setor privado e das big techs nesse sentido.
“É muito importante questionar o uso da IAG, em especial no Brasil, porque boa parte das grandes tecnologias baseadas em sistemas algorítmicos que utilizamos são construídas em contextos muito distanciados dos nossos interesses e prioridades e, com frequência, sem considerar as particularidades do país”, finaliza Tarcízio.
Webnário
Um dia após a publicação, o ebook “Inteligência Artificial Generativa: Discriminação e Impactos Sociais” foi apresentado durante o Webnário “Roda de Conversa: Inteligência Artificial Generativa: para quem?”.
Confira o debate:
Acesse o ebook completo aqui.
