A exposição era de novas mídias e havia vídeos com avatares de inteligência artificial expostos em telas de tecnologia digital que falavam com vozes mecânicas e, em uma das salas, dois avatares que pareciam perfeitamente humanos, “conversavam” respondendo um ao outro, embora suas imagens fossem separadas e estivessem voltadas para frente, como que confrontando a câmera e não o seu suposto interlocutor.

Nessa época — 17 anos atrás — o primeiro iPhone ainda estava por ser lançado e não era comum fazer fotografias de tudo, o tempo todo. Por este motivo é mais difícil resgatar a referência desta exposição.

Este era também um momento em que o “inverno da IA” ainda ecoava enquanto as artes digitais estavam em alta. Portanto importava menos que estas obras tivessem sido criadas com IA, e importavam mais as possibilidades anunciadas por um crescente processo de digitalização da informação e cultura, da vida, e todas as esferas da sociedade.

Também o fato de que todos os avatares eram de pessoas brancas não chamava tanto a atenção, afinal, o acesso às tecnologias de ponta sempre foi seletivo, e produzir arte com tais tecnologias sempre exigiu conhecimentos específicos, assim como acesso a estruturas com hardwares e softwares de custos mais elevados.

Não nos custa muito tempo encontrar estudos e gráficos que demonstram maior concentração de riqueza para as pessoas de pele clara — brancas ou identificadas como tal — e um maior índice de pobreza para as peles escuras, em escala global. Estes dados também definem quem possuiu, dentro de um processo histórico, maior ou menor acesso às tecnologias sociais, de uso “comum”.

Este recorte também define os perfis de quem estava primeiro on-line, produzindo e trocando dados em fóruns, plataformas, softwares e em momentos seguintes, nos aplicativos, com produções de conteúdos digitais de textos, imagem e som.

As peles em geral são entendidas como diferenças entre humanos de uma mesma cultura, como se houvesse certa homogeneidade nesta cultura.

Em verdade os tons de pele frequentemente representam outras diversidades, invisibilizadas, apagadas ou preteridas, que são diversidades culturais e identitárias. E mesmo as confusões geradas pelas mesclas quando existem heranças apagadas, ora convergentes — se considerarmos os aspectos da luta contracolonial —e ora conflitantes, já que o colonialismo estimulou disputas entre os grupos oprimidos com estratégias de cooptação.

Estudos demonstram que nos territórios do Hemisfério Sul, as peles ganharam tons mais escuros, com vantagens específicas frente a uma maior exposição ao sol. E, embora as categorias “sul” e “norte” global possuam exceções, também os tons de pele traduzem os modos de vida, onde há um cruzamento entre a relação do corpo com a luz no ambiente, assim como a manutenção de uma dieta capaz de compensar a ausência do sol por longos períodos.

Quando modelos de beleza são identificados a partir de características étnicas, a IA vem reproduzindo os estereótipos presentes nas bases de dados.

Entendo a bioética para muito além de sua instrumentalização aplicada nos assuntos de ética em pesquisa e em dilemas éticos muito presentes na área biomédica. Pois a bioética é uma ética sobre a vida, sobre o corpo. Ela é uma quebra de paradigma na separação entre as disciplinas, as humanidades e “ciências duras”. Um chamado de reunificação da Filosofia com a Ciência e, mais ainda, de um olhar sobre a teoria que precisa ser reavaliado, já que a separação mente-corpo, teoria e experiência são paradigmas obstrutores para se pensar uma ética para a vida.

Tais divisões também se refletem na separação da ética e da estética como campos de análise completamente distintos. Porém, se buscamos uma bioética para vida incorporada em matéria, ao analisarmos os corpos humanos, o que os distingue são características estéticas. Assim, em bases de dados, os adjetivos de classificação para “pessoas”, sejam homens ou mulheres, feias ou bonitas, elegantes ou deselegantes, são categorias racializadas, sendo o próprio conceito de raça uma invenção do colonialismo.

O que se chama atenção aqui é que temos em aberto um chamado para pensar a bioética sobre a estética e esta atenção requer perspectivas decolonais.

A contracolonialidade de que fala Nêgo Bispo é afirmação e re/existência, enquanto a decolonialidade é um termo experimental e exploratório que abre um caminho de investigação e reflexão.

Tomemos por exemplo o caso da Tanzânia, exposto no documentário recém-lançado chamado The empty grave. O problema do colonialismo não se resumiu apenas na exploração dos povos e territórios, mas no domínio que se teve sobre eles através do ataque, saqueamento e apagamento de suas culturas. O filme mostra como um rico acervo relacionado à história da Tanzânia antes do encontro com o colonialismo euromoderno é guardado — com o devido condicionamento — nos porões de um arquivo oficial na Áustria. E o que chama a atenção é o fato de ser uma história colocada nas sombras, já que para reavivá-la existem ainda lacunas de estudos que tentaram ser feitos desde os anos 1970 e foram continuamente ignorados ou sabotados, assim como deparar-se com tal acervo imediatamente evoca a necessidade de prestação de contas em um caminho que não foi devidamente construído.

O filme de Agnes Lisa Wegner e Cece Mlay mostra como um migrante africano, ativista solitário encontra — apenas recentemente — artistas alemães voltados para o tema da decolonialidade e, a partir daí, consegue deles apoio para investigações mais profundas dentro do sistema institucional que guardava consigo estas “caixas de Pandora”. Deste modo, é ainda muito recente elaborar os entendimentos sobre os significados das culturas saqueadas, os impactos sobre as vidas, quando devemos considerar cultura e identidade dentro dos direitos fundamentais, desde que estes são elementos capazes de conferir às pessoas o agenciamento sobre suas identidades, a dignidade da autonomia.

Portanto, aplicar na IA o entendimento ético sobre o direito à diversidade como o evocado pela Unesco não é simples, pois ainda existem partes das histórias atropeladas pelos processos colonizadores que são refletidas em desigualdades e doenças físicas e mentais, assim como ainda é frágil associar e mensurar como os impactos das expropriações se refletem na capacidade de resposta dos indivíduos às situações adversas, que têm sido com a violência colonial, o baixo acesso aos direitos fundamentais. O documentário acima citado trata de um tema ainda pouco ou nada difundido, que é o holocausto ocorrido em diversos territórios na África. Sabemos que existem pelo menos dezenas de filmes sobre o holocausto que massacrou o povo judeu na Segunda Guerra Mundial e desde então busca-se devolver a humanidade a este grupo que sofreu tal atentado através de solidariedade e prestação de contas. Mas ainda não temos a humanidade devolvida aos povos massacrados pela violência colonial. Partes das histórias permanecem escondidas, apagadas, com traços da cultura absorvidas ou apropriadas sem que se honre devidamente os grupos afetados através da justiça restaurativa e prestação de contas.

Assim, embora muitos queiram que a IA dê certo, como quaisquer tecnologias capazes de amplificar as potencialidades humanas em muitas esferas do conhecimento, não é possível ignorar que tais tecnologias também representam uma configuração de forças em que uma minoria se faz hegemônica através de disputas de narrativas que no passado representaram também uma “ciência ruim” como a de Lombroso e a eugenia.

Não podemos ignorar que é preciso discutir que potencialidades humanas queremos amplificar com a IA e, se há uma hegemonia da cultura Ocidental branca, eurocêntrica, o que, dentro desta cultura, pode ser de interesse geral e onde se devem agregar outras cosmologias, outros saberes?

Em suma, para que este território seja de todos que nele habitam, como fazer com que a IA estimule os diálogos interculturais entre os povos nativos, os povos forçados à extinção que buscam sua etnogênese, os refugiados de guerras de culturas distintas e os descendentes europeus de colonizadores e dos grupos empobrecidos que aqui vieram como força de trabalho dentro de um regime de estímulo a desigualdades e exploração?

Desde décadas convivendo com as tecnologias emergentes, participando dos fóruns, encontros de softwares livres, produzindo arte com tecnologias em mídias digitais, com som, imagem, sistemas interativos e sensoriais, para posteriormente aprofundar em estudos teóricos, o que vejo é uma superestimação da tecnologia, como se ela fosse capaz de resolver mesmo os problemas que os humanos ,através de sistemas de conhecimento das humanidades, ciências sociais e ciências sociais aplicadas, não têm tido muito sucesso, que é o problema das desigualdades extremas que geram pobreza, forme, miséria, guerras e violência constante. Meu lado otimista celebra as tecnologias emergentes tais como a IA como oportunidades para trazermos à mesa de discussão os problemas essenciais e o que é necessário para sua solução.

Já o lado talvez realista, que tende ao pessimismo, por saber que tais problemas não se resolvem de maneira simples, já que demandam tempo e novas reestruturações, como novos estímulos a diálogos e cursos interdisciplinares, estudo da bioética nas ciências e mesmo novas estruturações teóricas na própria Filosofia, pode concluir que nada irá mudar. A mudança custa mais caro e não necessariamente prevê lucro; de outro modo, sistemas distributivos. Então o pessimismo pode concluir que a IA, como têm sido com as tecnologias emergentes na era digital, pode piorar os conflitos desde que tenda a gerar maior opressão com a monocultura e a concentração de demandas de recursos.

Ailton Krenak, em muitas das suas falas disponíveis on-line e em seus livros, lembra que um modo de vida que contradiz o modelo da vida definida pelo trabalho e pela necessidade de “encaixe” e “pertencimento” à sociedade do consumo patrimonialista é atacado não por mera intolerância, mas por conflitos de interesses. Urge, portanto, que a visão de responsabilidade sobre a IA discuta estes conflitos de interesses, dentro de perspectivas culturais.

fonte: https://jornal.usp.br/artigos/ia-e-cultura-por-uma-bioetica-decolonial/