O bem-estar distópico dos algoritmos... e os seus riscos

É do conhecimento geral que uma das principais razões pelas quais a utilização da inteligência artificial se difundiu tão rapidamente é o benefício real e imediato que esta tecnologia traz à sociedade em geral.

Não há como negar que a inteligência artificial contribui para o bem-estar social, trazendo benefícios para todos os sectores da economia. Permite melhorar a qualidade de vida, a saúde, o desempenho ambiental ou as actividades sociais das pessoas. Mas também comporta grandes riscos, como a opacidade na tomada de decisões, a discriminação de género e outras, a criação de sistemas viciantes, a intrusão na nossa vida privada ou a sua utilização para fins criminosos.

Quando delegamos o bem-estar social nos algoritmos, a primeira reflexão que devemos fazer é que os algoritmos, em si mesmos, não são e não são antiéticos. São as pessoas que os concebem, que os treinam com dados e que definem os seus objectivos que podem determinar, de acordo com os seus interesses e/ou os seus próprios preconceitos, a forma como funcionam. E esses interesses nem sempre coincidem com o interesse geral.

A simplificação dos processos, a melhoria das experiências pessoais e profissionais em qualquer domínio, em suma, a eficácia e as capacidades destes algoritmos podem levar-nos a depender deles, desconhecendo o perigo de concepções algorítmicas que deixam de fora realidades sociais minoritárias ou modelos de aprendizagem baseados em informação assimétrica que distorcem, de forma aparentemente óptima, a tomada de decisões.

Tudo isto pode conduzir a situações distópicas indesejáveis em sociedades democráticas avançadas como a nossa, sociedades que são feitas de pessoas. E não devemos perder de vista esta abordagem humana se não quisermos que a inteligência artificial se torne numa revolução tecnológica que nos fará, paradoxalmente, involuir enquanto sociedade.

No lado mais extremo desta revolução, há já alguns anos que se ouvem vozes e correntes de pensamento que prevêem a transformação da condição humana através da utilização de tecnologias avançadas que ajudem a melhorar e a ultrapassar as limitações humanas. Trata-se do movimento intelectual conhecido como transhumanismo, que afirma a possibilidade de melhorar a condição humana através da disponibilização de tecnologias que eliminem o envelhecimento e melhorem significativamente as capacidades intelectuais, físicas e psicológicas do ser humano, podendo mesmo chegar à imortalidade. Isto levanta a questão: onde está o limite?

Por conseguinte, é da maior importância que a inteligência artificial seja construída não só com base na eficiência ou na legalidade, mas também na ética, fornecendo o quadro de valores e princípios que devem orientar as acções para melhorar o bem-estar social, a saúde, a felicidade e a qualidade de vida das pessoas. Deve ser justa, concebida de acordo com os critérios éticos estabelecidos nas nossas sociedades democráticas e de forma transparente, permitindo assim a responsabilização.

A ética deve também servir de base ao direito, sendo parte intrínseca do mesmo. Neste contexto, os regulamentos que regem a utilização da IA devem ser concebidos para garantir a ordem social, económica e ética da nossa sociedade. É nisso que o Regulamento Europeu sobre Inteligência Artificial se concentra, com diferentes graus de sucesso, ao regular a IA na perspetiva dos riscos que as utilizações desta tecnologia acarretam para os direitos e valores fundamentais da UE.

Pelo menos no ambiente da UE, e sem prejuízo da complexidade regulamentar que domina esta jurisdição, parece haver esperança e que é possível avançar e inovar de forma ética e responsável. Não devemos baixar a guarda. A formação, a sensibilização, a consciencialização e o debate constante são alavancas fundamentais para continuar nesta linha.

Leia o artigo completo aqui.