Ética na Inteligência Artificial – UNESCO aprova Recomendação com enquadramento global

Legislação

A UNESCO adotou o primeiro conjunto de regras globais sobre a ética na Inteligência Artificial (IA), na sua 41ª Conferência Geral, que decorreu, em novembro, em Paris.

Audrey Azoulay, Diretora-Geral daquela Organização Internacional, que havia lançado, em 2018, o projeto ambicioso de dar ao mundo um enquadramento ético para a utilização da inteligência artificial, anunciou, em 24 de novembro de 2021, que esse objetivo havia sido alcançado. Três anos mais tarde, e graças à mobilização de centenas de peritos de todo o mundo e a intensas negociações internacionais, foi possível que os 193 Estados-membros da UNESCO aprovassem o enquadramento universal da IA.

Este é um texto que faz história ao definir, a nível global, os valores e princípios comuns que irão orientar a construção das bases legais necessárias para assegurar o desenvolvimento adequado da IA.

Este assunto já foi abordado neste blog, por altura da discussão destas regras, inclusive relacionando-o com a Proposta de Regulamento relativo à IA, apresentada pela Comissão Europeia. Este Regulamento, caso venha a ser aprovado e embora o seu âmbito de aplicação geográfica seja a União Europeia, também assume uma vocação universalista, um pouco à imagem do que tem vindo a acontecer com o Regulamento Geral de Proteção de Dados (RGPD).

As preocupações com a IA têm vindo a crescer, na proporção do seu próprio desenvolvimento, para o que contribui a consciência de que se vai tornando omnipresente, quer nas nossas rotinas diárias, quer no apoio à tomada de decisões de empresas e governos. Desde potenciar atividades como reservar voos, escolher filmes ou personalizar as nossas notícias da manhã, até apoiar decisões relativas, por exemplo, a medidas nacionais, ou internacionais, de combate à pandemia de Covid-19, os sistemas de IA vão estando presentes um pouco por todo o lado. 

As suas vantagens são enormes. Por exemplo, estão a produzir resultados notáveis em campos altamente especializados, como o rastreio do cancro e de outras doenças. Por outro lado, podem, também, ajudar a combater problemas globais, como as alterações climáticas e a fome no mundo, bem como a reduzir a pobreza com a otimização da ajuda económica.

No entanto, a tecnologia está também a trazer novos desafios, sem precedentes, como a disseminação de preconceitos, ou os perigos da vigilância em massa, seja pública ou privada. Na área do consumo, podem destacar-se zonas de alerta, como a publicidade crescentemente direcionada e invasiva, a possibilidade de personalizar preços e o aumento das compras e respetivos pagamentos online.

Até agora, não existiam normas universais para dar resposta às questões que a IA origina e a Recomendação da UNESCO vem colmatar esta ausência. Procura potenciar as vantagens que o recurso a sistemas de inteligência artificial traz à sociedade e reduzir os riscos que implica, assegurando que as transformações digitais promovem os direitos humanos e contribuem para a realização dos Objetivos de Desenvolvimento Sustentável, e tratando de questões como a transparência, responsabilidade e privacidade. Vem, ainda, apresentar políticas orientadas para a ação em várias áreas, como a governação de dados, a educação, a cultura, o trabalho, os cuidados de saúde e a economia.

A Recomendação aborda, também, a questão da proteção de dados, nomeadamente procurando assegurar maior transparência e controlo pelo titular dos dados pessoais. É proibido o uso de sistemas de IA para estabelecer pontuações sociais (social scoring) e vigilância em massa, por se considerar que infringem direitos humanos e liberdades fundamentais e é recomendado aos Estados-Membros que, ao desenvolverem os seus quadros regulamentares, devem considerar que a responsabilidade final deve sempre caber aos seres humanos e que as tecnologias não devem ser dotadas de personalidade jurídica.

No que diz respeito à sua implementação, procura-se abrir caminho à criação de ferramentas que a facilitem. Desde logo, a “Avaliação de Impacto Ético”, que países e empresas devem desenvolver, para prever o impacto que os sistemas de IA que pretendem usar possam ter nos indivíduos, na sociedade e no ambiente. Prevê-se, também, a avaliação da estrutura legal e institucional já existente e os Estados-Membros são encorajados a considerar a possibilidade de criar a figura do “Responsável pela Ética da AI” independente, um pouco como o encarregado da proteção de dados do RGPD, ou algum outro mecanismo de auditoria e monitorização contínua.

A proteção do ambiente é uma preocupação que surge, tanto do ponto de vista de como pode a IA ajudar na luta contra as alterações climáticas, mas também de que modo poderá ser reduzido o impacto ambiental da própria IA.

A Recomendação apresenta um conjunto de valores relativos ao respeito, proteção e promoção dos direitos e liberdades fundamentais e da dignidade humana, garantindo a diversidade e inclusão, num ambiente saudável, em que a paz e a justiça prevaleçam, nas sociedades interconectadas. Estes valores são, depois, concretizados em princípios e políticas em várias áreas.

A UNESCO, ao aprovar esta Recomendação está, certamente, a dar um forte contributo para o aumento da consciência sobre os benefícios e riscos resultantes da utilização de sistemas de inteligência artificial e a estabelecer qual deverá ser o seu enquadramento, relembrando muito do que nos é, a nós humanos, precioso. Vamos ver em que medida consegue, efetivamente, influenciar Estados, empresas e indivíduos. Independentemente disso, as declarações de princípios, direitos, liberdades e a consagração de intenções em instrumentos globais, de organizações internacionais com esta relevância são, fundamentalmente, humanas e têm estado na base do melhor que a humanidade tem conseguido.   

Leave a Reply

Your email address will not be published. Required fields are marked *