Inteligência Artificial – Recomendações universais da UNESCO em discussão

Doutrina, Legislação

A UNESCO apresentou o draft da sua “Recommendation on the Ethics of Artificial Intelligence (AI)” que, a ser aprovado, será o primeiro instrumento normativo global sobre a matéria.

O Comité Especial Intergovernamental de peritos da UNESCO (CEI) discutiu o documento numa primeira reunião, entre 26 e 30 de abril, a que se seguirá outra, prevista para entre 21 e 25 de junho. O vídeo dos trabalhos encontra-se disponível aqui, nas seis línguas oficiais (inglês, francês, espanhol, russo, árabe e chinês).

Esta iniciativa ocorre poucos dias após a Comissão Europeia anunciar o novo pacote legislativo que contém uma Proposta de Regulamento relativo à Inteligência Artificial (IA), com o primeiro quadro jurídico comunitário sobre a matéria, aqui divulgado e algum tempo depois da União Europeia aprovar as suas próprias “Ethics Guidelines on Artificial Intelligence”, elaboradas pelo grupo de peritos que criou para o efeito, o “High Level Expert Group on AI”, apresentadas neste blog aqui.

Na sua 40ª sessão, em novembro de 2019, a Conferência Geral da UNESCO decidiu desenvolver um instrumento de definição de padrões internacionais sobre a ética da Inteligência Artificial tendo, desde então, liderado um esforço multidisciplinar, multicultural e pluralista que permitiu a elaboração de um relatório preliminar e um primeiro draft da Recomendação. Em setembro de 2020, foi distribuído aos Estados Membros para recolha dos seus comentários que foram tidos em consideração para a preparação do relatório final e do draft da Recomendação sobre a Ética da IA agora em discussão.

Nas reuniões do CEI será consensualizado o texto que constituirá o draft final da Recomendação, a ser submetido aos Estados Membros para adoção na 41ª sessão da Conferência Geral da UNESCO.

Se adotada, a Recomendação será o primeiro instrumento normativo global neste campo de crítica importância em todo o mundo.

A União Europeia pretende aprovar um Regulamento relativo à Inteligência Artificial, de aplicação tendencialmente universal, como tem vindo a acontecer com o Regulamento Geral de Proteção de Dados (RGPD), com impacto em países terceiros que se relacionam com a UE e já tem as suas Orientações relativas à Ética na Inteligência Artificial.

A UNESCO prepara Recomendações universais sobre o tema.

Destacam-se, como diferenças relevantes entre o futuro Regulamento e a futura Recomendação, o facto de aquele ser vinculativo e esta indicativa, bem como o facto de o Regulamento assentar numa análise de risco (risk assessement), excluindo da sua aplicação o que considera ter risco mínimo ou nenhum e a Recomendação abranger nas suas considerações éticas toda a IA, independentemente do nível de risco que comporte.    

A UNESCO enuncia a ideia de soberania da informação (data sovereignty) e a necessidade de a manter, a par do incentivo à partilha de informação (data sharing).

Esta é a quadratura do círculo que todos procuram. É preciso que os dados circulem, por serem fundamentais à eficácia da inteligência artificial e ao desenvolvimento dos negócios e da economia e é desejável que cada individuo decida sobre os seus dados e seja protegido. O ponto final aqui serve para evitar avançar para as questões críticas “protegido de quem e de quê”, já que essas além de poderem não gerar consensos, são essencialmente desconhecidas e em permanente e muito rápida evolução.

Inteligência Artificial, codificação das emoções e consumo

Doutrina

Os cientistas andam a codificar a emoção, o que nem sequer é muito novo, para a integrarem em sistemas de inteligência artificial.

A Artificial Intelligence (AI) ganha um E, transformando-se em EAI (Emotional Artificial Intelligence), o que a vai aproximando da ainda considerada praticamente inatingível AGI (Artificial General Intelligence), que implicaria que a inteligência da máquina seria semelhante à do ser humano, no sentido de que em vez de ser só magnífica na resolução de problemas e tarefas específicas, como fazer cirurgias, dirigir carros ou outros veículos, organizar cidades, seria também excecional na resposta a questões gerais e até de senso comum.

Até ver, as pessoas têm-se divertido bastante com as limitações dos sistemas de AI, sentindo-se ainda bastante superiores, já que sem qualquer dificuldade conseguem perceber coisas que a máquina nem vislumbra. Por exemplo, foi feita uma experiência com um sistema muito simples, em que uma pessoa representada em meia dúzia de traços no ecrã, “chutava à baliza” onde estava um “guarda-redes”, de aspeto semelhante. Naquele sistema de AI, tanto a figura que rematava como a que defendia, eram cada vez melhores na sua tarefa. Até que os cientistas resolveram apresentar o “guarda-redes” deitado no chão, deixando a “baliza aberta”. O marcador, perante a surpresa da situação, simplesmente colapsou. Não aproveitou a oportunidade “de fazer golo” e, em completo desnorte, acabou por se deitar também. Para a máquina, aquilo não era futebol, era evitar um obstáculo enquadrado num retângulo. Se o obstáculo é removido, a falta de lógica arrasa a estrutura. O humano, em face disto, ri-se por lhe ser tão evidente o que deveria ser feito.

Vários exemplos de comparação entre a inteligência humana e o desenvolvimento de uma (ainda incipiente) AGI, nomeadamente inserida em robôs, pode ser vista na extraordinária apresentação que José Santos-Victor, do IST, fez na Conferência sobre o tema “Cérebros e Robôs”, inserida na exposição da Fundação Calouste Gulbenkian denominada “Cérebro – mais vasto que o céu”, disponível aqui. Também no Técnico, Ana Paiva trabalha no desenvolvimento de “robôs sociais”, que exprimam emoções e sejam amáveis com as pessoas.

Os cientistas já codificam a emoção há muito tempo, sendo um clássico com provas dadas o sistema BET (Basic Emotion Theory), que assenta na tipificação das principais emoções humanas e sua manifestação.

Ora, com sistemas de AI, com algoritmos que aprendem através de técnicas de Machine Learning (ML) que, num nível de maior sofisticação opera através de redes neurais artificiais (Artificial Neural Nets – ANN), tomando a designação de Deep Learning (DL) e com uma quantidade crescente de material para alimentar o processo – a Big Data – fácil será perceber que as emoções humanas são facilmente reconhecíveis pela “máquina”. Tanto mais reconhecíveis, quanto maior for a quantidade de informação disponível.

O que é que isto tem a ver com o consumo, já vai apetecendo perguntar.

Pois tem tudo. Se pensarmos que o recurso a assistentes digitais, que recebem ordens de voz em que transparece a nossa disposição e até conversam connosco (chatbots) é já uma realidade vulgar, que o uso de câmaras que recebem e registam as nossas expressões faciais é quase permanente e ainda que é frequente que dados biométricos ligados à emoção, como o batimento cardíaco, estejam a ser registados, é fácil ver como empresas que têm acesso a tudo isso podem escolher o melhor momento para nos fazer lembrar que estamos mesmo a precisar de comprar alguma coisa.

A fasquia, que já estava alta com a análise do comportamento, é elevada a um nível muito superior, com a análise da emoção por sistemas de inteligência artificial.

A propósito de um artigo na área das ciências da computação, “The Ethics of Emotion in AI Systems”, de Luke Stark e Jesse Hoey, disponível aqui ou aqui, pode-se ler aqui um “Research Summary”, de Alexandrine Royer, uma cientista da área das ciências humanas (social scientist), publicado este mês pelo Montreal AI Ethics Institute, que explica com clareza a problemática em questão. Estas leituras dão-nos a perspetiva das ciências da computação, enunciada e complementada pela das ciências sociais, o que nos fornece um ponto de partida para grande reflexão.

Entretanto, pelo menos quando comprar online, através de um gigante tecnológico, faça um esforço para evitar, como tão bem disse Ricardo Araújo Pereira, “sentir sentimentos” ou, se tal for impossível, evite mostrá-los. É provável que poupe algum dinheiro.

Pode ler mais neste blog sobre a ética ligada à inteligência artificial, aqui e aqui e sobre AI na sociedade aqui.

Inteligência Artificial Confiável – Livro Branco e operacionalização ALTAI

Doutrina

A Comissão Europeia publicou, em 19 de fevereiro de 2020, o “Livro Branco sobre a inteligência artificial: uma abordagem europeia virada para a excelência e a confiança”.

Este documento é resultado dum forte investimento europeu nesta área, assente na convicção da União Europeia sobre a importância estratégica da inteligência artificial (Artificial Intelligence – AI), que é considerada um fator-chave do desenvolvimento económico. A possibilidade de soluções para muitos desafios da sociedade existia a par da consciência de que aos benefícios certamente se associariam riscos, o que implicava forte ponderação dos impactos socioeconómicos, legais e éticos. A Europa comunitária pretendia permanecer na vanguarda da revolução tecnológica em curso por todo o mundo e, para isso, havia que unir esforços e garantir tanto a competitividade, como o respeito pelos valores europeus. É neste contexto que se desenvolve a estratégia europeia para a inteligência artificial.

O Livro Branco deixa claro, logo de início, que “Num contexto de forte concorrência global, é necessária uma abordagem europeia sólida, com base na estratégia europeia para a IA apresentada em abril de 2018. Tendo em vista enfrentar as oportunidades e os desafios da IA, a UE deve agir unida e definir o seu próprio caminho, baseado nos valores europeus, para promover o desenvolvimento e a implantação da IA. A Comissão está empenhada em facilitar os progressos científicos, preservar a liderança tecnológica da UE e assegurar que as novas tecnologias estão ao serviço de todos os cidadãos europeus, melhorando as suas vidas e respeitando simultaneamente os seus direitos.”.

É, ainda, salientado que “A presidente da Comissão, Ursula von der Leyen, anunciou nas suas orientações políticas uma abordagem europeia coordenada sobre as implicações humanas e éticas da inteligência artificial, bem como uma reflexão sobre a melhor utilização de grandes volumes de dados para a inovação. Assim, a Comissão apoia uma abordagem regulamentar e orientada para o investimento com o duplo objetivo de promover a adoção da IA e de abordar os riscos associados a determinadas utilizações desta nova tecnologia.”.

Na sequência da publicação do Livro Branco sobre a inteligência artificial foi lançada uma consulta pública, que decorreu entre 19 de fevereiro e 14 de junho de 2020, aberta a todos os cidadãos europeus, sendo incentivada a participação da sociedade civil, da academia, das empresas no mercado e de todos os interessados, quer através da resposta a um questionário online, quer através do envio de documentos expondo a sua posição. As contribuições através de questionário encontram-se disponíveis aqui . Um relatório síntese dos resultados quantitativos encontra-se disponível aqui.

Este processo levou à elaboração da versão final da “Assessment List for Trustworthy AI (ALTAI)” que transforma os princípios relativos à AI numa ferramenta que ajuda à sua operacionalização. Consiste numa check-list acessível e dinâmica para autoavaliação dos sistemas de inteligência artificial por quem os constrói e implementa.

A ALTAI, tornada publica em 17 de julho de 2020, está online num documento e num protótipo de ferramenta web, disponível para quem a queira conhecer e aplicar.

Crédito ao consumo e crédito social chinês

Doutrina

Crédito, palavra que vem do latim creditu, significa acreditar, ter confiança. É figura antiga e, juridicamente, tem a sua mais intensa manifestação, no mútuo, em regra de dinheiro e oneroso. Alguém entrega determinada quantia a outrem e crê, por isso é credor, que a mesma lhe vai ser devolvida. São normalmente estipulados juros como contrapartida. Sendo excessivos, consubstanciam usura[1]. Ao longo da História ocorreram várias vicissitudes, por vezes extremamente desagradáveis, como a prisão por dívidas e por usura.

O crédito tem, subjacente, duas ideias. Do lado do credor, a confiança de que o dinheiro entregue vai ser devolvido gerando, entretanto, alguma remuneração e do lado do consumidor, a possibilidade de aceder imediatamente a algo que precisa ou deseja, diferindo o pagamento.

O sistema de crédito social chinês tem, subjacente, duas ideias. Do lado do Estado e do credor, a confiança é substituída pela posse de informação pessoal detalhada que determina se o consumidor vai ou não pagar, assistida por uma vertente punitiva que desincentiva fortemente algum desvio. Do lado do consumidor, a possibilidade de consumir e viver bem se for bom cidadão e de ser fortemente limitado no consumo e na vida se calhar a ser incluído numa lista negra.

No mundo ocidental industrializado, o crédito ao consumo é um instrumento relacionado com a massificação da compra de bens e serviços, impulsionada pela necessidade de reconstrução da Europa de meados do século XX destruída pela guerra. O incentivo à procura que estimulasse a oferta e a resposta do mercado criando bens e serviços, originava um crescimento económico que restaurava os Estados devassados. Desenvolve-se, assim, a denominada sociedade de consumo, ligada ao capitalismo, pressupondo o funcionamento livre do mercado.

Na China, um regime comunista de partido único, política e economicamente centralizado zelava para que o Estado se mantivesse fechado, evitando relações com outros países. Além de ser esta a caraterística dominante da sua história milenar, permitida pela sua própria riqueza e dimensão, a cedência a relações comerciais com os europeus no século XIX saiu-lhe desmesuradamente cara.

No entanto, vários fatores de que se destaca a globalização, vieram originar na China a vontade de enriquecer, produzir e consumir, de acrescentar à relevância política e militar, a relevância económica no mercado global, o que deu origem a uma espécie de contradição nos termos, um regime comunista capitalista.

Ora, é neste contexto que crédito ao consumo liberal e capitalista se mistura com o que usualmente é considerado totalitarismo comunista, originando o “Sistema de Crédito Social” chinês[2].

É um programa que, com total transparência[3], o Governo chinês criou e com toda a clareza explicou: “[Desejamos] permitir aos cidadãos de confiança que passeiem livremente sob o céu e dificultar aos desacreditados darem um único passo”, no Esboço de Planeamento para a Construção de um Sistema de Crédito Social (2014-2020). Conforme planeado, começou a ser implementado em 2014.

Para a sua concretização, foi instalado um sistema de vigilância generalizado, através de câmaras que, ligadas a potentes sistemas de inteligência artificial (AI – Artificial Intelligence) de reconhecimento facial, permitem verificar infrações no espaço público.

Segundo a CNN, na sequência da Pandemia de Covid-19, a vigilância alargou-se ainda mais, sendo instaladas câmaras à porta, e até dentro das casas, dos que estavam em quarentena.

Não tendo o Governo chinês capacidade para aceder a toda a informação que pretendia para a construção do seu sistema, estabeleceu “parcerias” com empresas “privadas”, essencialmente de comércio online, que a recolhiam principalmente para estabelecer classificações (scores) em que iriam basear as suas decisões sobre a concessão ou recusa de crédito ao consumo.

A Sesame, por exemplo, terá ligação direta à base de dados do Supremo Tribunal do Povo que possui uma lista negra, em tempo real, dos que desrespeitam as sentenças dos tribunais, incluindo devedores. Com base nessa informação as pessoas podem ser banidas de acesso a crédito, impedidas de comprar bens mais caros e de viajar (não podem, por exemplo, adquirir bilhetes de avião ou comboio). O objetivo seria compeli-las a cumprir as decisões judiciais.

Shazeda Ahmed, em estudo disponível no Citizen Lab da Univesidade de Toronto, analisa o sistema do “Sesame Credit’s social credit score”.

Assim, o crédito vai estando menos ligado à confiança e mais ligado à tecnologia e à Inteligência Artificial que determinam, com base num sistema de recolha e tratamento de informação instituído na sociedade, quem tem ou não acesso e em que condições ao crédito em geral e ao crédito ao consumo em particular. Determinam também, dentro de lógica semelhante, quem é bom ou mau cidadão, com as simpáticas ou dramáticas consequências de tal classificação.

[1] Tipifica o Código Civil, no seu artigo 1142º, que “Mútuo é o contrato pelo qual uma das partes empresta à outra dinheiro ou outra coisa fungível, ficando a segunda obrigada a restituir outro tanto do mesmo género e qualidade.” e trata a usura, no artigo 1146º, limitando os juros possíveis.

[2] Informação mais detalhada em artigo da revista Wired “The complicated truth about China’s social credit system”, aqui.

[3] Cfr, por exemplo, notícia publicada no Jornal de Negócios, disponível aqui.

Construção de Inteligência Artificial confiável – do AI HLEG ao ALLAI

Doutrina

Após dois anos de intenso e produtivo trabalho, o “High Level Expert Group on AI”, AI HLEG para os amigos, grupo de 52 peritos em inteligência artificial, criado no âmbito da União Europeia, cessou a sua atividade numa última reunião em final de junho.

Este grupo de peritos, criado em junho de 2018, tinha como objetivo geral o de apoiar a implementação de uma estratégia europeia para a inteligência artificial.

Por essa altura já não era possível ignorar a AI (Artificial Intelligence – AI), por mais que se desejasse poder fazê-lo. Desde o início do milénio que os computadores e a internet vinham assumindo uma importância crescente na sociedade, nas empresas e nos Estados, de um modo transversal a todas as áreas e global a todas as geografias. A sociedade do terror despoletada no Ocidente pelo 11 de setembro de 2001, o aparecimento de dispositivos e redes de comunicação móveis e a criação de redes sociais, que tiveram adesão massiva, foram alguns dos componentes do caldo de cultura que determinou um enorme crescimento tecnológico e digital.

Iniciada a segunda década do século XXI, a tração aumentou e disparou com a autoaprendizagem das máquinas. O Machine Learning (ML), em que os sistemas computacionais aprendem com a sua própria experiência, e o Deep Learning (DL), em que na aprendizagem são usadas redes neurais artificiais, permitiram em poucos anos alcançar resultados que espantam os próprios cientistas e profissionais que os desenvolvem e operacionalizam.

Foi assim que, num instante, a AI tomou conta de tudo e que nós, pessoas, com um smartphone na mão temos disponível mais poder computacional que o usado para colocar os primeiros humanos na Lua.

É fácil a todos experienciar os benefícios da AI e constatar que são imensos. Os mais prudentes, analíticos ou informados não podem deixar de se preocupar com os riscos que, inevitavelmente, existem quem sabe se na mesma proporção.

Cada perito do AI HLEG da EU sabe que as moedas têm duas faces e, todos juntos, sabem muitíssimo mais. Decidiram, por isso, que era fundamental deixar muito claro nos seus trabalhos que a AI devia servir as pessoas e ser construída e usada para o bem comum.

Este grupo, tendo em vista uma AI centrada no ser humano, criou as “Ethics Guidelines on Artificial Intelligence” e as “Policy and Investment Recommendations”. Das primeiras resultam sete princípios-chave para a construção de inteligência artificial confiável. As segundas contêm 33 recomendações para que essa AI confiável, capacite, beneficie e proteja os seres humanos, enquanto é orientada para a sustentabilidade, o crescimento, a competitividade e a inclusão. Não pouparam em ousadia e produziram resultados ambiciosos.

Em 2019, foi criada a European AI Alliance (EAIA), um fórum da União Europeia que visa propiciar uma discussão ampla e aberta de todos os aspetos do desenvolvimento da AI e do seu impacto na economia e na sociedade. O AI HLEG teve aí uma intensa participação e desenvolveu uma forte interação com os membros do fórum, procurando-se estabelecer linhas para futuras decisões políticas.

Fortemente influenciada pelo trabalho produzido pelo AI HLEG, a Comissão Europeia publicou em 19 de fevereiro de 2020 o “LIVRO BRANCO sobre a inteligência artificial – Uma abordagem europeia virada para a excelência e a confiança” e o “Relatório sobre as implicações em matéria de segurança e de responsabilidade decorrentes da inteligência artificial, da Internet das coisas e da robótica”.

Considerando que é necessário dar continuidade ao que foi realizado, três peritas participantes no AI HLEG, Catelijne MullerVirginia Dignum e Aimee van Wynsberghe, criaram o ALLAI, “the Alliance on Artificial Intelligence to involve all stakeholders in the process of achieving Responsible AI.”.

O ALLAI, que tem um site excelente, propõe que colaboremos para o desenvolvimento de inteligência artificial responsável, isto é, legal, ética e robusta. O trabalho continua.