Crédito ao consumo e crédito social chinês

Doutrina

Crédito, palavra que vem do latim creditu, significa acreditar, ter confiança. É figura antiga e, juridicamente, tem a sua mais intensa manifestação, no mútuo, em regra de dinheiro e oneroso. Alguém entrega determinada quantia a outrem e crê, por isso é credor, que a mesma lhe vai ser devolvida. São normalmente estipulados juros como contrapartida. Sendo excessivos, consubstanciam usura[1]. Ao longo da História ocorreram várias vicissitudes, por vezes extremamente desagradáveis, como a prisão por dívidas e por usura.

O crédito tem, subjacente, duas ideias. Do lado do credor, a confiança de que o dinheiro entregue vai ser devolvido gerando, entretanto, alguma remuneração e do lado do consumidor, a possibilidade de aceder imediatamente a algo que precisa ou deseja, diferindo o pagamento.

O sistema de crédito social chinês tem, subjacente, duas ideias. Do lado do Estado e do credor, a confiança é substituída pela posse de informação pessoal detalhada que determina se o consumidor vai ou não pagar, assistida por uma vertente punitiva que desincentiva fortemente algum desvio. Do lado do consumidor, a possibilidade de consumir e viver bem se for bom cidadão e de ser fortemente limitado no consumo e na vida se calhar a ser incluído numa lista negra.

No mundo ocidental industrializado, o crédito ao consumo é um instrumento relacionado com a massificação da compra de bens e serviços, impulsionada pela necessidade de reconstrução da Europa de meados do século XX destruída pela guerra. O incentivo à procura que estimulasse a oferta e a resposta do mercado criando bens e serviços, originava um crescimento económico que restaurava os Estados devassados. Desenvolve-se, assim, a denominada sociedade de consumo, ligada ao capitalismo, pressupondo o funcionamento livre do mercado.

Na China, um regime comunista de partido único, política e economicamente centralizado zelava para que o Estado se mantivesse fechado, evitando relações com outros países. Além de ser esta a caraterística dominante da sua história milenar, permitida pela sua própria riqueza e dimensão, a cedência a relações comerciais com os europeus no século XIX saiu-lhe desmesuradamente cara.

No entanto, vários fatores de que se destaca a globalização, vieram originar na China a vontade de enriquecer, produzir e consumir, de acrescentar à relevância política e militar, a relevância económica no mercado global, o que deu origem a uma espécie de contradição nos termos, um regime comunista capitalista.

Ora, é neste contexto que crédito ao consumo liberal e capitalista se mistura com o que usualmente é considerado totalitarismo comunista, originando o “Sistema de Crédito Social” chinês[2].

É um programa que, com total transparência[3], o Governo chinês criou e com toda a clareza explicou: “[Desejamos] permitir aos cidadãos de confiança que passeiem livremente sob o céu e dificultar aos desacreditados darem um único passo”, no Esboço de Planeamento para a Construção de um Sistema de Crédito Social (2014-2020). Conforme planeado, começou a ser implementado em 2014.

Para a sua concretização, foi instalado um sistema de vigilância generalizado, através de câmaras que, ligadas a potentes sistemas de inteligência artificial (AI – Artificial Intelligence) de reconhecimento facial, permitem verificar infrações no espaço público.

Segundo a CNN, na sequência da Pandemia de Covid-19, a vigilância alargou-se ainda mais, sendo instaladas câmaras à porta, e até dentro das casas, dos que estavam em quarentena.

Não tendo o Governo chinês capacidade para aceder a toda a informação que pretendia para a construção do seu sistema, estabeleceu “parcerias” com empresas “privadas”, essencialmente de comércio online, que a recolhiam principalmente para estabelecer classificações (scores) em que iriam basear as suas decisões sobre a concessão ou recusa de crédito ao consumo.

A Sesame, por exemplo, terá ligação direta à base de dados do Supremo Tribunal do Povo que possui uma lista negra, em tempo real, dos que desrespeitam as sentenças dos tribunais, incluindo devedores. Com base nessa informação as pessoas podem ser banidas de acesso a crédito, impedidas de comprar bens mais caros e de viajar (não podem, por exemplo, adquirir bilhetes de avião ou comboio). O objetivo seria compeli-las a cumprir as decisões judiciais.

Shazeda Ahmed, em estudo disponível no Citizen Lab da Univesidade de Toronto, analisa o sistema do “Sesame Credit’s social credit score”.

Assim, o crédito vai estando menos ligado à confiança e mais ligado à tecnologia e à Inteligência Artificial que determinam, com base num sistema de recolha e tratamento de informação instituído na sociedade, quem tem ou não acesso e em que condições ao crédito em geral e ao crédito ao consumo em particular. Determinam também, dentro de lógica semelhante, quem é bom ou mau cidadão, com as simpáticas ou dramáticas consequências de tal classificação.

[1] Tipifica o Código Civil, no seu artigo 1142º, que “Mútuo é o contrato pelo qual uma das partes empresta à outra dinheiro ou outra coisa fungível, ficando a segunda obrigada a restituir outro tanto do mesmo género e qualidade.” e trata a usura, no artigo 1146º, limitando os juros possíveis.

[2] Informação mais detalhada em artigo da revista Wired “The complicated truth about China’s social credit system”, aqui.

[3] Cfr, por exemplo, notícia publicada no Jornal de Negócios, disponível aqui.

Construção de Inteligência Artificial confiável – do AI HLEG ao ALLAI

Doutrina

Após dois anos de intenso e produtivo trabalho, o “High Level Expert Group on AI”, AI HLEG para os amigos, grupo de 52 peritos em inteligência artificial, criado no âmbito da União Europeia, cessou a sua atividade numa última reunião em final de junho.

Este grupo de peritos, criado em junho de 2018, tinha como objetivo geral o de apoiar a implementação de uma estratégia europeia para a inteligência artificial.

Por essa altura já não era possível ignorar a AI (Artificial Intelligence – AI), por mais que se desejasse poder fazê-lo. Desde o início do milénio que os computadores e a internet vinham assumindo uma importância crescente na sociedade, nas empresas e nos Estados, de um modo transversal a todas as áreas e global a todas as geografias. A sociedade do terror despoletada no Ocidente pelo 11 de setembro de 2001, o aparecimento de dispositivos e redes de comunicação móveis e a criação de redes sociais, que tiveram adesão massiva, foram alguns dos componentes do caldo de cultura que determinou um enorme crescimento tecnológico e digital.

Iniciada a segunda década do século XXI, a tração aumentou e disparou com a autoaprendizagem das máquinas. O Machine Learning (ML), em que os sistemas computacionais aprendem com a sua própria experiência, e o Deep Learning (DL), em que na aprendizagem são usadas redes neurais artificiais, permitiram em poucos anos alcançar resultados que espantam os próprios cientistas e profissionais que os desenvolvem e operacionalizam.

Foi assim que, num instante, a AI tomou conta de tudo e que nós, pessoas, com um smartphone na mão temos disponível mais poder computacional que o usado para colocar os primeiros humanos na Lua.

É fácil a todos experienciar os benefícios da AI e constatar que são imensos. Os mais prudentes, analíticos ou informados não podem deixar de se preocupar com os riscos que, inevitavelmente, existem quem sabe se na mesma proporção.

Cada perito do AI HLEG da EU sabe que as moedas têm duas faces e, todos juntos, sabem muitíssimo mais. Decidiram, por isso, que era fundamental deixar muito claro nos seus trabalhos que a AI devia servir as pessoas e ser construída e usada para o bem comum.

Este grupo, tendo em vista uma AI centrada no ser humano, criou as “Ethics Guidelines on Artificial Intelligence” e as “Policy and Investment Recommendations”. Das primeiras resultam sete princípios-chave para a construção de inteligência artificial confiável. As segundas contêm 33 recomendações para que essa AI confiável, capacite, beneficie e proteja os seres humanos, enquanto é orientada para a sustentabilidade, o crescimento, a competitividade e a inclusão. Não pouparam em ousadia e produziram resultados ambiciosos.

Em 2019, foi criada a European AI Alliance (EAIA), um fórum da União Europeia que visa propiciar uma discussão ampla e aberta de todos os aspetos do desenvolvimento da AI e do seu impacto na economia e na sociedade. O AI HLEG teve aí uma intensa participação e desenvolveu uma forte interação com os membros do fórum, procurando-se estabelecer linhas para futuras decisões políticas.

Fortemente influenciada pelo trabalho produzido pelo AI HLEG, a Comissão Europeia publicou em 19 de fevereiro de 2020 o “LIVRO BRANCO sobre a inteligência artificial – Uma abordagem europeia virada para a excelência e a confiança” e o “Relatório sobre as implicações em matéria de segurança e de responsabilidade decorrentes da inteligência artificial, da Internet das coisas e da robótica”.

Considerando que é necessário dar continuidade ao que foi realizado, três peritas participantes no AI HLEG, Catelijne Muller, Virginia Dignum e Aimee van Wynsberghe, criaram o ALLAI, “the Alliance on Artificial Intelligence to involve all stakeholders in the process of achieving Responsible AI.”.

O ALLAI, que tem um site excelente, propõe que colaboremos para o desenvolvimento de inteligência artificial responsável, isto é, legal, ética e robusta. O trabalho continua.

A linha que os liga – revolta contra o racismo, gigantes tecnológicos e consumidores

Doutrina

A América está a ferro e fogo, após a morte de George Floyd, negro, que foi sufocado pelo joelho de um polícia, branco, que pressionou o seu pescoço durante vários minutos contra o chão, perante o olhar dos seus colegas, todos ouvindo atentamente as súplicas do imobilizado que não oferecia resistência, repetia que não conseguia respirar e clamou, em desespero, pela mãe. A ação foi filmada e as imagens difundidas pela net, incendiando o omnipresente rastilho de revolta contra o racismo. O país está a arder e o repúdio é, também, manifestado por todo o mundo.

A Amazon, através dos seus dirigentes, veio manifestar nas redes sociais apoio aos que protestam contra o racismo nos EUA. Como é de bom-tom e fizeram também outros gigantes tecnológicos, como a Google.

A mesma Amazon, com a oposição dos seus próprios trabalhadores e de organizações de defesa dos direitos humanos, terá vendido à polícia americana uma ferramenta de reconhecimento facial, a Rekognition, para ajudar na aplicação da lei. Além da já por si duvidosa vigilância que esta ferramenta permitirá, segundo vários investigadores, incluindo da própria empresa, a mesma tem limitações, enviesamentos e erros, especialmente na identificação de pessoas de raça negra, podendo ser, portanto, um instrumento na promoção do racismo.

Aparentar virtude fica sempre bem a uma empresa/marca e exige um esforço reduzido. Já praticar a virtude, como a História vem mostrando à saciedade, pode ser menos rentável e mais arriscado. Para não irmos mais longe, e mantendo a mesma geografia e a mesma problemática, o assassinato de Martin Luther King Jr., em 4 de abril de 1968, demonstra-o.

Para aprofundar o conhecimento da situação, vale a pena conhecer a opinião de Evan Selinger, especialista em tech-ethics e privacidade, Professor do Philosophy at Rochester Institute of Technology dos EUA, e ler o artigo da revista Wired em que é citado.

É na comercialização de ferramentas com enviesamentos, nomeadamente racistas[1], por empresas tecnológicas e na implementação do racismo no terreno, digamos assim, que se começa a vislumbrar a linha que une duas realidades, à partida aparentemente desligadas.

As grandes tecnológicas possuem exabytes de dados que constituem a big data[2] e possuem a capacidade de os analisar com Inteligência Artificial (Artificial Intelligence – AI) e, especificamente no que diz respeito ao reconhecimento facial, com poderosos sistemas de redes neurais artificiais (Artificial Neural Networks – ANN). Do que resulta a possibilidade de obter informação útil e fornecer valor, sob a forma de vários produtos e serviços, a Estados, empresas e indivíduos.

As empresas nascem para ter lucro. Este é um facto económico e jurídico. A sua atividade comercial desenrola-se com vista à prossecução desse objetivo. Essa não é uma novidade. O que, por vezes, é novo é a base desse lucro.

É aqui que surge a ligação aos consumidores. O maior fornecedor de dados às grandes tecnológicas é a humanidade, somos cada um de nós, em quase tudo o que realizamos através de meios digitais[3]. Para o fazermos, contratamos serviços, muitas vezes sem disso nos apercebermos, já que só pretendemos usar aplicações frequentemente “gratuitas” para atividades em que nos são úteis ou, simplesmente, para nos divertirmos. É assim que achamos imensa graça a desbloquear o telemóvel colocando-o em frente ao rosto, de modo a que o reconheça, ou fazê-lo com a voz, com a impressão digital ou com a iris. Ou a usarmos assistentes virtuais e a conversarmos com chatbots de serviços de atendimento. Ou, a zoomizarmos, como nos meses de confinamento devido à pandemia de Covid-19, em que estivemos, quase em permanência, online em videochamadas.

Esta é a linha que liga consumidores que clicam em “Aceito”, normalmente desconhecendo conteúdo e consequências dessa “aceitação”, fornecendo dados que a AI das grandes tecnológicas analisa, às empresas que assim conseguem criar produtos e serviços que fornecem a terceiros e que, tendo limitações e enviesamentos, podem propiciar o racismo ou outras discriminações, que revoltam as pessoas.

[1] Relativamente correntes, como mostram vários estudos. Cfr., a título de exemplo, os divulgados aqui (Nature/Science), aqui (Nature) e aqui (NIST/MIT).

[2] A big data tem até sido denominada o “novo petróleo” do século XXI. Curiosamente, o próprio petróleo quando começou a ser sinónimo de riqueza, foi denominado “ouro negro”, a reserva de valor mais relevante na altura. A comparação big data/novo petróleo encontra-se duplamente desatualizada, primeiro porque o valor que pretendia simbolizar não estava realmente na big data – no enorme volume de dados -, mas na capacidade de os analisar retirando informação útil, depois porque com o confinamento e a crise resultante da pandemia Covid-19 o valor do petróleo quase desapareceu, chegando a ter cotação negativa no mercado de capitais de Nova Iorque.

[3] Deixando de parte a vigilância pública e os casos em que o fornecimento de dados é legalmente obrigatório.

Inteligência Artificial na Sociedade e no Consumo

Doutrina

Consumo e Inteligência Artificial, à partida, poderiam não ter muito em comum. O consumo é efetuado por humanos que vêm providos de uma dose variável de inteligência natural, diligentemente aplicada nas compras que realizam. Para as relações jurídicas que estabelecem, que o Direito denomina contratos, usam a sua inteligência humana e, na tradição cimentada vinda da Economia, são até agentes racionais que, com base na informação que recebem, comparando as alternativas que se lhe apresentam, ponderam longa e disciplinadamente sobre o assunto, de modo a exercerem a sua assim esclarecida vontade de contratar.

Por estas razões, é defendido que o consumidor, um estereótipo cuja existência real não é tão abundante como poderia parecer, deve ser iluminado não só pela informação que recebe, como abençoado pela literacia, de modo a que compreenda os itens que lhe são obrigatoriamente facultados. Isto com vista ao equilíbrio duma relação, em abstrato, desequilibrada.

Sucede que, principalmente desde o início do milénio, com uma aceleração enorme nos últimos anos, a internet e a tecnologia digital vieram alterar substancialmente o modo como se vive e se consome. A disponibilidade individual de dispositivos móveis, a descomunal produção de dados, denominada big data, que é o alimento que potencia o desenvolvimento da Inteligência Artificial, o gigantesco aumento da capacidade de computação e a interligação de tudo em rede (por exemplo, com a Internet das Coisas) determinam que, hoje em dia, o consumo – seja online ou offline, isto é, no mundo digital ou físico – esteja umbilicalmente ligado, comandado, condicionado por Inteligência Artificial. Desde a produção, à distribuição, ao marketing, à venda, ao pagamento, potencialmente em todos os pontos da cadeia de valor de um negócio que deposita o bem ou serviço nas mãos ou no telemóvel do consumidor, está presente Inteligência Artificial. No Ocidente e no Oriente, em países desenvolvidos e em desenvolvimento o consumo em massa tem subjacente a Inteligência Artificial.

Por isso, é importante que entidades tendencialmente globais, como a Organização para a Cooperação e Desenvolvimento Económico (OCDE), publiquem informação atual e de qualidade sobre o tema, como o Relatório “Artificial Intelligence in Society”, disponível aqui em inglês, francês e coreano.

OECD (2019), Artificial Intelligence in Society, OECD Publishing, Paris.