Regulamento Europeu relativo à Inteligência Artificial – divulgação antecipada (leaked draft)

Doutrina

A Comissão Europeia vai anunciar brevemente, provavelmente durante a próxima semana, a Proposta de Regulamento relativo à Inteligência Artificial que tem estado a preparar. A propósito da divulgação antecipada pelo Politico de um draft daquela Proposta, acessível aqui, já se encontram notícias muito concretas sobre o assunto.

Na senda da adoção de Regulamentos que vem caraterizando a União Europeia, principalmente no que à denominada Economia Digital diz respeito, já analisada neste blog, mais uma vez o instrumento preferido pela União é aquele que, com maior rapidez e a possível eficácia, faz chegar regras semelhantes a todos os Estados-Membros.

Este diploma vem coroar um esforço, que vai longo e intenso, no sentido de a UE procurar dominar esta força, aparentemente descontrolada, que se tem vindo a revelar ser o alastramento da utilização de inteligência artificial na análise de volumes astronomicamente crescentes de big data, que todos nós produzimos, com entusiasmo ou enfado, quando vamos usando e abusando de dispositivos eletrónicos, principalmente de smartphones e que se junta aos dados produzidos por todas as outras fontes, em permanência, de que se destacam a denominada Internet das Coisas, a omnipresente vigilância através de câmaras espalhadas em espaços públicos e privados e o GPS que nos mantém um pequeno boneco desarticulado nos mapas virtuais.

Esse esforço tem sido reportado e analisado neste blog, principalmente aqui e aqui, em relação à Estratégia para a inteligência Artificial (Artificial Intelligence – AI), aos trabalhos do Grupo de Peritos especificamente criado neste âmbito (AI HLEG), à criação da European AI Alliance (EAIA), do Livro Branco sobre a inteligência artificial e do Relatório sobre as implicações em matéria de segurança e de responsabilidade decorrentes da inteligência artificial, da Internet das Coisas e da robótica, bem como ao nascimento do ALLAI, tudo com vista à criação e operacionalização de uma AI confiável.

Passo de gigante será o Regulamento que enquadra juridicamente o tema e que estará a chegar.

De acordo com o draft divulgado, o diploma vai ter 92 considerandos, 69 artigos e 8 anexos.

A estrutura apresentada é a seguinte: Título I de “General Provisions”, Titulo II relativo a “Prohibited Artificial Intelligence Practices”, Título III que regula os “High-Risk AI Systems”, (para os quais estabelece requisitos e obrigações específicas, os “Notified Bodies” e os “Conformity Assessment, Standards, Certificates, Registration”), Título IV relativo à “Transparency Obligations for Certain Other AI Systems”, Título V estabelecendo as “Obligations For The Use Of Remote Biometric Identification Systems”, Título VI as “Measures In Support Of Innovation”, o Título VII a “Governance” (criando o artigo 47.º um “European Artificial Intelligence Board”), o Titulo VIII a “Eu Database For High-Risk Ai Systems”, Título IX a “Post-Market Monitoring, Information Sharing, Market Surveillance”, Título X os já habituais Códigos de Conduta, Título XI “Confidentiality And Penalties”, criando as também já habituais sanções astronómicas, Título XII os “Delegated Acts & Comitology” (maravilhoso termo que talvez se possa traduzir pelo correspondente nacional não menos delicioso “Comitologia”, que mostra muito daquilo em que se tornou a UE), fechando com o Título XIII de “Final Provisions”.

Deixamos o resumo e acesso ao draft leaked, para abrir o apetite e ficaremos atentos à divulgação oficial do texto final que se espera para muito breve, altura em que haverá oportunidade de se verificar se o draft divulgado antecipadamente corresponde à versão que virá a ser oficialmente anunciada. Tarefa comparativa completamente talhada para uma AI.

Das Diretivas aos Regulamentos – Em busca da União pela regulamentação quase-federal

Legislação

A crescente opção da União Europeia pelos Regulamentos é um sinal da dificuldade em conjugar políticas e interesses nacionais, acordando no que pode ser comum, deixando espaço à diversidade. A diferença principal entre a Diretiva e o Regulamento é que aquela estabelece um regime consensual dando margem, maior ou menor, a que os Estados-membros acomodem as suas diferenças. Essa margem origina, como seria de esperar, discrepâncias entre ordenamentos jurídicos nacionais, o que dificulta o “transnacional”. O Regulamento colmata essas diferenças, estabelecendo regimes jurídicos diretamente aplicáveis e obrigatórios para todos os Estados-Membros.

Esta tendência tem vindo a aumentar e a consciência de que existe e das suas consequências é, também, crescente, constituindo o final de 2020 uma espécie de apoteose.

Destaca-se, em vigor e pela atenção que tem vindo a despertar, o Regulamento Geral de Proteção de Dados (RGPD)[1].

Destacam-se, pela dimensão e previsível impacto, as recentes Propostas apresentadas, em 24 de setembro de 2020, no âmbito do Pacote Financeiro Digital (PFD)[2] que inclui, entre outros documentos, a Proposta de Regulamento relativo aos Criptoativos (Markets in Crypto Assets – MiCA)[3], a Proposta de Regulamento DLT, relativo a um regime-piloto para as infraestruturas de mercado baseadas na tecnologia de registo distribuído e a Proposta de Regulamento relativo à resiliência operacional digital do setor financeiro (Digital Operational Resilience Act – DORA), bem como as apresentadas em 15 de dezembro de 2020, no âmbito das novas regras sobre serviços e mercados digitais, que incluem a Proposta de Regulamento Serviços Digitais (DSA) e a Proposta de Regulamento Mercados Digitais (DMA)[4].

Este caminho, da Diretiva para o Regulamento, revela uma dificuldade de base da União Europeia que, tudo indica, poderá levar ao seu fim.

A atual União Europeia é fruto de uma espécie de milagre originário que mostra até que ponto as pessoas conseguem ser sensatas.

Vencedores e vencidos europeus, da Segunda Guerra Mundial, uns e outros quase totalmente destruídos, olharam para a origem do problema, constatando que boa parte se situava na bacia do Ruhr, rica em carvão e ferro (minério de base na liga de aço), fundamentais ao normal funcionamento e desenvolvimento das economias resultantes de uma revolução industrial que assentava grandemente nessas matérias-primas. A região fica situada na Alemanha, Ruhr é um rio afluente do Reno, que desagua na cidade de Duisburgo, próximo de Düsseldorf, muito perto das fronteiras com a Holanda e a Bélgica, pouco longe do Luxemburgo e de França. No final da Primeira Guerra Mundial, vencidos os alemães – em cumprimento das imposições do Tratado de Versailles, de 1919, que oficialmente lhe pôs fim – foi a região ocupada por tropas belgas e francesas. A vontade e necessidade de aceder à sua riqueza foi um ponto relevante na tensão e conflitualidade que acabou por culminar no conflito mundial de 39-45.

Por isso, saídos da guerra desfeitos, liderados por gigantes visionários, a França, os países do Benelux (Holanda, Bélgica e Luxemburgo), a Alemanha Ocidental e a Itália assinaram, em 1951, o Tratado de Paris que instituiu a Comunidade Europeia do Carvão e do Aço. Até aqui, embora grandioso, ainda se poderia dizer que seria uma questão de sobrevivência básica, mas decidiram ir muito mais longe criando em 1957, com o Tratado de Roma, a Comunidade Económica Europeia (CEE) e a Comunidade Europeia da Energia Atómica (CEEA ou Euratom), colocando assim a nova e catastrófica energia no seu âmbito.

No princípio e durante algum tempo a regra era a da unanimidade na tomada de decisões e os Tratados eram fundamento direto de muito do que se decidia. O Tratado de Maastricht (vale a pena ver no mapa onde fica a cidade), também denominado Tratado da União Europeia, os sucessivos alargamentos, com a sempre crescente necessidade de procurar acordos entre países cada vez mais diversificados, foi tornando mais difícil o governo da União. A hipótese de transformação num Estado Federal, estrutura já muito testada e com sucesso pelo mundo, foi colocada e rejeitada. Os Estados que compõem a União Europeia, na sua maioria, são antigos e têm uma forte identidade nacional. Este orgulho nacional impediu-os de aceitar disporem de parte da sua soberania a favor de um Estado Federal que integrariam e levou, recentemente, à saída inusitada do Reino Unido. A bem do comércio, a livre circulação foi sendo conseguida, foi boa a adesão ao sistema Euro e vários obstáculos vão sendo transpostos. 

O abandono da unanimidade das decisões, que originaria menor necessidade de consenso, foi contrabalançado pelo aumento de membros, com perfis muito diversificados.

Na legislação, a árdua negociação e a busca do acordo, sempre foi notória pela existência de considerandos e pela consagração de elevado número de exceções praticamente a consumir as regras.

As alterações geopolíticas das últimas décadas têm vindo a colocar a Europa numa situação delicada. À queda dos impérios do Ocidente seguiu-se a fulgurante (re)ascensão do Oriente, em que a China assume papel de grande destaque, o que só pode causar surpresa se a sua milenar história for ignorada, ofuscada pelos comparativamente minúsculos finais do século XIX e século XX. Alguém disse “A América inventa, a China copia, a Europa regula”. Já não é assim, a China (re)começou a inventar.

Neste contexto, a desunida União Europeia sabe que precisa de se manter junta e coesa para ter dimensão minimamente comparável e de rapidez semelhante à originada pela vitalidade americana e o dirigismo chinês. Sabe, também, que precisa de inovação e digitalização para ser economicamente competitiva e que, enquanto desenvolve um mercado comum com condições para ter uma palavra a dizer na nova ordem económica e política global, tem de preservar os direitos fundamentais, em geral, e os direitos dos consumidores, em particular, que são parte integrante da sua natureza e da sua identidade comum. 

A crescente adoção, pelo menos em áreas estratégicas, de Regulamentos pela UE, parece uma manifestação clara daquelas necessidades. É o instrumento com efeito “quase-federal” e menos lento que tem disponível. Assim se explicará a cascata Regulamentar em curso.

O sucesso, a julgar pelo RGPD, está longe de ser garantido. Pode ser que funcione com os futuros regulamentos prestes a sair da linha de montagem e que, em grande medida, contam conter Big Tech’s de fora da Europa. Ao ritmo a que estas andam não será tarefa fácil.


[1] Já abordado neste blog aqui.

[2] Já abordado neste blog aqui.

[3] Já abordado neste blog aqui.

[4] Neste blog anunciadas aqui, encontrando-se o tema também já tratado no que diz respeito às grandes plataformas, à liberdade de expressão, relacionado com Acórdão do STJ e com a proteção dos consumidores.

Cyberpunk 2077 e o problema da falta de conformidade dos videojogos no seu lançamento

Doutrina

No passado dia 10 de Dezembro, foi lançado o muito aguardado Cyberpunk 2077, do estúdio e distribuidor polaco CD Project Red, responsável também pela muito conhecida franchise The Witcher. Após oito anos em desenvolvimento, dois adiamentos da data de lançamento e uma campanha publicitária muito intensa, os fãs puderam finalmente adquirir o videojogo. Este encontra-se disponível em lojas físicas e em lojas virtuais, como a da GOG (subsidiária da CD Project Red), a Steam, a Google Store, a Playstation Store e a Microsoft Store. O videojogo tem versões para computadores e para as consolas Playstation 4 e Xbox One, assim como para as recém-lançadas, ditas de nova geração, Playstation 5 e Xbox X e S.

No entanto, para desapontamento de muitos, o videojogo que adquiriram – sendo que 8 milhões de pessoas fizeram por pre-order, com a antecedência de muitos meses, com a promessa de alguns conteúdos bónus – tinha bastantes problemas, especialmente em termos de performance do software. Rapidamente, a Internet encheu-se de relatos de jogadores que partilhavam os bugs e glitches mais “engraçados” e absurdos. E relatos do facto de o software estar com tantos problemas que seria impossível, na realidade, utilizar o serviço digital que adquiriram, mesmo tendo computadores e equipamentos que cumprissem com os requisitos de sistema publicitados pela CD Project Red. A situação revelou-se especialmente grave nas consolas de “antiga geração”, a Playstation 4 e a Xbox One, em que os jogadores se queixaram de o videojogo não funcionar e provocar crashes em que a consola se desligava de forma inesperada e constante. Esta situação levou, inclusivamente, a que a Sony retirasse o videojogo da Playstation Store e concedesse um reembolso a todos os consumidores que o pedissem.

Mesmo com um lançamento controverso e cheio de problemas, não cumprindo o “produto” final as expectativas estabelecidas pelo marketing intenso, as promessas do estúdio e a própria descrição do produto nas lojas virtuais, a verdade é que isto não impediu que as vendas do Cyberpunk 2077 fossem um sucesso comercial gigantesco. Muitos consumidores não tiveram acesso a remédios adequados face às faltas de conformidade do software. As soluções oferecidas basearam-se, essencialmente, nas (heterogéneas) políticas comerciais das lojas físicas e das lojas virtuais, que variam de plataforma para plataforma e de Estado para Estado.

Este aparenta ser um cenário bastante problemático que, infelizmente, no caso da indústria dos videojogos, está muito longe de ser excecional. Na verdade, lançamentos desastrosos de videojogos num estado inacabado como o do Cyberpunk 2077 são mais comuns do que seria de esperar. Há, geralmente, vários casos como este por ano, ligados às maiores produtoras, com situações particularmente notórias pelo nível de embuste e mentiras flagrantes (por exemplo, No Man Sky em 2016 ou Fallout 76 em 2018). Habitualmente, nestes casos, as empresas vão lançando patches e updates durante os meses seguintes ao lançamento, que servem para reparar/consertar os principais problemas do software e para incluir funcionalidades e conteúdos que supostamente deviam ter sido incluídas no produto final já distribuído[1]. Porém, este processo pode demorar muito tempo, ou até nem se verificar de todo, existindo empresas com uma reputação conhecida de venderem videojogos inacabados, com publicidade enganosa, e que rapidamente abandonam esses projetos, optando por alocar imediatamente os seus recursos a novos produtos.

Além dos danos causados pelo lançamento de videojogos num estado inacabado, há certas práticas adotadas pelos maiores distribuidores do mercado que devem ser referidas aqui: as já referidas pre-orderse os “reviews embargos”.

Nas pre-orders, os consumidores pagam antecipadamente por um videojogo que ainda não foi lançado no mercado, sendo geralmente aliciados para tal com a inclusão de conteúdos extra-exclusivos e, por vezes, uma redução do preço.

Os “review embargos” consistem na prática das produtoras de, ao enviarem antecipadamente cópias dos seus produtos a jornalistas para estes testarem, proibirem que estes publiquem as suas avaliações até depois do lançamento oficial. Impede-se, desta forma, que os consumidores (que já pagaram pelas pre-orders) possam ser alertados do estado do produto a tempo de cancelar a sua compra. Nos casos raros em que algum jornalista “furou” o embargo, publicando o seu artigo antes de tempo, este acabou blacklistedpelas principais empresas, deixando de receber o produto para testar com antecedência.

Do ponto de vista do Direito do Consumo, toda esta controvérsia levanta várias questões interessantes.

Na ótica processual, temos as questões de saber (i) qual é a jurisdição na qual deve ser iniciada a ação, (ii) qual é a lei aplicável ao contrato e (iii) que meios de resolução extrajudicial de litígios podem ser utilizados.

Os EULA (End-User Licensing Agreements) incluem, geralmente, cláusulas sobre estas temáticas, que por vezes procuram afastar as normas especiais do Regulamento Roma I e do Regulamento Bruxelas I, o que pode levantar problemas aos consumidores.

Num plano substantivo, a Diretiva dos Direitos dos Consumidores (Diretiva 2011/83/UE) classifica os videojogos como conteúdos digitais, estabelecendo que as comunicações pré-contratuais fazem parte integrante do contrato e atribuindo um direito ao arrependimento ou à livre resolução do contrato aos consumidores nos contratos realizados à distância ou fora do estabelecimento comercial. No entanto, no seu artigo 16.º-m), estabelece que o consumidor pode abdicar deste direito nos contratos de fornecimento de conteúdos digitais que não sejam disponibilizados em suporte duradouro. Na prática, esta situação ocorre com facilidade, por via da inclusão desta cláusula nos Termos e Condições que o consumidor é “forçado” a aceitar na loja virtual.

No entanto, nem tudo está perdido para o consumidor.

Embora em muitas ordens jurídicas dos Estados Membros da União Europeia não existam normas quanto a requisitos de conformidade de serviços digitais e que atribuam direitos ao consumidor em caso de desconformidade, esta situação está em vias de resolução. Com efeito, a Diretiva 2019/770, relativa aos contratos de fornecimento de serviços e conteúdos digitais, deverá ser transposta ainda este ano, com entrada em vigor das normas de transposição a 1 de Janeiro de 2022. Ainda mais recentemente, foi aprovada a Diretiva 2020/1828, sobre as ações coletivas de proteção dos direitos dos consumidores, que irá colmatar as lacunas existentes em alguns Estados Membros e agilizar a propositura de ações para a reparação de danos causados pela violação do direito de consumo europeu e das leis nacionais, incluindo as Diretivas 2011/83/UE e 2019/770.

Assim, com a transposição destas normas e com o aprofundamento do Mercado Único Digital na União Europeia, os consumidores irão beneficiar de uma maior proteção dos seus direitos. Situações como o lançamento do Cyberpunk 2077, em que serviços digitais são distribuídos num estado inacabado sem a devida indicação, tornar-se-ão, espera-se, mais raras.

[1] No caso da CD Project Red, quatro dias depois do lançamento do Cyberpunk 2077, esta publicou um statement neste sentido, admitindo que esconderam as falhas das versões nas consolas antigas e prometendo dois patches, em Janeiro e Fevereiro, que consertarão os problemas, assim como o direito ao reembolso a quem o pedisse. https://en.cdprojektred.com/news/important-update/

Publication alert: Dziubak is a Fundamentally Wrong Decision

Jurisprudência

To protect consumers against unfair terms, Article 6(1) Unfair Contract Terms Directive (UCTD) makes unfair terms inapplicable. For example: the contract includes an unfair penalty clause for early termination? The consumer does not have to pay anything for early termination. Kásler and Káslerné Rábai carved an exception to this rule: national judges can substitute unfair terms when not doing so would have excessively negative consequences for the consumer.

In Dziubak, the Court of Justice of the European Union (hereinafter, “the Court”) was asked to develop this exception further. In a recent publication in the European Review of Contract Law, I explain that the Court – with all due respect – got it fundamentally wrong. This blogpost summarizes the main mistakes in this decision.

What is ultimately at stake in Dziubak is nothing less than the level of protection enjoyed by consumers under EU law and the institutional autonomy of Member States. The Court restricted both legal values with surprisingly poor reasoning. Two of the questions asked by the national judge deserve particular attention. First, to what extent Article 6(1) allows the judge to change “the form of the legal relationship”. Second, whether one could rely on “national provisions not of supplementary law but of a general nature”.

In essence, the answers to these two questions are fundamentally wrong because they: 1) misquote both the directive and a relevant precedent; 2) rely on party autonomy in an asymmetric relation; 3) fail to consider basic EU law principles such as sincere cooperation and effectiveness, but also the institutional autonomy that directives grant to the Member States; 4) finally, the Court ignores the pertinent submission of the professional about the content of national law. Let us consider these points in turn.

1) The Court misquotes the UCTD in holding that the only provisions of national law that can be presumed to be fair are those that “have been subject to a specific assessment by the legislature”. Actually, the relevant provision and recital of the UCTD mention the “provisions or principles of international conventions” as well as the “provisions of the Member States which directly or indirectly determine the terms of consumer contracts”. Do you have a specific assessment by the legislature of a principle of international conventions or of provisions that indirectly determine the terms of contracts? Not necessarily, if at all.

Moreover, the Court cites Dunai to hold that the specific term under consideration in Dziubak belongs to the main subject matter of the contract. The problem is that Andriciuc had explained exactly why this is not the case! Long story short, the Court quoted the wrong paragraph of Andriciuc (43 instead of 40) in past decisions. This error led to an obvious mistake in Dziubak.

2) EU consumer law is premised on the existence of an imbalance in the relationship between consumers and professionals. The asymmetrical character of the relationship justifies suspicion over the fairness of the exchange. It is thus perplexing that both the Advocate General and the Court show preoccupation for an “intervention capable of altering the balance of interests sought by the parties and excessively encroaching on contractual autonomy”.

3) On multiple occasions, the Court has invoked the need to ensure the effectiveness of consumer rights to limit the institutional autonomy of Member States. The most famous example of this trend is the ex officio doctrine – the duty of judges to review of their own motion contract terms. This move is accompanied with suspicion by some commentators, as it touches upon the procedural autonomy of Member States. It is thus perplexing that, without carefully identified grounds in EU law, the Court stepped over the institutional autonomy of Member States enshrined in directives – the choice of how to best allocate the power to protect the rights granted by directives in the national legal system.

4) Finally, the professional had pointed out that there was a provision of national law that is clear enough to be applicable even under the strict parameters given by the Court. This is the case since the provision relied upon in Kásler and Káslerné Rábai to fill the gap was obviously vaguer than the one mentioned by the professional in the present case.

For the reasons sketched here and the additional ones that you can read in the European Review of Contract Law, Dziubak is a fundamentally wrong decision and it belongs to the dustbin of history.

Novo Pacote Financeiro Digital na União Europeia

Legislação

A Comissão Europeia lançou, em 24 de setembro, um novo Pacote Financeiro Digital que inclui a sua Estratégia Financeira Digital e de Pagamentos, bem como propostas legislativas sobre crypto-assets, Distributed Ledger Technology (DLT) e resiliência digital.

A ideia geral é impulsionar a competitividade e inovação da Europa no setor financeiro, aumentando a escolha e oportunidades dos consumidores, mantendo a sua proteção e a estabilidade financeira do mercado.

As medidas visam a recuperação económica da UE, incentivando especialmente empresas digitais altamente inovadoras, procurando simultaneamente atenuar potenciais riscos.

Os principais objetivos da Estratégia Financeira Digital passam por tornar os serviços financeiros europeus mais favoráveis à digitalização e estimular a inovação e a concorrência responsáveis entre os fornecedores, reduzindo-se a fragmentação no mercado único digital. A gestão de dados está também no centro da estratégia, pretendendo-se promover a sua partilha, mantendo elevados padrões de privacidade e proteção de dados. A estratégia visa ainda assegurar condições equitativas entre os fornecedores, sejam empresas tradicionais ou tecnológicas, garantindo que à mesma atividade e riscos, se aplicam as mesmas regras.

No que diz respeito aos pagamentos, pretende-se que sejam seguros, rápidos e fiáveis para os consumidores e empresas europeias, incluindo soluções de pagamentos transfronteiriços instantâneos.

Proteção dos consumidores no Anteprojeto de transposição do Código Europeu das Comunicações Eletrónicas

Legislação

No passado dia 4 de agosto de 2020, a ANACOM entregou ao Governo e à Assembleia da República o seu Anteprojeto de transposição do Código Europeu das Comunicações Eletrónicas (CECE), que irá substituir a Lei das Comunicações Eletrónicas (Lei n.º 5/2004, de 10 de Fevereiro).

O CECE corresponde a um pesado pacote legislativo da União Europeia, com vista à modernização do setor das telecomunicações em todo o mercado único, de forma transversal, em matérias de regulação, segurança, concorrência, proteção dos utilizadores finais e, claro, a implementação da tecnologia 5G.

O CECE (Diretiva (UE) 2018/1972, do Parlamento Europeu e do Conselho, de 11 de dezembro de 2018), que tem como prazo final de transposição o dia 20 de dezembro, foi alterado posteriormente pela Retificação da Diretiva (UE) 2018/1972, do Parlamento Europeu e do Conselho, de 11.12.2018, pelo  Regulamento de Execução (UE) 2020/1070, de 20.07.2020, e pelo Regulamento de Execução (UE) 2019/2243, da Comissão, de 17.12.2019.

Encontramos as disposições relativas ao Direito do Consumo, em particular, nos arts. 98.º a 116.º do CECE, sendo que as normas constantes dos arts. 102 a 115º são de harmonização máxima. Estas disposições são transpostas para o Anteprojeto da ANACOM nos artigos 109.º a 144.º, num capítulo dedicado aos “Direitos dos utilizadores finais”.

Estas disposições do Anteprojeto abordam inúmeras matérias, das quais destacamos: não discriminação e garantia de direitos fundamentais (arts. 110.º e 111.º); requisitos de informação pré-contratuais (arts. 112.º, 115.º, 119.º e 120.º); pacotes de serviços (art. 113.º); critérios de transparência, avaliação e comparação dos termos e qualidade dos serviços prestados (arts. 112.º, 117.º, 118.º e 120.º); suspensão e incumprimento (arts. 127.º a 129.º); duração, denúncia e resolução do contrato, com destaque para cláusulas de fidelização e mobilidade dos utilizadores (arts. 130.º a 137.º); mudança do fornecedor (arts. 138.º e 139.º); resolução alternativa de conflitos e reclamações (art. 141º e 142º).

Uma das principais inovações está relacionada com o caso de mudança de morada pelo consumidor durante o período de fidelização, em que este passa a estar protegido face a deteriorações no serviço. Até aqui, se, com a mudança de morada, o serviço piorasse ou tivesse de sofrer um downgrade devido a condições técnicas (por exemplo, na morada anterior tinha sido estipulada a prestação de internet por fibra ótica, mas a operadora só fornece por satélite na nova localização), o consumidor poderia ser forçado a manter o contrato até ao termo final do período de fidelização. Na minha opinião, trata-se de um caso de alteração de circunstâncias, que permite a resolução do contrato sem penalização dentro do período de fidelização. No entanto, esta corrente não é de todo consensual. Se o novo art. 132.º-1 do Anteprojeto for aprovado, o consumidor poderá livremente denunciar o contrato, sem ser forçado a pagar a penalização relativa à fidelização. O consumidor em situação de emigração ou de desemprego também passará a estar expressamente protegido (art. 133.º).

Aguardaremos com entusiamo as próximas etapas do procedimento legislativo relativo à transposição desta Diretiva, que deverá acontecer até 20 de dezembro deste ano.

Inteligência Artificial Confiável – Livro Branco e operacionalização ALTAI

Doutrina

A Comissão Europeia publicou, em 19 de fevereiro de 2020, o “Livro Branco sobre a inteligência artificial: uma abordagem europeia virada para a excelência e a confiança”.

Este documento é resultado dum forte investimento europeu nesta área, assente na convicção da União Europeia sobre a importância estratégica da inteligência artificial (Artificial Intelligence – AI), que é considerada um fator-chave do desenvolvimento económico. A possibilidade de soluções para muitos desafios da sociedade existia a par da consciência de que aos benefícios certamente se associariam riscos, o que implicava forte ponderação dos impactos socioeconómicos, legais e éticos. A Europa comunitária pretendia permanecer na vanguarda da revolução tecnológica em curso por todo o mundo e, para isso, havia que unir esforços e garantir tanto a competitividade, como o respeito pelos valores europeus. É neste contexto que se desenvolve a estratégia europeia para a inteligência artificial.

O Livro Branco deixa claro, logo de início, que “Num contexto de forte concorrência global, é necessária uma abordagem europeia sólida, com base na estratégia europeia para a IA apresentada em abril de 2018. Tendo em vista enfrentar as oportunidades e os desafios da IA, a UE deve agir unida e definir o seu próprio caminho, baseado nos valores europeus, para promover o desenvolvimento e a implantação da IA. A Comissão está empenhada em facilitar os progressos científicos, preservar a liderança tecnológica da UE e assegurar que as novas tecnologias estão ao serviço de todos os cidadãos europeus, melhorando as suas vidas e respeitando simultaneamente os seus direitos.”.

É, ainda, salientado que “A presidente da Comissão, Ursula von der Leyen, anunciou nas suas orientações políticas uma abordagem europeia coordenada sobre as implicações humanas e éticas da inteligência artificial, bem como uma reflexão sobre a melhor utilização de grandes volumes de dados para a inovação. Assim, a Comissão apoia uma abordagem regulamentar e orientada para o investimento com o duplo objetivo de promover a adoção da IA e de abordar os riscos associados a determinadas utilizações desta nova tecnologia.”.

Na sequência da publicação do Livro Branco sobre a inteligência artificial foi lançada uma consulta pública, que decorreu entre 19 de fevereiro e 14 de junho de 2020, aberta a todos os cidadãos europeus, sendo incentivada a participação da sociedade civil, da academia, das empresas no mercado e de todos os interessados, quer através da resposta a um questionário online, quer através do envio de documentos expondo a sua posição. As contribuições através de questionário encontram-se disponíveis aqui . Um relatório síntese dos resultados quantitativos encontra-se disponível aqui.

Este processo levou à elaboração da versão final da “Assessment List for Trustworthy AI (ALTAI)” que transforma os princípios relativos à AI numa ferramenta que ajuda à sua operacionalização. Consiste numa check-list acessível e dinâmica para autoavaliação dos sistemas de inteligência artificial por quem os constrói e implementa.

A ALTAI, tornada publica em 17 de julho de 2020, está online num documento e num protótipo de ferramenta web, disponível para quem a queira conhecer e aplicar.

Construção de Inteligência Artificial confiável – do AI HLEG ao ALLAI

Doutrina

Após dois anos de intenso e produtivo trabalho, o “High Level Expert Group on AI”, AI HLEG para os amigos, grupo de 52 peritos em inteligência artificial, criado no âmbito da União Europeia, cessou a sua atividade numa última reunião em final de junho.

Este grupo de peritos, criado em junho de 2018, tinha como objetivo geral o de apoiar a implementação de uma estratégia europeia para a inteligência artificial.

Por essa altura já não era possível ignorar a AI (Artificial Intelligence – AI), por mais que se desejasse poder fazê-lo. Desde o início do milénio que os computadores e a internet vinham assumindo uma importância crescente na sociedade, nas empresas e nos Estados, de um modo transversal a todas as áreas e global a todas as geografias. A sociedade do terror despoletada no Ocidente pelo 11 de setembro de 2001, o aparecimento de dispositivos e redes de comunicação móveis e a criação de redes sociais, que tiveram adesão massiva, foram alguns dos componentes do caldo de cultura que determinou um enorme crescimento tecnológico e digital.

Iniciada a segunda década do século XXI, a tração aumentou e disparou com a autoaprendizagem das máquinas. O Machine Learning (ML), em que os sistemas computacionais aprendem com a sua própria experiência, e o Deep Learning (DL), em que na aprendizagem são usadas redes neurais artificiais, permitiram em poucos anos alcançar resultados que espantam os próprios cientistas e profissionais que os desenvolvem e operacionalizam.

Foi assim que, num instante, a AI tomou conta de tudo e que nós, pessoas, com um smartphone na mão temos disponível mais poder computacional que o usado para colocar os primeiros humanos na Lua.

É fácil a todos experienciar os benefícios da AI e constatar que são imensos. Os mais prudentes, analíticos ou informados não podem deixar de se preocupar com os riscos que, inevitavelmente, existem quem sabe se na mesma proporção.

Cada perito do AI HLEG da EU sabe que as moedas têm duas faces e, todos juntos, sabem muitíssimo mais. Decidiram, por isso, que era fundamental deixar muito claro nos seus trabalhos que a AI devia servir as pessoas e ser construída e usada para o bem comum.

Este grupo, tendo em vista uma AI centrada no ser humano, criou as “Ethics Guidelines on Artificial Intelligence” e as “Policy and Investment Recommendations”. Das primeiras resultam sete princípios-chave para a construção de inteligência artificial confiável. As segundas contêm 33 recomendações para que essa AI confiável, capacite, beneficie e proteja os seres humanos, enquanto é orientada para a sustentabilidade, o crescimento, a competitividade e a inclusão. Não pouparam em ousadia e produziram resultados ambiciosos.

Em 2019, foi criada a European AI Alliance (EAIA), um fórum da União Europeia que visa propiciar uma discussão ampla e aberta de todos os aspetos do desenvolvimento da AI e do seu impacto na economia e na sociedade. O AI HLEG teve aí uma intensa participação e desenvolveu uma forte interação com os membros do fórum, procurando-se estabelecer linhas para futuras decisões políticas.

Fortemente influenciada pelo trabalho produzido pelo AI HLEG, a Comissão Europeia publicou em 19 de fevereiro de 2020 o “LIVRO BRANCO sobre a inteligência artificial – Uma abordagem europeia virada para a excelência e a confiança” e o “Relatório sobre as implicações em matéria de segurança e de responsabilidade decorrentes da inteligência artificial, da Internet das coisas e da robótica”.

Considerando que é necessário dar continuidade ao que foi realizado, três peritas participantes no AI HLEG, Catelijne MullerVirginia Dignum e Aimee van Wynsberghe, criaram o ALLAI, “the Alliance on Artificial Intelligence to involve all stakeholders in the process of achieving Responsible AI.”.

O ALLAI, que tem um site excelente, propõe que colaboremos para o desenvolvimento de inteligência artificial responsável, isto é, legal, ética e robusta. O trabalho continua.