1ª – Escopo (Des)Proporcional e uma Solução Simplista sem Consideração da Acessibilidade

Legislação

No primeiro texto apresentámos o contexto atual de maior da consciencialização pública para a proteção das crianças face aos riscos das redes sociais (com séries de TV como Adolescence), o vício digital e outros perigos online (como os casinos ilegais promovidos por certos influencers direcionados a jovens), as propostas ou soluções regulatórias que estão a ser discutidas, isto é, a imposição de sistemas de verificação de idade online para impedir o acesso a estes serviços por menores, e os riscos que estas soluções podem ter em relação aos direitos fundamentais de todos.

Neste segundo texto, vamos abordar a Proposta de Lei n.º 398/XVII/1ª (doravante “Proposta”), apresentada pelo Grupo Parlamentar do PSD, que trouxe este debate regulatório a Portugal.

Esta Proposta, cheia de boas intenções (mas, como será analisado, cheia de graves problemas), foi aprovada esmagadoramente na generalidade (apenas contando com votos contra da IL e do Chega), estando agora na fase de especialidade, na qual os grupos parlamentares, na 1ª Comissão (dos Assuntos Constitucionais, Direitos, Liberdades e Garantias) irão, depois de receberem todos os pareceres obrigatórios e realizarem várias audições, discutir/alterar/votar os seus artigos individualmente. Esta é, pois, uma fase crítica para determinar que tipo de texto poderá subir para a votação final em plenário e ser aprovada como Lei.

Assim, este texto pretende brevemente analisar criticamente o texto da proposta, chamando a atenção para as disposições mais problemáticas, e contribuir para o debate público mais consciente sobre este tema, crucial para cidadãos, consumidores, titulares de dados, pais, crianças e para os direitos fundamentais de todos.

Análise Geral do diploma

Considerando a maior consciência social para os riscos e perigos que as crianças correm online, nomeadamente a adição às redes sociais, a Proposta propõe:

1) Criar uma idade mínima (“maioridade digital”) para as pessoas poderem aceder “autonomamente” aos serviços digitais abrangidos pela Proposta, que será de 16 anos (art. 5.º-1).

2) Permitir o acesso condicionado a menores entre 13 e 16 anos, sujeitos ao “consentimento parental” (arts. 5.º-2 e 6.º), com várias funcionalidades impostas e outras restringidas (arts. 6.º-3, 10.º, 11.º e 12.º).

3) Proibir o acesso total a estes serviços por crianças com menos de 13 anos, independentemente de autorização parental (art. 5.º-3).

4) Impor a utilização de um sistema de verificação de idade a todos esses serviços, para detetar se os utilizadores são maiores de 16 anos, crianças com idades compreendidas entre os 13 e 16 anos ou crianças menores de 13 anos. Esta verificação poderá ser feita através de um sistema (ainda não disponível) que usa a Chave Móvel Digital (CMD) ou outro sistema idóneo que cumpra os requisitos técnicos (art. 5.º-4).

5) Todos os serviços abrangidos pelo diploma e os serviços de comunicação eletrónica interpessoais (prestadores de correio eletrónico, serviços de chat) devem implementar um sistema que permite: a) detetar e limitar os contactos suspeitos; b) bloquear automaticamente mensagens que contenham conteúdos violentos, sexuais, agressivos e falsos que possam ser considerados cyberbullying; c) canais de denúncias rápidos.

6) Estabelecer a responsabilidade objetiva pelos danos materiais e imateriais dos prestadores destes serviços resultantes do incumprimento, por ação ou omissão, das obrigações estabelecidas.

7) Estabelecer um regime contraordenacional para a violação das obrigações, com coimas bastante elevadas. Os valores vão de €50.000 a €2.000.000 ou até 2% do volume anual mundial, conforme o mais elevado, para grandes empresas; €20.000 a €1.000.000 ou até 2% do volume anual mundial para pequenas ou médias empresas; €10.000 a €250.000 para pessoas singulares.

8) Adicionalmente, altera ainda a lei de implementação do RGPD em Portugal, estabelecendo que apenas crianças com idade igual ou superior a 16 anos podem prestar o consentimento válido à oferta de serviços da sociedade de informação.

O diploma não é extenso, com 22 artigos e 10 definições.

Quanto às definições, estas serão escrutinadas mais a fundo na secção seguinte, porém é necessário destacar que, ao invés de utilizar a terminologia técnica mais correta, em linha com os restantes diplomas nacionais e europeus aplicáveis aos “ambientes digitais” (Diretiva e Decreto-Lei do Comércio Eletrónico, Regulamento dos Serviços Digitais (DSA), Diretiva e Lei dos Serviços de Comunicação Social Audiovisual), assegurando assim a coesão do ordenamento jurídico e mitigando os custos de “má-regulação”, a Proposta preferiu adotar frequentemente os seus próprios conceitos (incluindo traduções apressadas do diploma australiano…), pouco precisos, como, por exemplo, no art. 4.º-c), d) e e).

Para a entrada em vigor destas medidas e quadro regulatório, a Proposta inclui apenas um período transitório de 90 dias, sendo suposto que a ANACOM publique o “Referencial Técnico Nacional de Verificação de Idade” com as especificações técnicas da solução até ao prazo máximo de 60 dias após a aprovação do diploma.

Escopo de aplicação que vai muito, muito além das redes sociais

Na comunicação social, esta Proposta tem sido frequentemente apresentada como visando essencialmente as redes sociais. Porém, o seu escopo extravasa muito essa dimensão, em virtude das definições adotadas.

O art. 2.º estabelece o escopo da Proposta, com as alíneas do n.º 1 a estabelecer quais os serviços abrangidos, e as alíneas do n.º 3 estabelecem o limite negativo de aplicação, que apenas excluem: i) serviços de comunicações eletrónicas interpessoais (correio eletrónico, serviços de mensagens e conversas de grupo em linha (chats), com um número finito de pessoas (considerando 17 e art. 2 .º-5 da Diretiva (UE) 2018/197 Código Europeu das Comunicações Eletrónicas) e ii) “Aplicações e jogos em linha com carácter informativo ou pedagógico especificamente desenhados para crianças” e “plataformas e aplicações em linha exclusivamente destinadas a difundir conteúdos de manifesto interesse público, em especial nas áreas da educação e saúde”.

Segundo o art. 2.º-1, a Proposta abrange:

1) Plataformas de redes sociais – na acessão da definição do art. 4.º-d). Incluirá Facebook, Instagram, TikTok, X (antigo Twitter), LinkedIn, Bluesky, Reddit, Discord, Teamspeak, Tumblr, Threads, Snapchat.

2) “Apostas e jogos em linha” – a formulação não é precisa. Numa primeira análise, parece que o objetivo desta alínea é referir-se aos “jogos de fortuna e azar em linha”, vulgo, “jogo online”, que já se encontra regulado pelo Regime Jurídico dos Jogos e Apostas Online (DL n.º 66/2015, de 29 de abril), que tem um regime próprio para o registo dos jogadores, que contempla “o nome completo, a data de nascimento, a nacionalidade, a profissão, a morada de residência, o número de identificação civil ou do passaporte, o número de identificação fiscal, o endereço de correio eletrónico” (art. 37.º), o que torna a sua inclusão nesta Proposta redundante e contraproducente. No entanto, se considerarmos o restante texto da Proposta, em especial quanto à definição de “plataforma de jogos em linha” (art. 4.º-e)) e as exclusões do art. 2.º-3, parece que o objetivo é abranger os videojogos, incluindo aqueles que não são acessíveis/não têm funcionalidades online.

3) “Serviços de partilha de imagens e vídeos” – conceito impreciso, que não é esclarecido no corpo da Proposta. Parece ser uma alusão a “serviços de plataforma de partilha de vídeos” da Diretiva e Lei dos Serviços de Comunicação Social Audiovisual. Estes incluem: Youtube, Vimeo, Dailymotion, Twitch, Kick. Adicionalmente, com a referência a partilha de imagens: Canva, Pinterest, DeviantArt, ArtStation, Behance, Dribbble e Pixiv. Muitos destes serviços também se encaixam na definição de “plataforma de redes sociais”. Além destes, acrescentamos ainda as plataformas com conteúdos de carácter sexual, como o Pornhub, XNXX e Stripchat (designados como VLOPs à luz do DSA) e OnlyFans.

4) “Serviços de alojamento de conteúdos” – este conceito expande a aplicação da Proposta a todos os serviços de alojamento em linha, que, por sua vez, já incluem as plataformas em linha, que por sua vez incluem as ditas redes sociais, mas também todos os mercados em linha. Estas cinco palavras determinam que todos os seguintes serviços estão incluídos: a. serviços de alojamento na Cloud para consumidores como Google Drive, Dropbox, OneDrive (Microsoft), iCloud (Apple) e WeTransfer; b. serviços de alojamento web (web hosting): GoDaddy, Bluehost, OVH, Amazon Web Services (AWS), Microsoft Azure e Google Cloud Platform — que disponibilizam infraestrutura para alojar websites e aplicações de terceiros; c. plataformas de alojamento de código: GitHub, GitLab e Bitbucket; d. serviços de plataforma de partilha de vídeos (já referidos acima); e. serviços de enciclopédias online – Wikipedia; f. lojas de aplicações – AppStore, Google Play, Steam, GoG, Nintendo Store; f. serviços de alojamento de blogues e websites: WordPress.com, Blogger, Wix e Squarespace, Sapo Blogs, Substack (nas suas vertentes de alojamento de conteúdos de utilizadores); g. plataformas de comércio eletrónico (marketplaces): OLX, Amazon Marketplace, temu, shein, eBay, Etsy, Alibaba, Worten Marketplace, Vinted, Zalando.

5) Prestadores de serviços e conteúdos com restrições etárias – nomeadamente conteúdos violentos, aditivos ou sexuais.

A Proposta abarca assim categorias de serviços que são excessivamente amplas, independentemente do nível de risco que estes representem, aplicando um regime de restrição de acesso de forma desproporcional aos objetivos que pretende alcançar.

A Proposta proíbe inteiramente todas as crianças com menos de 13 anos de poderem utilizar a esmagadora maioria dos serviços em linha, independentemente das atividades. É proibido a estas crianças pesquisar na Wikipedia para um trabalho na escola ou verem episódios da Bluey no Youtube Kids na SmartTV partilhada na sala de estar.

Quanto ao escopo territorial, a Proposta refere que se aplica a todos os serviços acima referidos que sejam “acessíveis a crianças residentes em Portugal”, isto é, basta estarem online.

Esta interpretação é reforçada pela definição de “Plataforma acessível a crianças”, do art. 4.º c), conceito que surge uma única vez no diploma… no artigo das definições, que descreve “qualquer serviço em linha” (independentemente de ser uma plataforma em linha ou não) que, “pela sua natureza, funcionalidades ou públicos-alvo, seja possível de ser utilizado por crianças”. Como apenas é necessário que se verifique uma destas opções para se aplicar, basta que o serviço esteja disponível online para que seja possível ser acedida por crianças em Portugal.

Finalmente, temos de levantar mais um problema: embora os serviços de comunicações eletrónicas interpessoais estejam excluídos do escopo da lei, o art. 12.º ainda se aplica a estes quando são utilizados por menores de 16 anos. A única forma de um prestador de correio eletrónico (gmail, Outlook, Hotmail) conseguir cumprir as obrigações desta norma (analisada no próximo texto) é implementar um sistema de verificação de idade.

A “solução” da Chave Móvel Digital (CMD), que compromete a acessibilidade, em especial dos mais vulneráveis

A principal solução indicada na Proposta para a obrigação geral de verificação de idade é a utilização, por parte dos prestadores de serviços, de um mecanismo compatível com o sistema CMD, ou outro sistema idóneo semelhante, que cumpra os requisitos (que por sua vez incluem novamente a obrigatoriedade de compatibilidade com o sistema CMD)[1] do Referencial Técnico a ser desenvolvido pela ANACOM, de acordo com os requisitos técnicos da lei.

A Proposta pretende alinhar-se com a proposta europeia e afastar preocupações do carácter intrusivo destas soluções. Para tal, o sistema deverá recolher o mínimo de dados possíveis, ser compatível com sistemas de prova de limiar etário com preservação de privacidade, incluindo prova de conhecimento-zero (zero knowledge proof) (como propostas pela Comissão Europeia). Adicionalmente, pretende-se a compatibilidade com outros sistemas similares à CMD de outros Estados-Membros.

O problema emerge numa questão muito óbvia: esta solução política torna a CMD, uma faculdade criada para facilitar a interação entre cidadãos e entidades públicas, numa quasi obrigatoriedade de todos os que se encontrem no território nacional.

Segundo os dados estatísticos públicos, o número total de CMD ativas ronda os 4,4 milhões, um número que, embora elevado, está longe do número de residentes em Portugal com idades superiores a 16 anos (que, segundo a Pordata.pt, deverá rondar os 8 milhões). Embora a CMD esteja disponível para residentes que não são portugueses (que podem utilizar o passaporte ou o título de residência), estes são menos de 3,7% do total, um número longínquo da sua proporção real (serão aproximadamente 1,5 milhões e perto dos 9,8% da população residente). Estes números não incluem os imigrantes e refugiados em Portugal, que têm processos pendentes de regularização.

Além destes números, é necessário relembrar que este controlo de verificação de idade também terá de ser aplicado a quem estiver de passagem por Portugal, sejam turistas ou viajantes a realizar o transbordo entre meios de transporte.

Destaca-se ainda que a app.gov não cumpre os requisitos de fiabilidade, apresentando deficiências e erros no seu funcionamento, por exemplo na autenticação obrigatória que requer reconhecimento facial.

Neste momento, não só não existe uma solução técnica no terreno que permita aos prestadores destes serviços cumprir os requisitos da Proposta, como o método preferencial indicado nesta seria uma barreira para uma parte muito substancial da população afetada por estas medidas.

A inexistência de soluções técnicas disponíveis, um período transitório de apenas 3 meses e a inexistência de normas que considerem a realidade económica das PMEs (cujo único benefício é no valor das coimas, que ainda assim vão dos €20.000 a €1.000.000 ou até 2% do volume de negócios anual, a nível mundial) tem a consequência de que apenas as Big Tech terão capacidade técnica de se antecipar e cumprir minimamente os requisitos da Proposta.

Finalmente, a Proposta não esclarece quanto à utilização efetiva da ferramenta:

É suposto a verificação da idade ser feita na criação de conta, no início de cada sessão, ou a intervalos regulares durante a utilização do serviço?

No caso de a verificação da idade ser feita no momento da criação de conta, é depois necessário um sistema de autenticação reforçado no início de cada sessão para verificar se é a mesma pessoa a utilizar a conta?

Como a proposta é neutral quanto aos dispositivos a que se aplica, existem inúmeras questões práticas que ficam sem resposta. Por exemplo, quanto a smartTVs que sejam utilizadas por várias pessoas do agregado familiar, qual a solução indicada? Curiosamente, uma criança poderá ver filmes “com bolinha vermelha” transmitidos em canais abertos numa televisão normal, sem necessidade de CMD.

O terceiro e último texto desta série irá abordar mais algumas questões relativas a esta Proposta.

[1] A Proposta repete, constantemente, e de forma circular na sua estrutura e remissões, a obrigação de compatibilidade com a CMD: Art- 5-º n.º 4, Art. 7.º n.º 2, Art. 8.º n.º 1 al. c), n.º 2 b).

A Verificação da Idade Online (Parte 1/3): Como tentar proteger as crianças online poderá prejudicar a privacidade de todos

Legislação

O universo digital transformou radicalmente a forma como as crianças e os adolescentes comunicam, aprendem e se entretêm. As redes sociais, as plataformas de partilha de vídeos e, mais recentemente, as aplicações que permitem a utilização de sistemas de inteligência artificial generativa tornaram-se elementos omnipresentes no quotidiano dos mais jovens.

Contudo, esta imersão digital acarreta riscos amplamente documentados: design aditivo das plataformas, amplificação algorítmica de conteúdos prejudiciais, exposição a material inadequado, cyberbullying, aliciamento sexual (grooming), práticas comerciais nocivas e um impacto crescente na saúde mental dos adolescentes. A investigação científica tem vindo a associar o uso intensivo e prolongado das redes sociais ao aumento das taxas de ansiedade, depressão, autolesão e perturbações alimentares entre os jovens.

A sucessão de vários episódios problemáticos muito mediáticos, documentários e séries contribui bastante para consciencializar e dar destaque ao tema da proteção dos menores online, culminando na notícia viral no final de 2025 de que a Austrália tinha proibido as redes sociais para crianças menores de 16 anos.

Na realidade a Austrália é apenas mais um caso desta tendência mundial, que também chegou a Portugal com o Projeto de Lei nº 398/XVII/1ª, do GP-PSD.

Este texto é o primeiro de três no blog do NOVA Consumer Lab a abordar esta matéria, de forma a contribuir para uma melhor consciencialização e o debate na sociedade civil sobre o impacto das soluções regulatórias e técnicas que estão a ser discutidas.

Este primeiro texto irá assim apresentar esta tendência de propor a imposição de sistemas de verificação da idade online: o que implicam, como funcionam e que riscos acarretam para os direitos fundamentais de todos.

A tendência internacional para implementar a verificação da idade online

O Online Safety Amendment (Social Media Minimum Age) Act 2024 (Austrália) que abriu telejornais em dezembro de 2025, está longe de ser um caso único.

Neste momento, existem 42 Estados onde algum tipo de atividade legislativa ou regulatória visando a proteção de crianças nas redes sociais se encontra em discussão. Entre estes, 4 já têm diplomas em vigor (China, Austrália, Brasil e Vietname), 5 já têm legislação aprovada que ainda não entrou em vigor (entre os quais França, os Emirados Árabes Unidos, a Indonésia e a Malásia) e 15 têm propostas em procedimentos a decorrer (Portugal encontra-se neste grupo).

Na União Europeia, a proteção dos menores online emerge em diversos diplomas e iniciativas, sendo abordada em várias dimensões e agendas, com destaque para: “A Digital Decade for children and youth: the new European strategy for a better internet for kids (BIK+)”.

Focando apenas nos diplomas mais relevantes, destaca-se o Regulamento dos Serviços Digitais (Digital Services Act, DSA).^[1]

O art. 28.º do DSA estabelece para as plataformas em linha a obrigação de proteger menores na conceção do seu serviço. Em julho de 2025, a Comissão Europeia publicou orientações sobre a proteção de menores ao abrigo deste artigo do DSA, estabelecendo uma lista não exaustiva de medidas para proteger as crianças de riscos online, contra o aliciamento, conteúdos prejudiciais, comportamentos problemáticos e aditivos, cyberbullying e práticas comerciais nocivas. Estas medidas estão direcionadas apenas às plataformas em linha e, entre estas, para aquelas que estão direcionadas para menores ou que são predominantemente usadas por estes, nas quais se podem verificar riscos e conteúdos prejudiciais.

Adicionalmente, reconhecendo então a necessidade dos prestadores de serviços de verificarem a idade de todos os utilizadores como consequência lógica destas conclusões, a Comissão começou a trabalhar na sua proposta de uma solução “zero Knowledge proof”.

Por último, no final de novembro, o Parlamento Europeu adotou um relatório não legislativo apelando a uma “ação ambiciosa da UE para proteger os menores online”, com várias propostas, incluindo o estabelecimento de uma idade mínima de 16 anos a nível da UE e a proibição das práticas aditivas mais prejudiciais.

Tipos de Regulação e Soluções Técnicas

O tipo de abordagem regulatória e de soluções técnicas preferidas para esta matéria varia substancialmente entre jurisdições, sendo essencialmente determinados com base na ponderação do equilíbrio entre os interesses a proteger (crianças vs direito à privacidade, liberdade de expressão e acesso de informação, etc.) e quem deve ser responsabilizado (os prestadores de serviços – todos ou apenas os grandes players (VLOPs, gatekeepers) – ou os titulares da responsabilidade parental).

Assim, vemos abordagens distintas quanto ao âmbito dos serviços abrangidos, nos limiares de idade e nos mecanismos de verificação exigidos, sendo possível identificar, em traços gerais, três grandes modelos principais:

– O primeiro modelo centra-se na proibição direta do acesso, como a lei australiana, que baniu os menores de 16 anos das redes sociais e de plataformas de partilha de vídeos. Este modelo impõe às plataformas a obrigação de impedir o acesso, sob pena de sanções significativas.

– O segundo modelo baseia-se no consentimento parental, exigindo que os pais ou tutores autorizem expressamente o acesso dos menores a determinados serviços. Diversas propostas, incluindo a que está em consideração em Portugal (menores de 16 anos, com consentimento parental a partir dos 13), seguem esta lógica.

– O terceiro modelo, mais granular, opta por não restringir o acesso a serviços inteiros, mas sim por impor a prestadores, incluindo plataformas em linha, a obrigação de avaliar quais os conteúdos, funcionalidades ou elementos de design que comportam riscos específicos para os menores, implementando restrições proporcionadas e adaptadas. Esta abordagem é, segundo vários especialistas, a mais compatível com os princípios da necessidade, flexibilidade e proporcionalidade.

Quanto às soluções técnicas de verificação de idade, é possível também identificar três grandes categorias:

– A primeira categoria consiste na verificação por documento de identidade oficial realizada pelo prestador do serviço, que pode ser combinada com o reconhecimento facial em tempo real para efeitos de autenticação. Este modelo exige que o prestador trate dados específicos sobre a identidade do utilizador, incluindo também dados de categorias especiais (como dados biométricos), sensíveis, criando riscos substanciais para o titular de dados.

– A segunda recorre à estimativa de idade por biometria, tipicamente através de análise facial por inteligência artificial. Como exemplo, o serviço oferecido pela empresa Yoti estima se o utilizador aparenta ter mais de 18 anos com base numa digitalização da câmara, sem necessidade de correspondência com uma base de dados de imagens existente. A recolha e tratamento de dados de categorias especiais é imperativa, sendo que existe sempre a possibilidade de o sistema cometer erros, falsos negativos e falsos positivos, bloqueando adultos e permitindo o acesso a menores.

– A terceira, a verificação por atributo, em que o sistema procura confirmar apenas se o utilizador cumpre um limiar de idade, sem transmitir dados de identidade. Esta categoria procura separar as várias fases do tratamento, minimizando os dados tratados e transmitidos entre entidades. O sistema AgeKey da OpenAge Initiative é um exemplo desta última abordagem: o utilizador verifica a sua idade uma única vez, através do método da sua escolha, e um sinal criptográfico é armazenado no seu próprio dispositivo. Quando encontra conteúdo com restrição de idade, autoriza a partilha desse sinal, e a plataforma recebe apenas a confirmação de que o utilizador cumpre o requisito etário, sem receber nome, data de nascimento, morada ou qualquer informação identificativa.

Existe ainda um elemento crucial a considerar: qual o nível da infraestrutura digital em que deve ocorrer a verificação. Isto é, a verificação de idade deve ocorrer:

1) Ao nível de cada aplicação, website, plataforma em linha individual;

2) Ao nível das lojas de aplicações (app stores);

3) Ao nível do sistema operativo ou do dispositivo.

A vantagem de “subir” para os níveis 2 e 3 é limitar esta obrigação de controlo a menos prestadores, que depois transmitem apenas a informação necessária às aplicações ou plataformas em linha.

Em alguns estados dos Estados Unidos da América, a legislação local propõe que a verificação da idade ocorra no momento de configuração do dispositivo e nas lojas de aplicações, transferindo a responsabilidade de bloqueio dos conteúdos para os pais e para a Apple e o Google.

A solução que a Comissão Europeia está a desenvolver encaixa-se no modelo de “verificação por atributo”, ao nível do dipositivo, baseando-se na infraestrutura (em desenvolvimento) das Carteiras de Identidade Digital Europeia (EU Digital Identity Wallets). O “blueprint” da Comissão procura ser um referencial técnico, focado em minimizar o fluxo de dados ao máximo nos vários eixos: o verificador deve apenas fornecer os “tokens” criptográficos que indicam que uma certa pessoa é maior/menor, sem saber em que serviços é que estes serão utilizados, e o prestador do serviço online só deve receber o “token” sem ter acesso aos restantes dados pessoais.

O problema é que estas soluções zero‑knowledge proofs (ZKPs) não são perfeitas. Não impedem correlação por metadados e reutilização de identificadores, têm revogação e ciclo de vida complexos que podem introduzir rastreio, não protegem contra comprometimento de endpoints nem contra phishing/replay/coação, exigem emissão inicial com tratamento de dados pessoais, sofrem com desafios de “holder/device binding”, interoperabilidade, padrões e aceitação regulatória, podem ter custos/desempenho limitantes e baixa agilidade criptográfica, e continuam dependentes de boas práticas do verificador (retenção, finalidade, segurança) para evitar a reidentificação.

Principais riscos para os direitos fundamentais

O debate público sobre os sistemas de verificação de idade online não pode ocorrer sem considerar os riscos substanciais que estes modelos regulatórios podem implicar para os direitos fundamentais, essencial para a avaliação da proporcionalidade das medidas.

Quanto à proteção de dados pessoais e à privacidade, a imposição de mecanismos de verificação de idade implicará a recolha de dados pessoais, incluindo dados pessoais de categorias muito sensíveis: dados relativos à vida sexual ou orientação sexual, as opiniões políticas, as convicções religiosas ou filosóficas, dados biométricos, dados relativos à saúde, etc.

A recolha destes dados, seja pelos prestadores das aplicações/websites/plataformas, das lojas de aplicações, pelos dispositivos, ou por terceiros verificadores (sejam estas entidades privadas ou estatais) irá implicar a criação de datasets extremamente valiosos.

Estes dados serão assim alvos de elevado valor para todo o tipo de atores maliciosos. Quando os dados forem comprometidos (e a questão é sempre “quando”, não “se”), seja por ataque informático, erro humano ou falha de infraestrutura, as consequências serão severas. Por exemplo, a perda de controlo sobre dados biométricos, cópias de documentos de identificação roubadas aumentam significativamente o risco de roubo de identidade; a possibilidade de associação direta da identidade com a atividade online poderá traduzir-se em esquemas de chantagem a todos os níveis.

Além da possibilidade de data breaches, persiste o risco de reutilização destes dados para outras finalidades, seja pelos prestadores dos serviços ou por terceiros verificadores.

Estas soluções ainda estão numa fase embrionária de implementação e imposição e, infelizmente, já ocorreram múltiplos exemplos dos problemas acima descritos.

A existência destes riscos tem como consequência que estes sistemas de controlo provocam graves chilling effects na liberdade de expressão e direito à informação, que não podem ser ignorados.

Uma proibição geral do acesso de menores a serviços em linha interfere também ainda com os próprios direitos fundamentais das crianças (a liberdade de informação e o direito ao livre desenvolvimento da personalidade) e com o direito dos pais a decidir sobre a educação dos seus filhos.

Do ponto de vista da eficácia, as proibições gerais baseadas na idade também têm dois problemas adicionais:

i) Podem ser facilmente contornadas tecnicamente. Além de existirem inúmeros episódios noticiados de sistemas de verificação de idade a serem engados quando usam reconhecimento facial, existe uma bala de prata: os VPN (rede privada virtual).

Os VPN permitem ao utilizador criar um “túnel” encriptado entre o dispositivo e a internet, ocultando o endereço IP e tráfego de terceiros. Além disto, os VPN podem ser usados para contornar restrições geográficas ao encaminhar a ligação através de um servidor noutro país, fazendo com que os sites e serviços pensem que o utilizador está localizado nesse país em vez do local real. Quando os requisitos de verificação de idade do Online Safety Act do Reino Unido entraram em vigor, a utilização de VPNs disparou exponencialmente, com vários prestadores de VPN a reportarem aumentos de 1.400%. e +10 milhões de downloads.

ii) Podem ter ainda o efeito inverso ao pretendido. Proibições gerais podem levar utilizadores, incluindo jovens e crianças, a contornarem estas restrições, indo para cantos ainda menos regulados e mais problemáticos da internet, para plataformas sem controlo e moderação de conteúdos e mais difíceis de supervisionar pelas autoridades competentes.

Considerações Finais

A verificação de idade no acesso a serviços digitais encontra-se num ponto de inflexão.

Embora seja aparente um consenso político para a necessidade de atuar na proteção dos menores online, em especial quanto aos riscos que as redes sociais podem representar para o seu desenvolvimento, persistem grandes dúvidas sobre quais os melhores modelos regulatórios que conseguem atender a uma ponderação completa dos direitos fundamentais em conflito.

O debate sobre estas matérias não pode ser feito apressadamente e sem considerar os graves riscos para os direitos fundamentais que certas soluções implicam.

Os próximos dois textos vão abordar a Proposta de Lei n.º 398/XVII/1ª, do Grupo Parlamentar do PSD, e a forma como este debate está a ser conduzido em Portugal.

[1] A Diretiva dos Serviços de Comunicação Social Audiovisual (AMSD) também deve ser referida, mas o seu destaque terá de ficar para outro texto, noutra ocasião.

Cláusulas Abusivas e Sanções Contraordenacionais

Legislação

A alteração da Diretiva 93/13/CEE pela Diretiva 2019/2161 implica que a utilização de cláusulas abusivas passe a ser qualificada, em alguns casos, a nível interno, como uma infração administrativa. O direito europeu impõe aos Estados-Membros que prevejam consequências adicionais, além da sanção contratual relativa à nulidade das cláusulas, nomeadamente sendo aplicadas sanções contraordenacionais.

Nos termos do art. 34.º-A-1 do DL 446/85, introduzido pelo DL n.º 109-G/2021 e alterado pela Lei n.º 10/2023, “constitui contraordenação muito grave, punível nos termos do Regime Jurídico das Contraordenações Económicas (RJCE), aprovado pelo Decreto-Lei n.º 9/2021, de 29 de janeiro, a utilização de cláusulas absolutamente proibidas nos contratos, incluindo as previstas nos artigos 18.º e 21.º”.

Assim, a inclusão num contrato singular de uma cláusula elencada numas das listas negras dos arts. 18.º e 21.º constitui sempre contraordenação, independentemente de já ter sido considerada abusiva, em concreto, por uma decisão judicial (ou arbitral).

O art. 34.º-A não se aplica, no entanto, apenas a estas cláusulas. O elemento literal da norma aponta neste sentido, ao referir que a consequência inclui essas cláusulas (“incluindo as previstas”). Se a consequência se aplicasse apenas a essas cláusulas, a formulação teria de ser outra: “(…) a utilização nos contratos das cláusulas absolutamente proibidas incluídas nos artigos 18.º e 21.º”.

Para percebermos a que outras cláusulas se pode aplicar esta consequência é necessário interpretar esta norma à luz do art. 8.º-B da Diretiva 93/13/CEE, introduzido pela Diretiva 2019/2161. Segundo o n.º 2 deste preceito, “os Estados-Membros podem restringir essas sanções às situações em que as cláusulas contratuais sejam expressamente definidas como abusivas segundo o direito nacional ou em que o profissional continue a recorrer a cláusulas contratuais que tenham sido consideradas abusivas numa decisão definitiva adotada nos termos do artigo 7.º-2”. A primeira parte dirá respeito às cláusulas absolutamente proibidas, enquanto a segundo remete para as cláusulas consideradas abusivas no âmbito de uma ação inibitória, independentemente de estar em causa uma cláusula incluída numa das listas ou ser abrangida pela cláusula geral. O considerando 14 da Diretiva 2019/2161 vai um pouco mais longe, esclarecendo que “as sanções também poderão ser impostas pelas autoridades administrativas ou pelos tribunais nacionais (…) quando o profissional utiliza uma cláusula contratual que tenha sido considerada abusiva por uma decisão definitiva com caráter vinculativo”.

O art. 34.º-A-1 do DL 446/85 deve ser interpretado neste sentido, constituindo contraordenação quer a utilização num contrato singular de uma cláusula (abusiva) incluída numa das listas negras dos arts. 18.º ou 21.º (independentemente de uma decisão judicial prévia nesse sentido) quer a utilização num contrato singular de uma cláusula considerada abusiva por uma decisão de um tribunal que tenha transitado em julgado (numa ação inibitória ou em qualquer outra ação).

A contraordenação é muito grave, punível nos termos do Regime Jurídico das Contraordenações Económicas (RJCE). Nos termos do art. 18.º-c), o intervalo do valor da coima é o seguinte:

– Tratando-se de pessoa singular, de € 2 000 a € 7 500;

– Tratando-se de microempresa, de € 3 000 a € 11 500;

– Tratando-se de pequena empresa, de € 8 000 a € 30 000;

– Tratando-se de média empresa, de € 16 000 a € 60 000;

– Tratando-se de grande empresa, de € 24 000 a € 90 000.

A sanção será bastante mais pesada se estiver em causa uma infração generalizada ou uma infração generalizada ao nível da União Europeia, na aceção do art. 3.º do Regulamento (UE) 2017/2394, do Parlamento Europeu e do Conselho, de 12 de dezembro de 2017. Neste caso, o limite máximo das coimas pode corresponder a 4% do volume de negócios anual do infrator nos Estados-Membros em causa, sendo que, quando não esteja disponível informação sobre o volume de negócios anual do infrator, o limite máximo da coima é de € 2 000 000.

Na determinação da coima, devem ser tidos em conta, entre outros aspetos eventualmente previstos na legislação sectorialmente aplicável, a natureza, gravidade, dimensão e duração da infração cometida, as medidas adotadas pelo infrator para atenuar ou reparar os danos causados aos consumidores, as infrações cometidas anteriormente pelo infrator em causa, os benefícios financeiros obtidos ou os prejuízos evitados pelo infrator em virtude da infração cometida, se os dados em causa estiverem disponíveis, e, nas situações transfronteiriças, as sanções impostas ao infrator pela mesma infração noutros Estados-Membros (art. 34.º-B).

A fiscalização, a instrução do processo e a aplicação das sanções competem à entidade reguladora ou de controlo de mercado competente ou, na sua ausência, à Direção-Geral do Consumidor (art. 34.º-C).

No final de outubro deste ano, a Direção-Geral do Consumidor (DGC) emitiu uma nota de imprensa, na qual dá conta de ter detetado cláusulas absolutamente proibidas em contratos de ginásios[1]. Na sequência de uma ação de fiscalização, enquanto entidade com competência no âmbito do regime jurídico das cláusulas contratuais gerais, a DGC instaurou dois processos de contraordenação contra operadores económicos que gerem ginásios. Estão em causa, nomeadamente, cláusulas pelas quais estes se desresponsabilizam totalmente por quaisquer danos decorrentes da prática de atividades físicas nas suas instalações ou definem antecipadamente a compensação devida por danos resultantes da utilização de uma máquina em mau estado de funcionamento.

Trata-se, segundo julgo saber, da primeira vez que o regime é aplicado, sendo instaurados processos de contraordenação por utilização de cláusulas abusivas. Aplaude-se a decisão, uma vez que é muito importante que os profissionais percebam que o regime é efetivamente aplicado.

[1] Estes contratos levantam por vezes também problemas relativos à inserção de cláusulas, nomeadamente ao nível da comunicação e do esclarecimento ao aderente (arts. 5.º, 6.º e 8.º do DL 446/85). Não estão, no entanto, previstas sanções contraordenacionais em caso de incumprimento destas normas.

Novas regras para a sustentabilidade: sobre agora ser proibido dar com uma mão e tirar com a outra (entre outras boas notícias)

Doutrina, Legislação

No passado dia 20 de fevereiro, foi adotada a Proposta de Diretiva do Parlamento Europeu e do Conselho que altera as Diretivas 2005/29/CE e 2011/83/UE no que respeita à capacitação dos consumidores para a transição ecológica, através de uma melhor proteção contra as práticas desleais e de melhor informação. Já no ano passado, aqui, tínhamos mencionado a iniciativa, apesar de nos termos concentrado na Green Claims Directive, que se encontra ainda em discussão e completará de forma mais eficiente o diploma sobre o qual nos debruçamos hoje.

A Proposta que hoje analisamos tem o intuito de capacitar os consumidores para a tomada de decisões de transação mais informadas, de promover o consumo sustentável, de eliminar práticas que prejudiquem a economia sustentável e de assegurar uma aplicação mais benéfica e mais coerente com o quadro jurídico da UE sobre a defesa do consumidor.

Em termos sintetizados, visa reforçar as regras de Direito do Consumo, nomeadamente (mas não só) no que toca à limitação da proliferação de práticas comerciais desleais que induzem os consumidores em erro quanto ao caráter sustentável do bem. Um hot topic desde que os consumidores aprenderam a pronunciar a palavra sustentabilidade, apesar de ainda não serem fluentes neste idioma.

No seguimento da discussão da Proposta, o Parlamento Europeu sugeriu adensar este mote com regras jurídicas mais específicas, de forma a prevenir práticas comerciais desleais em matéria de sustentabilidade, designadamente as seguintes:

– Obsolescência programada dos bens;

– Práticas de greenwashing;

– (Algumas) práticas de bluewashing; e

– Rotulagem obscura e/ou inidónea.

Dali resultaram as seguintes sugestões:

1. Alterar a Diretiva 2011/83/UE relativa aos direitos dos consumidores, nomeadamente quanto à obrigação do profissional de disponibilizar ao consumidor informações de forma clara e compreensível, tais como:

– Indicação da existência da “garantia legal” de conformidade dos bens e dos seus principais elementos, incluindo a sua duração mínima de dois anos, de forma bem visível, utilizando o aviso harmonizado;

– Em caso de garantia comercial de durabilidade prestada pelo produtor sem custos adicionais, abrangendo a totalidade do bem e com uma duração superior a dois anos, indicação de que o bem beneficia dessa garantia, a respetiva duração e indicação da existência da “garantia legal” de conformidade, de forma bem visível, utilizando o rótulo harmonizado;

– Nos contratos à distância, fornecimento de informações sobre as condições de pagamento e de entrega, incluindo opções de entrega respeitadoras do ambiente (por exemplo, bicicleta);

– Criação de um aviso harmonizado e de um rótulo harmonizado, de fácil reconhecimento e compreensão para os consumidores e fáceis de utilizar e reproduzir pelos profissionais.

2. Alterar a Diretiva 2005/29/CE relativa às práticas comerciais desleais, de forma a serem adicionados os aspetos ambientais, sociais e circulares à lista das principais características de um produto relativamente às quais:

2.1. As práticas do comerciante possam ser consideradas enganosas:

– Alegações ambientais referentes ao desempenho ambiental futuro sem compromissos claros, objetivos, publicamente disponíveis e verificáveis;

– Publicidade alusiva a benefícios para os consumidores que são irrelevantes e/ou que não resultam de qualquer característica própria do bem ou da empresa (por exemplo: “brincos sem glúten”, “telemóvel vegan” ou “shampoo sem lactose”);

– Utilização de alegações ambientais com afirmações genéricas sem fundamento (tais como, “amigo do ambiente”, “natural”, “biodegradável” ou “eco”) ou que, sob o manto da informação ambiental, implicam a retirada de conclusões relacionadas com outras características que não as ambientais (tais como “responsável”, “sustentável”, “consciente”).

E, de forma mais fascinante:

2.2. Aditamento de novas práticas à lista negra de práticas comerciais desleais, como, por exemplo:

– Exibição de rótulos de sustentabilidade não contemplados nos sistemas de certificação oficiais ou marcas de certificação criadas por autoridades públicas;

– Alegar, com base na compensação de emissões de gases com efeito de estufa, que um produto tem um impacto neutro, reduzido ou positivo no ambiente em termos de emissões de gases com efeito de estufa;

– Alegar falsamente que, em condições normais de utilização, um bem tem uma determinada durabilidade em termos de tempo ou intensidade de utilização;

– Fazer uma alegação ambiental sobre a totalidade do produto ou sobre a totalidade da atividade do profissional, quando esta diga respeito apenas a um determinado aspeto do produto ou a uma atividade específica da empresa/do profissional.

Interessa-nos hoje em particular este último ponto. Apesar de as novas regras incluírem, em alguns segmentos, a sustentabilidade social, no que toca a este último ponto parece fixar-se apenas nas alegações ambientais. Para melhor enquadramento, encontramos referência à parte social da sustentabilidade nos seguintes pontos:

– Inclusão de características (ambientais e) sociais não correspondentes à verdade na lista das ações enganosas (no art. 6.º-1 da Diretiva 2005/29/CE);

– Inclusão de características (ambientais e) sociais na prestação de informação durante a comparação de produtos (no art. 7.º da Diretiva 2005/29/CE);

– Inclusão de características (ambientais e) sociais nas regras relativas à rotulagem de sustentabilidade (no art. 2.º da Diretiva 2005/29/CE).

Como se percebe, existe ainda alguma resistência (ou timidez) em legislar para a sustentabilidade social, estando a atividade legislativa em torno da sustentabilidade ambiental muito mais desempoeirada. É compreensível, uma vez que a discussão sobre a ligação entre os problemas sociais e o consumo ainda está em ascensão, mas sobretudo porque não é evidente que tratar ambas as questões em conjunto seja o caminho mais profícuo.

Em todo o caso, há várias hipóteses em que os dois temas dão origem aos mesmos problemas e que encontrarão agora resposta neste diploma. Vejam-se alguns exemplos:

1. Caracterização de um pneu como “superverde”, quando não corresponde à verdade;

2. Alegação de que o consumidor, ao comprar um bem, “melhora a vida dos agricultores”, quando não corresponde à verdade;

3. Alegação de que o bem é “muito mais sustentável/ecológico/responsável/reciclável/durável/biodegradável do que as outras marcas no mercado” (se não for divulgado o método de comparação, os produtos objeto da comparação e os fornecedores desses produtos, bem como as medidas em vigor para manter essas informações atualizadas);

4. Exibição de um rótulo com as seguintes mensagens ou símbolos: “Trade Faire”; “UN”; “Green Piece”; “ESG”.

Por outro lado, não estando a sustentabilidade social incluída em muitos outros preceitos deste diploma, casos há que certas alegações sociais ficarão de fora do escopo destas novas regras, apesar de a lógica de washing ficar protegida nas alegações ambientais. Veja-se:

1. Empresa A: “Compensamos o ambiente”, “impacto climático reduzido” ou “a nossa política tem crédito de carbono”;

2. Empresa B: “Por cada t-shirt vendida, doamos 1€ à UNICEF” (t-shirt produzida com recurso a trabalho infantil).

Neste exemplo, a empresa A pode ser responsabilizada ao abrigo do novo acrescento à “lista negra”, uma vez que faz alegações com base na compensação de emissões. Já a empresa B não pode ser responsabilizada a esta luz, apesar de fazer alegações com base em compensações sociais.

Veja-se ainda:

1. Empresa A: “Feito a partir de material reciclado” (quando só a embalagem o é);

2. Empresa B: “Sapatos produzidos em condições justas” (quando só as solas o são).

Aqui, a empresa A pode ser responsabilizada ao abrigo da nova “lista negra”, uma vez que faz uma alegação ambiental que sugere que todo o bem é composto por material reciclado quando só uma parte dele o é. Já a empresa B não pode ser responsabilizada à luz desta nova inserção, uma vez que o preceito apenas diz respeito a alegações ambientais e não sociais, apesar de se tratar da mesma lógica de distorção da interpretação por parte do consumidor.

1. Empresa A: “Temos certificação [sistema de certificação ecológico]” (quando, por exemplo, apenas um dos bens vendidos pela empresa é certificado);

2. Empresa B: “Temos certificação [sistema de certificação social]” (quando, por exemplo, apenas um dos bens vendidos pela empresa é certificado);

Neste exemplo, também a empresa A poderá vir a ser responsabilizada ao abrigo da nova “lista negra”, já não a empresa B. No primeiro exemplo, tratando-se de uma alegação ambiental, a empresa A procura beneficiar da certificação que obteve para apenas um dos bens da sua gama, parecendo tentar sugerir que essa certificação diz respeito a toda a sua atividade. Já a empresa B, fazendo uma alegação social, não está abrangida pela norma.

Por fim, veja-se este caso:

Numa gama de 10 embalagens de café do mesmo produtor/vendedor, apenas um dos segmentos apresenta certificação Fairtrade.

Este caso não se encontra contemplado nos exemplos anteriormente analisados e não é igualmente subsumível às novas proibições, trazendo um outro problema aplicável quer às alegações ambientais quer sociais. Agora, a mesma empresa apresenta uma gama de produtos certificados e outros não certificados (devidamente identificados), o que levanta dúvidas éticas acerca de uma prática empresarial que tanto aceita transacionar bens resultantes de boas práticas sustentáveis ambientais/sociais como bens que daí não resultam. Será este o próximo nível das práticas de green e bluewashing?

As questões hoje analisadas ainda farão correr muita tinta. Para já, aguardemos as assinaturas da Presidente do Parlamento Europeu de o Presidente do Conselho e a respetiva publicação do diploma.

Uma nova era de responsabilidade civil extracontratual por danos causados por inteligência artificial

Legislação

À medida que a Inteligência Artificial (“IA”) continua a remodelar o nosso mundo, os criadores e utilizadores de sistemas IA enfrentam um cenário de responsabilidade civil em evolução. Neste post, vamos analisar a proposta de Diretiva de Responsabilidade por danos causados por IA (a AI Liability Directive – “AILD”) e explorar os seus elementos-chave relativamente ao regime de responsabilidade civil extracontratual que consagra.

Compreender a proposta AILD

Tal como explorámos numa publicação anterior, na UE, a responsabilidade extracontratual por danos causados pela IA funcionará num sistema de duas vias, sendo uma delas amplamente harmonizada, graças à proposta de Diretiva relativa à responsabilidade pelos produtos defeituosos (a Product Liability Directive – “PLD”). A outra via envolve um regime de responsabilidade em grande parte não harmonizado, composto pela AILD, que deixa uma margem de manobra substancial aos Estados-Membros, ao abrigo das regras do direito nacional em matéria de responsabilidade civil.

Suponhamos que um sistema de IA causa danos a um consumidor. De acordo com a proposta da PLD, esta situação envolve em regra responsabilidade objetiva, em que a parte lesada teria de provar o defeito do produto, o dano e o nexo de causalidade entre os dois. No caso particular de sistemas de IA, contudo, determinar o nexo de causalidade e o defeito pode ser uma tarefa complexa, razão pela qual a PLD consagra presunções de defeito, nexo de causalidade, ou ambos, para aliviar o ónus da prova para os consumidores.

Se o regime a aplicar for o da AILD, então a abordagem será diferente. Esta Diretiva centra-se principalmente em aspetos processuais, com o objetivo de harmonizar as regras para o acesso a informação e o ónus da prova quando se trata de responsabilidade extracontratual baseada na culpa por danos causados por sistemas IA. Por outras palavras, esta Diretiva procura harmonizar o regime processual de pedidos de responsabilidade civil, deixando os requisitos dessa responsabilidade (danos, culpa, nexo de causalidade, etc.) para os Estados-Membros regularem.

Âmbito de aplicação:

No que toca ao seu escopo, a Proposta AILD aplica-se a casos de responsabilidade civil extracontratual subjetiva, nos casos em que o dano é causado por um sistema de IA^[1]. No entanto, a AILD não especifica quem pode estar sujeito a estas regras de responsabilidade. De facto, a proposta limita-se a incluir o conceito de “demandado” como a pessoa contra a qual é apresentado um pedido de indemnização. Isto alarga a sua aplicabilidade para além dos criadores, potencialmente abrangendo utilizadores profissionais e não profissionais e até os próprios consumidores.

No entanto, é relevante mencionar que, embora a proposta não defina quem pode ser responsável por danos, esta limita aqueles a quem as suas disposições se aplicam. Com efeito, o n.º 1 do artigo 3.º menciona potenciais demandados: fornecedores, utilizadores e fabricantes de produtos. Isto significa que os direitos e obrigações aqui consagrados estarão provavelmente vinculados aos atores definidos no Regulamento Inteligência Artificial.

Divulgação e acesso a informação:

Uma parte importante da proposta AILD é o artigo 3.º, que regula a divulgação e o acesso à informação no âmbito destes processos de responsabilidade civil. Esta disposição estabelece deveres específicos de divulgação para os potenciais demandantes quando confrontados com pedidos de indemnização decorrentes de danos causados por sistemas de IA de alto risco.

Para que um potencial requerente possa recorrer ao artigo 3.º do AILD, é necessário que:

o potencial requerente apresente factos e provas que apoiem a plausibilidade do seu pedido de indemnização (n.º 1, segundo parágrafo, do artigo 3.º);

o potencial requerido tenha recusado o acesso às informações necessárias, apesar de as ter à sua disposição (n.º 1, primeiro parágrafo, do artigo 3.º).

A proposta AILD exige que o potencial requerente adote todos os esforços razoáveis para obter os elementos de prova junto do potencial requerido antes de solicitar uma decisão judicial (n.º 2 do artigo 3.º). Se o potencial requerido não cumprir a ordem judicial de divulgação, as consequências são significativas, levando a uma presunção ilidível de incumprimento de um dever de diligência (n.º 5 do artigo 3.º). Esta presunção pode ser utilizada como presunção (ilidível) de um nexo de causalidade entre a culpa do requerido e o dano produzido pelo sistema de IA (n.º 1, alínea a), do artigo 4.º), como veremos mais adiante.

Eis o que isto significa na prática: Suponhamos que alguém sofre um dano devido a um sistema de IA de alto risco e decide apresentar uma queixa. De acordo com a proposta AILD, pode solicitar uma ordem judicial para que o potencial requerido revele provas e informações. No entanto, há uma condição essencial: o caso deve envolver sistemas de IA de alto risco, de acordo com a classificação do Regulamento Inteligência Artificial.

Ónus da prova:

A proposta AILD contém duas presunções significativas que ajudam a aliviar o ónus da prova dos requerentes:

O n.º 5 do artigo 3.º cria a presunção de incumprimento de um dever de diligência, que descrevemos acima, e

O artigo 4.º trata da causalidade entre a culpa do requerido e o resultado do sistema de IA.

Estas presunções são componentes cruciais da proposta AILD, simplificando o processo de determinação da responsabilidade nos casos de responsabilidade por danos que envolvam IA. De facto, pode ser muitas vezes difícil determinar as características exatas dos modelos de IA que foram mais relevantes para o resultado. Para fazer face a este risco de opacidade, o artigo 4.º da proposta AILD introduz uma presunção ilidível. Esta presunção refere-se especificamente ao nexo de causalidade entre a culpa, que deve incluir, pelo menos, a violação de um dever de diligência, e o resultado produzido pelo sistema.

Nesse sentido, para se valer desta presunção, o requerente deve demonstrar com êxito os seguintes elementos (artigo 4.º, n.º 2):

o requerente demonstrou ou o tribunal presumiu a culpa do requerido, devido ao incumprimento do dever de diligência previsto acima^[2] ;
pode ser considerado razoavelmente provável, com base nas circunstâncias do caso, que a falha tenha influenciado o resultado produzido pelo sistema de IA ou a incapacidade do sistema de IA para produzir um resultado;
o requerente demonstrou que o resultado produzido pelo sistema de IA ou a falha do sistema de IA em produzir um resultado deu origem ao dano.

É importante notar que esta presunção não abrange a determinação da culpa em si, a existência – ou inexistência – de uma ação por parte da IA, a existência e o âmbito do dano, ou o nexo de causalidade entre a ação da IA e o dano. Ademais, ao contrário do artigo 3.º, o artigo 4.º não limita o seu âmbito de aplicação aos sistemas de IA de alto risco, abrangendo assim todos os sistemas de IA. Na verdade, define mesmo no n.º 5 que se o pedido de indemnização visar um sistema de IA que não seja de alto risco, a presunção estabelecida no n.º 1 só se aplica se o tribunal nacional considerar excessivamente difícil para o requerente provar o nexo de causalidade aí mencionado.

A proposta AILD não oferece, no entanto, uma definição de culpa, deixando ao critério dos Estados-Membros a forma como a definem nos seus sistemas jurídicos. Esta abordagem proporciona flexibilidade aos países para adaptarem o conceito de culpa aos seus quadros jurídicos atuais. No entanto, também implica que os criadores de sistemas de IA têm de ter em atenção a forma como o conceito é interpretado na jurisdição em que os seus sistemas são utilizados.

Comentários sobre a proposta da AILD

Nesta secção, aprofundamos considerações específicas e potenciais desafios relacionados com a AILD. A compreensão dessas nuances ajudará os criadores de sistemas de IA e consumidores a navegar em matérias de responsabilidade por danos causados por IA com maior confiança.

O primeiro aspeto importante a abordar é transposição de categorias de sistemas de IA (ex. sistemas de alto risco) do Regulamento Inteligência Artificial para a Proposta AILD, como feito no artigo 3.º desta. A categoria de alto risco definida pelo Regulamento Inteligência Artificial pode nem sempre se alinhar perfeitamente com aquilo que seria expectável de um regime processual harmonizado em termos de responsabilidade por danos causados por sistemas de IA. Este desalinhamento pode resultar em situações onde sistemas não são incluídos neste regime, quando deviam, e vice-versa.

Por exemplo, existem sistemas de IA que não são classificados como de alto risco e que podem ainda assim causar danos significativos aos indivíduos, mesmo que não apresentem o mesmo nível de risco para a sociedade em geral. É neste sentido que, por exemplo, a Autoridade Europeia para a Proteção de Dados sugeriu alterar tanto o mecanismo de divulgação de informação como a presunção do artigo 4.º para que sejam desligados da definição de sistemas de alto risco e se apliquem a todos os sistemas de IA.

Por outro lado, ao centrar-se nos sistemas de alto risco, a AILD parece ignorar os sistemas que são considerados proibidos ao abrigo do Regulamento Inteligência Artificial. Tendo em conta os efeitos especialmente negativos que estes sistemas acarretam, a proposta AILD deve ser atualizada de modo a abranger os danos infligidos pela sua utilização. Atualmente, a proposta não aborda explicitamente estas situações. Esta falha cria potenciais ambiguidades e incertezas quanto à responsabilidade dos criadores e utilizadores de sistemas de IA proibidos. Por último, a prova de falhas em sistemas de IA representa um desafio substancial para as pessoas lesadas por sistemas de IA. Este desafio decorre das complexidades dos modelos em causa, em especial quando se trata de revelar quais as características que influenciaram significativamente o resultado produtor do dano. Assim, mesmo com os desenvolvimentos processuais trazidos pelo AILD, ao não se regular em concreto a definição de culpa, eventuais lesados terão ainda de provar elementos como dolo ou negligência do demandado, o que pode ser particularmente difícil.

^[1] De acordo com a definição de IA adotada no Regulamento Inteligência Artificial, ainda em processo legislativo.

^[2] O artigo 4.º do AILD consagra outros requisitos que obrigam o requerente a provar que o dever de diligência foi violado, quando se trata de sistemas de IA de alto risco, relacionados com o incumprimento das obrigações consagradas no Regulamento Inteligência Artificial.

A step backwards from the European Union in Consumer ADR?

Legislação

On 17 October 2023, the European Commission presented a set of proposals and recommendations to revise the legal framework for the consumer alternative dispute resolution (CADR), which includes the following main documents:

– Proposal for a Regulation of the European Parliament and of the Council repealing Regulation (EU) No 524/2013 and amending Regulations (EU) 2017/2394 and (EU) 2018/1724 with regards to the discontinuation of the European ODR Platform;

– Proposal for a Directive of the European Parliament and of the Council amending Directive 2013/11/EU on alternative dispute resolution for consumer disputes, as well as Directives (EU) 2015/2302, (EU) 2019/2161 and (EU) 2020/1828;

– Commission Recommendation (EU) 2023/2211 of 17 October 2023 on quality requirements for dispute resolution procedures offered by online marketplaces and Union trade associations.

The Report from the Commission to the European Parliament, the Council and the European Economic and Social Committee on the application of Directive 2013/11/EU of the European Parliament and of the Council on alternative dispute resolution for consumer disputes and Regulation (EU) No 524/2013 of the European Parliament and of the Council on online dispute resolution for consumer disputes has also been made public as a supporting document.

Overall, although several provisions may represent a step forward in the field of CADR, the European Union plans to take a significant step backwards in this area, at least in comparison with the 2013 legislative package.

So far, it was possible to identify three different phases in the evolution of the EU policy on ADR:

– First phase – Identification of the problem and adoption of non-binding instruments;

– Second phase – Adoption of binding instruments with a sectoral impact, applicable to all means of ADR or to means of CADR on specific issues;

– Third phase – Adoption of binding CADR instruments.

We are probably now heading towards a fourth phase of slowdown and disinvestment in this field.

Obviously, the European Commission does not present the legislative package adopted for discussion in this light. One can, however, easily see a clear trend in this direction.

Given the substantial differences between the Member States in terms of models and commitment to CADR, the solution is justified. Although I believe that alternative dispute resolution is the right way forward in this and other areas, I admit that the role of the European Union could be reduced by helping the Member States to implement the mechanisms they deem appropriate and, if possible, by financially supporting the organisations that resolve disputes.

The following is an analysis of the eight main aspects in which this legislative package, in particular the Proposal for a Directive, is innovative[1].

Discontinuation of the European ODR Platform

In an article published in 2016[2], Joana Campos Carvalho and I had already predicted that the sad end of the platform would be in sight if significant changes were not made to the system provided for in Regulation (EU) No 524/2013 and some of its provisions. The number of cases was already low then and, over the years, it certainly has not increased.

Three main problems were identified.

Firstly, the lack of information about the existence of the platform. Although it was rightly required that the trader informed the consumer about the platform, nothing was done to ensure that this information was actually provided in a way that was easily accessible to the consumer. We therefore proposed the creation of a EU logo, which would have to be displayed on the homepage of the trader. Without information, both consumers and professionals are unlikely to take part in the project.

Secondly, the platform had very little flexibility and was not in line with some of the most successful national CADR systems. In fact, in cases where CADR is imposed on traders by national legislation, the platform had no mechanism to allow the process to move forward without the cooperation of the trader. If the CADR is imposed on them, the platform could never allow the trader to block the continuation of the process.

Thirdly, the Regulation was distrustful of CADR entities, not allowing them to contact the trader directly to convince them of the advantages of CADR before deciding whether or not to accept the procedure.

In practical terms, the shutdown of the platform will have very little impact on CADR, since it has always had very little use over the last ten years.

However, from a symbolic point of view, it is a landmark step in the EU’s policy and the main reason for the conclusion that the European institutions have clearly disinvested in this area. Nevertheless, the courage to back down from a solution that has not worked is to be commended.

Duties to inform and respond

The Proposal for a Directive removes the duty of the trader to inform the consumer about the CADR if they are not bound to take part in a CADR procedure.

Whilst it is true that traders have an excessive number of information duties resulting from EU legislation (in many cases, on top of those resulting from purely national rules), it is nonetheless symbolic that the aim of reducing bureaucracy and the associated costs comes at the cost of a rule in such a relevant area.

This information had one objective: to make the CADR known to consumers. If the information is no longer provided, the likelihood of consumers knowing about the system and realising whether the trader is bound by it decreases dramatically.

It can be said that this is a cost rationalisation measure for businesses, which may well be justified, but it cannot be said that it will encourage greater participation in the CADR.

On the other hand, it is now compulsory for the trader to reply to the CADR entity within a maximum of 20 days. The response can be to participate or not participate in the procedure, in cases where it is not binding under national law, but the trader cannot fail to respond.

The effectiveness of this measure will essentially depend on the consequences envisaged internally in the event of a lack of response.

In terms of information duties, the simplification of procedures for CADR entities should be emphasised. This measure is positive, as some of these entities are more like centres of bureaucracy than of dispute resolution. It is strange, however, that there is no longer a requirement to report on the training of the individuals who manage the CADR procedures. This training is very important for the quality of the system, and it is anticipated that removing this duty to report could have the effect of reducing training time and, consequently, reducing the quality of the procedures.

Extended scope of application

The scope of application of the Directive is extended to include non-contractual consumer relationships, particularly as regards the pre-contractual phase, and legal obligations.

This is a step in the right direction, although I think it would be preferable to extend the scope of application to all consumer disputes, possibly excluding only those that it would not be appropriate to resolve through ADR. I find it difficult to specify which disputes would be excluded from the scope of the Directive if the path I suggest were to be followed, which demonstrates the advantages of the extension.

Bundling similar cases

In order to make the system more flexible and procedures more efficient, it is now possible to bundle similar cases involving the same trader.

I think we could go a little further and allow, in some situations, with the authorisation of the parties involved, the bundling of similar cases even if two or more different traders are involved.

Prior contact with the CADR entity

The CADR bodies will still be able to refuse to deal with a dispute on the grounds that the consumer did not first try to contact the trader to resolve the dispute.

However, if the amendment is approved, the Directive will provide that CADR bodies may not impose disproportionate conditions in this regard. Recital (12) gives two examples: (i) “the obligation to use the company escalation system after a first negative contact with the complaints handling service” and “the obligation to prove that a specific part of a company’s after sales service was contacted”.

Disputes with traders established outside the European Union

The Proposal for a Directive clarifies that the ADR entities must handle disputes in cases where the consumer is a resident of the Member State in question and the trader is based in a country outside the European Union.

This is a good solution, although attention is drawn to the difficulty, in many of these cases, of contacting the trader and, if necessary, managing the procedure, including for linguistic reasons.

Accessibility

Article 5-2 of the Proposal for a Directive expressly provides that (i) consumers may submit the complaint and access the paper file at their request, (ii) that tools relating to digital procedures are “easily accessible and inclusive” and that, (iii) in the event that the procedure is automated, the parties are granted a right to a review of the decision by a natural person.

The rationale for providing for these rights is understandable, although it should be emphasised that these are burdens that can be significant in practice for CADR entities.

CADR contact point

One of the main innovations introduced by the Directive is the creation of a CADR contact point, which must be designated in each Member State, to assist consumers and traders.

Member States will have to make a first decision in this regard: will the CADR contact point be competent only for cross-border disputes or also for domestic disputes?

This question may be relevant to answering the second one: who should be the CADR contact point in each Member State?

The rule points to a preference for the contact point to operate in the European Consumer Centre, but this will probably only make sense in two cases: (i) the contact point is only intended to assist in cross-border disputes; (ii) the European Consumer Centre of the Member State concerned has powers extended to domestic disputes.

In any case, the success of this measure will essentially depend on its practical application. A contact point that effectively provides assistance to consumers and traders can add value to the system, helping to fulfil the objective of increasing access to the ADR network.

[1] Issues related to online marketplaces are not analysed: (i) on the one hand, the relationship between this regime and Art. 21 of the Digital Services Act; (ii) on the other hand, Recommendation (EU) 2023/2211, indicated in the second paragraph of the text.

[2] “Online Dispute Resolution Platform – Making European Contract Law More Effective”, in Alberto De Franceschi (ed.), European Contract Law and the Digital Single Market, Intersentia, Cambridge, 2016, pp. 245-266.

Uma proposta de proibição de produtos fabricados com recurso a trabalho forçado no mercado da UE

Doutrina, Legislação

No dia 14 de setembro de 2022, a Comissão Europeia apresentou a Proposta de Regulamento do Parlamento Europeu e do Conselho sobre a proibição de produtos fabricados com recurso ao trabalho forçado no mercado da União Europeia, tendo sido agora aprovada, no passado outubro, sem votos contra, por duas comissões do Parlamento Europeu.

Numa altura em que muito se debate sobre sustentabilidade na UE – com especial ênfase, é preciso dizê-lo, na sustentabilidade ambiental – é com entusiasmo que se recebe a notícia de uma proposta de regulamentação que tutela diretamente o S dos pilares ESG. Depois da Diretiva do Reporte de Sustentabilidade e da Proposta de Diretiva relativa ao Dever de Diligência das Empresas (DDD), diplomas que recaem diretamente sobre as obrigações das empresas, surge então agora uma proposta especificamente vocacionada para limitar a comercialização de bens que resultem de trabalho forçado, que vem intervir diretamente sobre os bens e não criando propriamente novas regras para as empresas. A viabilização desta Proposta depende da aprovação do Parlamento Europeu e do Conselho, sendo o Regulamento depois aplicado a todos os Estados-Membros 24 meses após a respetiva entrada em vigor.

Esta iniciativa é, em geral, de aplaudir. É uma iniciativa relevante que dignifica e densifica os princípios comunitários e multilaterais de defesa dos direitos humanos, sendo sobretudo de salientar a ousadia de se iniciar um movimento legislativo que, a ser aprovado, comportará consequências muitíssimo expressivas no panorama do comércio europeu. Se pensarmos, por exemplo, dentro do setor têxtil, apenas nos bens de vestuário produzidos com algodão como matéria-prima, uma em cada cinco peças dessa roupa envolve trabalho forçado na sua produção, sendo, por isso, eliminável do comércio europeu. Não se descarte, por isso, a coragem subjacente à elaboração desta Proposta – ela comporta uma alteração notável do quadro vigente e não se refreia pela circunstância de os consumidores europeus poderem vir a encontrar as prateleiras mais folgadas, com todas as consequências que daí advêm para vários setores.

Não deixa também de ser uma proposta visionária, no sentido em que acolhe as preocupações cada vez mais crescentes dos consumidores europeus em relação à questão.

Sobre os aspetos positivos desta Proposta:

• É de ressaltar, em particular, a potencialidade da sua aplicação aos bens comercializados por todas as empresas – micro, pequenas, médias e grandes empresas – e por todos os operadores económicos, o que significa que tem a potencialidade de impactar (finalmente) absolutamente todos os consumidores europeus que compram bens. Será, neste sentido, uma boa ultrapassagem (ou complemento) das limitações da DDD, ainda que apenas em termos de sustentabilidade social.

• É de aplaudir a ideia de implementação de entidades de investigação do histórico da cadeia de abastecimento dos bens que ingressam no mercado europeu, entidades e competências essas que mais cedo ou mais tarde teriam de ser criadas/adaptadas na União de forma a honrar a expiação do problemático fenómeno do trabalho forçado. De acordo com a Proposta, as autoridades competentes conduzirão investigações e decidirão na sequência dessas investigações. As decisões destas autoridades deverão depois ser comunicadas às autoridades aduaneiras, que serão responsáveis pela identificação dos produtos em causa e pela realização de controlos das importações e exportações na fronteira da UE. Infelizmente, a atribuição deste controlo dividido entre autoridades nacionais e autoridades aduaneiras não prima pela melhor abordagem ao problema, deixando uma larga margem ao contorno do sistema arquitetado .

• A Proposta sugere a criação de uma base de dados relativa a zonas e produtos com exposição ao risco de utilização de trabalho forçado, sendo útil às empresas que queiram contornar fornecedores problemáticos. Este é um aspeto positivo, sobretudo pela transparência e acesso aberto a toda a comunidade, ainda que tivesse sido relevante pensar-se em formas de tornar essa comunicação eficaz junto do consumidor. Apesar de tudo, é um passo bastante importante a assinalar, sobretudo pelo quadro absolutamente dúbio e cinzento que se encontra atualmente nesta matéria.

• É de felicitar o estabelecimento de critérios específicos para a avaliação do risco de os operadores económicos estarem imiscuídos ou não em cadeias de abastecimento enformadas por escravatura moderna. Estes critérios serão muito úteis à condução da investigação que a entidade responsável por este controlo terá de levar a cabo, levantando o véu daqueles que são os sinais de alarme a que empresas, consumidores e mesmo entidades públicas devem estar atentos no momento da contratação.

A avaliação terá em conta os seguintes critérios (não exaustivos):

(i) Observações apresentadas por pessoas singulares ou coletivas ou por qualquer associação sem personalidade jurídica;

(ii) Indicadores de risco e outras informações, que devem basear-se em informações independentes e verificáveis, incluindo relatórios de organizações internacionais, em especial da Organização Internacional do Trabalho, da sociedade civil e de organizações empresariais, e ter em conta a experiência adquirida com a aplicação da legislação da União que estabelece requisitos de dever de diligência em matéria de trabalho forçado;

(iii) A base de dados sobre zonas ou produtos com exposição ao risco de utilização de trabalho forçado;

(iv) Informações e decisões codificadas no sistema de informação e comunicação, incluindo quaisquer casos anteriores de cumprimento ou incumprimento da proibição por parte de um operador económico;

(v) Informações solicitadas pelas autoridades competentes a outras autoridades pertinentes sobre se os operadores económicos objeto de avaliação estão sujeitos ao dever de diligência em matéria de trabalho forçado e exercem esse dever em conformidade com a legislação aplicável da União ou com a legislação dos Estados-Membros que estabeleça requisitos de dever de diligência e de transparência no que diz respeito ao trabalho forçado.

Se a iniciativa é sem dúvida para se elogiar, ocorre, ainda assim, que apresenta também alguns problemas e limitações que podem e devem ser consideradas no futuro do procedimento legislativo.

Além das que foram já sendo assinaladas, é de destacar pela negativa a proposta de destino a oferecer aos bens que venham a ser considerados produzidos em condições de trabalho forçado.

São dois os cenários:

(i) Se, antes da colocação dos bens no mercado, se detetar que o bem não cumpre os requisitos, as autoridades competentes determinarão a proibição de venda no mercado da UE.

(ii) No entanto, se os bens já estiverem no mercado, será ordenada a retirada e eliminação desses bens, a expensas do operador económico, bem como a proibição de exportação desses bens (“os operadores económicos que tenham sido objeto de investigação [devem retirar] do mercado da União os produtos em causa já disponibilizados e [mandá-los] destruir, inutilizar ou de outra forma eliminar” – Considerando 27).

Ainda que a solução do ponto (i) se compreenda, obviamente que a solução do ponto (ii) não pode passar por este desfecho. O bem jurídico que se pretende proteger com a criação deste Regulamento será sobretudo o da proteção da integridade física dos “trabalhadores” (e, no máximo, a expectativa do consumidor ético e de outras entidades), que não sai protegida com a retirada do bem do mercado. Antes pelo contrário, esta consequência é desastrosa para os princípios de sustentabilidade ambiental que pautam a agenda da UE por estes dias. Não pode a UE tratar um bem fruto de escravatura moderna como se de um bem perigoso se tratasse. A situação é exatamente a inversa: a produção do bem é que tornou perigosa a situação para o “trabalhador”. Retirar o bem do mercado não oferece nenhuma vantagem para nenhum deles, ainda que se compreenda que é uma medida de desincentivo ao operador económico. Mesmo que a solução venha a ser a de doar os bens (pelo menos os perecíveis) – que seria uma solução, em geral, mais sustentável – tal não ultrapassa o problema de não responder à verdadeira motivação de criação do Regulamento. Devem, pois, encetar-se medidas de combate à escravatura moderna, sem dúvida, mas em harmonia com todos os pilares da sustentabilidade e em fidelidade à solução do problema de facto.

As alternativas existem.

Inteligência Artificial e Responsabilidade Civil na UE: Responsabilidade por Produtos Defeituosos

Legislação

Introdução

Nesta blogpost, vamos explorar o regime de responsabilidade por danos causados por sistemas de Inteligência Artificial (“IA”) na União Europeia (“UE”), especialmente no que diz respeito à responsabilidade por produtos defeituosos, no contexto da proposta relativa à Diretiva sobre Responsabilidade por Produtos Defeituosos (“Proposta”). O nosso objetivo será explicar as principais matérias reguladas pela Proposta, dando-lhes um pano de fundo e proporcionando uma compreensão clara de como esta proposta altera o regime atual, especialmente quando se trata de regular a responsabilidade por sistema de IA num cenário Business to Consumer.

Enquadramento geral da responsabilidade civil por danos de sistemas de IA

Antes de entrar nesse regime, importa analisar a regulação europeia em termos de IA. Este panorama é marcado por vários atos legislativos, quer já estejam em vigor, quer estejam a passar pelo respetivo processo legislativo. Assim, para compreender o quadro de responsabilidade por danos da UE, é importante contextualizá-lo num escopo mais vasto de Regulamentos e Diretivas.

Regime europeu aplicável à IA

Na UE, os sistemas de IA estão a ser objeto de regulação em duas frentes: regimes gerais e regras específicas de IA.

Começando pelo quadro jurídico geral, têm-se travado importantes debates sobre a sobreposição (e potencial ineficácia) de certos Regulamentos e Diretivas quando aplicados à IA. Os mais referidos são os seguintes:

Proteção de Dados: A IA depende fortemente de dados, especialmente de dados pessoais. A conformidade com os princípios de proteção de dados, incluindo a minimização, a limitação da finalidade, a exatidão e a responsabilidade, é uma obrigação, embora nem sempre seja fácil de alcançar na prática;

Propriedade intelectual: Para além dos dados pessoais, a legislação da UE rege outros aspetos relacionados com a IA, através de regimes como os direitos de autor, as patentes e os segredos comerciais, bem como a proteção das bases de dados. Através destes regimes, os dados (não pessoais) de treino, os inputs, os outputs e até o próprio modelo poderão ter de cumprir determinados critérios para serem abrangidos pelo escopo destes direitos. Neste sentido, dois dos temas mais atuais são a questão de saber se os sistemas de IA podem ser autores (por exemplo, para efeitos de direitos de autor), bem como a potencial violação dos direitos de autor concedida aos autores de obras que são utilizadas para treinar sistemas de IA;

Direito do Consumo: As Diretivas existentes em matéria de Direito do Consumo têm vindo a adaptar-se para englobar a IA de uma forma mais direta. Dois exemplos claros são a Diretiva relativa aos conteúdos digitais e a Diretiva relativa a certos aspetos dos contratos de compra e venda de bens;

Responsabilidade Civil: Tal como acontece com o Direito do Consumo, o legislador da UE está a agir no sentido de atualizar os atuais regimes de responsabilidade para incluir sistemas tecnologicamente mais avançados, como a IA. Assim, para além da Diretiva Conteúdos Digitais e da Diretiva relativa a certos aspetos dos contratos de compra e venda de bens que preveem opções para os consumidores em caso de não conformidade, o legislador europeu está atualmente a preparar a Proposta, que será analisada mais aprofundadamente adiante.

Na regulação específica da IA, a UE adota uma abordagem dupla:

Conformidade e regulamentação: O Ato da IA (AI Act) impõe obrigações principalmente aos utilizadores e criadores de sistemas de IA com base numa abordagem baseada no risco. Consoante os riscos potenciais que apresentam, os sistemas podem variar entre uma regulamentação mínima e uma proibição estrita. Os sistemas de alto risco e as partes da cadeia de abastecimento enfrentam obrigações pormenorizadas;

Responsabilidade Civil: A UE abordará a questão da responsabilidade por danos relacionados com a IA através da Diretiva sobre Responsabilidade por IA (AI Liability Directive ou “AILD”), atualmente em discussão pelo legislador da UE. No entanto, esta Diretiva centrar-se-á apenas na responsabilidade extracontratual baseada na culpa.

Responsabilidade civil por danos causados por sistemas de IA

Se nos debruçarmos especificamente sobre os quadros de responsabilidade civil, verificamos que o legislador da UE pretende abordar a responsabilidade por danos causados por sistemas de IA de duas formas:

Responsabilidade contratual: Para as relações entre consumidores e profissionais, a Diretiva Conteúdos Digitais e a Diretiva relativa a certos aspetos dos contratos de compra e venda de bens preveem um regime de responsabilidade a que os consumidores podem recorrer em caso de não conformidade;

Responsabilidade extracontratual: A AILD e a Proposta da nova Diretiva regerão a responsabilidade extracontratual baseada na culpa dos sistemas de IA^[1].

Com este roteiro em mente, o resto deste blogpost centrar-se-á na Proposta da nova Diretiva, abordando os seus principais elementos, como o seu âmbito material e pessoal, bem como os requisitos para desencadear a responsabilidade dos operadores económicos.

Escopo da Proposta

Ao analisar a proposta de Diretiva e o seu impacto nos sistemas de IA, é importante compará-la com as regras da atual Diretiva. Esta comparação revela duas primeiras melhorias fundamentais, relacionadas, por um lado, com o seu âmbito material e, por outro, com o seu âmbito pessoal.

Escopo material e definições

A Proposta da Diretiva representa um desenvolvimento substancial da Diretiva em vigor, ao atualizar as suas definições com conceitos tecnologicamente mais avançados, onde se incluem sistemas de IA. Para o efeito, o âmbito das regras de responsabilidade decorrente dos produtos é alargado através das seguintes definições:

Alargamento da definição de “produto”: A definição abrange agora os ficheiros de fabrico digitais e o software;

Introdução da definição de ‘componente’: Esta adição abrange qualquer elemento tangível ou intangível, ou qualquer serviço conexo que é incorporado num produto ou interligado com o mesmo pelo fabricante desse produto ou sob o controlo do fabricante;

Definição de “serviço conexo”: Um serviço conexo é definido como um serviço digital que, quando ligado a um produto, é essencial para o funcionamento normal do produto.

Estas definições atualizam o regime de responsabilidade decorrente de produtos defeituosos, garantindo que os produtos que incorporam elementos e serviços digitais estejam sujeitos a estas regras de responsabilidade. Este aspeto é especialmente relevante no contexto atual, em que serviços são frequentemente integrados nos produtos, como acontece com os assistentes virtuais como a Alexa e a Siri, em que a atual Diretiva dá respostas pouco claras.

Escopo pessoal e operadores económicos

Por outro lado, a Proposta também alarga as entidades que podem ser responsabilizadas por danos, introduzindo uma mudança significativa de “produtores” para “operadores económicos”. Este novo conceito alarga o âmbito de aplicação para incluir várias partes na cadeia de abastecimento, tais como o fabricante do produto, os fabricantes de componentes, os prestadores de serviços conexos, os representantes autorizados, os importadores, etc.

Embora estas novas entidades estejam abrangidas pelo âmbito de aplicação da Proposta da Diretiva, tal não significa que todas partilhem regimes de responsabilidade idênticos. Por exemplo, os importadores, os representantes autorizados e os prestadores de serviços de execução têm responsabilidade subsidiária, tornando-se responsáveis se o fabricante estiver situado fora da UE (artigo 7.º, n.º 2). Se nem o fabricante nem o importador puderem ser identificados, os distribuidores podem ser responsabilizados.

Crucialmente, é importante notar que a Proposta de Diretiva alarga a responsabilidade às entidades que prestam serviços conexos. Esta alteração constitui uma mudança conceitual, uma vez que a Diretiva se aplica tradicionalmente a produtos e não a serviços. No entanto, a inclusão é lógica, uma vez que os produtos contêm cada vez mais componentes digitais essenciais para o seu funcionamento. No contexto da “Internet of Things”, uma distinção estrita entre produtos e serviços não pode pôr em causa a responsabilidade por produtos defeituosos.

O que isto significa, em termos práticos, é que se uma empresa desenvolve um sistema de IA, que é integrado no software de um produto criado por outra, ambas as entidades podem ser responsabilizadas por defeitos do produto final. Se a parte lesada receber uma indemnização do fabricante do produto final, essa entidade pode eventualmente ter direito a uma compensação do fabricante do componente com base na legislação nacional aplicável.

Regime de responsabilidade civil ao abrigo da Proposta

Vamos agora explorar os fatores críticos que ativam a responsabilidade ao abrigo da Proposta. São eles a existência de dano e o caráter defeituoso do produto.

Relativamente ao primeiro, foram incluídas duas alterações fundamentais na Proposta:

Supressão do limiar mínimo de 500 €: A Proposta elimina o limiar de 500 € previsto na atual Diretiva, alargando assim o âmbito da responsabilidade;

Inclusão da perda ou corrupção de dados: A perda ou corrupção de dados, não utilizados exclusivamente para fins profissionais, passa a ser considerada um dano pelo qual os operadores económicos podem ser responsabilizados. No entanto, a responsabilidade continua limitada, excluindo os danos económicos. Esta limitação afeta cenários de IA como os seguros, a pontuação de crédito e situações laborais, em que os danos económicos são mais comuns.

O segundo elemento, e provavelmente o elemento central que desencadeia a responsabilidade, é o caráter defeituoso do produto.

Em termos gerais, a nova disposição sobre o carácter defeituoso assemelha-se muito ao artigo 6.º da atual Diretiva, que considera as expectativas do consumidor.

No âmbito deste quadro, são feitas duas principais melhorias:

Aprendizagem após a colocação no mercado: A Proposta alarga a responsabilidade aos defeitos que surgem depois de o produto ser colocado no mercado, ao considerar a potencial aprendizagem do sistema após o seu lançamento;

Controlo após o lançamento: Outra consideração crítica é o nível de controlo mantido pelos fabricantes ou programadores depois de o produto ser introduzido no mercado ou colocado em serviço. Assim, a Proposta prevê que a responsabilidade pelos defeitos continue até que o controlo seja abandonado. Este requisito garante que as empresas permanecem proativas na abordagem e retificação dos defeitos.

É de notar que a Proposta de Diretiva prevê situações de responsabilidade por defeitos posteriores, nomeadamente no artigo 10.º. Aqui, os operadores económicos podem não ser responsabilizados por danos causados por um produto defeituoso se demonstrarem que é provável que o defeito que causou o dano não existia quando o produto foi colocado no mercado ou em serviço. Contudo, o n.º 2 do artigo 10.º prevê exceções a esta regra. Os operadores económicos serão responsabilizados se o defeito resultar de um serviço conexo, de software (incluindo atualizações e upgrades) e da sua ausência quando necessário para a manutenção da segurança. É importante notar que estas exceções só se aplicam quando os operadores económicos mantêm o controlo sobre o produto após a sua colocação no mercado. Assim, existe um paralelo entre o n.º 1, alínea c), do artigo 6.º e o artigo 10.º, que alarga a responsabilidade aos casos de defeitos posteriores quando o operador económico mantém um grau de controlo sobre o produto.

Acesso a informação e ónus da prova

Para além das regras gerais em matéria de responsabilidade civil, a Proposta inclui disposições relativas ao acesso à informação e ao ónus da prova.

O artigo 8.º pode ser invocado para aceder a informações relativas a sistemas de IA, quer estes sejam de alto risco ou não. Trata-se de uma distinção importante em relação à AILD, que se centra principalmente nos sistemas de alto risco. Outro aspeto significativo deste artigo é a utilização do termo “demandado”, indicando que o direito de acesso à informação diz respeito principalmente a processos judiciais em curso.

No que toca ao ónus da prova, a Proposta visa aliviar o ónus da parte lesada na prova de certos elementos necessários a uma ação de indemnização.

Resumidamente, o artigo 9.º estabelece que cabe normalmente ao demandante ou à parte lesada o ónus de provar o carácter defeituoso, o dano e o nexo de causalidade entre eles. Contudo, a Proposta estabelece condições específicas que desencadeiam a presunção de defeito, de nexo de causalidade entre o defeito e o dano ou de ambos. Estas condições são as seguintes:

Condições suficientes para a presunção de defeito: (i) Incumprimento pelo requerido de uma obrigação de divulgação nos termos do artigo 8.º, n.º 1; (ii) Violação de requisitos de segurança obrigatórios; (iii) Danos causados por um mau funcionamento óbvio do produto;

Condições suficientes para a presunção de nexo de causalidade: presume-se o nexo de causalidade se for comprovado o caráter defeituoso do produto e se o dano for compatível com o mesmo. No entanto, a proposta não especifica os tipos de danos tipicamente considerados coerentes com o defeito, introduzindo potencialmente incerteza jurídica e encargos adicionais para os consumidores;

Condições adicionais de suficiência para ambas as presunções (n.º 4 do artigo 9.º): (i) O tribunal deve considerar excessivamente difícil para o requerente provar o respetivo objeto da presunção (defeito, causalidade ou ambos); (ii) O requerente deve estabelecer que o produto contribuiu para o dano, (iii) O objeto factual da presunção deve ser provável, baixando o limiar de prova do padrão normal para a mera probabilidade.

Os demandados têm a possibilidade de ilidir qualquer uma destas presunções (n.º 5 do artigo 9.º). Isto significa que podem apresentar provas ou argumentos para contestar as presunções de defeito ou de nexo de causalidade.

^[1] É importante mencionar que a Proposta e em geral o regime de responsabilidade por produtos defeituosos pode também ser aplicado a relações contratuais, não estando, contudo, dependente da sua existência.

Lei n.º 28/2023 – Mais uma peça no combate à obsolescência programada

Legislação

No passado dia 4 de julho, foi publicada no Diário da República a Lei n.º 28/2023, que procedeu à nona e mais recente alteração da Lei n.º 24/96, de 31 de julho (Lei de Defesa do Consumidor),

Esta lei veda a renovação forçada de serviços ou equipamentos cuja vida útil não tenha expirado.

Com efeito, o artigo 9.º, que tem como epígrafe “Direito à proteção dos interesses económicos”, tem agora no seu n.º 7 a seguinte redação: “É vedada ao fornecedor de bens ou ao prestador de serviços a adoção de quaisquer técnicas que visem reduzir deliberadamente a duração de vida útil de um bem de consumo a fim de estimular ou aumentar a substituição de bens ou a renovação da prestação de serviços que inclua um bem de consumo”.

Alterou-se a redação de 2021, resultante do DL n.º 109-G/2021, de 10 de Dezembro. A norma era semelhante e tinha como fim não se estimular ou aumentar a substituição de bens. Agora a prestação de serviços é expressamente contemplada, ficando o consumidor ainda mais protegido contra as práticas de obsolescência programada. Note-se que as expressões fornecedor e prestador de serviços eram já utilizadas no n.º 6 do mesmo artigo[1].

Como já referido neste Blog, o Novo Plano de Ação para a Economia Circular, a propósito do Pacto Ecológico Europeu [2] que visa transformar a UE numa economia com impacto neutro no clima, prevê o combate à obsolescência precoce como estratégia da UE no domínio da transição ecológica, domínio considerado prioritário na Nova Agenda do Consumidor [3]. O Pacto Ecológico Europeu pretende que a Europa seja o primeiro continente neutro do ponto de vista carbónico em 2050, o que passa por tecnologias mais ecológicas, que evitam compras recorrentes e desnecessárias.

Também a obsolescência programada é acutelada pelo Direito, designadamente pelo indicado DL de 2021 que transpôs parcialmente a Diretiva (UE) 2019/2161. Também a Diretiva (UE) 2019/770, no artigo 8.º-1-b), relativo aos requisitos objetivos de conformidade, se refere a “funcionalidade, compatibilidade, acessibilidade, continuidade e segurança, que são habituais em conteúdos ou serviços digitais do mesmo tipo e que o consumidor possa razoavelmente esperar”, ainda que seja uma abordagem muito tímida[4] ao tema da obsolescência programada. Veja-se igualmente o considerando 32 da Diretiva (UE) 2019/771, onde se refere que “assegurar uma maior durabilidade dos bens é importante para se alcançarem padrões de consumo mais sustentáveis e uma economia circular”, devendo ser assegurada uma “durabilidade que é normal para bens do mesmo tipo e que o consumidor pode razoavelmente esperar dada a natureza dos bens, incluindo a eventual necessidade de manutenção razoável dos bens”. A durabilidade é avaliada para efeitos de conformidade. Dado que vivemos numa sociedade altamente consumista, a UE reconhece que a transformação ecológica é indissociável da transformação digital[5], apostando assim no combate à obsolescência, quer precoce, quer programada.

[1] “É vedado ao fornecedor ou prestador de serviços fazer depender o fornecimento de um bem ou a prestação de um serviço da aquisição ou da prestação de um outro ou outros”.

[2] Pacto Ecológico Europeu [COM(2019) 640 final de 11 de dezembro de 2019].

[3] A Agenda abrange cinco domínios prioritários: (1) Transição ecológica; (2) Transformação digital; (3) Reparação e aplicação dos direitos dos consumidores; (4) Necessidades específicas de determinados grupos de consumidores; e (5) Cooperação internacional.

[4] Jorge Morais Carvalho, “Venda de Bens de Consumo e Fornecimento de Conteúdos e Serviços Digitais – As Diretivas 2019/771 e 2019/770 e o seu Impacto no Direito Português”, in Revista Electrónica de Direito, n.º 3, 2019, p. 76.

[5] Construir o futuro digital da Europa [COM(2020) 67 final de 19 de fevereiro de 2020].

Green Claims Directive Proposal: hello from the other side

Doutrina, Legislação

No passado dia 22 de março, foi divulgada a Proposta de Diretiva do Parlamento Europeu e do Conselho relativa à fundamentação e comunicação de alegações ambientais explícitas (Green Claims Directive). Esta Proposta surge no seguimento da Proposta de Diretiva do Parlamento Europeu e do Conselho que altera as Diretivas 2005/29/CE e 2011/83/UE no que diz respeito à capacitação dos consumidores para a transição ecológica através de uma melhor proteção contra práticas desleais e de melhor informação, visando adensar o regime legal e complementar as propostas de alteração à Diretiva relativa às práticas comerciais desleais. Além da Green Claims Directive, também no passado dia 22 de março foi divulgada a Proposta de Diretiva do Parlamento Europeu e do Conselho sobre as regras comuns para a promoção da reparação de bens e que propõe alterar o Regulamento n.º 2017/2394 e as Diretivas 2019/771 e 2020/1828.

O mote da sustentabilidade no consumo já tinha sido dado em 2019, um ano mais longínquo do que há 4 anos atrás, com o Pacto Ecológico Europeu. A perspetiva de que o consumidor é também ele uma parte ativa na causa ambiental conheceu oficialmente a luz do dia há já quase meia década. Muitos anos depois, no final de 2020, com a Nova Agenda do Consumidor, a intenção de combate ao greenwashing ficou mais clara, sobretudo após ser detetada a proliferação do fenómeno. Greenwashing, para todos os efeitos, será a prática que consiste em maquilhar uma empresa ou um bem, apresentando-a/o como benigna/o ambientalmente (sustentável, portanto), sendo que essas características não têm correspondência de facto, visando atrair mais consumidores, sobretudo os interessados nessas características. Este é sem dúvida o momento para a discussão destas matérias, com uma União Europeia cada vez mais comprometida com o direito do consumo e suas ligações extraprivatísticas, mais uma vez se verificando o empenho da UE em regular para o seu tempo e no sentido das causas dos europeus.

A Proposta que esta semana veio a público representa uma tentativa de legislar o fenómeno do greenwashing, que já vem sendo bem conhecido como prática habitual junto dos consumidores. O setor empresarial foi expedito no ajustamento às intenções de consumo mais sustentável por parte dos consumidores nos últimos anos, prezando por alegações ambientais ou de sustentabilidade social mesmo quando (i) tais referências eram esvaziadas de conteúdo; (ii) tais referências eram absolutamente falsas; (iii) tais referências, sendo verdadeiras, dissimulavam práticas não sustentáveis.

Um estudo da Comissão que analisou 150 alegações ambientais, em vários produtos, verificou que 53,3% dessas alegações eram vagas, enganosas ou infundadas, 40% não tinham qualquer fundamento factual e 50% da rotulagem verde não era objeto de verificação (ou, sendo, era fraca). Os próprios consumidores apresentam desconfiança em relação a estas alegações ambientais, em geral. Se, por um lado, esse ceticismo é demonstrativo da maior atenção dos consumidores em relação à atuação do profissional, por outro prejudica claramente a sua disponibilidade de escuta de alegações fidedignas, fazendo com que o consumidor, muitas vezes, ao duvidar da alegação, fique paradoxalmente desinformado.

Neste sentido, a Proposta de Diretiva relativa à capacitação dos consumidores para a transição ecológica já apresentara, em 2022, algumas medidas legislativas tendentes à superação do greenwashing. Especificamente no que ao diploma das práticas comerciais desleais diz respeito, são de destacar as seguintes propostas de alteração:

(i) Alargamento da lista das ações consideradas enganosas, estabelecidas no artigo 6.º, n.º 1 da Diretiva 2005/29/CE, visando incluir os conceitos de “impacto ambiental ou social”, “durabilidade” e “reparabilidade”;

(ii) Alteração do artigo 6.º, n.º 2 da mesma Diretiva, no sentido de se poder considerar enganosa, no seu contexto factual, a apresentação de uma alegação ambiental que não assente em compromissos e metas claras, objetivas e verificáveis, nem um sistema de controlo independente;

(iii) Aditamento de novas práticas comerciais que devem ser consideradas desleais em qualquer circunstância (artigo 5.º, n.º 5 da Diretiva e Anexo I), nomeadamente:

– Exibição de um rótulo de sustentabilidade que não se baseia num sistema de certificação ou que se baseia num sistema de certificação que não foi criado por autoridades públicas;

– Fazer uma alegação ambiental genérica para a qual o profissional não consegue demonstrar um desempenho ambiental reconhecido e relevante para a alegação;

– Fazer uma alegação ambiental sobre o bem na sua totalidade quando se refere apenas a uma determinada parte desse bem;

– Apresentar como característica distintiva do bem requisitos impostos por lei a todos os bens no mercado da União.

Na mais recente Proposta (Green Claims Directive), é reforçada a intenção de prevenção de manobras de greenwashing, regulando a forma como as empresas fundamentam e comunicam as suas alegações sustentáveis. No artigo 3.º, é proposto o estabelecimento de requisitos específicos quanto aos contornos de fundamentação das alegações ambientais que o profissional faça. Com particular interesse para o consumidor, no artigo 5.º são propostos os moldes de comunicação das alegações ambientais, nomeadamente, entre muitos outros, a inclusão da informação acerca de como o consumidor deve utilizar o bem de forma a obter o desempenho ambiental esperado e alegado (n.º 3). Estes moldes de comunicação são bastante alargados, provavelmente demasiado. Por outro lado, a Proposta vem também procurar regular as alegações ambientais comparativas, estabelecendo igualmente a forma como estas devem ser comunicadas ao consumidor. Além disso, como não poderia deixar de ser, a Proposta vem apresentar os requisitos que devem ser respeitados para que o profissional possa utilizar um determinado sistema de certificação ambiental. Muito interessante notar que um desses requisitos se prende com a existência de um sistema de reclamações e de resolução de litígios para questões relacionadas com a rotulagem/certificação. Não é menos interessante que a Proposta pareça sugerir que se encete o caminho para a diminuição da proliferação de sistemas de certificação, o que se compreende, considerando os já 230 rótulos disponíveis na UE.

Todas estas propostas são passíveis de contribuir para a promoção de consumidores mais informados e para o desincentivo à implementação de práticas de greenwashing pelo setor empresarial, como é evidente. No entanto, não é tão claro que o resultado da implementação de todas estas propostas venha a refletir-se em consumidores melhor informados, sobretudo se atentarmos na imensa quantidade de informação que deve ser comunicada ao consumidor (também) neste potencial diploma legislativo. Além disso, importa precisar que o caminho atual não se basta com uma estratégia de regulação a estrear do fenómeno. Na verdade, agora, importa justamente também implementar estratégias que devolvam a confiança e a certeza aos consumidores.