Inteligência Artificial

Entrevista a Raquel Brízida Castro

Entrevista, Uncategorized

Em maio de 2026, estivemos à conversa com Raquel Brízida Castro, Vice-Presidente da ANACOM e Professora da Faculdade de Direito da Universidade de Lisboa Europeia. Publica-se agora no blog o conteúdo dessa entrevista.

1. No contexto específico das comunicações eletrónicas, como vê hoje o papel da ANACOM na regulação deste setor? Mais como um promotor de boas práticas através de instrumentos de soft regulation (orientação e sensibilização das operadoras), ou como um garante do cumprimento através de mecanismos formais de enforcement e aplicação de sanções?

O papel da ANACOM e a eficácia da sua intervenção resulta, em boa medida, da sua capacidade de identificar a abordagem devida ou mais ajustada a cada desafio. A ANACOM está vinculada ao princípio da legalidade e que cabe-lhe aplicar a lei, designadamente instaurando processos contraordenacionais caso verifique, fundamentadamente, a existência de uma situação de incumprimento de legislação ou regulamentação que lhe caiba supervisionar. Tal exigência não contende, em princípio, com abordagens pedagógicas (ex.: recomendações) ou a adoção de mecanismos de colaboração com as empresas reguladas. Em alguns casos, a própria lei admite o recurso a mecanismos de soft law previamente à adoção de medidas mais prescritivas.

Assim, dir-se-ia que o papel da ANACOM não se esgotará nem na promoção de mecanismos de soft law, nem na aplicação de mecanismos formais de enforcement, mas envolverá antes uma combinação de ambos.

Reconhecendo este facto, aliás, a ANACOM tem vindo, nos últimos anos, a emitir recomendações, como aquela para que os operadores de comunicações eletrónicas tivessem contenção nos aumentos de preços nos contratos em vigor no contexto da inflação gerada nos anos da pandemia, ou a recomendação aos operadores para que adotassem um conjunto de medidas de mitigação do impacto das tempestades recentes que assolaram o país.

2. Quais são os principais desafios regulatórios que antecipa para os próximos anos no setor das comunicações eletrónicas?

Sem dúvida, na primeira linha, destaca-se o processo de negociação legislativa, a nível europeu, do Digital Networks Act (Regulamento das Redes Digitais), que virá substituir o Código Europeu das Comunicações Eletrónicas. A proposta da Comissão foi publicada em janeiro e o calendário é ambicioso, pretendendo-se a adoção do texto final do regulamento já entre o final de 2026 e o início de 2027. Durante a negociação da proposta será importante acautelar as principais preocupações dos reguladores, incluindo da ANACOM, designadamente assegurando que objetivos de investimento, inovação, autonomia estratégica e promoção da competitividade europeia, que são importantes, não prejudiquem os princípios e direitos fundamentais consagrados, tanto na Carta dos Direitos Fundamentais da União Europeia, como na própria Constituição da República Portuguesa, incluindo no que se refere à proteção dos consumidores ou à promoção da concorrência. Importa realçar que este novo diploma europeu, sendo um regulamento, terá aplicação direta em todos os Estados-Membros, reduzindo a capacidade de intervenção direta das autoridades reguladoras nacionais nos respetivos mercados, bem como dos próprios Estados Membros.

A par disso, será necessário assegurar uma articulação consistente entre o enquadramento das comunicações eletrónicas e um conjunto alargado de outros diplomas que têm pontos de contacto com o sector, designadamente no contexto digital. De facto, a experiência recente aponta para a progressiva convergência entre comunicações eletrónicas, dados e plataformas digitais, pelo que importará assegurar uma intervenção coerente e integrada em todas essas áreas, evitando a fragmentação excessiva do quadro legislativo e regulamentar e procurando equilibrar uma regulação eficaz com incentivos à inovação e investimento. Além do Regulamento dos Mercados Digitais, do Regulamento dos Serviços Digitais, do Regulamento da Inteligência Artificial e dos Regulamentos dos Dados e da Governação de Dados, já, em larga medida, plenamente vigentes, antecipamos que o Digital Fairness Act venha também requerer preocupações particulares de articulação, na medida em que este virá modernizar alguns diplomas de proteção de consumidores cuja aplicação é (no que respeita ao sector das comunicações) supervisionada pela ANACOM (como a Diretiva das Práticas Comerciais Desleais) adequando-as ao contexto digital e aos particulares desafios que este levanta.

A rapidez da evolução tecnológica, tanto das redes e serviços de comunicações eletrónicas como dos ecossistemas aos quais estes permitem aceder, manter-se-á, igualmente, um desafio exigente. Sendo certo que a regulação estará sempre atrás da evolução das realidades que visa disciplinar, é importante assegurar a adoção de regras que, na medida do possível, sejam à prova de futuro, evitando a necessidade de rever o enquadramento legal com demasiada frequência, o que criaria insegurança e incerteza jurídicas, em prejuízo, tando dos agentes económicos regulados, como dos consumidores e demais utilizadores finais. O objetivo será sempre um enquadramento legal suficientemente flexível para poder acomodar a evolução da tecnologia e dos mercados, mas que, ao mesmo tempo, não seja de tal forma genérico que se torne difícil de implementação pelos prestadores de serviços e inaplicável do ponto de vista sancionatório. Uma articulação próxima com as empresas e com as associações de defesa de consumidores de modo a permitir perceber as preocupações e dificuldades de ambas as partes será essencial para uma intervenção regulatória oportuna, equilibrada e eficaz a par da promoção de interação com a academia.

A segurança, resiliência das redes e a cibersegurança continuarão a ser, igualmente, um enorme desafio, com infraestruturas cada vez mais digitalizadas, importando acompanhar de muito perto a eficácia da Diretiva NIS2 e da Diretiva CER e agir, idealmente em articulação próxima com outras entidades nacionais, entidades congéneres e a própria Comissão Europeia, de modo a endereçar prontamente as limitações que se identifiquem. As regras de combate a fraudes em ambiente digital a introduzir pelo Digital Networks Act serão também muito relevantes neste contexto, permitindo enquadrar abordagens preventivas que, até agora, careciam desse enquadramento.

O planeamento e a disponibilização de espectro também terão um relevo particular nos próximos anos, dada a trajetória de aumento do tráfego gerado e cursado nas redes móveis, e a necessidade de identificar e de disponibilizar espectro, que é um recurso finito e disputado por vários serviços, que garanta que essa trajetória é devidamente suportada. A ANACOM está a trabalhar ativamente nos foruns internacionais para encontrar soluções equilibradas e proporcionais que acautelem esta questão.

Por último, mas não menos importante, a sustentabilidade ambiental está cada vez mais na ordem do dia e requer particular atenção, tanto dos legisladores, como dos reguladores. A utilização eficiente dos recursos e a procura da neutralidade carbónica serão cada vez mais princípios norteadores das intervenções legislativas e regulatórias em todos os sectores, incluindo, naturalmente, o das comunicações eletrónicas.

3. Numa entrevista ao programa “Conta Lá Portugal”, a 18-12-2025, referiu que “A inteligência artificial implica uma revisão constitucional e tem um impacto brutal nos direitos fundamentais”. Sendo este um ângulo ainda pouco explorado nas discussões sobre IA, poderia desenvolver melhor a sua perspetiva?

Trata-se de uma preocupação que tenho expressado várias vezes, sobre a qual tenho escrito numa perspetiva científica, na qualidade de constitucionalista e Professora de Direito Constitucional.

Não sendo a IA um “setor” regulatório isolado, importa ter consciência que estamos perante uma tecnologia transversal capaz de reconfigurar condições materiais de exercício de direitos e de funcionamento de instituições públicas. A regulação europeia da IA deve, por isso, ser lida simultaneamente como política pública económica e como instrumento de garantia constitucional, exigindo-se a densificação de mecanismos que assegurem compatibilidade constitucional efetiva com os direitos fundamentais.

Apesar da respetiva essencialidade, o Regulamento IA (RIA ou AI Act) não reveste natureza diretamente constitucional nem reconhece direitos subjetivos diretamente exequíveis, dependendo a sua eficácia jusfundamental da leitura integrada de todos os instrumentos jurídico-constitucionais vinculativos potencialmente aplicáveis, integrante de um bloco multinível de constitucionalidade digital. O RIA estabelece obrigações técnicas e procedimentais, mas não consagra direitos subjetivos diretamente oponíveis ou exercitáveis por si mesmos. Muitas dimensões jusfundamentais surgem apenas de forma implícita ou dependente de futura concretização normativa, por atos delegados, especificações comuns ou eventual legislação de execução nacional, constitucional ou ordinária.

Ainda assim, com maior ou menor concretização, temos defendido que é possível decantar do RIA, eventualmente conjugando com outros instrumentos jurídicos vinculativos, um conjunto mínimo de salvaguardas estruturantes, com evidente relevância jurídico constitucional constitucional: i) o direito à explicabilidade algorítmica; ii) o direito a uma supervisão humana efetiva; iii) o direito a uma decisão humana em domínios materialmente sensíveis, e, correlativamente, o direito à revisão humana de decisões algorítmicas com impacto lesivo relevante nos direitos e interesses constitucionalmente protegidos; iv) o direito à interrupção, suspensão ou desconexão de sistemas de IA que se revelem lesivos dos direitos fundamentais. Algumas destas dimensões fundam-se em direitos pré existentes, outras carecem de uma tarefa mais exigente de densificação normativa, eventualmente, de estalão constitucional.

Neste contexto, temos defendido, por isso, que a próxima revisão constitucional deve ter essa preocupação essencial: construir, no plano normativo, o Pacto Constitucional Digital para a era da Inteligência Artificial. Convém não esquecer que a última revisão ordinária da Constituição portuguesa vigente foi em 2004 e a última extraordinária foi em 2005. Já lá vão, portanto, mais de 20 anos.

4. Na mesma entrevista, afirmou também que “Se não houver uma regulação eficaz [da IA], não haverá forma de salvaguardar os direitos fundamentais.” À luz do papel preponderante da ANACOM na regulação da IA em Portugal, que elementos considera essenciais para garantir uma regulação da inteligência artificial que seja, de facto, eficaz?

Por um lado, a doutrina nota que um dos efeitos jurídicos mais relevantes do RIA é a compressão extrema, nalguns casos mesmo a eliminação, da autonomia legislativa nacional. O Considerando 1 quer evitar que os Estados-Membros imponham restrições ao desenvolvimento, à comercialização e à utilização dos sistemas de IA. Porém, embora ocupe praticamente todo o domínio material relativo aos sistemas de IA, impõe obrigações substantivas apenas ao subconjunto dos sistemas de alto risco. O resultado é uma assimetria invulgar, porque o efeito desregulatório do RIA, alcançado através de uma harmonização máxima, excede largamente o seu alcance regulatório.

Por outro lado, no mosaico institucional da regulação da IA, para além da Comissão Europeia, propriamente dita, o AI Office emerge como ator central e dotado do poder efetivo regulatório, titularizando competências extensas de produção normativa informal, verificação técnica e harmonização procedimental, nos termos dos artigos 50.º, n.º 7, e 56.º, do RIA. O RIA revela-se, assim, um instrumento de centralização da autoridade político-jurídica e de reforço do mercado interno na CE, mais concretamente no AI Office, com um peso político transcendente e um impacto determinante na autonomia político legislativa nacional dos Estados Membros. A criação do AI Office intensifica esta transferência de poder para a esfera administrativa europeia, porquanto assume o papel principal na regulação da IA.

Por sua vez, reiterando as preocupações que tenho publicado como constitucionalista, a jurisdição sobre a IA é transferida para o TJUE, ao qual o cidadão comum praticamente não tem acesso. Assim, a IA não é apenas suscetível de afetar direitos fundamentais substantivos, como também pode comprometer estruturalmente o próprio direito a um recurso efetivo, na medida em que a centralização regulatória e a fragmentação das fontes normativas em matéria de IA agravam o défice do modelo europeu de proteção de direitos fundamentais. O problema constitucional decisivo passa, assim, a ser o seguinte: se a União europeia centraliza a regulação e tecnocratiza a conformidade, mas não densifica de modo simétrico nem os direitos fundamentais, nem os mecanismos processuais de reação, então a tutela dos direitos fundamentais da era algorítmica surge claramente enfraquecida.

As almejadas convergências normativa e regulatória europeias não são, todavia, pacíficas e desencadearão, previsivelmente, reações adversas. A compressão do espaço legislativo nacional é suscetível de gerar fenómenos nacionais de backlash político-constitucional, numa tentativa de recuperação da soberania normativa, margem de decisão e capacidade de defesa de valores constitucionais próprios. Quanto mais ampla se torna a utilização da IA, mais relevantes se tornam as implicações constitucionais do RIA, pelo que é previsível que a respetiva implementação conceba intensas disputas políticas, legislativas e jurisdicionais quanto à delimitação da autoridade regulatória, uma vez que os Estados Membros, mesmo as respetivas entidades subnacionais, dificilmente abdicarão da sua autonomia em pontos jusfundamentais.

5. Ainda sobre Inteligência Artificial: na audição parlamentar de 18-12-2024, mencionou que “Cabe à ANACOM aplicar o que tenho designado por nova constituição ideológica e digital da União Europeia.” Como é que esta ideia se concretiza na prática?

O bloco de constitucionalidade digital multinível integra as Constituições nacionais, a CDFUE, a CEDH e as jurisprudências do TJUE, do TEDH e dos Tribunais nacionais. Uma interpretação constitucionalmente adequada do RIA exige, pelo menos, uma integração hermenêutica multinível, conforme decorre diretamente do artigo 52.º, n.º 3, da CDFUE, da jurisprudência Bosphorus, da doutrina da proteção equivalente e dos princípios estruturantes do constitucionalismo europeu, em especial o princípio da máxima proteção dos direitos fundamentais. A jurisprudência Bosphorus impõe que o RIA seja interpretado de forma sistematicamente integrada com a CDFUE e a CEDH, garantindo-se sempre o nível máximo de proteção jusfundamental disponível. A tutela efetiva dos direitos fundamentais ocorre, precisamente, pelo menos, através deste diálogo normativo entre ordenamentos. Por exemplo, sempre que um sistema de IA de alto risco interfira com o núcleo essencial de direitos protegidos pelos artigos 6.º e 13.º da CEDH, a presunção Bosphorus pode ser afastada, implicando escrutínio reforçado.

Consequentemente, a articulação entre estes instrumentos implica, por exemplo, que as obrigações de transparência, supervisão humana e robustez previstas no RIA sejam lidas como mecanismos de concretização dos direitos fundamentais processuais garantidos pelos artigos 6.º e 13.º, da CEDH, projetando, no contexto algorítmico, a proibição do arbítrio, o direito a um processo equitativo, o princípio da igualdade de armas e a tutela jurisdicional efetiva. De facto, o RIA não substitui as garantias estruturantes do Estado de Direito, mas a classificação de determinados sistemas de IA como “de alto risco”, quando utilizados em domínios como a justiça, a segurança social, a saúde ou a determinação de direitos subjetivos públicos, constitui um reconhecimento implícito de que o núcleo essencial dos direitos processuais e substantivos pode ser gravemente afetado por sistemas dotados de elevada autonomia decisória.

Acresce a fragmentação regulatória internacional: a regulação da IA encontra-se numa fase de produção normativa concorrencial, em que instrumentos de UNESCO, OCDE, UE e Conselho da Europa coexistem com enfoques distintos. Deve, por isso, ser reconduzida ao paradigma do direito internacional dos direitos humanos, com obrigações jurídicas suscetíveis de tutela jurisdicional e mecanismos efetivos de responsabilização.

6. Na mesma audição, referiu ainda que “O regulamento da I.A. confia, a meu ver, demais, na auto certificação e na auto-regulação.” Acha que estamos a confiar mais na máquina e menos no ser humano?

Mais uma vez, na qualidade de constitucionalista e Professora de Direito Constitucional, compete-me notar que a opção por uma regulação do risco, feita pelo legislador europeu, não configura uma solução valorativamente neutra, pois a escolha é entre prevenção e gestão de riscos: (1) pressupõe que uma tecnologia será adotada apesar dos seus danos; (2) tende a tornar invisíveis certos tipos de danos (normalmente, aqueles que são menos facilmente quantificáveis) e determinados indivíduos e populações (tipicamente, indivíduos e populações marginalizados) prejudicados pela IA.

Em contraponto, alguma doutrina propõs, precisamente, o conceito de “unlawfulness by default”, baseado na presunção inversa. Ou seja, nessa proposta doutrinária, haveria um modelo ex-ante, no qual os fornecedores de sistemas de IA teriam o ónus da prova, perante uma autoridade de controlo em sentido estrito, de que a sua tecnologia não é doiscriminatória, manipulativa, injusta ou ilegítima. Sem uma garantia prévia de que o abuso da IA foi devidamente prevenido, os cidadãos não teriam acesso aos sistemas de IA. Na UE, porém, não foi essa a solução adotada.

Com a exceção dos riscos declarados inaceitáveis, descritos no artigo 5.º, a comercialização dos sistemas de IA de risco elevado é, em princípio, autorizada no mercado europeu, estando os sistemas sujeitos ao cumprimento de determinados requisitos obrigatórios e a uma avaliação da conformidade ex ante, que não é feita, porém, por uma autoridade de controlo em sentido estrito. Os fornecedores de sistemas de IA que não são de risco elevado, por sua vez, podem criar e aplicar autonomamente códigos de conduta, não estando sujeitos a requisitos obrigatórios.

7. Considera que o quadro atual de proteção do consumidor está a acompanhar a velocidade da transformação digital, ou já existe um desfasamento?

O quadro de proteção do consumidor tem procurado acompanhar essa transformação, mas muito haverá ainda por fazer. O Digital Fairness Act, já referido, será um passo importante nesta matéria, tendo como objetivo modernizar a legislação de proteção do consumidor, adaptando-a à economia digital. Este regulamento preverá, ao que tudo indica, regras sobre dark patterns, marketing de influência e design viciante, com especial enfoque na proteção de menores, que tem merecido, e bem, atenção particular do legislador europeu. A proposta da Comissão é esperada no 4.º trimestre deste ano.

Importa olhar para as mudanças de paradigma que o ecossistema digital introduziu na forma como os cidadãos consomem bens e serviços, designadamente no facto de se ter passado de uma economia de consumo baseada em dinheiro para uma economia sustentada em transações de dados pessoais e, mais recentemente, para a monetização, pelas grandes plataformas digitais, da atenção do consumidor, com táticas destinadas a manter essa atenção, mesmo que com recurso a design manipulador e viciante, levando o consumidor a despender tempo que, de outro modo, talvez tivesse optado por não despender.

Importa, assim, que o enquadramento legal passe a considerar o impacto dos enviesamentos comportamentais no processo de tomada de decisão dos consumidores/utilizadores finais, promovendo não só a mitigação de práticas abusivas que conduzem ao sobreconsumo e à despesa excessiva, como também a minimização de disponibilização de dados pessoais para fins que não são claros ou para os quais os dados não são necessários, bem como o tempo gasto inadvertidamente em redes sociais, com prejuízo direto para o consumidor, a vários níveis (incluindo a sua saúde mental), em benefício das plataformas em linha que monetizam a sua atenção. Atento o contexto em concreto, poderão justificar se medidas, tanto de literacia dos consumidores, que conduzam ao seu empoderamento, como de disciplina das práticas das empresas.

Concretamente no que respeita ao crescimento de plataformas e serviços de inteligência artificial de utilização generalizada, o enquadramento vigente em matéria de proteção dos consumidores/utilizadores destes serviços é, nesta fase, claramente insuficiente. O Regulamento da Inteligência Artificial não estabelece direitos concretos para estes utilizadores, focando-se antes no estabelecimento de obrigações para prestadores/developers, responsáveis pela implantação (deployers), que, serão, sobretudo, utilizadores profissionais, e importadores, em função do nível de risco dos serviços que desenvolvem, utilizam ou importam. Há, assim, um longo caminho a percorrer na proteção de consumidores no âmbito da utilização da inteligência artificial, considerando, não apenas o impacto direto da utilização destas ferramentas nos consumidores, mas também os impactos indiretos, designadamente na capacidade do consumidor selecionar autonomamente a informação que consome, no incentivo à produção de conteúdos a disponibilizar na Internet e, consequentemente, na pluralidade dos conteúdos e das fontes de informação disponíveis.

Em matéria de proteção de menores, destacaríamos as iniciativas, incluindo a portuguesa, relacionadas com a limitação do acesso a determinados serviços digitais a utilizadores a partir de uma determinada idade (16 anos ou 13, com autorização parental, na proposta portuguesa, que está alinhada com as mais recentes recomendações do Parlamento Europeu nesta matéria). Estas medidas, tendo um propósito muito meritório relacionado com a proteção de menores, face às conclusões de sucessivos estudos que têm documentado os vastos efeitos negativos de alguns serviços digitais no desenvolvimento e na saúde mental das crianças e jovens, pressupõem também a limitação de direitos e liberdades fundamentais, como o direito ao desenvolvimento da personalidade, a liberdade de expressão e informação e de criação cultural, pelo que a sua adoção deverá ser devidamente ponderada de forma a que se alcancem soluções efetivamente proporcionais.

Ainda sobre a proteção de menores, o sharenting (as práticas de pais ou cuidadores que publicam fotos, vídeos ou outras informações pessoais sobre os seus filhos menores nas redes sociais ou em plataformas online) tem vindo também a merecer atenção cada vez maior e justifica, sobretudo, discussão alargada, desde logo pela sociedade civil, em particular num contexto de crescimento exponencial de plataformas de inteligência artificial que podem trazer perigos acrescidos, designadamente na capacidade de análise dos conteúdos partilhados para identificação da localização dos menores ou da sua manipulação para criação de conteúdos ilícitos.

8. Na sua opinião, quais são os pilares essenciais de uma estratégia eficaz de literacia de consumo no contexto digital?

O contexto digital traz inegáveis vantagens do ponto de vista da difusão de informação e da capacidade de entidades públicas chegarem a um universo muito mais alargado de destinatários. Por outro lado, traz também enormes desafios que nos são, nesta altura, já muito familiares, como a proliferação de desinformação e a dificuldade dos consumidores em distinguirem fontes de informação fidedignas de fontes não fidedignas. Assim, o primeiro pilar de uma estratégia eficaz de literacia de consumo assentará na capacitação dos consumidores para fazerem autonomamente esta distinção.

Em segundo lugar, não basta disponibilizar informação: é necessário assegurar que esta é compreensível, relevante e facilmente comparável, permitindo decisões informadas. Importa, assim, reconhecer os limites da racionalidade do consumidor e incorporar princípios de economia comportamental. Os consumidores enfrentam, sobretudo em contexto digital, sobrecarga de informação, enviesamentos cognitivos e dificuldades na avaliação das condições dos diversos produtos e serviços digitais, sobretudo quando são longas e/ ou mais complexas. Uma estratégia eficaz deve, por isso, incluir mecanismos de simplificação e promoção de arquiteturas de escolha que não potenciem enviesamentos e que se promovam escolhas conscientes e adequadas para o consumidor.

Por outro lado, importa modernizar a capacidade de comunicar das entidades públicas, abandonando-se uma linguagem mais complexa e burocrática em favor de uma linguagem mais simples que facilite a apreensão da mensagem pelos destinatários, ainda que, naturalmente, sem prejudicar o respetivo rigor. A forma como os consumidores consomem informação é também relevante, as novas gerações, por exemplo, consomem informação sobretudo através das redes sociais e, destro dessas, concentrando-se em larga medida em redes específicas, como o Tiktok, além de consumirem sobretudo conteúdos de duração muito curta. Ajustar a linguagem, o conteúdo e o meio de o difundir ao público-alvo será, por isso, essencial.

Por último, uma estratégia eficaz de literacia de consumo no contexto digital deve assentar numa abordagem baseada em evidência e avaliação contínua. A definição de políticas de literacia deve ser informada por dados empíricos sobre o comportamento dos consumidores, incluindo testes de compreensão da informação e análise de resultados específicos (por exemplo, efeitos na mudança de empresa/ prestador de serviços, redução de litígios ou melhoria na adequação das escolhas).

Entrevista a Susana Antas Videira

Entrevista

Em dezembro de 2025, estivemos à conversa com Susana Antas Videira, Diretora-Geral da Política de Justiça e Professora da Faculdade de Direito da Universidade de Lisboa e da Universidade Europeia. Publica-se agora no blog o conteúdo dessa entrevista.

1. Os meios de resolução alternativa de litígios (RAL) têm vindo a assumir um papel cada vez mais relevante nas políticas públicas de justiça, incluindo no domínio do Direito do Consumo. Que balanço faz da evolução destes mecanismos em Portugal? Que medidas estão a ser desenvolvidas para reforçar a sua eficácia, a divulgação destes meios junto dos cidadãos e a sua proximidade ao público?

A responsabilidade e compromisso da DGPJ para com os designados meios RAL são profundos. A DGPJ é responsável, nos termos da respetiva lei orgânica, por apoiar a criação e a operacionalização de procedimentos de RAL, designadamente a mediação, a conciliação e a arbitragem, mas também por promover a criação e apoiar o funcionamento de “entidades de RAL”, como os centros de arbitragem, julgados de paz e sistemas de mediação.

Em alguns casos, cabe-lhe mesmo assegurar diretamente a gestão e disponibilização dos meios RAL junto dos seus potenciais utilizadores, como sucede com os sistemas públicos de mediação (Sistema de Mediação Familiar, Sistema de Mediação Laboral, Sistema de Mediação Penal, Serviços de Mediação junto dos julgados de paz e SISPACSE, um serviço público de conciliação vocacionado para o apoio aos devedores sobreendividados).

A DGPJ assegura, ainda, o apoio ao funcionamento de determinadas entidades de RAL, como sucede com os centros de arbitragem apoiados, ou com os julgados de paz.

Com efeito, o Ministério da Justiça, através da DGPJ, apoia, técnica e, ou financeiramente, alguns Centros de Arbitragem, o que releva do reconhecimento da função que prosseguem e do serviço que prestam, em áreas de sensível importância social e dado o interesse público prosseguido. Tal é o caso, designadamente, dos centros de arbitragem que integram a rede de arbitragem de consumo.

Avaliamos de forma muito positiva o percurso evolutivo dos centros de arbitragem de conflitos de consumo portugueses. A relevância do seu papel na entrega efetiva e eficaz da resposta de justiça é evidente e a perceção dos respetivos utilizadores confirma-o.

Com efeito e de acordo com a mais recente (12.ª) edição do Relatório de Acompanhamento dos meios de Resolução Alternativa de Litígios (meios RAL), que analisa a satisfação dos utentes com o funcionamento de três Meios de Resolução Alternativa de Litígios, entre os quais os centros de arbitragem, quase 96% dos utilizadores revelam-se “muito satisfeitos” com estes meios e manifestam intenção de voltar a recorrer aos mesmos, em caso de necessidade.

De resto, a rede de arbitragem de consumo, tal como hoje a conhecemos, é resultado de uma evolução sólida e sustentada, que conta com o apoio inequívoco do Ministério da Justiça, e também do Ministério da Economia.

Tenhamos em presença que as mais remotas estatísticas da justiça relativamente à atividade destas entidades remonta ao ano de 1996. No ano em referência, encontravam-se em funcionamento apenas 3 centros de arbitragem (sediados em Lisboa, Coimbra e Porto) que trataram um total de 2897 processos de reclamação.

Reportando-nos à atualidade e tomando por referência o ano de 2024, contamos com uma autêntica rede de arbitragem de consumo, dotada de cobertura nacional, tendo tratado 9382
processos de reclamação.

Porém – e isto é muito importante – ainda que o número de processos de reclamação tratados tenha mais do que triplicado, no período analisado, há um outro tipo de atividade desenvolvida por estas entidades de crucial importância para os consumidores e que respeita ao serviço de informação especializada também disponibilizado: Em 2024 o número de pedidos de informação tratados pelos referidos centros de arbitragem foi de 13553.

Há, por outro lado, um dado muito relevante que não podemos ignorar: contrariando o que preconiza o conhecido adágio popular, somos conscientes de que uma resposta de justiça tardia poderá resultar comprometida no seu essencial propósito, razão pela qual a celeridade na resolução dos conflitos é um capital inequívoco. Ora os centros de arbitragem de conflitos de consumo apresentam resultados ímpares no quadro das respostas de justiça: No ano de 2024, o tempo médio de resolução dos conflitos foi de apenas 2 meses.

Devemos também notar, com particular interesse, que, no ano em referência, mais de metade dos processos resolvidos pelos centros de arbitragem (cerca de 53%) foram dirimidos por acordo entre os envolvidos, com recurso ao procedimento de mediação – o que confirma a vocação pacificadora destas entidades. E esta nota tem uma relevância assinalável: resolver um conflito de consumo por acordo não é apenas de evidente valor para o consumidor, como também o é para o vendedor ou prestador de serviços, porquanto é elevada a probabilidade de preservação da satisfação do cliente e a manutenção de uma relação entre ambos.

Estes dados de que falamos são objetivos – resultam não só do Relatório anual de Acompanhamento dos meios de Resolução Alternativa de Litígios (meios RAL), bem como do relatório anual de avaliação da rede de arbitragem de consumo que a DGPJ prepara e também se empenha na sua publicitação, na medida em que tal integra ainda a política de promoção deste tipo de entidades e da valiosa atividade que desenvolvem.

Mas é claro que a monitorização atenta da atividade destas entidades também nos alerta para os desafios que enfrentam, o maior dos quais, de forma lapidar identificaria precisamente como “divulgação/ conhecimento”.

A este propósito cabe notar que o Ministério da Justiça, através da DGPJ, tem desenvolvido umintenso esforço de divulgação e promoção dos meios RAL, naturalmente abrangendo também os centros de arbitragem de conflitos de consumo:

1) Junto dos profissionais com especiais responsabilidades no aconselhamento e, ou encaminhamento para este tipo de respostas – designadamente magistrados, advogados e solicitadores e

2) Junto do grande público, posto que todos, todos mesmo, são potenciais beneficiários dos meios RAL.

Destaco dois exemplos recentes sobre este tipo de iniciativas: as sessões de divulgação dos meios RAL desenvolvidas em colaboração com o Hub Justiça nos passados dias 8 de abril e 6 de maio de 2025.

Estas iniciativas tiveram o propósito muito especial de levar os meios RAL ao conhecimento do cidadão comum, de forma “descomplicada” ou amigável. Para o efeito, pudemos contar não só com o saber, mas também com a sensibilidade de profissionais especializados em RAL, mas também com os testemunhos de utilizadores reais destes meios. Em concreto e no que aos centros de arbitragem de conflitos respeita, contámos com a intervenção de um árbitro de conflitos de consumo, em formato de conversa, mas também com o testemunho direto de um utilizador de centro de arbitragem de conflitos de consumo.

Estes eventos foram gravados e encontram-se disponíveis para visualização por qualquer interessado no canal Youtube.

Paralelamente, estamos a desenvolver uma campanha de comunicação para os meios RAL, tendo o grande público como alvo.

São vários os meios de comunicação envolvidos na campanha: TV (canais televisivos generalistas – RTP 1, SIC e TVI e canais de cabo com maior aceitação nacional), Rádio, Imprensa regional e local, meios “out of home” (mupis e transportes públicos) e Meios Digitais.

Esta campanha de comunicação encontra-se atualmente e desde 15 de setembro de 2025, em implementação.

Os seus efeitos já se fazem sentir, designadamente através do crescimento exponencial das pesquisas de informação especializada sobre os meios RAL, junto do site meiosral.justica.gov.pt (da responsabilidade da DGPJ). Com efeito, esse número tem vindo a crescer de forma consistente tendo sido superado em mais de 3 vezes relativamente ao passado mês de agosto.

Paralelamente, é já possível assistir a um ligeiro crescimento das iniciativas de procura concreta. Na rede de arbitragem de consumo, aferimos, no final de novembro, um aumento da procura, relativamente ao período anual transato2, na ordem dos 18%.

Gostaria ainda de aludir a uma outra medida muito relevante do ponto de vista do robustecimento e consolidação do papel desempenhado pelos centros de arbitragem no contexto da rede de arbitragem de consumo e que respeita à revisão do respetivo regulamento harmonizado. A DGPJ e a DGC aprovaram recentemente a nova versão (revista) do regulamento harmonizado em vigor para os centros de arbitragem de conflitos de consumo, o que permitirá eliminar algumas dissonâncias que ainda persistiam e que não contribuem para a perceção destas entidades como integrantes de uma verdadeira rede, o que se impõe. O objetivo é garantir que qualquer consumidor, independentemente da sua radicação territorial no país, possa beneficiar de um mesmo serviço, com ampla abrangência material e em razão do valor, que lhe garanta informação especializada e a efetiva resolução dos conflitos em que se veja envolvido.

Esta nova versão do regulamento harmonizado entrará em vigor no início do próximo ano de 2026.

2. A transformação digital é uma das prioridades da política de justiça. No contexto do Direito do Consumo, de que forma a DGPJ está a acompanhar ou a integrar projetos que envolvam a utilização de inteligência artificial — seja na prevenção de litígios, na gestão de reclamações ou na melhoria do acesso à justiça por parte dos consumidores?

No contexto do PRR, a DGPJ tem vindo a desenvolver iniciativas relevantes no âmbito dos processos de transformação digital em curso, e tem promovido por essa via a utilização de Inteligência artificial em algumas plataformas em Desenvolvimento. A título meramente elucidativo refiro que a DGPJ coordena o desenvolvimento do projeto “Plataforma de Gestão de Templates”, focada na otimização da construção e gestão de modelos de documentos, com apoio de Inteligência Artificial, usados pelos diversos organismos e sistemas de informação da área da justiça, para comunicar com os cidadãos e com as empresas. Encontra-se ainda em processo de desenvolvimento e especificação.

A DGPJ está, ainda, a integrar inteligência artificial no contexto do Direito do Consumo através do projeto Guia Prático de Acesso à Justiça (GPJ), desenvolvido no âmbito do PRR. Este projeto consiste numa ferramenta digital que facilita a interação dos cidadãos com a Justiça, respondendo a questões sobre o Casamento, Divórcio, Empresas 2.0, Registo Criminal Online e funcionamento dos Julgados de Paz, dos Sistemas de Mediação Familiar e Laboral e dos Centros de Arbitragem (Meios RAL), em tempo real e num formato de conversação cuja linguagem é facilmente compreendida por todos.

O GPJ foi lançado em fevereiro de 2023 a título experimental, e em março de 2024, recebeu a nova versão, baseada no modelo de linguagem GPT 4.0.

O GPJ está agora em fase de desenvolvimento da nova solução GPJ 2.0, um projeto coordenado pela DGPJ, tendo como objetivo a interação com o cidadão através de linguagem natural, sem necessidade de recolha de dados pessoais dos utilizadores, para responder aos cerca de 200 serviços digitais disponibilizados pelo MJ no portal justica.gov.pt.

A nova versão do GPJ disponibiliza, para além de um mecanismo de recolha de feedback das respostas, a possibilidade de, após autenticação com CMD, o cidadão poder guardar todo o seu histórico de interação com o GPJ, bem como, agilizar a utilização de outros serviços do MJ.

O objetivo é o de reforçar a aprendizagem e o controlo humano, promovendo a melhoria continua desta ferramenta. Todas as respostas são elaboradas tendo em conta a informação existente na Plataforma Digital da Justiça, que é a organizada e apresentada ao utilizador pelo GPJ de uma forma simples e concisa.

3. A literacia jurídica e o acesso à informação continuam a ser determinantes para o exercício efetivo dos direitos dos consumidores. Que iniciativas tem a DGPJ em curso — ou prevê desenvolver — para promover uma maior literacia jurídica do consumo, nomeadamente através da digitalização e da cooperação com entidades públicas e centros de arbitragem de consumo?

A aposta na divulgação dos meios e entidades de RAL, entre os quais os centros de arbitragem de conflitos de consumo, é uma prioridade para a DGPJ, como já antes deixei expresso. Prosseguiremos com iniciativas de divulgação dos meios RAL, com largo espectro, ainda que a disponibilidade orçamental não permita manter todos os recursos até aqui utilizados, designadamente o recurso contratado a canais televisivos.

Essa, aliás, mais uma razão para persistirmos na divulgação com recurso a outros meios, designadamente os canais digitais, mas também diversificarmos as iniciativas, designadamente com recurso a ações de divulgação também descentralizadas, com recurso à colaboração dos nossos parceiros municipais e ordens profissionais da área da justiça, as universidades e os centros de investigação, etc.

No que respeita à conflitualidade do consumo, temos projetada uma ação de divulgação especificamente dirigida ao tema, a ter lugar no próximo ano e que em que contamos beneficiar naturalmente do envolvimento próximo dos centros de arbitragem de conflitos de consumo apoiados, bem como da Academia.

De resto, reputamos o envolvimento da Academia um dos vetores centrais numa estratégia de divulgação a longo prazo – municiar os estudantes desse conhecimento especializado resulta-nos fundamental.

4. Numa entrevista concedida ao podcast do CAAD, no passado mês de outubro, referiu que “a tecnologia abre hoje inúmeras oportunidades e pode unir aquilo que porventura está disperso”, apontando como “ideia interessante” a da criação de um “ecossistema digital para a justiça”. Em que consistiria oncretamente esta iniciativa e que impacto poderia ter no âmbito do Direito do Consumo e da resolução de litígios?

Um “ecossistema digital centrado no cidadão” para a justiça do consumo significa criar uma porta única de entrada online onde o consumidor encontra, num painel simples, todas as suas reclamações, processos, notificações e prazos.

Em vez de ter de perceber sozinho se deve ir a um regulador, a um centro de arbitragem, a um Julgado de Paz ou a tribunal, responde a algumas perguntas básicas e o sistema encaminha‑o, em linguagem clara, para o meio mais adequado, explicando custos, vantagens e limitações.

Este front‑office exige, naturalmente, um back‑office interligado, com interoperabilidade entre tribunais, centros de arbitragem, Julgados de Paz, reguladores e plataformas de reclamações, sustentado por uma infraestrutura comum de dados. A informação estatística transforma‑se em entendimento: reclamações, tempos de resolução, resultados e setores mais problemáticos são consolidados num Data Lake da justiça, permitindo decisões regulatórias e legislativas baseadas em evidências e a criação de indicadores por setor e empresa, com fortes incentivos reputacionais.

Um módulo central seria uma plataforma pública de resolução de litígios online (ODR) para consumo. O consumidor submete o litígio através de formulário guiado, com anexação de documentos e explicações simples. Tenta‑se primeiro a solução direta com o profissional, dentro da própria plataforma; se falhar, o caso segue, já organizado, para mediação ou arbitragem competente e, apenas em último recurso, para tribunal, aproveitando todo o histórico.

A inteligência artificial funciona aqui como apoio, nunca como substituto do decisor humano. Pode ajudar a traduzir jargão jurídico, orientar os primeiros passos, identificar litígios repetitivos ou práticas potencialmente abusivas e apoiar a pesquisa de decisões anteriores, garantindo sempre transparência, a auditabilidade e o respeito pelas garantias processuais.

Os impactos seriam profundos: menos deslocações, menos custos, menos dúvidas sobre “para onde ir”, procedimentos simplificados e maior literacia jurídica. Isto é decisivo para litígios de pequeno valor, em que muitos consumidores hoje desistem de fazer valer os seus direitos. Ao mesmo tempo, procedimentos simplificados, audiências por videoconferência, notificações eletrónicas claras e o recurso à mediação e arbitragem reforçam uma verdadeira justiça de proximidade.

Este modelo exige cuidar da inclusão digital (balcões assistidos, linhas de apoio, interfaces acessíveis) e de uma governação clara entre Ministério da Justiça, reguladores, centros de arbitragem, ordens profissionais e associações de consumidores, com atenção constante à proteção de dados e à ética no uso da Inteligência Artificial.

Em síntese, trata‑se de usar a tecnologia para unir o que está disperso, devolvendo tempo, confiança e dignidade às pessoas para quem o sistema de justiça existe.

A Transparência de Conteúdos Gerados por AI e Chatbots (Parte 2): Artigo 50.º do Regulamento de Inteligência Artificial (AI Act)

Doutrina

O Regulamento (EU) 2024/1689 (AI Act) é o principal diploma europeu que regula a disponibilização de sistemas de AI no mercado e a sua utilização. O regulamento segue uma abordagem baseada no risco, classificando os sistemas (e modelos de finalidade geral) de AI em diferentes categorias de risco, sendo que uma destas abrange precisamente os sistemas de AI que apresentem riscos de transparência, sujeitando-os às obrigações previstas no artigo 50.º do AI Act.

Conforme referem os considerandos 132 a 136, o objetivo é precisamente reduzir os riscos de personificação, engano, desinformação, manipulação em escala e fraude, bem como mitigar os potenciais impactos adversos nos processos democráticos e na confiança social.

O artigo 50.º é especialmente relevante pois avizinha-se a sua entrada em aplicação, a 2 de agosto. Com a exceção do art. 50.º-2, cuja aplicação foi adiada para o dezembro deste ano, com a aprovação (pelo Conselho e pelo Parlamento Europeu) e publicação (em breve) do AI Omnibus.

Para preparar a sua aplicação, a Comissão Europeia publicou Orientações sobre a implementação destas obrigações, além de ter promovido e adotado um Código de Conduta voluntário (este apenas sobre o 50.º-2 e 4).

O artigo 50.º do AI Act tem 4 obrigações distintas, sendo que as distribui por dois tipos de atores: os prestadores de sistemas (providers¸ isto é, quem desenvolve e coloca os sistemas de AI no mercado) e os responsáveis pela sua implantação (deployers, aqueles que utilizam os sistemas de AI).

As obrigações são as seguintes:

1. Artigo 50.º, n.º 1: Transparência para sistemas de AI interativos

A primeira obrigação dirige-se aos prestadores de sistemas de AI destinados a interagir diretamente com pessoas singulares. Estes devem garantir que as pessoas singulares em causa são informadas de que estão a interagir com um sistema de AI, de forma clara e distinguível, o mais tardar no momento da primeira interação, considerando também as características das pessoas pertencentes a grupos vulneráveis.

Chatbots de serviço ao cliente, assistentes de voz, agentes de AI, robôs humanoides, companheiros de AI e avatares de AI em ambientes de realidade virtual, devem assim cumprir com esta obrigação, recorrendo às técnicas que mais se adequarem ao meio em causa, seja com notificações escritas, meios visuais e ou auditivos, e identificadores de AI.

Como exemplos de conformidade com esta obrigação, temos as saudações iniciais de vários chatbots que lembram os utilizadores da sua natureza e (algumas) limitações. Em atendedores de chamadas (por exemplo, no apoio ao cliente), o sistema deverá identificar-se não só início da chamada, mas periodicamente relembrar a sua natureza, especialmente com a maior duração da chamada.

No caso específico dos agentes de AI, quando sejam capazes de interagir com pessoas singulares na execução de tarefas (por exemplo, fazer reservas, gerir correspondência, negociar contratos, executar compras), estes devem revelar a sua natureza artificial e a pessoa em nome de quem atuam, incluindo em arquiteturas multi-agente (quando interagem com outros agentes, que podem atuar em nome de outras pessoas e entidades). Quando o prestador não consegue determinar previamente se haverá interação direta com pessoas singulares, o agente deve ser concebido para se identificar como tal sempre que seja razoavelmente provável que esse tipo de interação ocorra, especialmente em momentos-chave (pedidos de autorização, fornecimento de relatórios de ações executadas, validação de decisões) e a cada nova interação.

Existem duas exceções expressas:

i. Caso seja óbvio do ponto de vista de uma pessoa singular razoavelmente bem informada, atenta e advertida (aqui o standard deve ser interpretado em linha com a figura do consumidor médio do Direito do Consumo), tendo em conta as circunstâncias e o contexto de utilização (como exemplo, chatbots em ferramentas de programação (IDEs como o Visual Studio Code) e NPCs em videojogos);

ii. Autorizado por lei para detetar, prevenir, investigar ou perseguir infrações penais, salvo se o sistema estiver disponível ao público para denunciar infrações (esta exceção aplica-se a todas as obrigações).

2. Artigo 50.º, n.º 2: Marcação e deteção de conteúdos sintéticos

Os prestadores de sistemas de AI que geram ou manipulam conteúdo sintético em áudio, imagem, vídeo ou texto, incluindo sistemas de AI de finalidade geral são obrigados a assegurar que os outputs são marcados num formato legível por máquina e detetáveis como artificialmente gerados ou manipulados, devendo fornecer os meios correspondentes de deteção.

Os prestadores vão ter de assegurar que as suas soluções técnicas são eficazes, interoperáveis, robustas e fiáveis, na medida em que tal seja tecnicamente viável, atendendo as especificidades e limitações dos vários tipos de conteúdo (excertos curtos de texto são praticamente impossíveis de detetar de forma viável), os custos de implementação e o estado da arte destas tecnologias e técnicas.

Atualmente muitos sistemas no mercado limitam-se a colocar watermarks simples (tipicamente apenas o nome da ferramenta) colocadas no canto de imagens, que podem ser facilmente cortadas/editadas para não serem visíveis ou detetáveis com ferramentas especializadas.

Esta é a obrigação mais difícil de operacionalizar, cujo cumprimento foi diferido para dezembro pelo AI Omnibus, existindo um grande debate sobre quais as melhores técnicas a considerar (como inserção de metadados no conteúdo gerado e a aplicação de watermarks avançadas), como foi observável no procedimento público de preparação do Código de Conduta e consta da sua versão final.

O estado-da-arte desta tecnologia está em constante evolução (como exemplo, ver o caso do SynthID da Google), entre sistemas de marcação e deteção de AI e formas de contornar a deteção/expurgar a assinatura. No caso de textos, a questão da fiabilidade destes sistemas é ainda mais problemática, não só devido a falsos-negativos, mas também falsos-positivos (engraçado quando acusa a Declaração de Independência de ter sido gerada com AI, altamente problemático no contexto do ensino, especialmente em universidades, onde as falsas acusações são endémicas e altamente danosas, pondo em causa a conduta académica de alunos, investigadores, professores).

Esta obrigação não se aplica quando os sistemas desempenhem uma função de mera assistência para edição e quando não alterem substancialmente os dados introduzidos.

3. Artigo 50.º, n.º 3: Sistemas de reconhecimento de emoções e categorização biométrica

Para este tipo de sistemas de alto-risco (conforme o art. 6.º e o anexo III.1), aplica-se uma obrigação similar aos chatbots, porém direcionada aos responsáveis pela implantação. Estes devem informar as pessoas singulares expostas a estes sistemas e tratar os seus dados pessoais em conformidade com o direito da UE em matéria de proteção de dados, incluindo o RGPD.

A forma como as pessoas devem ser informadas vai depender muito dos destinatários, do contexto e do local de implantação.

Por exemplo, um pop-up a indicar a captação do rosto para identificar as emoções será adequado no caso de videojogos de terror e outras experiências interativas. Caso o sistema esteja instalado num espaço, é possível cumprir este dever através de sinalética adequada na entrada do espaço, seguindo uma lógica similar (mas mais reforçada por ser substancialmente mais intrusiva) à videovigilância.

4. Artigo 50.º, n.º 4: Rotulagem de deep fakes e de textos publicados sobre assuntos de interesse público

Esta obrigação aplica-se aos responsáveis pela implantação e divide-se em duas vertentes.

Na primeira vertente, os responsáveis pela implantação são obrigados a “rotular” os deep fakes (em português, “falsificações profundas”) que produzirem, antes de os divulgarem.

Isto significa que os conteúdos de imagem, áudio ou vídeo (não inclui texto) gerados ou manipulados por AI que apresentem semelhanças com/representem pessoas, objetos, entidades, locais, ou acontecimentos reais, de tal forma que possam induzir pessoas em erro quanto à sua autenticidade ou veracidade, devem ser devidamente rotulados, podendo recorrer aos ícones fornecidos pela Comissão Europeia, preparados no âmbito do Código de Prática.

Os ícones são os seguintes (adaptáveis para diferentes fundos/cores/contexto):

Caso os conteúdos façam parte de uma obra compósita, de natureza artística, criativa, satírica, ficcional ou análoga, esta obrigação de transparência é adaptada, não sendo necessário que os ícones apareçam no momento exato do conteúdo gerado/modificado por AI. Assim, no caso de filmes, videojogos, etc., a obrigação de transparência pode ser feita no início e no fim, não tendo de prejudicar “a exibição ou a fruição da obra”.

Dado que a definição de deep fake do AI Act é particularmente exigente (é necessário que seja uma representação falsa de elementos reais, que aparenta ser autêntica para o destinatário médio[1]), isto significa que nem todos os conteúdos vão ter de passar a ter estes ícones, mesmo quando não seja óbvio que foram gerados por AI.

Embora próxima do art. 35.º-1-k) do DSA, estas obrigações não são idênticas. A medida do DSA tem um escopo material maior (não requer a utilização de AI) mas um escopo subjetivo substancialmente muito mais reduzido (só se aplica a VLOP e VLOSE, enquanto o art. 50.º-4 do AI Act se aplica a todos os deployers).

A segunda vertente é referente a um tipo de comunicações em texto, de aplicação mais restrita. Entidades (públicas e privadas) que publiquem comunicados ou outros textos sobre temas e questões de interesse público, com o objetivo de informar o público geral, devem assinalar caso o texto tenha sido artificialmente gerado ou manipulado. No entanto, caso os conteúdos tenham sido revistos num processo de análise humana, e que alguém (seja uma pessoa coletiva ou singular) assuma a responsabilidade editorial, deixa de ser necessário este “disclosure”.

Art. 50.º n.º 5 – Requisitos comuns a todas as obrigações de transparência

Existem dois requisitos comuns a todos estes deveres:

i. a informação deve ser transmitida de forma clara e percetível, devendo ser transmitida “o mais tardar” no momento da primeira exposição (ao chatbot/conteúdos gerados/sistemas de reconhecimento de emoções ou categorização biométrica), com avisos regulares em casos de exposição prolongada. Os avisos/ícones/rótulos têm de ser fáceis de identificar, não se podem confundir no ambiente nem com outros avisos, nem estar escondidos ou disfarçados (num menu pouco visível, por trás de várias opções);

ii. e, em conformidade com requisitos aplicáveis de acessibilidade, isto é, de percetibilidade, operabilidade, compreensibilidade e robustez, previstos na Diretiva (UE) 2016/2102 relativa à acessibilidade dos sítios web e das aplicações móveis de organismos do setor público e na Diretiva (UE) 2019/882 relativa aos requisitos de acessibilidade dos produtos e serviços.

Conclusão

O vídeo de Haaland referido no início do primeiro texto? Sim, era AI. Este é o vídeo verdadeiro, de um comediante chinês. Depois de 2 de agosto de 2026, se o vídeo com o “AI-Haaland” for novamente publicado pelo seu autor, o vídeo terá de incluir a rotulagem adequada, podendo recorrer aos ícones fornecidos pela Comissão Europeia.

Como analisado, as obrigações do art. 50.º do AI Act não são uma bala de prata que resolve todos os problemas e riscos de transparência dos conteúdos gerados e na interação com sistemas de AI.

Quanto aos chatbots (seja no atendimento telefónico/resposta a emails/chatbots integrados na interface), o AI Act assegura que haja um nível mínimo de transparência quanto à natureza do canal de comunicação, mas por si só não resolve a comum frustração de não conseguir/ser difícil chegar a um interlocutor humano.

Recentemente foi apresentada uma proposta visando a consagração do “direito ao interlocutor humano”, no Projeto de Lei 639/XVII/1 (PS), que propõe alterar a Lei de Defesa do Consumidor para que os consumidores possam diretamente requerer este tipo de interlocutor. Assim, o atendimento automatizado só pode ser um complemento, não podendo ser utilizado para “excluir, restringir, dificultar ou atrasar injustificadamente o acesso do consumidor a interlocutor humano”. Esta iniciativa ainda não foi à 1ª votação geral no plenário, pelo que ainda não é conhecido se terá sucesso.

Quanto à rotulagem/etiquetagem “Made by AI”, o conceito de deep fake não se aplica a todos os conteúdos gerados por AI, apenas os que representem falsamente elementos reais de tal forma que possam parecer autênticos. Assim, considerando estritamente o AI Act, isto não implica a aplicação transversal dos ícones para que os consumidores possam ser devidamente informados quanto à “verdadeira origem” de conteúdos e serviços digitais.

Finalmente, a fiscalização destas obrigações, em especial a “rotulagem”/marcação de deep fakes, será um grande desafio prático de proporções homéricas que irá requerer muita cooperação entre autoridades de diferentes sectores e jurisdições

[1] Atendendo a potenciais audiências mais suscetíveis, como crianças e pessoas mais velhas com índices mais baixos de literacia de AI.

Transparência de Conteúdos Gerados por AI e Chatbots (Parte 1): Informação Material para os Consumidores

Doutrina

Um curto vídeo de Haaland, o “grande” ponta-de-lança norueguês, a assustar-se com o seu próprio reflexo enquanto come num restaurante pode suscitar várias reações: risos, admiração e, claro, paranoia. Paranoia, como assim? Simples: “espera aí, será que isto é AI?”.

Estamos em julho de 2026 e as capacidades de geração de imagem, vídeo e áudio dos sistemas de inteligência artificial (AI) estão a atingir níveis de sofisticação e qualidade que começam a enganar até quem tenta estar mais atento. Um número crescente de pessoas consome e partilha “AI slop” mais ou menos inconscientemente, desde conteúdos “inofensivos” a deep fakes realistas que procuram ativamente distorcer a opinião (política, cultural, futebolística, etc.) de quem os visualiza. Inevitavelmente, isso cria noutra fatia da população a reação contrária: repulsa, nojo e até ódio pelo falso, postiço, oco, e uma perda de confiança generalizada.

Em diversos sectores, a utilização de AI generativa, especialmente nas indústrias criativas, pode resultar em graves danos reputacionais. Quando se descobre que alguma série/filme, obras de artistas utiliza/contém conteúdos gerados por AI, chove um coro de críticas, além de boicotes.

Quando o Duolingo anunciou que passaria a utilizar conteúdos gerados por AI, a reação do público foi imediata: milhares de contas e subscrições canceladas (com screenshots orgulhosamente partilhados nos comentários das publicações do Duolingo) e uma queda de 80% do valor das ações da empresa.

Outras empresas fazem anúncios precisamente do contrário: promessas de que nunca utilizarão AI generativa nos seus conteúdos, assegurando que os seus parceiros e fornecedores também não.

Diversas plataformas online têm implementado medidas e atualizado os seus T&C para combater a proliferação de contas que publiquem conteúdos gerados por AI em massa, assim como forçar a identificação do conteúdo gerado ou modificado com recurso a AI, como Youtube e Google).

A imposição desta transparência também já começa a ser a prática em alguns mercados em linha: o Steam, o maior marketplace online de videojogos, impõe a todos os profissionais que identifiquem os jogos que utilizam assets gerados por AI ou que incorporem sistemas de AI generativo, destacando essa informação na “montra” de cada produto. Este anúncio foi bastante bem recebido pelos seus utilizadores. No setor dos videojogos já houve demasiadas controvérsias, desde developers a serem apanhados a mentir sobre a utilização de AI, prémios de indústria a serem retirados e falsas acusações.

Estas medidas são assim motivadas por interesses comerciais (de preservação da reputação e qualidade do serviço), mas também por questões legais, seja quanto ao Regulamento dos Serviços Digitais (DSA), o Direito do Consumo e, claro, o Regulamento (EU) 2024/1689 de AI (AI Act).

A utilização de AI como requisito substancial no Direito do Consumo

No contexto de relações de consumo, a utilização de AI pode surgir em diversas dimensões:

a. AI pode ser utilizado na relação com os consumidores, seja na fase pré-contratual (no aliciamento de consumidores e na personalização das ofertas (seja no serviço/produto em si ou em elementos do contrato, como o preço), na celebração do contrato (automatizada por diversos meios, incluindo sistemas de AI agênticos), na execução e na fase pós-contratual (por exemplo se canais de contacto e sistemas de reclamação utilizarem meios automatizados);

b. AI pode ter sido utilizado na produção do conteúdo/serviço (seja enquanto auxiliar de produtividade (na programação) ou na própria produção (geração de imagens, texto, vídeo, áudio), como pode ser um componente do (ou o próprio) serviço/produto).

Neste sentido, e focando em especial na questão da transparência sobre AI na produção dos conteúdos e serviços e da utilização de chatbots pelo profissional na sua relação com o consumidor, o Direito do Consumo não tem uma resposta expressa sobre este tema.

Isto não significa que os consumidores fiquem completamente desamparados: dependendo do tipo de produto/serviço/conteúdo digital, é possível defender que a utilização/incorporação de conteúdos gerados e modificados por AI afeta as características principais do mesmo, sendo assim um requisito substancial (material Information) para o processo decisório, cuja omissão pode ser considerada uma prática comercial enganosa à luz do regime das práticas comerciais desleais e uma violação de deveres de transparência na contratação à distância.

Adicionalmente, um profissional não poderá expressamente incluir nas suas comunicações comerciais e marketing que os conteúdos e serviços digitais que fornece não têm conteúdos gerados/modificados por AI e depois incumprir esta indicação sem estar a incorrer numa prática comercial enganosa.

Transparência de AI no Regulamento dos Serviços Digitais (DSA)

O DSA, de 2022, aborda já o tema dos chatbots de forma expressa. Os serviços intermediários em linha podem utilizar chatbots no ponto de contacto com os destinatários do serviço, auxiliando os mesmos a retirar dúvidas e a submeter denúncias. No entanto, esta funcionalidade só pode ser um complemento de outras formas não automatizáveis de o destinatário contactar o prestador, sendo que a sua utilização tem de ser absolutamente transparente, conforme o art. 12.º e considerando 43.

O DSA também tem obrigações expressamente direcionadas aos deep fakes.

As plataformas em linha de muito grande dimensão (VLOP) e motores de pesquisa em linha de muito grande dimensão (VLOSE)[1] têm obrigações de mapeamento e mitigação ativa de riscos sistémicos para os direitos fundamentais (art. 34.º e 35.º). Neste âmbito, os prestadores destes serviços devem monitorizar ativamente a difusão de conteúdos ilegais e desinformação, a ocorrência de campanhas coordenadas de proliferação de conteúdos enganosos ou suscetíveis de induzir em erro, assim como a utilização não autêntica do serviço (como contas falsas controladas por redes de bots).

Assim, o art. 35.º-1-k) refere que os VLOP e os VLOSE devem assegurar que os conteúdos manipulados (ou gerados/modificados por AI) que falsamente representem pessoas, objetos, entidades, lugares ou acontecimentos de tal forma que pareçam autênticos, devem ter marcações visíveis que os distingam, revelando a sua verdadeira natureza. Adicionalmente, as próprias plataformas podem fornecer uma funcionalidade para que os destinatários possam facilmente assinalar esta questão em conteúdos que visualizem.

Conclusão

A análise desenvolvida ao longo deste texto – a primeira de duas partes – centrou-se nas obrigações de transparência relativas a conteúdos gerados por inteligência artificial (AI) e chatbots, à luz do Direito do Consumo e do Regulamento dos Serviços Digitais (DSA).

No próximo texto vamos analisar as obrigações de transparência do art. 50.º do AI Act e a forma como estas complementam (ou não) as respostas do Direito do Consumo e do DSA, além de responder à questão central: “mas o vídeo do Haaland, é AI ou não?”

[1] Os VLOP e VLOSE são designados pela Comissão Europeia, quando alcançam ou ultrapassam um número médio mensal de 45 milhões destinatários ativos do serviço (este número pode ser reajustado no futuro pela Comissão Europeia, para continuar a corresponder aproximadamente a 10% da população da União Europeia).

O ouriço, a raposa e a proteção do consumidor na era da agentic AI

Doutrina

Isaiah Berlin, no seu célebre ensaio The Hedgehog and the Fox, recorre a uma metáfora simples para descrever duas formas distintas de pensar o mundo. A do ouriço, que sabe “uma grande coisa” e organiza a realidade em torno de um princípio central, unificador e coerente; e a da raposa que, pelo contrário, sabe “muitas coisas” e aceita a fragmentação e a coexistência de múltiplas lógicas, sem as reduzir a uma explicação única.

Esta distinção, pensada originalmente no contexto da história das ideias, como instrumento de reflexão sobre a forma como os pensadores compreendem e explicam o mundo, revela-se surpreendentemente útil para refletir sobre um fenómeno contemporâneo que começa a desafiar silenciosamente os fundamentos do Direito do Consumo: a expansão dos agentes de inteligência artificial (ou agentic AI).

O Direito do Consumo tem sido, historicamente, um “ouriço”. Construiu-se em torno de alguns grandes princípios estruturantes, como a transparência, a lealdade, a reflexão e o equilíbrio, assentes na ideia de que o consumidor deve poder compreender, ponderar e controlar a decisão contratual. Decide se contrata, em que termos e em que momento aceita uma oferta ou exerce um direito de arrependimento. Mesmo quando influenciado por práticas comerciais desleais ou por assimetrias de informação, o consumidor permanece, em última instância, o decisor identificável da relação contratual.

A agentic AI introduz, porém, uma lógica distinta, mais próxima da raposa do que do ouriço. Em vez de decisões pontuais e facilmente identificáveis, passam a prevalecer processos decisórios contínuos, autonomamente executados por sistemas que atuam em nome do consumidor. Assistentes digitais que renovam subscrições, ajustam serviços, comparam preços, efetuam compras ou gerem contratos ao longo do tempo transformam a relação contratual numa sequência dinâmica de ações, muitas vezes invisíveis – e por vezes imprevisíveis – para quem as delegou.

Neste contexto, o consumidor não desaparece, mas afasta-se do centro da decisão. Já não é ele quem “clica”, escolhe ou aceita cada contrato em concreto. Limita-se a autorizar, de forma genérica e prolongada, que um sistema atue por si, confiando que este o fará no seu melhor interesse. O consentimento deixa de ser um ato pontual, específico e informado para se aproximar de uma autorização abstrata, cujo alcance real é difícil de antecipar.

É aqui que os mecanismos clássicos de proteção do consumidor começam a revelar fragilidades. O dever de informação, por exemplo, foi concebido para esclarecer o consumidor sobre as características essenciais de um bem ou serviço no momento prévio à contratação. Em contextos de agentic AI, porém, essa lógica mostra-se insuficiente, uma vez que muitas das decisões juridicamente relevantes ainda não existem nesse momento e só se irão materializar ao longo do tempo. A transparência contratual enfrenta desafios quando as cláusulas que regulam o funcionamento de sistemas autónomos recorrem inevitavelmente a formulações amplas e genéricas, difíceis de traduzir em consequências práticas compreensíveis.

Outro mecanismo cujos pressupostos enfrentam tensões semelhantes é o direito de arrependimento, que existe para proteger o consumidor em situações em que a decisão contratual é tomada sem contacto direto com o bem ou serviço, como sucede, classicamente, nos contratos celebrados à distância. O seu pressuposto não é o erro nem o defeito do bem, mas a falta de contacto direto com o mesmo que justifica a concessão de um período de reflexão posterior à contratação. No contexto da agentic AI, a esta falta de contacto prévio com o bem adquirido pode acrescer uma segunda forma de ausência de visibilidade: o consumidor pode não ter tido consciência da decisão concreta de contratar aquele bem em específico, tomada autonomamente por um sistema em seu nome. Nestas situações, embora o direito de arrependimento continue a permitir a desvinculação de contratos concretos, revela-se menos eficaz para proteger uma relação contratual estruturada como um processo contínuo de decisões delegadas.

A imputação de responsabilidade é outro ponto sensível. Na lógica tradicional do Direito do Consumo, o profissional, e eventualmente o produtor, respondem pelos defeitos do bem ou serviço que fornecem e o consumidor não deverá suportar esses riscos. Nos ecossistemas emergentes de agentic AI, começam a surgir modelos contratuais que tendem a deslocar o risco para o consumidor. Em particular, certos termos de utilização de serviços assentes em delegação autónoma recorrem a cláusulas de exclusão ou limitação de responsabilidade, imputando ao consumidor as consequências de decisões tomadas por sistemas que atuam em seu nome ao abrigo de autorizações genéricas, mas cujo comportamento concreto não controla nem consegue antecipar plenamente.

Perante este cenário, a tentação regulatória pode ser a da simplificação: autorizações mais genéricas, consentimentos mais amplos, categorias contratuais mais flexíveis. Essa resposta corre, porém, o risco de falhar, na medida em que a agentic AI não é complexa por acidente, mas por natureza, uma vez que assenta num modelo de funcionamento intrinsecamente dinâmico. Soluções excessivamente simplificadoras podem, por isso, enfraquecer a posição do consumidor, em vez de a reforçar.

Talvez o desafio que se coloca ao Direito do Consumo não seja o de abandonar os seus grandes princípios fundadores, mas o de reconhecer que estes foram pensados para um mundo mais “ouriço” do que aquele em que hoje vivemos. Num ecossistema cada vez mais povoado por “raposas” – sistemas autónomos, especializados e dinâmicos – a proteção do consumidor pode exigir abordagens mais diferenciadas, mecanismos de responsabilização reforçados e uma atenção acrescida à reversibilidade e ao controlo efetivo das decisões automatizadas.

Em última análise, a questão não é tecnológica, mas jurídica e antropológica. Se a decisão já não é plenamente humana, a proteção do consumidor também não pode continuar a ser pensada como se ainda fosse. Esta transformação aproxima a lógica da decisão contratual daquela que Isaiah Berlin atribuía à raposa: a de sistemas que “perseguem muitas pontas, frequentemente não relacionadas e até contraditórias”, resistindo a ser reconduzidos a um princípio único e estável.

O que LLM sabem sobre nós: memorização de dados e o RGPD

Doutrina

Por Beatriz Gonçalves Russell e Francisco Arga e Lima

Com o crescimento exponencial da Inteligência Artificial (“IA”) generativa, e, em especial, de Large Language Models (ou “LLMs”), levantam-se questões sobre a sua compatibilidade com os padrões regulamentares aplicáveis, nomeadamente no domínio da proteção de dados. Neste contexto, uma das principais preocupações prende-se com a dependência dos LLMs na ingestão de vastas quantidades de informação para o seu desenvolvimento, e a preocupação inerente em compreender se estes retêm os dados (pessoais) ingeridos durante o seu treino.

Treino dos LLMs

De modo a saber se há uma efetiva retenção de dados, é necessário compreender a forma como LLMs são, em geral, treinados. Uma das primeiras fases deste processo é a conversão de texto em tokens, ou seja, representações numéricas de elementos normalmente menores que palavras, mas maiores que letras isoladas, que o modelo possa processar, criando-se, assim, um vocabulário interpretável pelo algoritmo, embora não diretamente interpretável pelo indivíduo. Após esta conversão, o modelo é treinado, criando-se embeddings, ou seja, vetores que representam as relações contextuais entre tokens, estatisticamente abstraídas do treino, permitindo ao modelo distinguir o significado de, por exemplo, um banco enquanto instituição financeira e enquanto mobiliário doméstico.

À primeira vista, esta abstração parece levar à conclusão de que, caso haja treino com dados pessoais, os dados perdem a sua ligação com titulares de dados, uma vez que os modelos deixam de conter informação associável a indivíduos identificáveis. Assim sendo, os tokens e embeddings seriam considerados meros padrões linguísticos, desprovidos de ligação a pessoas concretas, de modo que não estariam abrangidos pelo escopo da definição de dados pessoais, prevista no Regulamento Geral de Proteção de Dados (“RGPD”).

Contudo, esta linha de raciocínio baseia-se numa compreensão incompleta acerca do funcionamento técnico do treino destes modelos.

A realidade técnica de retenção de informação

Embora a transformação de texto em tokens abstraia o conteúdo original, a informação subjacente não se perde totalmente. Por um lado, a tokenização moderna — como a byte-pair encoding — é frequentemente lossless, permitindo que os números codificados sejam reconvertidos em texto sem perda de informação substancial. Por outras palavras, mesmo que os dados sejam convertidos em números, isso não elimina necessariamente a possibilidade de identificação de titulares dos dados.

Além disso, os embeddings capturam o significado contextual e as relações entre palavras, espelhando os padrões e estruturas estatísticos abstraídos do treino, algo que poderá levar à memorização de dados. Para entender como isso pode ocorrer, é importante distinguir dois fenómenos que ocorrem durante o treino destes modelos:

1. Codificação (“Encoding”): Processo de abstração de padrões e relações estatísticas dos dados de treino em representações numéricas úteis, descartando detalhes menos significativos.

2. Memorização (“Memorization”): Ocorre quando partes específicas dos dados de treino são retidas quase na integralidade, permitindo a sua potencial reprodução.

Ora, a memorização difere da simples aprendizagem de padrões abstratos que ocorre na codificação, uma vez que leva à retenção de detalhes de dados de treino quase exatos das fontes. Isto pode dever-se a diferentes fatores, como a multiplicação dos dados de treino nos datasets utilizados, o que pode enviesar a sua relevância estatística. Por outras palavras, surgindo com maior frequência uma determinada sequência de tokens, o modelo irá adaptar o peso dessas relações de modo a reforçar essa sequência no seu output. Por isso, mais do que abstrair padrões, haverá uma retenção de sequências específicas de dados que poderão ser pessoais.

De qualquer forma, para que as informações incorporadas nos LLMs sejam consideradas dados pessoais, as mesmas devem, contudo, ser acessíveis. A este respeito, o nosso ponto de partida será o facto que, em regra, os dados estão dispersos pelos inúmeros parâmetros dos modelos e não estão armazenados como unidades discretas ou legíveis por humanos, ao contrário do que sucede, por exemplo, com um ficheiro .pdf. No entanto, há que se notar que a ausência da suscetibilidade de interpretação direta não é impeditiva de que a informação seja considerada dado pessoal: o que nos diz o art. 4.º, n. º1 do RGPD, é que qualquer informação relativa a uma pessoa identificada ou identificável é considerada dado pessoal, mesmo que careça de meios complementares para ser legível por humanos.

Por isso, se um modelo for capaz de reproduzir dados sobre uma pessoa, contidos nos datasets de treino, essa informação continua a ser pessoal, ainda que esteja codificada no modelo sob a forma de vetores numéricos. Desta forma, e pese embora a dispersão da informação pelos parâmetros torne a inspeção direta extremamente onerosa, entende-se que a acessibilidade pode ser feita através de meios indiretos, em particular prompting e ataques direcionados, onde essa memorização é confirmada por via do output consistente de informação contida nos datasets de treino.

Importa também perceber que a memorização não é uma falha de treino ou funcionamento destes modelos, mas sim uma característica inerente dos mesmos. Isto percebe-se facilmente quando constatamos que estes precisam de “memorizar” estruturas de palavras e regras gramaticais de modo a poderem criar construções frásicas corretas. Nesse sentido, a memorização é necessária, atendendo às finalidades destes modelos. Contudo, pode também revelar-se problemática, na medida em que essa capacidade pode conduzir à retenção – e posteriormente divulgação – de dados pessoais.

Assim, o erro está em assumir que a ausência de dados pessoais é garantida apenas pelo facto de tokens e parâmetros serem valores numéricos. Na verdade, é possível que esses números e relações estatísticas levem à retenção de dados (pessoais) contidos nos datasets de treino no próprio modelo.

Por isso, é possível tirar duas conclusões relevantes para a discussão sobre se LLMs memorizam dados pessoais. Em primeiro lugar, a memorização de dados de treino é uma característica essencial e não um bug dos LLMs. Isto significa que os desenvolvedores de LLMs são responsáveis não só pelo tratamento de dados na fase de treino, mas também pelo potencial armazenamento de dados pessoais no modelo, para assegurar a sua compatibilidade com o RGPD. Em segundo lugar, e não obstante a natureza black box dos LLMs conceder alguma margem para argumentar pela impossibilidade de acessibilidade aos dados eventualmente armazenados, a evolução tecnológica pode, no futuro, permitir que a informação armazenada seja reconstruída por meios que hoje desconhecemos, sendo uma questão de tempo até que os mecanismos atuais de mitigação se revelem insuficientes. Até lá, a possibilidade de extração destes dados por via de i.e. prompting é algo que confirma esta retenção, pelo que caberá também aos desenvolvedores destas tecnologias mitigarem tanto a retenção, como a possibilidade da sua extração.

O caso Schufa: credit scoring como decisão automatizada baseada no processamento de dados pessoais

Doutrina

No último texto, escrevi um texto introdutório sobre a avaliação da solvabilidade (credit scoring) na Diretiva 2025/2223, realçando que o regime se centra no interesse do consumidor.

A credit scoring também é, no entanto, uma atividade de tratamento de dados pessoais, o que torna aplicável o Regulamento Geral de Proteção de Dados (RGPD). Se a credit scoring for realizada através de ferramentas de IA, a classificação de crédito será uma decisão total ou parcialmente automatizada e, portanto, serão igualmente aplicáveis as disposições do artigo 22.º do RGPD. Além disso, e de um modo geral, qualquer atividade de tratamento de dados deve respeitar o princípio da privacidade desde a conceção (art. 25.º do RGPD), de acordo com o qual as empresas/organizações são incentivadas a implementar medidas técnicas e organizacionais, nas fases iniciais da conceção das operações de tratamento, de forma a salvaguardar os princípios da privacidade e da proteção de dados desde o início.

A avaliação da solvabilidade vista pelo RGPD tem três aspetos importantes: (1) quem é responsável pelo tratamento de dados quando a credit scoring é externalizada; (2) como distinguimos uma classificação totalmente automatizada de outra que não o é; (3) que informações devemos utilizar (e quais não devemos utilizar) para realizar a avaliação da solvabilidade.

As duas primeiras questões foram resolvidas ou esclarecidas pela conhecida Sentença Schufa do TJUE. A Sentença Schufa é a primeira sentença do TJUE que interpreta o art. 22.º do RGPD. Fá-lo num caso de crédito ao consumo, mas as suas considerações estendem-se a qualquer decisão total ou parcialmente automatizada. O conflito é fácil de explicar: um requerente de crédito junto de um banco médio na Alemanha vê o seu pedido recusado e, quando pede explicações ao banco, este escuda-se no facto de a Schufa (entidade de avaliação de crédito) lhe ter enviado uma pontuaçãonegativa; quando recorre à Schufa, esta escuda-se no facto de ter sido o banco a decidir recusar o crédito e de o seu algoritmo ser um segredo comercial que não tem a obrigação de partilhar.

Deste caso, podem extrair-se várias conclusões claras: em primeiro lugar, tanto a entidade credora como a entidade avaliadora são responsáveis pelo tratamento das atividades de tratamento que cada uma realiza. Consequentemente, devem responder ao requerente de crédito sem se escudarem na proteção de segredos comerciais, uma vez que uma explicação compreensível não tem de ser exaustiva nem pôr em risco o segredo algorítmico. Em segundo lugar, o TJUE reforça a ideia já exposta pelo Grupo de Trabalho do Artigo 29.º sobre as decisões automatizadas: se a intervenção humana é meramente simbólica, estamos perante uma decisão totalmente automatizada, na medida em que não há uma intervenção humana significativa. No entanto, reforça ainda mais este último critério: poderíamos dizer que, para evitar a qualificação de decisão automatizada, deve haver uma intervenção humana «verdadeiramente significativa» (Cotino Hueso). Por último, recorda o tribunal, embora isso já seja feito pelo próprio artigo 22.º do RGPD (com uma técnica melhorável), que uma decisão totalmente automatizada que viole os direitos e liberdades do titular dos dados pessoais não será conforme com o RGPD, por mais que sejam formalmente cumpridos os requisitos estabelecidos por essa disposição.

Quando é que uma intervenção humana é «verdadeiramente significativa»? Tendo em conta tanto o acórdão Schufa como as Orientações do Grupo de Trabalho do artigo 29.º e certos aspetos do Regulamento da IA, proponho a seguinte check-list para que um consumidor que solicita crédito possa avaliar se a decisão de crédito (e também a classificação de crédito) é uma decisão totalmente automatizada ou não:

– A pessoa que intervém no processo (por exemplo, o operador do banco) tem formação suficiente na matéria sobre a qual deve decidir?

– A pessoa envolvida no processo tem formação suficiente em IA (AI Literacy)? O artigo 4.º do Regulamento Inteligência Artifical (RIA) refere-se à formação em IA; este requisito não deve ser entendido como sinónimo de conhecimentos de programação, mas como conhecimentos suficientes para poder avaliar criticamente (e, se for caso disso, contradizer) as sugestões da IA. Portanto, isso irá variar de acordo com as circunstâncias: o operador do banco não deve ter o mesmo nível de formação em IA que o consumidor, por exemplo.

– A classificação de crédito é acompanhada de argumentos suficientes e compreensíveis? A transparência e a explicabilidade são um binómio muito interessante: a IA deve ser transparente, mas também compreensível. De nada serve fornecer o código-fonte de um programa a uma pessoa que não sabe programar. Este binómio permite traçar uma gama de informações: suficiente, e não excessiva; para que o destinatário possa compreendê-la sem grandes esforços ou conhecimentos especializados. No direito do consumo, as condições gerais devem ser transparentes e compreensíveis; e também pode ser considerado falta de transparência causar indigestão ou «intoxicação» ao consumidor, ou esconder entre uma longa lista de condições gerais aspetos essenciais do contrato.

– A pessoa tem autoridade formal e capacidade material (tempo disponível) para questionar e, se necessário, contradizer as sugestões da IA? É importante detectar o risco de preconceitos acomodatícios nas pessoas que lidam com essas sugestões automatizadas. Se elas podem intervir, mas não o fazem por preguiça ou sobrecarga de trabalho, é como se não interviessem.

– A empresa ou instituição está a tomar medidas formativas para que o seu pessoal tenha formação em IA e para prevenir preconceitos?

– O nível de seguimento das sugestões automatizadas por parte do pessoal é verificado periodicamente?

A última das questões indicada também é interessante em relação à evolução tecnológica: o que é informação relevante para avaliar a fiabilidade do requerente de crédito? Acima, mencionou-se como se passou da utilização de informação negativa de solvência (ficheiros de maus pagadores) para a utilização de informação tanto positiva como negativa (ficheiros mistos). No entanto, a crescente produção de dados pessoais, aliada à também crescente capacidade de análise de dados por parte dos sistemas de IA, permite que, através de técnicas de perfilagem e microsegmentação, se obtenha informação inferencial suficientemente fiável sobre o comportamento presumido ou futuro de um indivíduo. Isto permite que, hoje em dia, qualquer dado pessoal possa ser um dado relevante para a credit scoring (all data is credit data). Esta realidade obriga a uma interpretação restritiva do que entendemos por informação «relevante», pois, caso contrário, poderia ser admitida a utilização de dados de utilização de contas de plataformas (Netflix, Spotify e outras), o tempo de leitura das condições gerais online ou a rapidez com que os cookies são aceites como dados relevantes para introduzir numa ferramenta de IA para a pontuação de crédito. Não será considerada informação «relevante» a obtida a partir de redes sociais, nem as categorias especiais de dados do art. 9.º do RGPD, uma vez que o art. 18.3 DCCC/2023 proíbe o seu tratamento para efeitos de credit scoring. Serão considerados relevantes dados como os rendimentos e as despesas do consumidor e outras circunstâncias financeiras e económicas que sejam necessárias e proporcionais à natureza, à duração, ao valor e ao risco do crédito para o consumidor (art. 18.3 DCCC/2023).

O facto de todos os dados poderem ser potencialmente relevantes para a credit scoring representa um problema de privacidade coletiva: a nossa responsabilidade individual ao navegar, rejeitando cookies de navegação (ou superando a fadiga da «gestão de opções»), já não é tão determinante para nos proteger de eventuais invasões da nossa privacidade, na medida em que deve partilhar protagonismo com o perfil sintético e a microsegmentação a partir de metadados ou características externas da população. Imaginemos uma pessoa muito consciente da proteção da sua privacidade digital: rejeita cookies ou «gere opções» sempre que pode, não ativa a Internet nem a geolocalização no seu telemóvel, a menos que precise de fazer consultas pontuais, não descarrega aplicações desnecessárias… Mesmo assim, a contaminação de dados que milhares de pessoas semelhantes a essa pessoa realizam permite que uma ferramenta de IA de perfilagem infira como o requerente do crédito se comportará. Como salienta Diogo Morgado Rebelo, a padronização de padrões e hábitos de consumo levaria à imposição indireta de identidades heteroconstruídas ou expropriadas aos requerentes de crédito.Perante esta situação, podem ocorrer situações de discriminação indireta (ou discriminação proxy), que não só seriam contrárias ao direito à igualdade e à não discriminação, como também podem comprometer o acesso à habitação, por exemplo. Mencionei situações de discriminação proxy e de discriminação indireta. Não são exatamente a mesma coisa. Falamos de discriminação indireta quando uma norma (ou um critério de política de crédito) formalmente neutra acaba prejudicando sistematicamente grupos específicos da população. Não é uma situação nova nem associada à inovação tecnológica: nos testes de acesso à polícia ou ao corpo de bombeiros, as notas para homens e mulheres não são idênticas, assim como nas competições desportivas, precisamente para evitar situações de discriminação indireta. Um exemplo relacionado com algoritmos foi o tratado pelo Tribunal Ordinário de Bolonha na sua sentença de 27 de novembro de 2020, em relação ao algoritmo da Glovo para a pontuação dos entregadores, onde recordou que «una differenza di trattamento può consistere nell’effetto sproporzionatamente pregiudizievole di una politica o di una misura generale che, mesmo que formulada em termos neutros, produz uma discriminação em relação a um determinado grupo», utilizando jurisprudência do Tribunal Europeu dos Direitos Humanos (Acórdão de 13 de novembro de 2007, D.H. e a. c. República Checa [GC] (n.º 57325/00), ponto 184; Acórdão de 9 de junho de 2009, Opuz c. Turquia (n.º 33401/02), ponto 183. Acórdão de 20 de junho de 2006, Zarb Adami c. Malta (n.º 17209/02), ponto 80).

A discriminação proxy é uma forma de discriminação indireta, mas que tem alguns elementos diferenciadores: utiliza dados como proxy no âmbito de atividades de perfilagem algorítmica com a intenção sub-reptícia de avaliar negativamente ou excluir certos grupos populacionais ou indivíduos com características determinadas. Trata-se, portanto, de uma forma de discriminação próxima da fraude, na medida em que utiliza determinados dados como «dados de cobertura» (dados de cobertura ou proxy) para atingir fins não pretendidos ou mesmo proibidos pela atividade de tratamento de dados que está a ser realizada. Todo o tratamento de dados deve ser realizado com uma finalidade (art. 5.º-1-b) RGPD), e a expressão e descrição da finalidade do tratamento condiciona os restantes princípios do tratamento de dados do art. 5 RGPD. A finalidade do tratamento de dados para avaliação de solvabilidade consiste em determinar as capacidades de cumprimento do contrato de crédito do potencial mutuário, não excluir certos requerentes por razões alheias à sua capacidade de cumprimento. Por outro lado, a partir de 20 de novembro de 2026, a avaliação deverá ser realizada «no interesse do consumidor», e não parece que excluir certos consumidores do acesso ao mercado de crédito por razões diferentes das da sua capacidade de cumprimento favoreça «o interesse do consumidor».

Vejamos agora um exemplo de discriminação proxy, recordando um post de há pouco mais de um ano sobre o direito ao esquecimento oncológico: o Parlamento Europeu solicitou aos Estados-Membros que adotassem medidas tendentes a evitar a discriminação sofrida por doentes com cancro que tinham sobrevivido à doença no acesso aos mercados de crédito e de seguros. Estas medidas foram adotadas por vários países, entre os quais Portugal e Espanha, que foram dos primeiros a fazê-lo. Se uma entidade credora desejasse evadir a proibição desta norma, poderia sentir-se tentada a pontuar negativamente conjuntos de dados em princípio neutros, mas que permitissem inferir que o requerente do crédito tinha sofrido de cancro.

A melhor forma de prevenir situações de discriminação indireta e discriminação por procuração é promover uma formação adequada em IA, tanto do pessoal que trabalha nas instituições de crédito como dos requerentes de crédito, bem como a necessária transparência e explicabilidade das ferramentas de IA de credit scoring, em três momentos igualmente importantes: (1) a sua conceção e melhoria; (2) a sua aplicação; e (3) a explicação posterior que deve ser dada ao requerente, especialmente se o crédito lhe for recusado. Este último ponto é obrigatório nos termos do artigo 18.º-8 DCCC/2023 e poderá tornar-se um exemplo prático do efeito direto da norma se não for transposto atempadamente e as instituições de crédito não ajustarem a sua política interna a essa exigência.

Pesquisa Online na Era da IA Generativa: Transparência ou Ilusão?

Doutrina

As ferramentas de inteligência artificial generativa têm transformado a forma como os consumidores procuram informação online, nomeadamente quando querem contratar um serviço ou adquirir um produto. Já não é incomum colocar perguntas diretamente a estas ferramentas — como o ChatGPT ou o Gemini —, por exemplo: «Qual é o frigorífico com melhor relação custo-benefício no mercado?». A resposta surge em segundos, em linguagem natural, convincente e aparentemente neutra.

Além disso, mesmo nos motores de busca tradicionais, o consumidor pode já deparar-se com respostas geradas por IA apresentadas logo antes da lista de resultados — como sucede, por exemplo, no Google com os denominados AI Overviews. Essas mudanças alteram estruturalmente a experiência de pesquisa e colocam desafios relevantes para o Direito do Consumo.

Quanto aos motores de busca, até muito recentemente o resultado era sempre apresentado na forma de uma lista de páginas correspondentes à pesquisa realizada, com clara distinção entre resultados patrocinados e não patrocinados. Em grande parte das situações isso continua a verificar-se, ainda que já se notem alterações com a integração de respostas de IA nas páginas de resultados.

No modelo tradicional, sem IA incorporada, o facto de as hiperligações patrocinadas surgirem em posição de destaque, aliado à prática de alguns motores de busca de priorizar serviços próprios nas respostas – como o Google Flights e o Google Hotels – mostra que a ordenação e até a própria exibição dos resultados não são neutras.

Com a integração de IA, acrescenta-se ainda o risco de o consumidor interpretar a resposta sintetizada como suficiente ou mais fiável, desviando a atenção das alternativas exibidas. Mesmo quando se mantêm elementos complementares — como a secção «outras pessoas pesquisaram», presente no Google, que pode ampliar o horizonte informativo —, permanece a dúvida: em que medida a forma de apresentar resultados, tanto na modalidade tradicional como com IA integrada, afeta a perceção do consumidor sobre quais opções são mais relevantes ou vantajosas?

Já no caso de pesquisas feitas diretamente em ferramentas de IA, o modo de apresentação do resultado é substancialmente diferente. A resposta surge de forma unificada, convincente e aparentemente imparcial, sem clareza sobre as fontes utilizadas nem sobre os critérios que levaram a ferramenta a «optar» por determinado produto ou serviço. O consumidor pode perguntar ao sistema quais foram as fontes utilizadas e assim aprofundar a pesquisa, mas essa informação, em regra, não é dada automaticamente.

O risco agrava-se porque, se é certo que o consumidor consegue identificar se uma hiperligação exibida por um motor de busca é patrocinada, nas respostas geradas por IA essa distinção não é sinalizada. Assim, embora até ao momento não haja evidências conhecidas de que estas ferramentas priorizem publicidade, a opacidade dos seus modelos impede que se afirme com segurança que conteúdos patrocinados não tenham um peso desproporcionado na elaboração da resposta. Essa possibilidade de reapresentação de informação patrocinada como se fosse imparcial dilui fronteiras relevantes e pode influenciar a decisão de consumo de forma indesejada. A questão exige atenção, já que a forma natural e assertiva como estas ferramentas comunicam tende a reforçar a perceção de fiabilidade e aumentar o impacto de eventuais enviesamentos.

Convém notar ainda que esta distinção entre pesquisa tradicional e pesquisa feita em ferramentas de IA generativa tende a tornar-se menos clara. Como mencionado, já existem motores de busca que incorporam modelos de IA nas próprias páginas de resultados, apresentando, antes ou ao lado da lista de hiperligações, uma resposta sintetizada de imediato.

Portanto, o consumidor que recorre ao método «tradicional» de pesquisa pode, na prática, estar também a interagir com uma IA generativa, nem sempre com a devida sinalização e geralmente sem opção de ocultar essa camada de resposta. Neste caso, somam-se duas camadas de opacidade: a falta de transparência sobre os critérios de exibição dos resultados e a dificuldade acrescida de compreender como a resposta automatizada foi construída, sem que se saiba qual é o peso efetivo que essa síntese exerce nas decisões de consumo.

Do ponto de vista legislativo, os riscos não são inteiramente novos. O Código da Publicidade exige que a natureza comercial de uma mensagem seja claramente identificada e não oculta, enquanto o Regime das Práticas Comerciais Desleais proíbe condutas enganosas que possam comprometer a autonomia do consumidor. A Lei de Defesa do Consumidor também é relevante, ao consagrar o direito à informação e o direito à educação para o consumo. O Regulamento da Inteligência Artificial, por sua vez, estabelece obrigações de transparência para sistemas de IA, incluindo os generativos, impondo que os utilizadores sejam informados, de forma compreensível, de que estão a interagir com uma IA.

Quanto aos motores de busca tradicionais, o Regulamento dos Serviços Digitais impõe regras de transparência quanto à identificação da publicidade e à explicação dos principais critérios de ordenação dos resultados. Quando esses motores passam a incorporar respostas geradas por IA, mantêm-se essas obrigações, mas acrescem também, em princípio, os deveres de transparência previstos no Regulamento da Inteligência Artificial.

Já as ferramentas de IA generativa autónomas não se enquadram diretamente na categoria de motores de busca, pelo que o Regulamento dos Serviços Digitais é, em princípio, inaplicável. Ainda assim, o Regime das Práticas Comerciais Desleais, o Código da Publicidade, a Lei de Defesa do Consumidor e o próprio Regulamento da Inteligência Artificial podem ser invocados, por exemplo, quando a apresentação da informação não seja suficientemente clara, quando se diluam fronteiras entre conteúdos comerciais e não comerciais ou quando a forma de resposta limite a autonomia do consumidor.

Ainda que algumas ferramentas de IA generativa incluam avisos genéricos — como a mensagem «O ChatGPT pode cometer erros. Considere verificar informações importantes.» —, tais disclaimers podem não ser suficientes quando a pesquisa envolve bens ou serviços de consumo. Nestes casos, o risco não se limita a erros factuais ou desatualização, mas abrange também a possibilidade de conteúdos patrocinados ou enviesados serem apresentados como se fossem informação imparcial. Assim, torna-se necessário refletir sobre mecanismos de aviso mais específicos, que alertem para riscos económicos concretos e ajudem o consumidor a identificar a natureza comercial de determinadas respostas.

Neste contexto, a educação para o consumo assume um papel essencial: é preciso reforçar a literacia digital, ajudando os consumidores a compreender que uma resposta automatizada não equivale a uma síntese neutra. A legislação aplicável já oferece uma base sólida, ao exigir transparência e proibir determinadas práticas, mas persiste o desafio de aplicá-las de forma eficaz a este novo cenário. Mecanismos de aviso adaptativos — que hoje já surgem em contextos de saúde, por exemplo — poderiam também alertar para riscos em matéria de consumo, contribuindo para que o consumidor continue capaz de tomar decisões livres e informadas mesmo perante sistemas opacos.

Sistemas de Recomendação, nudging e o Direito do Consumo

Doutrina

Sistemas de recomendação estão largamente empregados na experiência digital cotidiana dos consumidores — seja ao navegar por redes sociais, escolher um filme, fazer compras online ou interagir com conteúdos selecionados algorítmica e continuamente para si. Esses sistemas, largamente utilizados por plataformas digitais, podem influenciar de forma significativa as escolhas dos consumidores. Uma das técnicas mais recorrentes nesse contexto é o nudging — estratégia de design que orienta o comportamento por meio da forma como as opções são organizadas, apresentadas ou destacadas, sem, entretanto, eliminar totalmente a liberdade de escolha.

Determinados casos de nudging, no entanto, podem configurar os chamados dark patterns — práticas de design que, em vez de facilitar escolhas conscientes, acabam por comprometer a autonomia do usuário ao interferir de forma opaca ou desproporcional no seu processo decisório. Essas práticas podem explorar vieses cognitivos, ocultar ou desvalorizar opções relevantes, induzindo assim decisões que favorecem os objetivos comerciais da plataforma, em detrimento dos melhores interesses do consumidor. Em sistemas de recomendação, isso ocorre, por exemplo, quando o design favorece conteúdos que maximizam o tempo de permanência ou o consumo impulsivo, induzindo o utilizador a certas escolhas à sombra da transparência sobre os critérios subjacentes à personalização das recomendações.

Essa influência, portanto, nem sempre ocorre de forma positiva: certos casos de nudging podem, na prática, produzir efeitos intrusivos e indesejáveis. No entanto, cabe notar que uma mesma estratégia pode ser percebida de forma distinta por diferentes usuários, o que evidencia o quanto a fronteira entre influência legítima e manipulação pode ser difícil de definir na prática.

Ao reduzir o ônus decisório que recai sobre os consumidores e destacar certos caminhos de ação, o nudging pode facilitar a navegação e ser benéfico na medida em que contribui para enfrentar o problema da sobrecarga informacional. Porém, ao fazê-lo, pode também comprometer a tomada de decisões informadas, sobretudo quando não há um nível adequado de conhecimento ou consentimento por parte do consumidor. O problema, portanto, não está na técnica em si, mas no modo como ela é implementada e nos efeitos que produz sobre a autonomia individual.

Embora o AI Act não seja, em essência, um diploma voltado à proteção do consumidor, pode contribuir para esse objetivo ao proibir determinados sistemas de IA e estabelecer obrigações de transparência proporcionais ao grau de risco de outros, de acordo com critérios definidos no próprio regime. No caso dos sistemas de recomendação, exigências rigorosas no sentido de que os utilizadores sejam informados de maneira compreensível sobre a lógica e os principais parâmetros por detrás da personalização das recomendações podem esbarrar na questão da opacidade ainda inerente a muitos desses sistemas. Trata-se do conhecido problema da black box, que pode ser entendido, de forma simples, como a impossibilidade de explicar de maneira eficaz e compreensível a lógica por detrás do funcionamento desses sistemas.

Além disso, não se deve perder de vista que exigências excessivamente técnicas ou densas em termos de transparência podem gerar um efeito contrário ao pretendido, ao sobrecarregar o utilizador com informações que dificultam — em vez de facilitar — a tomada de decisão. Trata-se, ironicamente, de um obstáculo que os próprios sistemas de recomendação — frequentemente por meio de técnicas de nudging — buscam (ou deveriam buscar) minimizar.

O conceito emergente de bright patterns — estratégias de design que priorizam os interesses e a autonomia do consumidor — oferece uma pista de como o design algorítmico pode evoluir num sentido mais ético. Uma questão crucial, nesse cenário, consiste em traçar parâmetros que garantam que o nudging seja utilizado de forma mais adequada à salvaguarda dos direitos dos consumidores — especialmente no que toca à sua autonomia decisória. O AI Act, mesmo não sendo destinado à proteção do consumidor, pode desempenhar um papel de relevo ao pressionar por arquiteturas de escolha mais transparentes e alinhadas com os direitos desses agentes.

Assim, embora outros instrumentos — como, por exemplo, o regime das práticas comerciais desleais — ofereçam salvaguardas mais evidentes no campo da proteção do consumidor, é importante reconhecer o contributo indireto que o AI Act pode oferecer quando aplicado a sistemas de recomendação baseados em IA. Ao lado de outros regimes normativos, o AI Act ajuda a compor um quadro regulatório que requer ser interpretado de forma integrada. Essa leitura sistémica do Direito é essencial para enfrentar assimetrias estruturais entre consumidores e plataformas digitais, promovendo escolhas mais informadas, transparentes e compatíveis com seus direitos e legítimos interesses.

O que podemos esperar da proposta do Digital Fairness Act?

Doutrina

No seguimento do texto anterior deste blog (“Que política para o Direito de Consumo Europeu no futuro? O novo foco na competitividade europeia”), pretendemos agora analisar, muito sucintamente, que expetativas podemos ter para a proposta do Digital Fairness Act (DFA), com base em tudo o que se sabe sobre este futuro procedimento legislativo europeu, em especial com o foco nos resultados e recomendações do Digital Fairness Fitness Check.

Esta análise é particularmente importante pois, quando consideramos os compromissos políticos dos comissários ao Parlamento Europeu, em especial  da Vice-Presidente  Henna Virkkunen e de Michael McGrath, Comissário para Democracia, Justiça, Estado de Direito e Proteção dos Consumidores, e os planos públicos da Comissão para 2025 no seu work programme, a proposta do DFA deverá ser a principal medida legislativa prevista em matéria de Direito do Consumo para os primeiros anos do mandato. Outra iniciativa, o “Digital package”, também será relevante, mas o seu objetivo será essencialmente de simplificação da legislação digital, como o RGPD, Data Act, Data Governance Act, etc..

Este texto pretende então sumária e criticamente analisar: 1) as principais recomendações dos dois documentos que serão fundacionais ao DFA: a resolução do Parlamento Europeu sobre addictive design online de 2023 e o Digital Fairness Fitness Check de 2024; 2) qual a timeline esperada para a proposta do DFA; 3) o que é que podemos esperar da proposta do DFA.

A resolução do Parlamento Europeu sobre conceção de serviços online para criar dependência dos consumidores (addictive design)

É inegável que o debate sobre a necessidade do DFA surgiu da publicação do Digital Fairness Fitness Checkem outubro de 2024, tendo a nova Comissão Von der Leyen incorporado então essa bandeira nos seus compromissos políticos.

Ainda assim, é necessário salientar que o debate público nas instituições europeias sobre os temas do DFA já tinha sido aberto pela  Resolução do Parlamento Europeu, de 12 de dezembro de 2023, sobre conceção dos serviços em linha de forma a criar dependência e proteção dos consumidores no mercado único da UE (2023/2043(INI)).

Nesta resolução, o Parlamento Europeu recomenda à Comissão que tome medidas legislativas e políticas para combater práticas de conceção de serviços digitais que tenham como objetivo criar dependência nesses serviços (o addictive design), devido aos danos que podem causar à saúde física e mental dos consumidores, especialmente de menores. O Parlamento pediu que se proíbam as práticas mais nocivas, que se promova a conceção ética e que se garanta a transparência, a escolha e a autonomia dos utilizadores, bem como a proteção dos consumidores mais vulneráveis.

Como exemplos de práticas digitais consideradas viciantes, a resolução refere o deslizar da página/feeds sem fim (infinite scroll),[1] a recarga de páginas (pull to refresh), as funcionalidades de vídeo de reprodução automática (never-ending autoplay), as recomendações personalizadas, as notificações de recuperação (recapture notifications), o jogo por marcação (playing by appointment) em determinados momentos do dia, o design de serviços que causa ‘time fog’ (perda da noção de passagem do tempo) e as notificações sociais falsas, assim como medidas que se aproveitem das vulnerabilidades psicológicas dos consumidores.

A resolução aponta como “alvos” de intervenção legislativa a Diretiva Práticas Comerciais Desleais (DPCD), a Diretiva Direitos dos Consumidores (DDC) e a Diretiva das Cláusulas Abusivas (DCA), que devem ser revistas para abordar estas práticas, referindo ainda o Regulamento dos Serviços Digitais (Digital Services Act, DSA, em especial quanto aos artigos 25.º (“Conceção e organização da interface em linha”) e 35.º (“Atenuação de riscos”), e o Regulamento da Inteligência Artificial (AI Act).

Esta resolução, aprovada por uma esmagadora maioria[2], teve como rapporteur Kim van Sparrentak, do grupo parlamentar Greens/EFA. Posteriormente, Kim van Sparrentak foi uma das eurodeputadas que mais questionou o Comissário McGrath na sua audição de confirmação no PE sobre a sua visão para o DFA. Tem sido apontada como possível futura shadow rapporteur para o DFA, mantendo-se bastante ativa nos debates relativos a Direito do Consumo e ao DFA.[3]

As conclusões do Digital Fairness Fitness Check

O Digital Fairness Fitness Check por si só, considerando apenas a sua dimensão (parte 1 com 350 págs., parte 2 com 78 págs. focado na Diretiva Omnibus, e os anexos de Use Cases com 428 págs.), mereceria vários textos neste blog. Para o presente, vamos apenas abordar muito sumariamente os principais resultados e recomendações.

Este estudo foi uma avaliação abrangente do Direito do Consumo Europeu, focada na equidade (fairness) digital, com o objetivo principal de determinar se as Diretivas core (DPCD, DDC e DCA) são adequadas para proteger os consumidores no ambiente digital, em especial considerando as alterações que já tinham recebido pela Diretiva Omnibus de Modernização do Direito Consumo (2019/2161).

O estudo focou-se numa seleção de práticas consideradas problemáticas em ambientes digitais (dark patterns, práticas agressivas, subscrições difíceis de cancelar, publicidade personalizada, preços personalizados, comércio social e marketing de influenciadores e vício digital), avaliando a eficácia, eficiência, aplicabilidade e coerência das diretivas de consumo para lhes dar resposta, assim como a sua coerência (overlaps e blind-spots, lacunas legais) com a restante legislação digital europeia, como o Regulamento Geral de Proteção de Dados (RGPD), o DSA, o Regulamento dos Mercados Digitais (DMA) e o AI Act.

O estudo identificou desafios significativos para a aplicabilidade destas normas de Direito do Consumo Europeu. A rápida evolução dos mercados de serviços digitais, juntamente com o surgimento de novas práticas comerciais, tem criado lacunas legais e incertezas regulatórias. Os princípios gerais das diretivas (nomeadamente da DPCD e DCA), embora flexíveis e adaptáveis, são dificilmente aplicáveis nos novos casos concretos, existindo muita incerteza jurídica para consumidores, empresas e autoridades mesmo quando sinalizados pelas comunicações da Comissão (como nas Orientações de Interpretação da DPCD). Devido a esta incerteza e a dificuldades no enforcement, práticas que estão teoricamente abrangidas (como dark patterns, armadilhas de subscrição e publicidade oculta) persistem, existindo a necessidade de normas mais específicas que, por exemplo, explicitamente proíbam dark patterns. Os anexos da DPCD e DCA devem assim ser modernizados.

Foram identificadas diversas lacunas legais e falhas de coerência entre os diplomas, especialmente com o RGPD e o DSA. O papel dos dados pessoais na economia digital e a personalização de serviços e do preço ainda não estão suficientemente concretizados na legislação de consumo. Várias das obrigações aplicáveis a plataformas em linha pelo DSA deveriam também aplicar-se a outros profissionais.

O principal entrave à aplicabilidade da DPCD, o conceito do consumidor médio (“average consumer”), assim como o de consumidor vulnerável, tem de ser revisto e novas definições incluídas, para incorporar as noções de vulnerabilidade digital e de vulnerabilidades situacionais. Estes novos conceitos são necessários pois a hiperpersonalização de serviços digitais baseada em perfis tem um impacto notório que já não se limita apenas aos grupos tipicamente considerados vulneráveis (em função da idade, doença mental ou física e credulidade).

Devem ser introduzidas normas específicas para os contratos digitais, para combater práticas específicas deste domínio, por exemplo quanto aos free-trials, subscription trap, botões para cancelamento, etc.

O relatório recomenda ainda que as normas sobre deveres de informação e transparência sejam melhoradas, atendendo aos overlaps entre diretivas e aos riscos de excesso de informação (“information overload”). O valor opaco das moedas virtuais nos videojogos é especialmente visado, devendo passar a ser acompanhados do seu valor real (que entretanto a Comissão e a Rede de Autoridades de Consumo já começaram a adotar), e as loot-boxes também devem ter normas específicas. A personalização dos preços (como é que foram calculados) e dos serviços e o marketing de influencers online são também abordados.

O relatório recomenda também a inversão do ónus da prova face a tecnologias opacas e algoritmos e o reforço da proteção e dos direitos dos menores pelo Direito do Consumo Europeu, com a incorporação da proibição de uso de dados pessoais destes para publicidade personalizada (não apenas pelas plataformas em linha como já contemplado pelo DSA) e do princípio de conceção adequada à idade (“age-appropriate design”) dos serviços digitais.

Finalmente, o relatório inclui uma série de recomendações para reforçar o enforcement e a cooperação pelas autoridades nacionais, assim como o seu papel ativo no mercado.

Depois de muita antecipação, a publicação deste este relatório em outubro de 2024 foi um marco que salientou a necessidade de revisão do Direito do Consumo Europeu.

Qual a timeline para a proposta do Digital Fairness Act (DFA)?

Além das declarações do Comissário McGrath na sua audição no Parlamento Europeu (em novembro 2024) e no World Economic Forum em Davos (final de janeiro 2025), Maria-Myrto Kanellopoulou, a Chefe de Unidade em matéria de Direito do Consumo, na Direção-Geral da Justiça e dos Consumidores da Comissão Europeia (Directorate-General for Justice and Consumers (DG JUST)), afirmou numa audição no Parlamento Europeu promovida pelo Partido Popular Europeu (PPE) sobre a proteção de menores online, que a proposta do DFA não deverá estar pronta antes de 2026, devendo ser apresentada no início desse ano. Em março, num evento em Washington DC sobre o futuro da cooperação transatlântica entre a UE e os EUA, McGrath forneceu mais pormenores e apontou que a proposta do DFA deveria ocorrer a meio de 2026.

Considerando as Better Regulation Guidelines de 2021 e a Better Regulation Toolbox de 2023 da Comissão Europeia e o Acordo Interinstitucional entre as instituições europeias Legislar Melhor de 2016,  ainda antes de a proposta do DFA ser publicada, deverá ainda ser aberta uma consulta pública no portal “Have your say”, que terá de ficar aberta durante um período de 12 semanas.

A timeline para a proposta do DFA fica assim um pouco mais clara. Se o objetivo for a sua apresentação até ao final da primeira metade de 2026, é possível que ocorra uma consulta pública sobre o DFA entre o segundo e o terceiro trimestres de 2025. A análise de impacto que acompanha a proposta legislativa deverá ser realizada também nesta janela temporal. O tema deverá ainda ser discutido e trabalhado no European Consumer Summit, previsto para o final de maio. Finalmente, no final do ano, o Consumer Policy Advisory Group (CPAG) irá analisar os resultados recolhidos para considerar na preparação final da proposta. Esta timeline parece consistente com as declarações de Maria-Myrto Kanellopoulou, e tem sido avançada por várias fontes. Porém… além de não ter sido explicitamente e firmemente prevista, nem colocada por escrito no work programme de 2025 (embora exista a justificação de que é uma proposta para 2026, ao contrário da 2030 Consumer Agenda), há sinais de algumas reticências dentro da Comissão (e mesmo no Parlamento Europeu), que podem levar ao atraso da proposta. 

Então, o que é que devemos esperar da proposta do Digital Fairness Act?

Em primeiro lugar, é necessário relembrar o novo foco da Comissão Europeia na competitividade da economia da União Europeia. Neste prisma, medidas como um DFA muito “forte” podem ser consideradas contraproducentes, por criarem ou exacerbarem custos para os operadores económicos e/ou forçarem alterações nos seus modelos de negócios que levem a perdas de receitas. É ainda mais um diploma a considerar, quando o mote atual é “simplificar”. Estas preocupações têm sido apontadas como motivos para os adiamentos da proposta do DFA, podendo também ter o efeito de que as suas medidas fiquem aquém do esperado e/ou que a proposta não saia da gaveta, como alguns defendem.

Em segundo lugar, temos de considerar as propostas de atuação da resolução do PE e do Fitness Check. Ambos os documentos tecem recomendações que visam diplomas existentes, nomeadamente as diretivas de consumo e a sua relação com o DSA, o RGPD e o AI Act. 

Quando consideramos estes dois fatores, podemos descartar o cenário de que o DFA seja um novo diploma radical que irá revogar diplomas antigos em bloco e substituí-los por um novo diploma paradigmático que vem revolucionar o Direito do Consumo Europeu. O objetivo é simplificar e apenas corrigir/modernizar os conceitos e normas existentes.

Aliás, quando consideramos todos estes fatores, também podemos considerar o seguinte: o cenário mais provável é que o Digital Fairness Act acabe por não ser um “Act”, ou seja, um regulamento europeu.

A abordagem mais provável é que o DFA seja ou um pacote legislativo ou um diploma semelhante à Diretiva Omnibus, contendo alterações (mais ou menos cirúrgicas) a outros diplomas existentes, nomeadamente às 3 diretivas core de consumo (DPCD, DDC e DCA) e possivelmente ao DSA.

Este método tem sido defendido por vários atores políticos. A nuance entra na extensão da intervenção. O DFA deve ser só um “patch” que corrige “bugs” singulares na legislação existente ou deve ir mais além na sua intervenção?

O Professor Christoph Busch (aqui, aqui), após ter participado na reunião do Consumer Policy Advisory Group da Comissão, onde apresentou o relatório do CERRE (“Shaping the Future of European Consumer Protection: Towards A Digital Fairness Act?”), alertou para estas preocupações e tem defendido que o DFA deve ser um regulamento europeu (e não uma diretiva), que altere as diretivas de consumo: a) adicionando novas práticas comerciais ao anexo I da DPCD e cláusulas absolutamente proibidas à DCA, b) estabelecendo normas de antievasão (“anti-circumvention rule”) das proibições (como no artigo 13 do Digital Markets Act), c) torne obrigatórias medidas que facilitem a automação da fiscalização e supervisão pelas autoridades, d) simplifique os deveres de informação, e) estabelecendo um princípio de conceção (“by design”), pois, para proteger eficazmente os consumidores no ambiente digital, não é suficiente consagrar os direitos dos consumidores na legislação e informá-los dos seus direitos, é necessário que estes consigam facilmente exercer os seus direitos, por exemplo, através das interfaces do serviço do profissional (exemplo: botões de cancelamento). Estas medidas parecem bastante interessantes, mas é muito incerto se estão a ser bem acolhidas pela Comissão.

A BEUC também tem avançado com várias recomendações para o DFA, em especial na proteção de menores online, com o seu position paper (“Better Safe than Sorry”).

Por enquanto, a Comissão mantém-se muito vaga neste tema, não abrindo o jogo nem sobre o formato do DFA nem sobre o seu conteúdo. Recentemente, no European Retail Innovation Summit, o Comissário McGrath voltou a pronunciar-se sobre o DFA, assegurando que o diploma seria tanto pró-consumidores como pró-empresas, que não pretende criar mais entraves administrativos às empresas, que pretende abordar as práticas manipulativas e viciantes. Marketing por influencers, preços personalizados, moedas virtuais em videojogos mantêm-se na mira da Comissão.

Conclusões e uma ideia para reflexão – Atos delegados para editar as blacklists das práticas e cláusulas proibidas

Como referido, a consulta pública para preparar a proposta do DFA deverá ser publicada nas próximas semanas. Por agora, ainda sabemos muito pouco sobre os conteúdos e medidas que a proposta pode conter, tendo apenas acesso a algumas “pistas” sobre a forma do diploma. As recomendações que têm sido feitas, seja pelo Parlamento, no Fitness Check, por associações ou por académicos são apenas isso, recomendações, que podem sempre ser acolhidas, rejeitadas, modificadas e ou ignoradas.

Até termos mais informações concretas estamos, portanto, no terreno da especulação.

Assumindo esta realidade, podemos olhar criticamente para as medidas que estão a ser propostas.

Neste sentido, damos destaque a uma recomendação, particularmente inventiva e potencialmente controversa, para resolver o problema da morosidade e complexidade dos procedimentos legislativos europeus face à evolução das práticas no mercado e evolução tecnológica: o DFA alterar a DPCD e DCA para incluírem artigos que permitam à Comissão Europeia, por atos delegados, “editar” as blacklists nos anexos, de forma a acrescentar novas práticas comerciais desleais/cláusulas contratuais absolutamente proibidas.

Este tipo de delegação de poderes, previsto nos Tratados e amplamente utilizado em diversas áreas, como na fixação de requisitos de sustentabilidade (Ecodesign) para diferentes gamas de produtos e no AI Act (para a Comissão alterar os critérios de classificação de sistemas de IA de alto risco e a lista do anexo III, entre vários exemplos), poderia ser uma forma eficaz de permitir que a Comissão fosse colmatando a lista de práticas comerciais absolutamente proibidas com diferentes dark patterns, à medida que fosse recolhendo evidências científicas da sua nocividade, mantendo o PE e o Conselho a prerrogativa de se oporem, formulando objeções.

A maleabilidade destes anexos pode reduzir a segurança jurídica dos operadores económicos, mas pode contribuir para reduzir a fragmentação regulatória entre Estados Membros, especialmente quanto à DCA. No plano nacional, mesmo com atrasos na transposição, o efeito conforme poderia contribuir para uma melhor atuação de todos os stakeholders.

Existe um outro obstáculo bastante mais difícil de transpor: não é exatamente claro se este tipo de delegação de poderes é válida à luz do artigo 190.º do Tratado sobre o Funcionamento da União Europeia. Os atos delegados são atos não legislativos de alcance geral que só podem completar ou alterar elementos não essenciais do ato legislativo.

Enfim, é apenas (mais) uma ideia a considerar.

[1] Os sistemas de recomendação de várias plataformas já estão a ser investigados à luz do DSA pela Comissão. https://www.euronews.com/next/2024/10/02/tiktok-youtube-snapchats-video-recommendations-probed-by-eu-commission, Commission addresses additional investigatory measures to X in the ongoing proceedings under the Digital Services Act | Shaping Europe’s digital future

[2] 545 votos a favor, 12 contra e 61 abstenções.

[3] Como se viu no debate do EU Consumers Day no plenário do PE a 12 de março.