Um curto vídeo de Haaland, o “grande” ponta-de-lança norueguês, a assustar-se com o seu próprio reflexo enquanto come num restaurante pode suscitar várias reações: risos, admiração e, claro, paranoia. Paranoia, como assim? Simples: “espera aí, será que isto é AI?”.
Estamos em julho de 2026 e as capacidades de geração de imagem, vídeo e áudio dos sistemas de inteligência artificial (AI) estão a atingir níveis de sofisticação e qualidade que começam a enganar até quem tenta estar mais atento. Um número crescente de pessoas consome e partilha “AI slop” mais ou menos inconscientemente, desde conteúdos “inofensivos” a deep fakes realistas que procuram ativamente distorcer a opinião (política, cultural, futebolística, etc.) de quem os visualiza. Inevitavelmente, isso cria noutra fatia da população a reação contrária: repulsa, nojo e até ódio pelo falso, postiço, oco, e uma perda de confiança generalizada.
Em diversos sectores, a utilização de AI generativa, especialmente nas indústrias criativas, pode resultar em graves danos reputacionais. Quando se descobre que alguma série/filme, obras de artistas utiliza/contém conteúdos gerados por AI, chove um coro de críticas, além de boicotes.
Quando o Duolingo anunciou que passaria a utilizar conteúdos gerados por AI, a reação do público foi imediata: milhares de contas e subscrições canceladas (com screenshots orgulhosamente partilhados nos comentários das publicações do Duolingo) e uma queda de 80% do valor das ações da empresa.
Outras empresas fazem anúncios precisamente do contrário: promessas de que nunca utilizarão AI generativa nos seus conteúdos, assegurando que os seus parceiros e fornecedores também não.
Diversas plataformas online têm implementado medidas e atualizado os seus T&C para combater a proliferação de contas que publiquem conteúdos gerados por AI em massa, assim como forçar a identificação do conteúdo gerado ou modificado com recurso a AI, como Youtube e Google).
A imposição desta transparência também já começa a ser a prática em alguns mercados em linha: o Steam, o maior marketplace online de videojogos, impõe a todos os profissionais que identifiquem os jogos que utilizam assets gerados por AI ou que incorporem sistemas de AI generativo, destacando essa informação na “montra” de cada produto. Este anúncio foi bastante bem recebido pelos seus utilizadores. No setor dos videojogos já houve demasiadas controvérsias, desde developers a serem apanhados a mentir sobre a utilização de AI, prémios de indústria a serem retirados e falsas acusações.
Estas medidas são assim motivadas por interesses comerciais (de preservação da reputação e qualidade do serviço), mas também por questões legais, seja quanto ao Regulamento dos Serviços Digitais (DSA), o Direito do Consumo e, claro, o Regulamento (EU) 2024/1689 de AI (AI Act).
A utilização de AI como requisito substancial no Direito do Consumo
No contexto de relações de consumo, a utilização de AI pode surgir em diversas dimensões:
a. AI pode ser utilizado na relação com os consumidores, seja na fase pré-contratual (no aliciamento de consumidores e na personalização das ofertas (seja no serviço/produto em si ou em elementos do contrato, como o preço), na celebração do contrato (automatizada por diversos meios, incluindo sistemas de AI agênticos), na execução e na fase pós-contratual (por exemplo se canais de contacto e sistemas de reclamação utilizarem meios automatizados);
b. AI pode ter sido utilizado na produção do conteúdo/serviço (seja enquanto auxiliar de produtividade (na programação) ou na própria produção (geração de imagens, texto, vídeo, áudio), como pode ser um componente do (ou o próprio) serviço/produto).
Neste sentido, e focando em especial na questão da transparência sobre AI na produção dos conteúdos e serviços e da utilização de chatbots pelo profissional na sua relação com o consumidor, o Direito do Consumo não tem uma resposta expressa sobre este tema.
Isto não significa que os consumidores fiquem completamente desamparados: dependendo do tipo de produto/serviço/conteúdo digital, é possível defender que a utilização/incorporação de conteúdos gerados e modificados por AI afeta as características principais do mesmo, sendo assim um requisito substancial (material Information) para o processo decisório, cuja omissão pode ser considerada uma prática comercial enganosa à luz do regime das práticas comerciais desleais e uma violação de deveres de transparência na contratação à distância.
Adicionalmente, um profissional não poderá expressamente incluir nas suas comunicações comerciais e marketing que os conteúdos e serviços digitais que fornece não têm conteúdos gerados/modificados por AI e depois incumprir esta indicação sem estar a incorrer numa prática comercial enganosa.
Transparência de AI no Regulamento dos Serviços Digitais (DSA)
O DSA, de 2022, aborda já o tema dos chatbots de forma expressa. Os serviços intermediários em linha podem utilizar chatbots no ponto de contacto com os destinatários do serviço, auxiliando os mesmos a retirar dúvidas e a submeter denúncias. No entanto, esta funcionalidade só pode ser um complemento de outras formas não automatizáveis de o destinatário contactar o prestador, sendo que a sua utilização tem de ser absolutamente transparente, conforme o art. 12.º e considerando 43.
O DSA também tem obrigações expressamente direcionadas aos deep fakes.
As plataformas em linha de muito grande dimensão (VLOP) e motores de pesquisa em linha de muito grande dimensão (VLOSE)[1] têm obrigações de mapeamento e mitigação ativa de riscos sistémicos para os direitos fundamentais (art. 34.º e 35.º). Neste âmbito, os prestadores destes serviços devem monitorizar ativamente a difusão de conteúdos ilegais e desinformação, a ocorrência de campanhas coordenadas de proliferação de conteúdos enganosos ou suscetíveis de induzir em erro, assim como a utilização não autêntica do serviço (como contas falsas controladas por redes de bots).
Assim, o art. 35.º-1-k) refere que os VLOP e os VLOSE devem assegurar que os conteúdos manipulados (ou gerados/modificados por AI) que falsamente representem pessoas, objetos, entidades, lugares ou acontecimentos de tal forma que pareçam autênticos, devem ter marcações visíveis que os distingam, revelando a sua verdadeira natureza. Adicionalmente, as próprias plataformas podem fornecer uma funcionalidade para que os destinatários possam facilmente assinalar esta questão em conteúdos que visualizem.
Conclusão
A análise desenvolvida ao longo deste texto – a primeira de duas partes – centrou-se nas obrigações de transparência relativas a conteúdos gerados por inteligência artificial (AI) e chatbots, à luz do Direito do Consumo e do Regulamento dos Serviços Digitais (DSA).
No próximo texto vamos analisar as obrigações de transparência do art. 50.º do AI Act e a forma como estas complementam (ou não) as respostas do Direito do Consumo e do DSA, além de responder à questão central: “mas o vídeo do Haaland, é AI ou não?”
[1] Os VLOP e VLOSE são designados pela Comissão Europeia, quando alcançam ou ultrapassam um número médio mensal de 45 milhões destinatários ativos do serviço (este número pode ser reajustado no futuro pela Comissão Europeia, para continuar a corresponder aproximadamente a 10% da população da União Europeia).