Quando quem recomenda um produto não existe: IA, publicidade e o desafio da confiança do consumidor

Doutrina

Por Leonor Gambôa Machado & Lucas Battistello Espindola

Em agosto de 2026, um vídeo promocional de lentes de contacto coloridas, protagonizado por Fang Taozi[1], uma “atriz” gerada por inteligência artificial, foi removido da plataforma Weibo após uma onda de reações negativas por parte dos utilizadores chineses. No vídeo, Fang Taozi afirmava que as lentes eram “confortáveis de usar durante todo o dia” e que o produto utilizava uma técnica especial para as manter estáveis, incentivando os utilizadores a “piscar com confiança”.

O argumento do público foi simples e, surpreendentemente, juridicamente fundamentado: uma figura virtual não pode usar lentes de contacto, tornando a sua “experiência pessoal de conforto” impossível e, por defeito, enganosa para os consumidores. Ou seja, quando uma personagem virtual relata uma experiência que não pode ter tido, não está apenas em causa a artificialidade de quem presta o testemunho, mas também a eventual natureza enganosa da própria mensagem, na medida em que esta possa induzir o consumidor em erro quanto às características ou vantagens do produto.

Este caso não é um episódio isolado. Segundo o Global Times[2], o recurso a protagonistas geradas por IA para fins de promoção comercial tornou-se uma tendência crescente em vários setores na China, com “atores gerados por IA” a publicitar regularmente produtos de beleza, skincare, bebidas e outras categorias de consumo.

E o mesmo começa a acontecer no mercado ocidental. Os chamados “virtual influencers” (figuras totalmente geradas por computador que habitam as redes sociais simulando comportamentos de criadores de conteúdo humanos) já acumulam audiências que rivalizam com as dos influenciadores mais populares do mundo. Lil Miquela, criada em 2016 pela empresa californiana Brud, conta com mais de 2 milhões de seguidores no Instagram. Noonoouri, avatar gerado digitalmente e gerido pela empresa alemã Opium Effect, reúne mais de 400 mil seguidores. Juntos, e com muitos outros, estes avatares participam numa economia paralela de patrocínios e colaborações comerciais de marcas conhecidíssimas, com valores que rivalizam, e por vezes superam, os dos seus homólogos humanos[3].

No contexto em que temos um avatar a simular uma experiência física que não pode ter tido, a questão que se coloca é, afinal, tripla: é sequer permitido utilizar atores gerados por IA em publicidade? Em caso afirmativo, que pressupostos são necessários? E o que impõem, de forma autónoma e mais exigente, o direito do consumo e o direito da publicidade?

É permitido usar “atores IA” em publicidade?

Limitando-nos ao contexto europeu e, mais especificamente, a Portugal, a resposta curta é: não existe uma proibição genérica. A resposta honesta é: depende, e, em muitos casos, o cumprimento formal das regras existentes não será suficiente para garantir a licitude de uma campanha.

Seria tentador reduzir a análise às obrigações de transparência e informação à luz do regime vigente. Sem prejuízo de o presente artigo não se debruçar de forma exaustiva sobre as obrigações de transparência do Regulamento (UE) 2024/1689, de 13 de junho de 2024, relativo à inteligência artificial[4] (o “AI Act”)[5], importa assinalar que estas representam uma primeira camada, necessária, mas insuficiente, para analisar a questão em toda a sua extensão.

As obrigações de transparência do artigo 50.º do AI Act visam reduzir riscos de personificação, engano, desinformação e manipulação à escala, e mitigar potenciais impactos adversos nos processos democráticos e na confiança social causados por conteúdos ou interações gerados ou manipulados por IA. O artigo 50.º não proíbe a utilização de atores gerados por IA em publicidade, mas condiciona-a fortemente, ao impor obrigações de transparência (em especial a utilização de “deep fakes”) cujo incumprimento tem consequências jurídicas significativas.

Em específico, é considerado um “deep fake” o conteúdo de imagem, áudio ou vídeo gerado ou manipulado por IA que se assemelha a pessoas, objetos, locais ou entidades existentes e que falsamente parece autêntico ou verdadeiro. A avaliação é objetiva e contextual, considerando a mensagem transmitida, o contexto de distribuição e as expectativas razoáveis do público-alvo, incluindo grupos vulneráveis com menor literacia digital, sem exigir necessariamente uma intenção de enganar. O ponto que importa sublinhar é que os critérios de qualificação não dependem de a figura ser uma simulação de uma pessoa real e concreta. Pode também abranger representações sintéticas suficientemente realistas para serem percecionadas pelo público como autênticas.

Este entendimento é reforçado pelas Guidelines da Comissão Europeia[6], que explicam como um vídeo manipulado por IA com um influenciador “sintético” realista a testar um produto real patrocinado, focado unicamente na demonstração das funcionalidades do produto, representa um exemplo de deep fake para efeitos do artigo 50.º.

Para estes casos, o regime do AI Act exige que, se um conteúdo se qualifica como deep fake, o “deployer” ou “responsável pela implantação” (que, neste contexto, poderá ser a marca, a agência criativa e, eventualmente, a plataforma de distribuição) tem a obrigação de divulgar que o conteúdo foi artificialmente gerado ou manipulado, através de um rótulo ou indicação clara, compreensível e percetível (visível ou audível) para quem o visualiza, sem que o público necessite de recorrer a ferramentas técnicas adicionais. Em termos de posicionamento e formato, a indicação deve ser clara e distinguível, prestada o mais tardar no momento da primeira exposição[7].

No entanto, cumprir as obrigações de transparência do artigo 50.º não garante, por si só, que sejam cumpridos outros regimes jurídicos aplicáveis. Na verdade, as obrigações de transparência do AI Act operam “sem prejuízo” de outras disposições, podendo o direito do consumo e outros regimes impor divulgações adicionais ou mais exigentes. Em termos práticos, isto significa que a rotulagem exigida pelo AI Act é um dos crivos a ser observado, mas não o único a ser cumprido. Para que uma campanha publicitária com um ator gerado por IA seja verdadeiramente lícita, é preciso analisar pelo menos outra camada normativa no que toca ao direito da publicidade e ao direito do consumo.

Que limites impõem o direito da publicidade e o direito do consumo?

Voltemos ao caso da Fang Taozi, que expõe a tensão mais profunda entre atores gerados por IA e direito da publicidade: a figura do testemunho publicitário. Um avatar gerado por IA, por definição, não tem experiência. Não pode usar lentes de contacto. Não pode sentir conforto ou desconforto. Não pode conduzir um teste de produto. A afirmação de que as lentes são “confortáveis de usar durante todo o dia” é juridicamente problemática desde a sua conceção, já que não existe testemunho genuíno, não existe experiência comprovável e não existe ligação possível entre o protagonista da recomendação e o produto.

Esta questão não é resolvida pela mera rotulagem de “conteúdo gerado por IA”. Uma etiqueta que diga “AI GENERATED” não valida um testemunho impossível, apenas informa que quem o presta não existe. E a transparência quanto à origem do conteúdo não substitui a veracidade do conteúdo em si.

O problema, porém, não está apenas em saber quem profere a mensagem, mas também naquilo que essa mensagem pretende fazer crer ao consumidor. A publicidade sempre conviveu com uma certa dimensão de encenação: atores que representam consumidores, cenários construídos e narrativas pensadas para associar determinadas qualidades a um produto. A utilização de personagens geradas por IA não rompe, por si só, com essa lógica. A dificuldade surge quando a encenação deixa de representar uma experiência possível e passa a apresentar como vivida uma experiência que, por definição, nunca ocorreu, nem poderia ocorrer.

É neste ponto que as regras tradicionais do direito da publicidade e das práticas comerciais desleais recuperam centralidade. O princípio da veracidade não exige que toda a mensagem publicitária corresponda a uma descrição literal da realidade, mas exige que as afirmações suscetíveis de influenciar a decisão do consumidor não assentem em qualidades, efeitos ou experiências que não possam ser comprovadas. A questão deixa, assim, de ser apenas saber se o consumidor percebe que Fang Taozi é uma personagem artificial. Passa a ser saber se a afirmação de que as lentes são confortáveis “durante todo o dia” pode ser apresentada como uma experiência pessoal quando não existe qualquer experiência subjacente.

A distinção é particularmente importante porque uma mesma mensagem pode combinar elementos de natureza diferente. Uma coisa é afirmar que determinado produto possui uma característica objetiva – por exemplo, estabilidade, duração ou determinado nível de desempenho – cuja veracidade poderá, em princípio, ser demonstrada através de elementos técnicos. Outra, distinta, é apresentar essa característica através de um testemunho pessoal: “usei”, “senti”, “resultou comigo”. Neste segundo caso, não está apenas em causa a qualidade atribuída ao produto, mas também a existência da própria experiência que lhe confere credibilidade.

Notas finais / Conclusão

O caso da Fang Taozi é juridicamente revelador porque torna evidente a falácia de que basta colocar um rótulo ‘gerado por IA’ para que tudo o resto seja lícito. Não é assim.

A utilização e a incorporação de conteúdos gerados ou modificados por IA pode afetar a forma como as características, qualidades ou efeitos de um produto ou serviço são apresentados ao consumidor e, nessa medida, influenciar o seu processo decisório. Quando essa utilização é suscetível de criar uma perceção errada sobre o produto, sobre quem o recomenda ou sobre a experiência que sustenta essa recomendação, podem entrar em jogo, para além das obrigações de transparência do AI Act, as regras tradicionais do direito da publicidade e das práticas comerciais desleais.

A rotulagem resolve, por isso, apenas uma parte do problema. Pode esclarecer a origem artificial do conteúdo, mas não garante a veracidade das afirmações feitas, não transforma uma experiência simulada numa experiência real e não dispensa o anunciante de comprovar as qualidades que atribui ao produto.

Neste contexto, o desafio não parece estar na criação de regras inteiramente novas para personagens sintéticas, mas na aplicação de princípios já conhecidos a uma forma de comunicação em que a própria experiência pode ser artificialmente construída. A IA pode alterar quem comunica, a forma como comunica e até a aparência de quem recomenda um produto. Não altera, porém, a exigência de que a mensagem publicitária seja verdadeira, comprovável e apreciada à luz do consumidor a quem se dirige.

Há, por fim, um ponto mais profundo que este caso convida a considerar. O conceito de uma recomendação publicitária assenta, por definição, numa relação de confiança transferida: o consumidor acredita no produto porque acredita em quem o recomenda. Quando quem recomenda não existe, não desaparece apenas a experiência que sustenta a mensagem, altera-se o próprio mecanismo de confiança em que a recomendação assenta. O consumidor continua a receber uma mensagem com aparência de testemunho pessoal, mas a pessoa, a experiência e a convicção que normalmente lhe confeririam credibilidade são integralmente construídas. É precisamente neste desfasamento entre aparência de autenticidade e inexistência de experiência real que reside um dos principais desafios destes novos formatos publicitários.

[1] Fang Taozi é uma atriz virtual que ascendeu à fama como protagonista de uma curta-metragem chinesa chamada “The Laid-off Girl”, que à data de publicação deste artigo, contava com mais de 200 milhões de visualizações.

[2] Xi, C. (2026, August 9). China AI-generated actress’s contact lens ad pulled after netizen backlash over its credibility. Global Times, disponível em: https://www.globaltimes.cn/page/202608/1367808.shtml

[3] Para mais informações sobre o tema, The Creator Economy. (2026, June 19). AI influencers vs. human creators: The real trade-offs brands are making in, disponível em 2026 https://thecreatoreconomy.com/post/ai-influencer-marketing-vs-human-creators-2026 e Sheena, J. (2023, September 12). Brands are still figuring out virtual influencers. Marketing Brew, disponível em https://www.marketingbrew.com/stories/2023/09/12/brands-are-still-figuring-out-virtual-influencers .

[4] Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que estabelece regras harmonizadas em matéria de inteligência artificial (Regulamento Inteligência Artificial). Jornal Oficial da União Europeia. Disponível em https://eur-lex.europa.eu/legal-content/PT/TXT/?uri=CELEX:32024R1689 .

[5] Textos NOVA Consumer Blog, de Martim Farinha: https://novaconsumerlab.novalaw.unl.pt/transparencia-de-conteudos-gerados-por-ai-e-chatbots-parte-1-informacao-material-para-os-consumidores/ e https://novaconsumerlab.novalaw.unl.pt/a-transparencia-de-conteudos-gerados-por-ai-e-chatbots-parte-2-artigo-50-o-do-regulamento-de-inteligencia-artificial-ai-act/

[6] Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689 (the “AI Act”) (C(2026) 5054 final). Comissão Europeia. Disponível em https://digital-strategy.ec.europa.eu/pt/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems .

[7] Importa notar que existe um regime de divulgação atenuado para deep fakes que integrem obras evidentemente artísticas, criativas, satíricas ou ficcionais. Mas, numa campanha publicitária, este regime raramente se aplica. Se o conteúdo for reconhecidamente comercial, tende a ficar excluído, e se houver uma combinação de carácter informativo e criativo, o carácter informativo prevalece, impondo a rotulagem padrão. Nesse sentido, as Guidelines da Comissão Europeia excluem expressamente do regime atenuado, entre outros, os vídeos ao estilo de “teleshopping” com simulação de humanos a publicitar um produto, imagens de celebridades que impliquem o seu envolvimento em atividades que nunca aconteceram, e vídeos com influenciadores “sintéticos” realistas a testar produtos patrocinados.

E se o seu novo artista favorito no Spotify for, na verdade, IA?

Doutrina

Imagine descobrir que o novo artista que apareceu nas recomendações da sua plataforma de streaming, cujas músicas começou a ouvir regularmente, pode não ser uma pessoa humana. É precisamente essa a controvérsia em torno de Sienna Rose, uma misteriosa cantora que está a reunir milhões de ouvintes mensais no Spotify. A ausência de atuações ao vivo, entrevistas ou de uma identidade pública verificável, combinada com um elevado número de lançamentos, levou muitos a questionar se a artista seria, afinal, gerada por inteligência artificial (IA). Embora não exista confirmação definitiva, e a cantora afirme ser humana em suas redes sociais, sistemas de deteção já classificaram parte das suas mídias como potencialmente geradas por IA.

O problema, contudo, não é apenas a utilização de IA para produzir música. A questão torna-se mais delicada quando a IA é utilizada para construir a identidade pública do artista sem claramente informar o consumidor sobre tal. Perante esta realidade, surge uma pergunta inevitável: tem o consumidor europeu o direito de saber através da plataforma de streaming se o artista que está a ouvir não é humano?

O que diz o AI Act?

As obrigações de transparência do AI Act estão previstas no seu artigo 50.º, já aqui explorado num texto recente, que, especificamente no n.º 2, destaca que sistemas de IA que gerem áudio, imagem, vídeo ou texto sintético devem assegurar que esses conteúdos sejam detetáveis como artificialmente gerados ou manipulados. A obrigação, entretanto, dirige-se, a priori, aos sistemas que produzem o conteúdo (por exemplo, plataformas de geração musical) que devem assegurar a marcação, bem como disponibilizar ferramentas para detectar tais assinaturas. Para sistemas que já foram lançados no mercado europeu, esta obrigação será aplicável a partir de 2 de dezembro de 2026.

O artigo 50.º, n.º 4, do AI Act prevê ainda obrigações específicas de transparência relativamente a deepfakes, dirigidas a cadeia de responsáveis pela disponibilização desse tipo de conteúdo. Segundo as orientações da Comissão, podem enquadrar-se nesta categoria conteúdos que apresentem um elevado grau de semelhança com a realidade e que simulem “alguém ou algo que existe, que pode plausivelmente existir ou que poderia plausivelmente ter existido”, quando sejam suscetíveis de enganar ou induzir o público em erro quanto à sua autenticidade. Neste sentido, a noção de deepfake não se limita necessariamente à imitação de uma pessoa concreta e identificável. Uma persona artística inteiramente gerada por IA, mas apresentada com elevado grau de verossimilhança à realidade, pode igualmente suscitar a aplicação dessas obrigações de transparência. Nesses casos, a identificação clara da natureza artificial do conteúdo por parte das plataformas de streaming torna-se particularmente relevante para evitar que o público seja induzido em erro quanto à existência do artista apresentado.

E o que diz o direito do consumidor na União Europeia?

A Diretiva (UE) 2019/770, relativa ao fornecimento de conteúdos e serviços digitais, estabelece, no seu artigo 8.º, que esses serviços devem apresentar as qualidades e características que o consumidor possa razoavelmente esperar. A esta exigência soma-se o artigo 6.º da Diretiva 2011/83/UE, que concretiza deveres de informação pré-contratual e exige que o profissional informe o consumidor, de forma clara e compreensível, sobre as principais características dos bens ou serviços oferecidos. Embora nenhum destes instrumentos imponha expressamente a identificação da natureza humana ou artificial de um artista, é plausível sustentar que, à medida que personas geradas por IA se tornam mais comuns nas plataformas de streaming, essa informação integre as características que o consumidor razoavelmente espera conhecer ao utilizar o serviço em questão.

Há ainda, e talvez mais relevante, a Diretiva 2005/29/CE relativa às práticas comerciais desleais (UCPD). Os artigos 6.º e 7.º consideram enganosa uma prática que omita informação relevante, contenha informação falsa ou que, pela sua apresentação geral, seja suscetível de induzir o consumidor médio em erro. Assim, a questão não depende necessariamente de existir uma afirmação expressa de que determinado artista é humano. A combinação de nome, fotografia fotorrealista, biografia, vídeos e uma voz atribuída àquela identidade pode, na sua apresentação global, criar precisamente essa impressão.

A natureza humana ou artificial do artista pode, portanto, ser entendida como uma característica intrínseca do conteúdo e, por extensão, do serviço de streaming através do qual esse conteúdo é disponibilizado. A identidade de quem cria ou interpreta a obra integra a forma como o produto cultural é oferecido ao público e a informação sobre a natureza humana ou artificial do artista passa a ser essencial para uma decisão informada por parte do consumidor. Por isso, apresentar uma persona artificial como se correspondesse a uma pessoa real, sem revelar essa circunstância de forma clara, pode suscitar problemas à luz do atual regime europeu.

A resposta da plataforma Spotify

A plataforma envolvida nas polémicas começou a responder a este problema. Em 11 de agosto de 2026, anunciou a introdução de badges específicos para perfis que representem identidades artificialmente geradas, dividindo-os entre a autodeclaração dos artistas e sistemas de detecção da própria plataforma. Afirmam ainda que o sistema de recomendação algorítmica irá passar a priorizar artistas que não possuem estes badges. O utilizador, então, continuaria livre para procurar artistas gerados por IA e ouvir suas músicas, mas saberia com precisão se se trata de artista humano ou não ao averiguar o respectivo perfil.

Esta resposta adotada pela empresa parece acompanhar a nova preocupação dos seus utilizadores e as normas europeias acerca da transparência e informação ao consumidor. A eficácia e legalidade dessa solução, contudo, dependerão ainda de como esta solução irá se concretizar e como será apresentada ao público. Um badge pouco visível numa página secundária é diferente de uma indicação clara antes que determinada música seja ouvida.

Por fim, não poderia deixar de pontuar que a importância dessa transparência se torna ainda mais evidente quando se considera a natureza particular da relação entre consumidores, música e identidade artística. A música nunca foi consumida apenas como uma sequência de sons. Ouvimos histórias, reconhecemos vozes e criamos ligações com as pessoas que imaginamos existir por detrás delas. Alguns consumidores podem não se importar se um artista é humano ou artificial, mas essa indiferença só pode ser verdadeiramente uma escolha quando todos possuem informação suficiente e clara para tomar esta decisão.

A Transparência de Conteúdos Gerados por AI e Chatbots (Parte 2): Artigo 50.º do Regulamento de Inteligência Artificial (AI Act)

Doutrina

O Regulamento (EU) 2024/1689 (AI Act) é o principal diploma europeu que regula a disponibilização de sistemas de AI no mercado e a sua utilização. O regulamento segue uma abordagem baseada no risco, classificando os sistemas (e modelos de finalidade geral) de AI em diferentes categorias de risco, sendo que uma destas abrange precisamente os sistemas de AI que apresentem riscos de transparência, sujeitando-os às obrigações previstas no artigo 50.º do AI Act.

Conforme referem os considerandos 132 a 136, o objetivo é precisamente reduzir os riscos de personificação, engano, desinformação, manipulação em escala e fraude, bem como mitigar os potenciais impactos adversos nos processos democráticos e na confiança social.

O artigo 50.º é especialmente relevante pois avizinha-se a sua entrada em aplicação, a 2 de agosto. Com a exceção do art. 50.º-2, cuja aplicação foi adiada para o dezembro deste ano, com a aprovação (pelo Conselho e pelo Parlamento Europeu) e publicação (em breve) do AI Omnibus.

Para preparar a sua aplicação, a Comissão Europeia publicou Orientações sobre a implementação destas obrigações, além de ter promovido e adotado um Código de Conduta voluntário (este apenas sobre o 50.º-2 e 4).

O artigo 50.º do AI Act tem 4 obrigações distintas, sendo que as distribui por dois tipos de atores: os prestadores de sistemas (providers¸ isto é, quem desenvolve e coloca os sistemas de AI no mercado) e os responsáveis pela sua implantação (deployers, aqueles que utilizam os sistemas de AI).

As obrigações são as seguintes:

1. Artigo 50.º, n.º 1: Transparência para sistemas de AI interativos

A primeira obrigação dirige-se aos prestadores de sistemas de AI destinados a interagir diretamente com pessoas singulares. Estes devem garantir que as pessoas singulares em causa são informadas de que estão a interagir com um sistema de AI, de forma clara e distinguível, o mais tardar no momento da primeira interação, considerando também as características das pessoas pertencentes a grupos vulneráveis.

Chatbots de serviço ao cliente, assistentes de voz, agentes de AI, robôs humanoides, companheiros de AI e avatares de AI em ambientes de realidade virtual, devem assim cumprir com esta obrigação, recorrendo às técnicas que mais se adequarem ao meio em causa, seja com notificações escritas, meios visuais e ou auditivos, e identificadores de AI.

Como exemplos de conformidade com esta obrigação, temos as saudações iniciais de vários chatbots que lembram os utilizadores da sua natureza e (algumas) limitações. Em atendedores de chamadas (por exemplo, no apoio ao cliente), o sistema deverá identificar-se não só início da chamada, mas periodicamente relembrar a sua natureza, especialmente com a maior duração da chamada.

No caso específico dos agentes de AI, quando sejam capazes de interagir com pessoas singulares na execução de tarefas (por exemplo, fazer reservas, gerir correspondência, negociar contratos, executar compras), estes devem revelar a sua natureza artificial e a pessoa em nome de quem atuam, incluindo em arquiteturas multi-agente (quando interagem com outros agentes, que podem atuar em nome de outras pessoas e entidades). Quando o prestador não consegue determinar previamente se haverá interação direta com pessoas singulares, o agente deve ser concebido para se identificar como tal sempre que seja razoavelmente provável que esse tipo de interação ocorra, especialmente em momentos-chave (pedidos de autorização, fornecimento de relatórios de ações executadas, validação de decisões) e a cada nova interação.

Existem duas exceções expressas:

i. Caso seja óbvio do ponto de vista de uma pessoa singular razoavelmente bem informada, atenta e advertida (aqui o standard deve ser interpretado em linha com a figura do consumidor médio do Direito do Consumo), tendo em conta as circunstâncias e o contexto de utilização (como exemplo, chatbots em ferramentas de programação (IDEs como o Visual Studio Code) e NPCs em videojogos);

ii. Autorizado por lei para detetar, prevenir, investigar ou perseguir infrações penais, salvo se o sistema estiver disponível ao público para denunciar infrações (esta exceção aplica-se a todas as obrigações).

2. Artigo 50.º, n.º 2: Marcação e deteção de conteúdos sintéticos

Os prestadores de sistemas de AI que geram ou manipulam conteúdo sintético em áudio, imagem, vídeo ou texto, incluindo sistemas de AI de finalidade geral são obrigados a assegurar que os outputs são marcados num formato legível por máquina e detetáveis como artificialmente gerados ou manipulados, devendo fornecer os meios correspondentes de deteção.

Os prestadores vão ter de assegurar que as suas soluções técnicas são eficazes, interoperáveis, robustas e fiáveis, na medida em que tal seja tecnicamente viável, atendendo as especificidades e limitações dos vários tipos de conteúdo (excertos curtos de texto são praticamente impossíveis de detetar de forma viável), os custos de implementação e o estado da arte destas tecnologias e técnicas.

Atualmente muitos sistemas no mercado limitam-se a colocar watermarks simples (tipicamente apenas o nome da ferramenta) colocadas no canto de imagens, que podem ser facilmente cortadas/editadas para não serem visíveis ou detetáveis com ferramentas especializadas.

Esta é a obrigação mais difícil de operacionalizar, cujo cumprimento foi diferido para dezembro pelo AI Omnibus, existindo um grande debate sobre quais as melhores técnicas a considerar (como inserção de metadados no conteúdo gerado e a aplicação de watermarks avançadas), como foi observável no procedimento público de preparação do Código de Conduta e consta da sua versão final.

O estado-da-arte desta tecnologia está em constante evolução (como exemplo, ver o caso do SynthID da Google), entre sistemas de marcação e deteção de AI e formas de contornar a deteção/expurgar a assinatura. No caso de textos, a questão da fiabilidade destes sistemas é ainda mais problemática, não só devido a falsos-negativos, mas também falsos-positivos (engraçado quando acusa a Declaração de Independência de ter sido gerada com AI, altamente problemático no contexto do ensino, especialmente em universidades, onde as falsas acusações são endémicas e altamente danosas, pondo em causa a conduta académica de alunos, investigadores, professores).

Esta obrigação não se aplica quando os sistemas desempenhem uma função de mera assistência para edição e quando não alterem substancialmente os dados introduzidos.

3. Artigo 50.º, n.º 3: Sistemas de reconhecimento de emoções e categorização biométrica

Para este tipo de sistemas de alto-risco (conforme o art. 6.º e o anexo III.1), aplica-se uma obrigação similar aos chatbots, porém direcionada aos responsáveis pela implantação. Estes devem informar as pessoas singulares expostas a estes sistemas e tratar os seus dados pessoais em conformidade com o direito da UE em matéria de proteção de dados, incluindo o RGPD.

A forma como as pessoas devem ser informadas vai depender muito dos destinatários, do contexto e do local de implantação.

Por exemplo, um pop-up a indicar a captação do rosto para identificar as emoções será adequado no caso de videojogos de terror e outras experiências interativas. Caso o sistema esteja instalado num espaço, é possível cumprir este dever através de sinalética adequada na entrada do espaço, seguindo uma lógica similar (mas mais reforçada por ser substancialmente mais intrusiva) à videovigilância.

4. Artigo 50.º, n.º 4: Rotulagem de deep fakes e de textos publicados sobre assuntos de interesse público

Esta obrigação aplica-se aos responsáveis pela implantação e divide-se em duas vertentes.

Na primeira vertente, os responsáveis pela implantação são obrigados a “rotular” os deep fakes (em português, “falsificações profundas”) que produzirem, antes de os divulgarem.

Isto significa que os conteúdos de imagem, áudio ou vídeo (não inclui texto) gerados ou manipulados por AI que apresentem semelhanças com/representem pessoas, objetos, entidades, locais, ou acontecimentos reais, de tal forma que possam induzir pessoas em erro quanto à sua autenticidade ou veracidade, devem ser devidamente rotulados, podendo recorrer aos ícones fornecidos pela Comissão Europeia, preparados no âmbito do Código de Prática.

Os ícones são os seguintes (adaptáveis para diferentes fundos/cores/contexto):

Caso os conteúdos façam parte de uma obra compósita, de natureza artística, criativa, satírica, ficcional ou análoga, esta obrigação de transparência é adaptada, não sendo necessário que os ícones apareçam no momento exato do conteúdo gerado/modificado por AI. Assim, no caso de filmes, videojogos, etc., a obrigação de transparência pode ser feita no início e no fim, não tendo de prejudicar “a exibição ou a fruição da obra”.

Dado que a definição de deep fake do AI Act é particularmente exigente (é necessário que seja uma representação falsa de elementos reais, que aparenta ser autêntica para o destinatário médio^[1]), isto significa que nem todos os conteúdos vão ter de passar a ter estes ícones, mesmo quando não seja óbvio que foram gerados por AI.

Embora próxima do art. 35.º-1-k) do DSA, estas obrigações não são idênticas. A medida do DSA tem um escopo material maior (não requer a utilização de AI) mas um escopo subjetivo substancialmente muito mais reduzido (só se aplica a VLOP e VLOSE, enquanto o art. 50.º-4 do AI Act se aplica a todos os deployers).

A segunda vertente é referente a um tipo de comunicações em texto, de aplicação mais restrita. Entidades (públicas e privadas) que publiquem comunicados ou outros textos sobre temas e questões de interesse público, com o objetivo de informar o público geral, devem assinalar caso o texto tenha sido artificialmente gerado ou manipulado. No entanto, caso os conteúdos tenham sido revistos num processo de análise humana, e que alguém (seja uma pessoa coletiva ou singular) assuma a responsabilidade editorial, deixa de ser necessário este “disclosure”.

Art. 50.º n.º 5 – Requisitos comuns a todas as obrigações de transparência

Existem dois requisitos comuns a todos estes deveres:

i. a informação deve ser transmitida de forma clara e percetível, devendo ser transmitida “o mais tardar” no momento da primeira exposição (ao chatbot/conteúdos gerados/sistemas de reconhecimento de emoções ou categorização biométrica), com avisos regulares em casos de exposição prolongada. Os avisos/ícones/rótulos têm de ser fáceis de identificar, não se podem confundir no ambiente nem com outros avisos, nem estar escondidos ou disfarçados (num menu pouco visível, por trás de várias opções);

ii. e, em conformidade com requisitos aplicáveis de acessibilidade, isto é, de percetibilidade, operabilidade, compreensibilidade e robustez, previstos na Diretiva (UE) 2016/2102 relativa à acessibilidade dos sítios web e das aplicações móveis de organismos do setor público e na Diretiva (UE) 2019/882 relativa aos requisitos de acessibilidade dos produtos e serviços.

Conclusão

O vídeo de Haaland referido no início do primeiro texto? Sim, era AI. Este é o vídeo verdadeiro, de um comediante chinês. Depois de 2 de agosto de 2026, se o vídeo com o “AI-Haaland” for novamente publicado pelo seu autor, o vídeo terá de incluir a rotulagem adequada, podendo recorrer aos ícones fornecidos pela Comissão Europeia.

Como analisado, as obrigações do art. 50.º do AI Act não são uma bala de prata que resolve todos os problemas e riscos de transparência dos conteúdos gerados e na interação com sistemas de AI.

Quanto aos chatbots (seja no atendimento telefónico/resposta a emails/chatbots integrados na interface), o AI Act assegura que haja um nível mínimo de transparência quanto à natureza do canal de comunicação, mas por si só não resolve a comum frustração de não conseguir/ser difícil chegar a um interlocutor humano.

Recentemente foi apresentada uma proposta visando a consagração do “direito ao interlocutor humano”, no Projeto de Lei 639/XVII/1 (PS), que propõe alterar a Lei de Defesa do Consumidor para que os consumidores possam diretamente requerer este tipo de interlocutor. Assim, o atendimento automatizado só pode ser um complemento, não podendo ser utilizado para “excluir, restringir, dificultar ou atrasar injustificadamente o acesso do consumidor a interlocutor humano”. Esta iniciativa ainda não foi à 1ª votação geral no plenário, pelo que ainda não é conhecido se terá sucesso.

Quanto à rotulagem/etiquetagem “Made by AI”, o conceito de deep fake não se aplica a todos os conteúdos gerados por AI, apenas os que representem falsamente elementos reais de tal forma que possam parecer autênticos. Assim, considerando estritamente o AI Act, isto não implica a aplicação transversal dos ícones para que os consumidores possam ser devidamente informados quanto à “verdadeira origem” de conteúdos e serviços digitais.

Finalmente, a fiscalização destas obrigações, em especial a “rotulagem”/marcação de deep fakes, será um grande desafio prático de proporções homéricas que irá requerer muita cooperação entre autoridades de diferentes sectores e jurisdições

^[1] Atendendo a potenciais audiências mais suscetíveis, como crianças e pessoas mais velhas com índices mais baixos de literacia de AI.