Uma nova era de responsabilidade civil extracontratual por danos causados por inteligência artificial

Legislação

À medida que a Inteligência Artificial (“IA”) continua a remodelar o nosso mundo, os criadores e utilizadores de sistemas IA enfrentam um cenário de responsabilidade civil em evolução. Neste post, vamos analisar a proposta de Diretiva de Responsabilidade por danos causados por IA (a AI Liability Directive – “AILD”) e explorar os seus elementos-chave relativamente ao regime de responsabilidade civil extracontratual que consagra.

Compreender a proposta AILD

Tal como explorámos numa publicação anterior, na UE, a responsabilidade extracontratual por danos causados pela IA funcionará num sistema de duas vias, sendo uma delas amplamente harmonizada, graças à proposta de Diretiva relativa à responsabilidade pelos produtos defeituosos (a Product Liability Directive – “PLD”). A outra via envolve um regime de responsabilidade em grande parte não harmonizado, composto pela AILD, que deixa uma margem de manobra substancial aos Estados-Membros, ao abrigo das regras do direito nacional em matéria de responsabilidade civil.

Suponhamos que um sistema de IA causa danos a um consumidor. De acordo com a proposta da PLD, esta situação envolve em regra responsabilidade objetiva, em que a parte lesada teria de provar o defeito do produto, o dano e o nexo de causalidade entre os dois. No caso particular de sistemas de IA, contudo, determinar o nexo de causalidade e o defeito pode ser uma tarefa complexa, razão pela qual a PLD consagra presunções de defeito, nexo de causalidade, ou ambos, para aliviar o ónus da prova para os consumidores.

Se o regime a aplicar for o da AILD, então a abordagem será diferente. Esta Diretiva centra-se principalmente em aspetos processuais, com o objetivo de harmonizar as regras para o acesso a informação e o ónus da prova quando se trata de responsabilidade extracontratual baseada na culpa por danos causados por sistemas IA. Por outras palavras, esta Diretiva procura harmonizar o regime processual de pedidos de responsabilidade civil, deixando os requisitos dessa responsabilidade (danos, culpa, nexo de causalidade, etc.) para os Estados-Membros regularem.

Âmbito de aplicação:

No que toca ao seu escopo, a Proposta AILD aplica-se a casos de responsabilidade civil extracontratual subjetiva, nos casos em que o dano é causado por um sistema de IA^[1]. No entanto, a AILD não especifica quem pode estar sujeito a estas regras de responsabilidade. De facto, a proposta limita-se a incluir o conceito de “demandado” como a pessoa contra a qual é apresentado um pedido de indemnização. Isto alarga a sua aplicabilidade para além dos criadores, potencialmente abrangendo utilizadores profissionais e não profissionais e até os próprios consumidores.

No entanto, é relevante mencionar que, embora a proposta não defina quem pode ser responsável por danos, esta limita aqueles a quem as suas disposições se aplicam. Com efeito, o n.º 1 do artigo 3.º menciona potenciais demandados: fornecedores, utilizadores e fabricantes de produtos. Isto significa que os direitos e obrigações aqui consagrados estarão provavelmente vinculados aos atores definidos no Regulamento Inteligência Artificial.

Divulgação e acesso a informação:

Uma parte importante da proposta AILD é o artigo 3.º, que regula a divulgação e o acesso à informação no âmbito destes processos de responsabilidade civil. Esta disposição estabelece deveres específicos de divulgação para os potenciais demandantes quando confrontados com pedidos de indemnização decorrentes de danos causados por sistemas de IA de alto risco.

Para que um potencial requerente possa recorrer ao artigo 3.º do AILD, é necessário que:

o potencial requerente apresente factos e provas que apoiem a plausibilidade do seu pedido de indemnização (n.º 1, segundo parágrafo, do artigo 3.º);

o potencial requerido tenha recusado o acesso às informações necessárias, apesar de as ter à sua disposição (n.º 1, primeiro parágrafo, do artigo 3.º).

A proposta AILD exige que o potencial requerente adote todos os esforços razoáveis para obter os elementos de prova junto do potencial requerido antes de solicitar uma decisão judicial (n.º 2 do artigo 3.º). Se o potencial requerido não cumprir a ordem judicial de divulgação, as consequências são significativas, levando a uma presunção ilidível de incumprimento de um dever de diligência (n.º 5 do artigo 3.º). Esta presunção pode ser utilizada como presunção (ilidível) de um nexo de causalidade entre a culpa do requerido e o dano produzido pelo sistema de IA (n.º 1, alínea a), do artigo 4.º), como veremos mais adiante.

Eis o que isto significa na prática: Suponhamos que alguém sofre um dano devido a um sistema de IA de alto risco e decide apresentar uma queixa. De acordo com a proposta AILD, pode solicitar uma ordem judicial para que o potencial requerido revele provas e informações. No entanto, há uma condição essencial: o caso deve envolver sistemas de IA de alto risco, de acordo com a classificação do Regulamento Inteligência Artificial.

Ónus da prova:

A proposta AILD contém duas presunções significativas que ajudam a aliviar o ónus da prova dos requerentes:

O n.º 5 do artigo 3.º cria a presunção de incumprimento de um dever de diligência, que descrevemos acima, e

O artigo 4.º trata da causalidade entre a culpa do requerido e o resultado do sistema de IA.

Estas presunções são componentes cruciais da proposta AILD, simplificando o processo de determinação da responsabilidade nos casos de responsabilidade por danos que envolvam IA. De facto, pode ser muitas vezes difícil determinar as características exatas dos modelos de IA que foram mais relevantes para o resultado. Para fazer face a este risco de opacidade, o artigo 4.º da proposta AILD introduz uma presunção ilidível. Esta presunção refere-se especificamente ao nexo de causalidade entre a culpa, que deve incluir, pelo menos, a violação de um dever de diligência, e o resultado produzido pelo sistema.

Nesse sentido, para se valer desta presunção, o requerente deve demonstrar com êxito os seguintes elementos (artigo 4.º, n.º 2):

o requerente demonstrou ou o tribunal presumiu a culpa do requerido, devido ao incumprimento do dever de diligência previsto acima^[2] ;
pode ser considerado razoavelmente provável, com base nas circunstâncias do caso, que a falha tenha influenciado o resultado produzido pelo sistema de IA ou a incapacidade do sistema de IA para produzir um resultado;
o requerente demonstrou que o resultado produzido pelo sistema de IA ou a falha do sistema de IA em produzir um resultado deu origem ao dano.

É importante notar que esta presunção não abrange a determinação da culpa em si, a existência – ou inexistência – de uma ação por parte da IA, a existência e o âmbito do dano, ou o nexo de causalidade entre a ação da IA e o dano. Ademais, ao contrário do artigo 3.º, o artigo 4.º não limita o seu âmbito de aplicação aos sistemas de IA de alto risco, abrangendo assim todos os sistemas de IA. Na verdade, define mesmo no n.º 5 que se o pedido de indemnização visar um sistema de IA que não seja de alto risco, a presunção estabelecida no n.º 1 só se aplica se o tribunal nacional considerar excessivamente difícil para o requerente provar o nexo de causalidade aí mencionado.

A proposta AILD não oferece, no entanto, uma definição de culpa, deixando ao critério dos Estados-Membros a forma como a definem nos seus sistemas jurídicos. Esta abordagem proporciona flexibilidade aos países para adaptarem o conceito de culpa aos seus quadros jurídicos atuais. No entanto, também implica que os criadores de sistemas de IA têm de ter em atenção a forma como o conceito é interpretado na jurisdição em que os seus sistemas são utilizados.

Comentários sobre a proposta da AILD

Nesta secção, aprofundamos considerações específicas e potenciais desafios relacionados com a AILD. A compreensão dessas nuances ajudará os criadores de sistemas de IA e consumidores a navegar em matérias de responsabilidade por danos causados por IA com maior confiança.

O primeiro aspeto importante a abordar é transposição de categorias de sistemas de IA (ex. sistemas de alto risco) do Regulamento Inteligência Artificial para a Proposta AILD, como feito no artigo 3.º desta. A categoria de alto risco definida pelo Regulamento Inteligência Artificial pode nem sempre se alinhar perfeitamente com aquilo que seria expectável de um regime processual harmonizado em termos de responsabilidade por danos causados por sistemas de IA. Este desalinhamento pode resultar em situações onde sistemas não são incluídos neste regime, quando deviam, e vice-versa.

Por exemplo, existem sistemas de IA que não são classificados como de alto risco e que podem ainda assim causar danos significativos aos indivíduos, mesmo que não apresentem o mesmo nível de risco para a sociedade em geral. É neste sentido que, por exemplo, a Autoridade Europeia para a Proteção de Dados sugeriu alterar tanto o mecanismo de divulgação de informação como a presunção do artigo 4.º para que sejam desligados da definição de sistemas de alto risco e se apliquem a todos os sistemas de IA.

Por outro lado, ao centrar-se nos sistemas de alto risco, a AILD parece ignorar os sistemas que são considerados proibidos ao abrigo do Regulamento Inteligência Artificial. Tendo em conta os efeitos especialmente negativos que estes sistemas acarretam, a proposta AILD deve ser atualizada de modo a abranger os danos infligidos pela sua utilização. Atualmente, a proposta não aborda explicitamente estas situações. Esta falha cria potenciais ambiguidades e incertezas quanto à responsabilidade dos criadores e utilizadores de sistemas de IA proibidos. Por último, a prova de falhas em sistemas de IA representa um desafio substancial para as pessoas lesadas por sistemas de IA. Este desafio decorre das complexidades dos modelos em causa, em especial quando se trata de revelar quais as características que influenciaram significativamente o resultado produtor do dano. Assim, mesmo com os desenvolvimentos processuais trazidos pelo AILD, ao não se regular em concreto a definição de culpa, eventuais lesados terão ainda de provar elementos como dolo ou negligência do demandado, o que pode ser particularmente difícil.

^[1] De acordo com a definição de IA adotada no Regulamento Inteligência Artificial, ainda em processo legislativo.

^[2] O artigo 4.º do AILD consagra outros requisitos que obrigam o requerente a provar que o dever de diligência foi violado, quando se trata de sistemas de IA de alto risco, relacionados com o incumprimento das obrigações consagradas no Regulamento Inteligência Artificial.

A inovadora “Teoria do Desvio Produtivo do Consumidor” desenvolvida no Brasil por Marcos Dessaune

Doutrina

Por Marcos Dessaune, advogado e autor da Teoria do Desvio Produtivo do Consumidor

A partir de 2009, com o estabelecimento de metas de produtividade para o Poder Judiciário brasileiro, os tribunais pátrios desenvolveram uma jurisprudência defensiva para evitar a multiplicação de processos[1]. Erigida sobre o argumento do “mero aborrecimento”, tal jurisprudência sustenta que só configura dano moral a dor, o sofrimento, o vexame ou a humilhação que, fugindo à normalidade, interfira intensamente no comportamento psicológico do indivíduo, afetando o seu bem-estar. Mero aborrecimento, dissabor, irritação ou sensibilidade exacerbada não caracterizam dano moral, visto que tais situações não são intensas e duradouras a ponto de romper o equilíbrio psicológico do indivíduo[2].

Esse entendimento reverbera um conceito de dano moral que, embora já esteja superado pela doutrina mais recente, continuou a ser reproduzido indiscriminadamente no Direito brasileiro, a ponto de se falar numa “tradicional confusão” entre danos extrapatrimoniais e morais presente em praticamente todos os autores justamente reputados como clássicos na matéria[3].

Diante dessa compreensão doutrinário-jurisprudencial tradicional e da necessidade de se conferir efetividade ao princípio da reparação integral, tornou-se necessário ampliar o conceito de dano moral no Brasil, para que fosse possível reconhecer novas categorias de danos extrapatrimoniais para além da esfera anímica da pessoa e, ao mesmo tempo, para que se permitisse a reparação autônoma de mais de uma espécie deles oriunda do mesmo evento danoso.

Assim sendo, os danos extrapatrimoniais, por serem tradicionalmente chamados no Brasil de “danos morais”, podem ser identificados e classificados com base no bem jurídico lesado. O dano moral lato sensu (ou em sentido amplo), enquanto gênero que corresponde ao dano extrapatrimonial, pode ser atualmente conceituado como o prejuízo não econômico que decorre da lesão a bem extrapatrimonial juridicamente tutelado, abrangendo os bens objeto dos direitos da personalidade. O dano moral stricto sensu (ou em sentido estrito), enquanto espécie de dano extrapatrimonial (ou moral lato sensu), pode ser definido como o prejuízo não econômico que decorre da lesão à integridade psicofísica da pessoa.

Além da ampliação do conceito de dano moral, tornou-se necessário superar o argumento do “mero aborrecimento” na jurisprudência brasileira, o que vem sendo realizado no país pela inovadora Teoria do Desvio Produtivo do Consumidor, que identificou e valorizou o tempo do consumidor como um bem extrapatrimonial juridicamente tutelado e, depois da sua publicação, ensejou o gradual desenvolvimento de uma nova jurisprudência nacional.

Confrontado com a jurisprudência erigida sobre o argumento do “mero aborrecimento”, debrucei-me sobre o seguinte problema: na atual sociedade de consumo brasileira, o consumidor tem sido corriqueiramente levado a despender o seu tempo e a se desviar das suas atividades cotidianas para enfrentar problemas de consumo criados pelos fornecedores. Indaga-se então: essas situações configuram algum dano extrapatrimonial reparável ou, diversamente, representam meros dissabores ou aborrecimentos normais na vida do consumidor?

Ao publicar o primeiro estudo sobre a problemática em 2011, na obra intitulada Desvio Produtivo do Consumidor[4], e avançando em 2017 na Teoria aprofundada do Desvio Produtivo do Consumidor[5], obras que pioneiramente identificaram e valorizaram o tempo do consumidor como um bem jurídico, percebi que não se sustentava a compreensão jurisprudencial brasileira de que a via crucis enfrentada pelo consumidor, diante de um problema de consumo criado e imposto pelo próprio fornecedor, representaria “mero dissabor ou aborrecimento” normal na vida do vulnerável, e não um dano extrapatrimonial ressarcível.

Os substantivos “dissabor” e “aborrecimento” traduzem um sentimento negativo qualificado pelo adjetivo “mero”, que significa simples, comum, trivial. Em outras palavras, a jurisprudência baseada no argumento do “mero aborrecimento” está implicitamente afirmando que, em determinada situação, houve lesão à integridade psicofísica de alguém apta a gerar um sentimento negativo (“dissabor” ou “aborrecimento”). Porém, segundo se infere dessa mesma jurisprudência, tal sentimento é pequeno, trivial ou sem importância (“mero”), portanto incapaz de romper o equilíbrio psicológico da pessoa e, consequentemente, de configurar o dano moral compensável.

Com efeito, essa jurisprudência tradicional revela um raciocínio erigido sobre bases equivocadas que, naturalmente, conduzem a essa conclusão errônea. O primeiro equívoco é que o conceito de dano moral enfatizaria as consequências emocionais da lesão, enquanto ele já evoluiu para centrar-se no bem jurídico atingido; ou seja, o objeto do dano moral era essencialmente a dor, o sofrimento, o abalo psíquico, e se tornou a lesão a um bem extrapatrimonial juridicamente tutelado, abrangendo os bens objeto dos direitos da personalidade. O segundo equívoco é que, nos eventos de desvio produtivo, o principal bem jurídico atingido seria a integridade psicofísica da pessoa consumidora, enquanto, na realidade, são a sua liberdade, o seu tempo vital e as atividades existenciais que cada pessoa escolhe nele realizar, como trabalho, estudo, descanso, lazer, convívio social e familiar, etc.. O terceiro equívoco é que esse tempo existencial não seria juridicamente tutelado, enquanto, na verdade, ele se encontra protegido tanto no rol aberto dos direitos da personalidade quanto no âmbito do direito fundamental à vida. Por conseguinte, o lógico seria concluir que os eventos de desvio produtivo do consumidor acarretam, no mínimo, dano moral lato sensu reparável.

Ocorre que o tempo é o suporte implícito da vida, que dura certo tempo e nele se desenvolve, e a vida, enquanto direito fundamental, constitui-se das próprias atividades existenciais que cada um escolhe nela realizar. Logo, um evento de desvio produtivo traz como resultado um dano que, mais do que moral, é existencial, pela alteração prejudicial do cotidiano e/ou do projeto de vida do consumidor.

Logo, concluí que o fornecedor, ao criar um problema de consumo no mercado e se eximir da sua responsabilidade de saná-lo voluntária, tempestiva e efetivamente, leva o consumidor em estado de carência[6] e situação de vulnerabilidade a desperdiçar o seu tempo vital e a se desviar das suas atividades existenciais para enfrentar o problema que lhe foi imposto. Consequentemente, o consumidor sofre um dano extrapatrimonial de natureza existencial, cujo prejuízo é presumido e deve ser reparado pelo fornecedor que o causou. Denominei esse evento danoso “desvio produtivo do consumidor”, ao tempo que percebi que ele não se amolda à jurisprudência tradicional, segundo a qual ele representaria “mero dissabor ou aborrecimento”, normal na vida do consumidor.

Em resumo, o conceito de dano moral ampliou-se no Brasil nos últimos anos, partindo da noção de dor e sofrimento anímico para alcançar, atualmente, o prejuízo não econômico decorrente da lesão a um bem extrapatrimonial juridicamente tutelado, compreendendo os bens objeto dos direitos da personalidade, como o tempo da pessoa humana. Essa ampliação conceitual vem permitindo o reconhecimento de novas categorias de danos extrapatrimoniais para além da esfera anímica da pessoa, como o dano estético, o dano temporal, o dano existencial, etc., bem como a reparação autônoma de mais de uma espécie deles originária do mesmo evento danoso.

A Teoria do Desvio Produtivo do Consumidor promoveu a ressignificação e a valorização do tempo do consumidor, elevando-o à categoria de um bem jurídico, o que vem possibilitando a superação da jurisprudência brasileira baseada no argumento do “mero aborrecimento”, que fora construída sobre bases equivocadas, contribuiu para a ampliação do conceito de dano moral, apontando esse tempo como um bem extrapatrimonial juridicamente tutelado, e ensejou o gradual desenvolvimento de uma nova jurisprudência nacional, a do desvio produtivo do consumidor.

De acordo com a última pesquisa quantitativa de jurisprudência que realizei, no dia 15-12-2022, a expressão exata e inequívoca “desvio produtivo” já havia sido citada em 45.144 acórdãos de todos os tribunais estaduais, distrital e regionais federais do País, além do Superior Tribunal de Justiça (STJ). Em 2022, publiquei a 3.ª edição da Teoria do Desvio Produtivo ampliada para o Direito Administrativo e o Direito do Trabalho[7], obra que pode ser conhecida em www.marcosdessaune.com.br.

[1] BARRETO, Miguel. A indústria do mero aborrecimento. 2. ed. Juiz de Fora: Editar, 2016. passim.

[2] STJ, REsp 844736/DF, j. 27-10-2009, rel. p/ acórdão Min. conv. Honildo Amaral de Mello Castro.

[3] NORONHA, Fernando. Direito das obrigações. 4. ed. rev. e atual. São Paulo: Saraiva, 2013. p. 591.

[4] DESSAUNE, Marcos. Desvio produtivo do consumidor: o prejuízo do tempo desperdiçado. 1. ed. São Paulo: RT, 2011.

[5] DESSAUNE, Marcos. Teoria aprofundada do desvio produtivo do consumidor: o prejuízo do tempo desperdiçado e da vida alterada. 2. ed. rev. e ampl. Vitória: Edição Especial do Autor, 2017.

[6] Estado de carência corresponde ao estado de desconforto ou de tensão gerado pela ativação de certa carência (necessidade, desejo ou expectativa), estado esse que impulsiona a pessoa a obter certo objeto ou a alcançar determinada meta e, geralmente, não permite demora.

[7] DESSAUNE, Marcos. Teoria ampliada do desvio produtivo do consumidor, do cidadão-usuário e do empregado. 3. ed. rev., modif. e ampl. Vitória: Edição Especial do Autor, 2022.