Transparência cerebral, telepat.ia e neurodireitos: Inteligência Artificial e a proteção jurídica da mente no século XXI

Doutrina

Quando não queremos que alguém saiba algo de nossa vida, não raro ouvimos aquele ditado popular: “se quer guardar bem um segredo, não o conte”. Correto? Não mais. No cenário tecnológico do século XXI, a ideia de comunicação direta de pensamentos e informações entre um indivíduo e uma Inteligência Artificial (IA) está se tornando possível, como foi demonstrada a transparência cerebral no World Economic Forum em Davos deste ano, o que expõe questões essenciais para debate sobre a proteção da mente humana e inaugura um novo domínio jurídico: os neurodireitos.

De fato, não se trata de telepatia. Outrossim, refere-se ao desenvolvimento de neurotecnologias, as quais têm muito a contribuir com usos clínicos e com a promoção da saúde da população de modo geral. Segundo a UNESCO, elas têm potencial para oferecimento de tratamentos e melhorias nas opções preventivas e terapêuticas para aqueles que sofrem de doenças neurológicas e mentais, bem como auxiliar os que não conseguem se comunicar ao traduzir a atividade cerebral em texto, voz ou imagens.

Mas as neurotecnologias vão além da área clínica. Nos últimos tempos, uma miríade de novos produtos com essas funcionalidades foi patenteada ou lançada no mercado de consumo, a exemplo dos novos Airpods da Apple (que são equipados com eletrodos aptos a medir a atividade cerebral), do Neuralink de Musk (uma interface direta entre computador e cérebro já em fase de testes em humanos que transmite sinais neuronais para dispositivos eletrônicos) e, mais recentemente, o sistema de IA da Meta, que promete decodificar o desdobramento de representações visuais no cérebro com uma resolução sem precedentes, como se pode perceber das imagens abaixo:

Fonte: Meta, 2023.

Tradicionalmente, a mente humana é considerada um santuário interno que permanece resistente à manipulação externa, diferenciando-se da natureza mais modulável e coercível do corpo tangível. Mas essa ideia de que é o último refúgio da autonomia pessoal e do autogoverno e, em última instância, de liberdade, tem sofrido e sofrerá modificações em função justamente de neurotecnologias, dados relativos à atividade cerebral e IA, pois, com isso, poderá ser possível manipular ou influenciar indevidamente os pensamentos, as ideias, as emoções e tudo o que não é expresso, mas é processado internamente no tecido nervoso[1].

Existe um reconhecimento crescente de que dispositivos neurais não clínicos e não invasivos geram volumes substanciais de “Big Data Cerebral” que, combinado com outros tipos de dados, tornam o indivíduo completamente transparente perante quem utiliza essas tecnologias, o que gera importantes considerações científicas, éticas, de direitos humanos e regulatórias[2]. Como se viu, fornecedores estão trabalhando ativamente na criação de produtos e aplicativos que coletam e tratam dados neuronais para uma ampla gama de finalidades. Uma delas que é progressivamente aprimorada é a capacidade sem precedentes, tanto em termos de escopo quanto de precisão, de efetivamente “ler” a mente[3].

E isso pode ter diversas consequências negativas aos consumidores. Assim será, por exemplo, nos casos de utilização de dados neuronais para fins e marketing, tornando o sujeito ainda mais transparente, inclusive em seus gatilhos mentais, para fins de direcionamento de práticas comerciais e potencialmente tornando as dark patterns ainda mais efetivas; ou mesmo manipulando comportamentos ao adaptar produtos e serviços para explorar vulnerabilidades cognitivas ou emocionais, intensificando determinados tipos de emoções para que o sujeito se mantenha mais tempo na fruição de serviços digitais. Ainda, os dados neuronais podem revelar informações altamente pessoais e íntimas, como desejos, crenças e pensamentos, os quais se tem o direito de manter privados. A partir desses dados também se poderá barrar acessos a oportunidades – de consumo e outras, como o mercado de trabalho – a partir da seleção e favorecimento de pessoas com certos tipos de atividades cerebrais, o que pode resultar em discriminações contra aqueles com diversidade neurológica.

Com esses exemplos, vê-se que o potencial para uso indevido ou implementação inadequada suscita preocupações quanto à invasão nas esferas mais privadas das pessoas. Isso apresenta um espectro de riscos, incluindo neuromodulação, neurodiscriminação, homogeneização da identidade, manipulação, controle do comportamento social[4], além de poder infligir dano físico ou psicológico[5]. Nesse sentido, juridicamente, existe um debate em curso, especialmente nos países da América Latina, sobre a questão de se os dados neurais realmente constituem uma entidade inovadora que merece proteção sob estruturas distintas de direitos humanos.

Embora interpretações e aplicações adaptativas de direitos e leis já existentes possam ser cruciais, a paisagem em constante evolução exige a consideração de novos neurodireitos como direitos humanos, seja em favor da ampliação do atual quadro de direitos humanos para abranger direitos explicitamente adaptados ou mesmo totalmente novos que sejam aptos a proteger o domínio do cérebro e da mente de um indivíduo – os neurodireitos.

A questão de saber se os neurodireitos se qualificam como direitos humanos não é, contudo, isenta de críticas. Os direitos humanos são garantias legais essenciais, abstratas e universais. Esses direitos abordam aspectos vitais como vida, liberdade, igualdade e acesso a recursos básicos. Embora a lista tenha se expandido ao longo das últimas sete décadas, esse crescimento tem sido cauteloso devido a preocupações com a inflação e, consequentemente, a sua desvalorização. Isso porque são instrumentos poderosos que podem remodelar cenários legais e impactar inúmeras vidas e a economia, de modo que expandir o leque de direitos reconhecidos poderia levar à diluição de sua importância e eficácia. O temor é que, ao transformar cada interesse significativo ou preocupação válida em uma questão de direitos humanos, a natureza excepcional, o caráter exigível e a prioridade categórica dos direitos humanos possam ser comprometidos[6].

Dada a urgência da temática, porém, parece-nos que considerar neurodireitos como um novo desdobramento de direitos humanos é a abordagem mais adequada, haja vista que os direitos humanos desempenham um papel central na formatação de mandatos legislativos, diretrizes éticas e convenções sociais predominantes em escala global. Consequentemente, eles fornecem uma estrutura normativa de cunho também internacional e abrangente na qual a proteção de dados neuronais deve encontrar seu espaço, informando práticas de coleta e tratamento, bem como de governança para o ciclo de vida de tais dados. Portanto, adotar um approach baseado em direitos humanos pode servir como um guia orientador para aprimorar a compreensão, informar políticas públicas, nortear as atividades privadas e moldar regulamentações nesse domínio[7].

Como a sociedade lidará com a perspectiva de interfaces cérebro-computador capazes de decifrar pensamentos e transferir informações diretamente para sistemas de IA ainda é um capítulo a ser escrito. Na seara internacional, a discussão continua em aberto no que diz respeito à proteção de dados neuronais e o bem-estar mental[8].

De todo modo, o objetivo é proteger os indivíduos contra possíveis invasões no que toca à privacidade, a autonomia e a integridade mental, do mesmo modo que a liberdade cognitiva, a identidade pessoal, o livre arbítrio, a igualdade de acessos a melhoramentos cognitivos e a proteção contra discriminações (Iberdrola, s.d). Através do reconhecimento deliberado dos neurodireitos, pretende-se garantir que tanto os dados cerebrais das pessoas quanto o processamento desses dados sejam regidos por considerações éticas e de direitos humanos[9].

À medida que a “telepatia tecnológica” se torna uma possibilidade cada vez mais palpável, a proteção dos neurodireitos torna-se uma prioridade crucial. Garantir que os avanços tecnológicos sejam aplicados com responsabilidade e respeito pelos valores éticos e legais é essencial para moldar um futuro em que a mente humana volte a ser preservada como um santuário intocável. A urgência desse assunto fica evidente devido ao surgimento de técnicas inovadoras de mineração de dados, tecnologias amplamente difundidas e ao avanço da IA generativa, todos os quais instigam uma reflexão profunda sobre a necessidade de atualizações legais para proteger o valor informativo da “mente digital”[10], preocupação esta também em nível internacional (como a OCDE).

Dessa maneira, a proteção dos neurodireitos não é apenas um desafio jurídico relevante a todos, mas uma questão fundamental para a preservação da dignidade e liberdade individual no século XXI. Assim como o Chile e o México, o Brasil está se movendo em direção à fundamentalidade dos neurodireitos. A Proposta de Emenda à Constituição n. 29 de 2023 pretende alterar a Constituição Federal Brasileira para incluir, no rol dos direitos fundamentais, a proteção à integridade mental e à transparência algorítmica, incluindo no art. 5º o inciso LXXX: “o desenvolvimento científico e tecnológico assegurará a integridade mental e a transparência algorítmica, nos termos da lei”.

Para resolver essas questões complexas, os legisladores e juristas precisam se adaptar às mudanças tecnológicas rápidas e, ao mesmo tempo, garantir que os direitos humanos fundamentais sejam protegidos em uma visão transdisciplinar do problema envolvendo também eticistas, neurocientistas e desenvolvedores de inovações tecnológicas. Ainda, também será necessária a cooperação internacional entre blocos e países para o estabelecimento de um framework jurídico e de governança de dados neuronais, dada ainda a natureza transnacional das atividades das grandes plataformas e gatekeepers. Isso requererá a definição de padrões éticos e legais que abordem os desafios específicos trazidos pela interseção entre a IA e a mente humana, tendo a regulamentação cuidadosa como essencial para garantir que as novidades tecnológicas sejam usadas em benefício da sociedade e das pessoas… e não em seu detrimento.

[1] Ienca, M., et al. (2022). Towards a Governance Framework for Brain Data. Neuroethics, 15(20), 14 p.

[2] Susser, D., & Cabrera, L. Y. (2023). Brain Data in Context: Are New Rights the Way to Mental and Brain Privacy? AJOB Neuroscience, 1-12.

[3] Paz, A. W. (2022). Is Your Neural Data Part of Your Mind? Exploring the Conceptual Basis of Mental Privacy. Minds and Machines, 32, 395-415.

[4] Pintarelli, C. (2022). A proteção jurídica da mente. Revista de Direito da Saúde Comparado, 1(1), 104-119.

[5] Ienca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13, 5. 1-27.

[6] Bublitz, J. C. (2022). Novel Neurorights: From Nonsense to Substance. Neuroethics, 15(1), 7.

[7] Kellmeyer, P. (2022). ‘Neurorights’: A Human Rights–Based Approach for Governing Neurotechnologies. In S. Voeneky, P. Kellmeyer, O. Mueller, & W. Burgard (Eds.), The Cambridge Handbook of Responsible Artificial Intelligence: Interdisciplinary Perspectives. pp. 412-426. Cambridge: Cambridge University Press.

[8] Ligthart, S. et al. (2023). Minding Rights: Mapping Ethical and Legal Foundations of ‘Neurorights’. Cambridge Quarterly of Healthcare Ethics, 1–21.

[9] Ienca, M., et al. (2022). Towards a Governance Framework for Brain Data. Neuroethics, 15(20), 14 p.

[10] Ienca, M., & Malgieri, G. (2023). Mental data protection and the GDPR. Journal of Law and the Biosciences, 1-19.

NAVEGAR (ONLINE) É PRECISO, VIVER (OFFLINE) NÃO É PRECISO: o preenchimento dinâmico e descritivo do conteúdo da vulnerabilidade digital

Doutrina

A velocidade das transformações do mercado de consumo é, sem dúvidas, um dos maiores desafios do Direito do Consumidor. Especialmente pelos influxos da internet, desde a sua concepção até o descobrimento de seu potencial comercial, surgiram novas tecnologias, novos modelos de negócio, novos meios de oferta e de contratação, assim como novas práticas relativas à publicidade, à perfilização e à organização de estruturas sociais e econômicas que daí emergem, as quais passam a operar por uma lógica data-driven mercantilizada de rede em um espaço (não físico) de fluxos informacionais[1].

Neste espaço de fluxos informacionais, navegar é preciso: qualquer interação ou relação estabelecida na ambiência digital é controlada, armazenada e gerenciada com táticas e técnicas para tornar a navegação e os layouts, bem como os outputs, ajustáveis e programáveis conforme os interesses de quem emprega a tecnologia. Nesse sentido, atributos, características, ânimos, personalidades e demais subjetividades são utilizadas na base da probabilidade e da estatística como parâmetros objetivos na condução de negócios.

Essa nova realidade permite a identificação de novos e renovados fatores que determinam assimetrias nas relações entre consumidores e fornecedores, cujo efeito é a impotência daqueles na dimensão digital do mercado. Relaciona-se com a falta do poder de barganha, com desigualdades estruturais ou outras condições sociais ou econômicas que facilitam uma sujeição estrutural do consumidor diante dos fornecedores.

A isso é dado o nome de vulnerabilidade. É descrita por Marques e Miragem, de modo geral, como um estado da pessoa de inerente risco, um sinal de confrontação excessiva de interesses, uma situação permanente ou provisória, individual ou coletiva, cujo efeito é o desequilíbrio de determinada relação ou interação e, consequentemente, o enfraquecimento do sujeito de direitos[2]. Se explorada, haverá o potencial de influenciar diretamente e negativamente a capacidade de o consumidor lidar satisfatoriamente com as práticas mercadológicas e com os contratos que estabelece, bem como de impactar a sua autonomia no que tange a tomar decisões de acordo com seus próprios interesses.

Conceituar a vulnerabilidade não é tarefa fácil, talvez nem mesmo seja necessária ou aconselhável. A dificuldade (e o perigo) em sua definição em matéria de consumo reside justamente na criatividade negocial e nas – sempre em evolução – necessidades do mercado, as quais são impostas contemporaneamente por intermédio das estruturas e das arquiteturas codificadas cada vez mais complexas, opacas e rapidamente modificáveis do ambiente online, bem como porque os consumidores se localizam em uma teia de relações e de instituições sociais diferentes, de modo que as vulnerabilidades também serão sentidas mais ou menos de modo particularizado – viver (offline) não é preciso –, o que contrasta como uma proposta de definição rígida ou mesmo atinente somente a determinados grupos de pessoas, como bem pontuou aqui no blog Sara Fernandes Garcia.

O caso brasileiro pode ser um bom exemplo para ilustrar essa questão. Lá, todos os consumidores pessoas naturais destinatárias finais fáticas e econômicas são vulneráveis por expressa determinação legal do Código de Defesa do Consumidor (art. 4º, I, CDC), cabendo ainda gradações ou sobreposições de camadas de vulnerabilidade em determinados casos, o que é conhecido como hipervulnerabilidade ou vulnerabilidade agravada. O CDC, sabiamente, não trouxe definições jurídicas acerca do conceito de vulnerabilidade, cabendo originalmente à doutrina e à jurisprudência a conformação do sentido e do alcance dinâmico do texto da lei, emprestando ao princípio certa plasticidade para a atualidade do diploma e para a tutela mais efetiva dos consumidores.

Há, todavia, o Projeto de Lei (PL) n. 895/2021, em tramitação na Câmara dos Deputados, que se prestaria a estabelecer medidas de proteção do consumidor em situação de vulnerabilidade, pretendendo-se a alteração do CDC em diversos pontos.

O PL traria, desta maneira, uma definição: “entende-se por vulnerabilidade do consumidor no mercado de consumo a situação em que pessoas físicas, de forma individual ou coletiva, por suas características, necessidades ou circunstâncias pessoais, econômicas, educativas ou sociais, se encontrem, ainda que territorial, setorial ou temporalmente, em uma situação especial de subordinação, impotência ou desproteção que impeça o exercício de seus direitos como pessoas consumidoras em condições de igualdade”; na sequência, afirma que será prestada atenção especial a setores que “(…) contem com maior proporção de consumidores vulneráveis entre seus clientes ou usuários (…)” e que o direito básico à informação do consumidor (art. 6º, III, CDC), bem como no que concerne à oferta (art. 31, CDC), se dará “principalmente quando se tratar de consumidor vulnerável”. Há outras menções no PL de cunho (restritivo) semelhante.

Parafraseando Drummond de Andrade, “no meio do caminho tinha uma pedra”. E essa “pedra” nos excertos trazidos do texto proposto é justamente uma situação especial, maior proporção de consumidores vulneráveis e principalmente, que vai de encontro à principiologia do CDC ao cercar a vulnerabilidade a algumas hipóteses. A justificativa da proposta encontra respaldo na Nova Agenda do Consumidor da União Europeia que, segundo o PL, concebe “a vulnerabilidade como um conceito dinâmico, em que uma pessoa pode ser considerada vulnerável em determinado âmbito de consumo, mas não em outros, e em algum momento de sua vida, mas não em outros”.

A União Europeia tem, contemporaneamente, um quadro definido de consumidores que considera vulneráveis, como os doentes, idosos e crianças, e, nesse sentido, a Agenda se presta à expansão, não à contração (como seria se o PL fosse aprovado no Brasil). Ora, se todos os consumidores são vulneráveis, não há razão de elaborar uma proposta normativa no sentido de considerar apenas alguns em especial vulneráveis, contrariando todo um arcabouço técnico, dogmático e jurisprudencial. Paradoxalmente, o que pretende se efetivar, em verdade, está se limitando, embaraçando o movimento expansionista do reconhecimento de novos fatores que dão causa à vulnerabilidade, tema tão importante em tempos de transformação digital.

Isto não significa que o CDC ou quaisquer normas que se destinem à proteção dos consumidores não necessitem de atualização ou de revigoramento em atenção a determinadas temáticas e situações, como o mercado de consumo digital. Muito antes o contrário. A noção aberta da vulnerabilidade tem pelo menos dois propósitos fundamentais: um, de ordem conceitual (o quê), busca investigar os diversos fatores que levam à vulnerabilidade e; dois, de ordem prática[3] (para quê), busca identificar e criar instrumentais jurídicos e de políticas públicas para promover a resiliência dos sujeitos vulneráveis no mercado.

É claro, como operadores do Direito, lidamos com termos técnicos e precisos, mas também a interpretação aqui desempenha papel fundamental na concreção da vulnerabilidade porque ela é, de fato, dinâmica e polissêmica: devido às circunstâncias que se modificam rapidamente no mercado de consumo, quem hoje não é considerado vulnerável poderá amanhã o ser – o que está se tornando regra no mercado digital.

De acordo com uma equipa liderada por Micklitz[4], a noção de vulnerabilidade digital descreve o poder e a capacidade de atores comerciais de afetarem decisões, desejos, necessidades e comportamentos de uma maneira que o consumidor tende a não tolerar, mas também não está em posição de impedir. Serve, assim, para delinear um estado universal de indefesa e de suscetibilidade à exploração de desequilíbrios por parte do parceiro que em algum sentido é mais forte, o que é favorecido pela automação do mercado de consumo, pela sua arquitetura, pela utilização de dados pessoais e pela concentração das funções de gerenciamento e de condução da dimensão digital em plataformas[5].

Trata-se de uma vulnerabilidade facilmente percebida, passível de reconhecimento a partir de abordagens distintas[6]: a falta ou o excesso de informação; a falta de compreensão dos termos unilateralmente elaborados em termos e condições de uso e congêneres (se e quando lidos); a ausência ou insuficiência de mecanismos jurídicos aptos a tutelar o sujeito em meio digital; autoexecutabilidade de smartcontracts; a opacidade de sistemas, produtos e serviços inteligentes; a questão da privacidade; a falta de conhecimentos especializados nem só sobre o bem de consumo, mas sobre toda a jornada do consumidor; a prática de gamificação em plataformas para atrair a atenção e possibilitar condutas pré-programadas; a falta de familiaridade com aparatos digitais; iliteracia digital e analfabetismo funcional; dependência; a natureza cativa das relações com as plataformas, que possibilita o aperfeiçoamento de perfis dos consumidores e que poderão ser utilizados para a tomada de decisões automatizadas; discriminações por intermédio de Inteligência Artificial ou outras tecnologias, e influência injustificada nas decisões dos consumidores são alguns dos fatores que refletem o conteúdo a ser preenchido da vulnerabilidade digital. Daí que, possivelmente, a melhor abordagem para a vulnerabilidade não seja sua conceituação rígida. Mas, sim, sua descrição e o seu reconhecimento a partir do refinamento de fatores que dão causa a desequilíbrios e assimetrias nas relações entre fornecedores e consumidores, em geral, e no ambiente digital, em especial.

[1] CASTELLS, Manuel. A sociedade em rede. São Paulo: Paz e Terra, 1999. p. 502.

[2] MARQUES, Claudia Lima; MIRAGEM, Bruno. O novo direito privado e a proteção dos vulneráveis. São Paulo: RT, 2014. p. 52

[3] Assim, por exemplo, a atualização do CDC pela Lei do Superendividamento no Brasil: Art. 54-C. É vedado, expressa ou implicitamente, na oferta de crédito ao consumidor, publicitária ou não: (…) IV – assediar ou pressionar o consumidor para contratar o fornecimento de produto, serviço ou crédito, principalmente se se tratar de consumidor idoso, analfabeto, doente ou em estado de vulnerabilidade agravada ou se a contratação envolver prêmio.

[4] MICKLITZ, Hans Wolfgang et al. Choice Architectures in the Digital Economy: Towards a New Understanding of Digital Vulnerability. Journal of Consumer Policy, 2021, 1-26.

[5] MARTINS, Guilherme; MUCELIN, Guilherme. Inteligência Artificial, perfis e controle de fluxos informacionais: a falta de participação dos titulares, a opacidade dos sistemas decisórios automatizados e o regime de responsabilização. In DE LUCCA, Newton et al. (orgs.). Direito e Internet: Internet das Coisas e Inteligência Artificial em Ambiente de Liberdade Econômica. 2022. No prelo.

[6] MIRAGEM, Bruno. Princípio da vulnerabilidade: perspectiva atual e funções no direito do consumidor contemporâneo. In: _____; MARQUES, Claudia; MAGALHÃES, Lúcia Ancona. Direito do Consumidor: 30 anos do CDC – da consolidação como direito fundamental aos atuais desafios da sociedade. Rio de Janeiro: Forense, 2020. p. 249.