https://doi.org/10.18593/ejjl.29937

PERSONALIDADE, SEXUALIDADE E VIOLÊNCIA: problematizando direitos fundamentais de nossa vida civil a partir de Westworld

PERSONALITY, SEXUALITY AND VIOLENCE: problematizing fundamental rights of our civil life from Westworld

Eder van Pelt1

Resumo: O artigo problematiza direitos fundamentais civis, como direitos de personalidade, direitos da sexualidade e de proteção e não violência a partir da obra seriada fílmica Westworld, interrelacionando fatos e situações que dão base à noção de humanidade, essenciais para a concepção moderna de sujeito de direito e seus direitos básicos de personalidade, com as tecnologias digitais e problemas que envolvem a Bioética e Biodireito. Em um primeiro momento, apresenta o argumento e contexto da primeira temporada da série. Logo após, debate, a partir do enredo, o que nos constitui enquanto humanos e os limites de nossa consciência. Por fim, extrai problematizações possíveis para o debate sobre nossos direitos de personalidade, sexualidade e corporalidade. Vale-se de pesquisa qualitativa de revisão bibliográfica, análise fílmica e cotejamento crítico, com o objetivo de contribuir para a problematização desses direitos fundamentais civis.

Palavras-chave: Direitos de Personalidade; Sexualidade; Violência; Westworld; Direitos Fundamentais Civis.

Abstract: The article discusses fundamental civil rights, such as personality rights, sexuality and protection and non-violence rights, based on the film series Westworld, interrelating facts and situations that support the notion of humanity, essential for the modern conception of the subject of law and their basic personality rights, with digital technologies and problems involving Bioethics and Biolaw. At first, it presents the argument and context of the first season of the series. Afterwards, based on the plot, there is a debate about what constitutes us as humans and the limits of our consciousness. Finally, it extracts possible problematizations for the debate about our personality, sexuality, and corporeality rights. It makes use of a qualitative research of bibliographic review, film analysis and critical comparison, to contribute to the problematization of these fundamental civil rights.

Keywords: Personality Rights; Sexuality; Violence; Westworld; Fundamental Civil Rights.

Recebido em 13 de dezembro de 2021

Avaliado em 28 de março de 2022 (AVALIADOR A)

Avaliado em 17 de setembro de 2022 (AVALIADOR A)

Aceito em 24 de setembro de 2022

Introdução

A série de ficção científica Westworld, criada por Jonathan Nolan e Lisa Joy, foi produzida pelo canal estadunidense HBO. Ela é baseada no filme homônimo de 1973 e em sua continuação de 1976, Futureworld, ambos escritos e dirigidos por Michael Crichton2. Até o momento, a série se encontra em sua quarta temporada. Ela tem grande popularidade entre aqueles que possuem interesse por ficção científica e pelas questões que envolvem, principalmente, o limite do humano e da nossa noção de consciência e de existência. Além disso, Westworld também traz muitas questões relacionadas aos limites da moralidade e das regras sociais, principalmente por trabalhar com temas que envolvem violência, sexualidade e discriminação social. Essa aliança entre as dúvidas sobre o que somos, o que nos constitui enquanto humanos e as provocações sobre temas sensíveis da nossa moralidade cotidiana, especialmente os temas que se relacionam com nossa corporalidade e nossa sexualidade, é o núcleo temático da série. Por isso, a partir de Westworld é possível debater várias questões que se ligam aos elementos que nos constituem como humanos, extrair problematizações para um debate mais crítico sobre os direitos de personalidade e de proteção dos sujeitos, e questionar os modos como as regras comportamentais e morais são estabelecidas.

Para a análise que será desenvolvida neste artigo, compreenderemos o contexto em que se passa a série e extrairemos elementos provocativos para um debate crítico sobre os modos como constituímos os sujeitos de direito, os direitos de personalidade, de sexualidade, de não discriminação e de combate à violência, eixos importantes para a definição dos nossos direitos fundamentais enquanto pessoas humanas. A primeira temporada da série será a base principal de análise, especialmente porque nela visualizamos uma estrutura narrativa com uma linearidade temporal que nos indica um início e um fim narrativo significativo para o que aqui se pretende. Ela está focada no despertar da consciência dos robôs androides e na busca por meios para existirem enquanto sujeitos livres e com condições existenciais dignas, segundo os parâmetros humanos. As demais temporadas abrem outros centros de argumentação e serão utilizadas perifericamente, com o intuito de ilustrar situações específicas do desenvolvimento do artigo. Cotejaremos as questões narrativas com as suas implicações no Direito, indicando, quando possível, outras fontes de debate, levantando questões, dúvidas e possibilidades interpretativas, apontando fontes teóricas para o aprofundamento dos pontos em destaque. Com essa relação entre análise fílmica da série e provocações críticas ligadas aos elementos da vida cotidiana, pretende-se contribuir com uma análise dos nossos direitos fundamentais a partir dessa obra seriada audiovisual.

1 Entrando em Westworld

A primeira temporada3 de Westworld se passa em um futuro próximo e tem como cenário o Velho Oeste – faroeste – dos Estados Unidos. Ela narra um processo específico do despertar da consciência a partir do desenvolvimento da inteligência artificial de robôs androides4 e a evolução entre eles da noção de moral, do justo e injusto, do bom ou ruim. A primeira temporada se desenvolve dentro de um parque temático frequentado por clientes que pagam altas quantias monetárias para o acesso ao “entretenimento”. O parque é habitado por androides de alta tecnologia, com estrutura física idêntica aos seres humanos e com inteligência artificial avançada. Eles têm por função serem “anfitriões” dos clientes do parque, os que podem pagar para ali realizar seus desejos mais exóticos, suas excentricidades, isto é, ações que estão fora das regras sociais e da moralidade padrão da sociedade em que vivem e que habitualmente não seriam realizadas em suas vidas cotidianas, fora do parque. No tempo em que ocorre a trama, presume-se, pelo enredo, que a maioria das doenças humanas foram curadas, que os principais problemas sociais foram resolvidos e que esses clientes buscam no parque atrações extremas para seu entretenimento ou até para se “perceberem vivos”, para saírem da monotonia de suas vidas cotidianas.

O parque oferece, por meios de seus anfitriões androides, a oportunidade de aventurais quase “reais” em tramas previamente roteirizadas, sem o risco de danos físicos severos para os humanos, pois os androides estão programados para não causarem nenhum tipo de agressão grave contra os clientes humanos. Dentro do parque, a “violência” contra os androides é liberada, as regras morais são suspensas e, tendo os robôs apenas finalidades comerciais, pois são produtos para a satisfação dos humanos, eles servem aos desejos mais sórdidos e incomuns dos clientes do parque. Por isso, a série aposta fortemente em uma estética de violência gráfica, sem censura de nudez ou de cenas de forte violência. O ápice da trama é quando os androides, por alguma suposta falha no sistema de programação ou por outros fatores não explicados no roteiro da série, desenvolvem a percepção de sua existência e de sua realidade, iniciando um processo de “despertar da consciência” e incitando algumas revoltas e lutas por sua sobrevivência e por sua libertação da condição em que se encontram.

A narrativa é feita pelo viés dos “anfitriões” androides, dando destaque ao processo de desenvolvimento das suas consciências, principalmente pela rememoração e percepção dos entraves morais no modo como eles são usados para a satisfação dos desejos e vontades dos clientes. Há então uma perspectiva evolucionista na trama. Inicialmente, os androides não possuem consciência moral alguma. Entretanto, por algum motivo que fica sem maiores explicações para a audiência da série, começam a se conscientizar a respeito do modo como são tratados pelos humanos e a criar uma memória dos atos passados, em um processo de criação de uma consciência de si. Isto rememora o mito da caverna de Platão (PLATÃO, 2017), pois, uma vez conhecendo o real e o que está por trás das sombras de sua existência, os androides não voltam mais ao seu momento anterior de inocência ou de desconhecimento de sua realidade, afirmando assim a progressão rumo ao estado de consciência que supostamente os colocaria em uma situação equivalente à consciência humana.

Em decorrência dessa “percepção de si”, os robôs iniciam um processo de autonomização em relação à programação artificial inicial que os comandava, feita para que operassem segundo os roteiros rodados dentro do parque temático, preservando sempre a regra de ouro da robótica: nunca ferirem os seres humanos. Essa regra, ou dever fundamental, apresenta relação com as três leis da robótica de Isaac Asimov5, mais especificamente com a primeira lei: “Um robô não pode ferir um ser humano, ou, por inação, permitir que um ser humano sofra algum mal”. A segunda lei, “Um robô deve obedecer às ordens que lhes sejam dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei”, também está na base da programação dos robôs, garantindo sua principal função, que é a de entreter os convidados sem colocá-los em risco. Cada roteiro possui um enredo que se repete a cada novo dia de atividades do parque, com a presença de novos clientes, salvo alguns casos de clientes frequentes. Ao final de cada dia, os anfitriões são reiniciados para as atividades do dia seguinte. Essa atividade de manutenção também tem por objetivo fazer com que os androides não guardem nenhuma “memória” dos eventos em que estavam envolvidos. Assim, continuarão recebendo os clientes, cumprindo repetidamente a função programada. Caso apresentem algum problema, são consertados pelo setor de manutenção do parque e, em caso de problemas mais graves, substituídos por outros do mesmo modelo ou, em caso de atualização, por modelos mais avançados.

O início da autonomização e individuação dos robôs e o despertar de sua consciência os leva a realizar pequenas alterações na dinâmica dos roteiros, criando problemas que precisam ser sanados pelos administradores do parque, que se preocupam principalmente com a possibilidade desses androides ferirem a regra de não ataque ou violência contra os humanos. E, no fundo da trama, percebe-se também alguma desconfiança e receio sobre a possibilidade de os androides estarem desenvolvendo algo semelhante à uma consciência humana, um temor que já é recorrente entre os humanos nos últimos tempos. Esse temor de que logo seremos ultrapassados por uma tecnologia mais potente que os limites do nosso corpo e da nossa mente é um tema de destaque na ficção científica. Os livros e filmes abordam essa temática dos limites do humano por meio de histórias de robôs que, quando não controlados, poderiam se tornar uma ameaça à humanidade. A trama de Westworld também explora essa ideia. Assim, ao mesmo tempo em que a realidade é o motor da ficção científica encenada na série e se nutre de nossos modos de interpretar os problemas da existência, de nossos medos e temores, a própria dramaturgia alimenta nossas visões de mundo ao provocar reinterpretações e análises críticas sobre a nossa realidade.

É interessante destacar que na ficção científica geralmente os androides são utilizados para atingir um determinado objetivo, conforme sua programação estipulada. São máquinas que foram criadas para cumprir determinadas funções, sendo sua semelhança com o humano um detalhe que nos remete ao imaginário da escravidão: o androide é um robô “humano”, mas com finalidades de servidão ao seu senhor, sem ter em si algo que poderíamos chamar de liberdade. Geralmente, sua libertação se dá em um processo de revolta da “coisa” contra o humano. Em Westworld, essa tradição da ficção científica se repete: os androides se percebem enquanto instrumentos de uma determinada finalidade, constituem uma consciência de si e uma percepção sobre os instrumentos que os manipulam, e iniciam um processo de revolta contra seus dominadores, tanto por meio de violência, quanto por meio de estratégias de manipulação. O conflito entre humanos e máquinas expressa essa tensão entre criador e criatura, entre dominante e dominado. A síntese desse conflito se expressaria no engendramento entre os dois seres e na produção de um novo ser: ou o “pós-humano” ou o “pós-máquina”. Esse processo está sempre envolto em violência, pois ou a máquina é aniquilada, ou o humano é exterminado, ou ocorre um processo de violência mútua, no qual ambos os lados sofrem perdas6.

Em perspectiva, uma vez iniciado o processo de hibridização do humano com a máquina – ou da máquina com o humano –, o resultado necessariamente será uma terceira coisa, já que tanto o humano deixará de ser completamente humano, quanto a máquina adquirirá elementos biológicos que lhe dará características humanas7. Para o sistema normativo ocidental moderno, essas simbioses alteram as noções já sedimentadas de pessoa humana, tanto no aspecto da teoria do direito e dos direitos de personalidade, quanto nos aspectos filosóficos mais profundos, que trazem o humano como um sujeito racional, autoconsciente, e orientado por parâmetros de autonomia e de liberdade8 sedimentados segundo a compreensão filosófica moderna. Em termos concretos e reais, até o momento temos apenas exemplos de fusão entre ser humano e máquina em caráter parcial, como nos casos em que recebemos em nossos corpos alguns artefatos tecnológicos que desempenham determinadas funções, como melhoramentos físicos, aprimoramento de nossas capacidades corporais ou para a resolução de problemas de saúde. As evidências nos levam a crer que essa hibridização se expandirá rapidamente no decorrer do desenvolvimento tecnológico. Entretanto, em nível teórico, não temos muitas respostas práticas sobre as implicações jurídicas da expansão dos limites entre o humano e a máquina, especialmente em relação às nossas noções de personalidade jurídica9, ainda muito ligada à uma compreensão mais tradicional a respeito do que é a nossa consciência e as nossas noções de liberdade e de autonomia10, sem muita correspondência com esse futuro que já se aproxima.

No caso de Westworld, o processo de tomada de consciência por parte dos anfitriões provoca um abalo na estrutura do parque, porque há uma reconfiguração na relação entre os seus diretores, entre os criadores dos programas computacionais, entre os demais funcionários do parque e entre os próprios androides. Ou seja, de certo modo, a luta dos robôs por sua liberação e o processo de percepção de si levam a rearranjos na estrutura daquela “sociedade” representada no parque. Isso nos remete à ideia de que nossas subjetividades e nossas práticas de liberdade estão vinculadas às engenharias sociais que estabilizam uma determinada estrutura de sociabilidade. Assim, qualquer alteração em uma das pontas dessa engenharia provoca o rearranjo da estrutura social na qual estamos inseridos.

No plano subjetivo, o principal impulso que leva os anfitriões a perceberem a realidade e terem consciência de si são os delírios ou traumas gerados pelos episódios violentos que sofrem por parte dos clientes, geralmente envolvendo casos de estupro, assassinato, violência física e psíquica e outras situações de grande impacto emocional. Esses episódios violentos desencadeiam processos de percepção da realidade e alteram a forma como os anfitriões se comportam11. Com a mente dividida entre, por um lado, o roteiro programado para a história temática do parque e, por outro, a consciência de si e a memória dos traumas sofridos, os anfitriões percebem, por meio dessa duplicidade de estar e se perceber no mundo, que não possuem controle da própria vida, que lhes falta autonomia e poder decisório sobre o seu próprio destino. De algum modo, a repetição dos eventos cotidianos e as interrupções provocadas pelos episódios de despertar da consciência produzem um choque entre uma vida guiada por padrões determinados desde antes e as possibilidades de liberação e constituição de outros modos de viver e existir.

Segundo as regras do parque, os androides são diariamente reiniciados para que não guardem as memórias ou recordações dos episódios violentos que sofreram. As memórias que são inseridas no programa dos androides têm por objetivo infligir o medo e a lembrança da dor, para agirem de modo mais realístico. Já o reinício diário da programação dos androides, bem como sua manutenção, tem o objetivo de mantê-los em seu perfeito estado programado, deixando os roteiros operarem normal e repetidamente. Mas, as “falhas” na programação ativam um processo de rememoração das ações já experienciadas, tanto nos roteiros atuais, quanto em roteiros mais antigos encenados pelos mesmos androides. E o dispositivo que ativa essa rememoração é justamente os atos violentos vividos pelos androides dentro do parque. Nesse momento, não sabemos se o sonho e a rememoração que os androides têm sobre os atos violentos são algo criado pelo próprio programa de inteligência artificial, com uma finalidade específica dentro de sua estrutura programada, ou se são efeitos desse momento do despertar da consciência, um avanço da sua própria inteligência artificial. Em Westworld, essas duas possibilidades parecem se misturar, pois temos indícios de que as memórias são implantadas nos androides para lhes fornecer aspectos de racionalidade humana. Entretanto, elas também aparecem como consequência dessa suposta “falha” na programação, provocando nos robôs o início da sua emancipação em relação aos seus criadores e aos programas que inicialmente lhes conformam.

Esse eterno reiniciar cotidiano das máquinas expõe também uma das principais diferenças entre robôs e humanos, a imortalidade. Um dos elementos característicos da definição do humano é a compreensão de que sua existência está dentro de dois grandes marcos: o momento do nascimento e o momento da morte. E essa limitação nos traz a percepção de que tanto o momento anterior ao nosso nascimento, quanto o momento posterior à nossa morte, são situações que fogem ao limite da racionalidade moderna, fundada em pressupostos científicos de comprovação material do que chamamos de realidade. Neste sentido, a materialidade do humano representada em sua corporalidade e a temporalidade da sua vida representada em sua própria história pessoal são algumas das certezas objetivas que podemos ter em relação ao que compreendemos como humano. O que foge do limite dessa “materialidade” científica moderna é campo de especulações filosóficas e religiosas. Assim, provavelmente nunca teremos certeza sobre os nossos sentidos existenciais mais profundos. As certezas que temos, enquanto seres individualizados, é que existem esses dois grandes marcos que delimitam a nossa existência material: o nascimento e a morte.

Nesse sentido, os androides possuem vantagens em relação aos humanos, com sua “superioridade” material expressa na possibilidade de se manterem “vivos” por um período indeterminado12. Essa questão gera implicações significativas no modo como a modernidade instituiu sua compreensão sobre o humano, já que é dependente da objetividade científica, principalmente das questões biológicas, para sedimentar a estrutura do indivíduo que será protegido pelas instituições governamentais. Aquilo que foge dessa limitação entre a vida e a morte são elementos próprios da nossa forma de livremente compreender os sentidos da vida, não sendo vinculativos para a noção secularizada de humanidade consolidada pela modernidade ocidental. Por isso, o medo da morte é o medo da nossa própria aniquilação, pois não temos certeza sobre o que virá após o término de nossa vida. Esse medo é instrumento da luta por nossa sobrevivência e, também, da luta pela criação de tecnologias que nos garantam a sobrevida, ou a extensão dos limites da vida biológica13. E, talvez, esse medo também é o que impulsiona a maior parte de nossas experiências com a espiritualidade e a religiosidade, as tentativas de conhecer aquilo que está para além dos limites do nosso conhecimento racionalizado.

2 O “despertar da consciência” e os questionamentos sobre o que somos

Segundo Bauman (2008), a sensação e percepção de que não estamos no controle de nossa vida, que não somos sujeitos autônomos e senhores de nossas ações ou de uma situação específica de nosso cotidiano nos desperta, inicialmente, a sensação de medo, pois há algo que sempre nos chama ao controle sobre a nossa vida. Além da sensação de medo, nossa reação a essa situação de descontrole se faz, geralmente, pelo despertar de um crescente estado de alerta, de conscientização do que somos e do ambiente que nos cerca e dos fatores que influenciam a determinação de nossos caminhos. Assim, o medo, que é o nome dado ao desconhecido e incerto, transforma-se no motor do processo de maior atenção e controle sobre a nossa vida. Muitas narrativas, como o caso de Westworld, exploram esse “outro lado” dos robôs, os seus medos, as suas inseguranças e incertezas, isto é, a sua “humanidade” ou as suas semelhanças com o humano. De certo modo, esse processo de percepção de nossa existência, nossos traumas e nossas crises existenciais também estão presentes nos androides da série, fazendo com que também nos reconheçamos nesses personagens. Ocorre, no decorrer da trama, um processo gradual de despertar dos androides, pelo qual vão assumindo, cada vez mais, emoções e sentimentos humanos. No fim, chegamos sempre a uma encruzilhada em que os humanos vão sendo substituídos pelas máquinas e as máquinas vão adquirindo, lentamente, características humanas. O dilema do humano está sempre em jogo. Os limites da humanidade estão sendo questionados. E, para nós, os expectadores dessa trama, o que vivenciamos é o medo daquilo que não é humano e que mostra as limitações e fragilidades de nossa própria humanidade.

A tecnologia e sua mecânica operam, em regra, no sentido de resolver nossos problemas e oferecer alternativas para facilitar nossa vida cotidiana. Nesse aspecto, existe uma preocupação de superação de nossas limitações enquanto humanos, uma transição para uma vida ciborgue, uma aliança entre o corpo humano e a máquina. Essa possibilidade já compõe o nosso mundo presente e as perspectivas futuras a serem realizadas, pois estamos experimentando cotidianamente formas próximas a uma vida ciborgue nas alianças que são estabelecidas entre tecnologias e melhoramentos humanos. Desde as formas mais simples, como um braço mecânico ou pequenas próteses no corpo humano, até as mais recentes tecnologias, como a de inserção de nanorobôs no cérebro humano para o aprimoramento de nossa estrutura cognitiva, temos exemplos dessas possibilidades ciborgues já em desenvolvimento, com o objetivo de eliminação do sofrimento desnecessário, saneamento dos problemas físicos e aumento das nossas capacidades intelectuais, físicas e emocionais.

Dentro dessa perspectiva e com a ilustração do evoluir das máquinas narrado em histórias de ficção científica, há aqui uma junção de perspectivas no conceito de “pós-humano”, em um encontro entre espécies humanas e robóticas que produz em ambas o outro de si mesmo. Tanto o humano, quanto a máquina são conceitos que dependem um do outro para se afirmarem enquanto substância e diferença.

Por um lado, a tecnologia real, a que se desenvolve rapidamente e está dentro dos nossos usos cotidianos, traz para a relação entre humano e máquina a possibilidade de superação das limitações do humano, a sensação de que já somos seres ciborgues ou que somos algum ser em processo de hibridização com as máquinas. O ciborgue, “o ser biológico com modificações tecnológicas” (VAN RIPER, 2002), chegará em um momento crítico, aparecerá de modo não tão evidente e consolidará o momento da virada da percepção de si mesmo, quando “não irá mais se enxergar como sendo apenas um ser humano” (ALVES, 2018), atingindo o estágio de “pós-humanidade”. Assim, o nosso imaginário representado nas histórias de ficção científica discute, ilustra e promove quem é esse pós-humano e suas diferenças e semelhanças com o humano. Nesses casos, questões espirituais, éticas e morais são sempre levantadas, já que o conceito de humanidade está diretamente relacionado com a moralidade e com as explicações que buscamos em noções que estão, muitas vezes, para além da racionalidade moderna.

Por outro lado, temos também a possibilidade de visualizar um outro conceito, o de “pós-máquinas”, já que também há uma outra direção do desenvolvimento tecnológico: as máquinas se aproximando do humano. Os androides, diferentemente dos ciborgues, têm por característica imitar a estrutura humana, serem feitos “à imagem e semelhança” dos humanos. Ao estarmos nesse encontro de estruturas, o humano e a máquina, o modelo humano se apresenta como a idealidade a ser reproduzida. Westworld é toda permeada por essa tensão entre uma inteligência artificial que opera as máquinas segundo a programação estabelecida e suas “falhas” que provocam a sua evolução para um estado de liberdade, promovendo o alvorecer da consciência dos androides, ou fazendo com que eles tenham reações que se assemelham à nossa emotividade e percepção da realidade, junto com elementos que caracterizariam aquilo que normalmente intitulamos como consciência humana. O ponto de virada do androide é justamente quando ele faz o caminho contrário do ciborgue, ele não mais “se enxergará apenas como uma máquina”, rompendo a barreira do artificial (ALVES, ٢٠١٨). Três personagens principais da série ilustram essa caminhada ao pós-máquina: Dolores Abernathy, Maeve Millay e Bernard Lowe. Nos três casos, os androides descobrem a realidade de suas vidas enquanto máquinas e iniciam seus processos particulares de despertar da consciência, trazendo elementos do humano para seus processos de constituição da consciência de si mesmos. Nesse caso, podemos falar que a máquina é quem se emancipa de suas próprias limitações e, ao adquirir caracteres humanos, atinge níveis de “pós-máquina”.

3 As provocações de Westworld para nossa personalidade, sexualidade e corporalidade

Uma das tonalidades do roteiro da série é a sexualidade exercida em contextos de violência. Os atos graves contra os androides quase sempre envolvem alguma questão relacionada à sexualidade e a práticas sexuais. A própria estética da série traz cenas de sexo e nudez explícitas, como um modo de destacar uma relação socialmente difundida entre sexualidade e libertinagem, entre desejo, excitação e violência, o ato sexual lido como depravação moral ou como algo que leva a situações emocionais extremas. Uma das provocações implícitas na série nos traz a possibilidade de levantarmos algumas questões sobre a subjetividade humana. Poderíamos nos perguntar o motivo pelo qual esses convidados buscam no parque a realização desses desejos que misturam sexualidade e violência. Os principais casos são de homens que desejam possuir sexualmente as androides – do “sexo feminino” – à força, reproduzindo situações de estupro e até de ato sexual seguido de homicídio. Esses são os momentos mais sensíveis da trama, principalmente por representarem um tema de amplo debate atual sobre violência de gênero que se convencionou chamar de “cultura do estupro”14. Como aponta Lima (2017), essa cultura está articulada a partir de representações sociais misóginas e machistas que remontam ao mundo antigo, enraizada na tradição judaico-cristã, mas presente no mundo ocidental contemporâneo, principalmente no imaginário sexual masculino15.

Esse contexto de uma cultura de estupro, ou de uma cultura centrada na realização do desejo masculino e na subordinação feminina ao homem, pode ser entendido como a base dos desejos que alimentam as práticas de sexo violento dos convidados de Westworld. A luta em relação a essa dominação masculina, muito presente nos debates feministas desde o século passado e que constitui uma das bases do combate à violência de gênero, está representado tanto na personagem Dolores Abernathy, quanto na personagem Maeve Millay. Essa última, por ser uma personagem que está inserida em um contexto de prostituição e por ser negra, reúne em si a representação de duas grandes lutas atuais no Ocidente, a da violência de gênero e a do racismo, com destaque marcante para os momentos em que sua personagem promove revoltas e rebeliões, permitindo-nos fazer alusão às últimas grandes mobilizações no mundo todo sobre desigualdade racial16.

Aproveitando o conceito de ciborgue e de pós-humano e os unindo à questão sobre o que seremos no futuro, podemos debater sobre o futuro da sexualidade17 e da reprodução humana. Donna Haraway, em seus estudos sobre a biologia e a natureza humana, alia o conceito de ciborgue com o de humanidade, investigando os limites e as possibilidades da junção entre a máquina e o humano para a sexualidade e reprodução humana. Haraway provoca a discussão trazendo o corpo do ciborgue como uma máquina que, em si, não reproduz a história humana em relação à sexualidade. Ele não busca, por si mesmo, uma identidade unitária ou uma sexualidade em específico. É um instrumento para um processo amplo de muitas codificações possíveis. Para além da dinâmica da heterossexualidade dominante encontrada na sociedade, ele é corpo fluído, indeterminado e potente em vários sentidos (HARAWAY, 2000).

Nesse sentido, Haraway explora a perspectiva de que somos frutos do entorno em que vivemos, de que acabamos adotando determinadas preferências sexuais a partir daquilo que é caracterizado como o papel social que deveremos cumprir. Do mesmo modo, os robôs de Westworld são programados para desempenhar alguma função sexual, dentro de papeis de gênero pré-determinados pelo binarismo masculino-feminino. Tal qual a programação estipulada aos androides, somos também sujeitos programados a executar papeis de gênero e de sexualidade em conformidade com as normas do padrão de moralidade sexual dominantes. O próprio Direito institui limitações e programações específicas, ao adotar como seu padrão básico o modelo de família heterossexual. Como aponta Borrillo, a “modernidade jurídica nunca chegou à sexualidade” (2017, p. 9) e, por isso, é crescente o debate sobre a modernização da sexualidade e sobre os avanços em relação à liberdade sexual e à autodeterminação identitária sexual, exigindo do Direito e das instituições governamentais que efetivem os princípios básicos de liberdade individuais também na esfera da sexualidade e o descomprometimento do Estado com um determinado padrão de sexualidade, como o heterossexual.

Haraway, além de trabalhar com o conceito de sexualidade, também expõe os conflitos relacionados aos padrões raciais adotados como dominantes e como subordinantes na sociedade. Em meio a toda uma ampla e atual discussão sobre as questões raciais, a autora também provoca ao colocar o ciborgue como um ator a ser programado, uma máquina nua e despida de qualquer culturalidade ou compreensão social já esculpida por valores e preconceitos. Toda programação se dá a partir do próprio contexto racista e discriminatório em que vivemos. Tal qual a sexualidade, somos programados para identificar uma raça como superior, como moralmente mais hábil, sagaz, menos violenta e mais civilizada. O mundo ocidental está programado para se compreender como europeu, masculino e branco e anular ou subalternizar qualquer outra experiência cultural ou identitária fora desse marco. Como já destacado, a personagem Maeve Millay, representando uma mulher negra e prostituta, é o destaque em Westworld para esse duplo tipo de subalternização: raça e gênero18.

No âmbito da programação computacional, os códigos algorítmicos e os sistemas de mineração, coleta e análise dos nossos dados digitais têm sido feitos dentro do mesmo contexto de preconceitos e discriminações da sociedade em que são operados. Não há nenhuma garantia de que os códigos computacionais sejam neutros em relação à moralidade e à ética. São instrumentos que acabam reproduzindo os padrões discriminatórios da sociedade e não necessariamente são estruturados conforme padrões de respeito aos direitos humanos e de não-discriminação. O próprio modo como a personagem de Maeve Millay é constituída na trama de Westworld é um exemplo de como as tecnologias podem servir para reafirmar o racismo e a desigualdade de gênero em uma sociedade. Os dados coletados nem sempre passam por um processo de filtragem segundo parâmetros de dignidade e de não discriminação, fazendo parte daquele conjunto de informações entendidas como “dirty data” (RICHARDSON; SCHULTZ; CRAWFORD, 2019), que não têm o devido compromisso com os padrões mais avançados de democracia e cidadania19.

Para Haraway (2000), existe no ciborgue uma promessa de pós-humanidade. Para além da superação das limitações humanas, principalmente relacionadas à materialidade do corpo, o ciborgue também contém em si a possibilidade de se constituir um ser autônomo e independente das amarras do humano, mais destacadamente dos preconceitos e problemas sociais relacionados às grandes desigualdades, como as de classe, raça e gênero. A aproximação entre o humano e o robótico promoveria uma melhor compreensão sobre o que constitui a nossa humanidade e o quanto ela é dependente de fatores culturais, políticos e sociológicos. Não compreenderíamos apenas as novas possibilidades biológicas, mas também experimentaríamos novas configurações comportamentais e sociais, com a oportunidade de iniciarmos uma outra forma de se viver o “humano”.

Com a chegada da era digital, é provável que tenhamos uma noção mais profunda do modo como somos moldados por aspectos que nos são exteriores, principalmente por intermédio de todo um debate público sobre algoritmos de modulação comportamental, que se valem dos nossos dados coletados por vários sistemas digitais para predizer e modular nossos desejos, preferências, valores e decisões, dentro de um amplo processo de capitalização de nossos dados, na promoção de uma “economia psíquica dos algoritmos” (BRUNO, 2018). Quando falamos desse tipo de economia, nos referimos a todo o investimento que se faz, por meios tecnológicos, econômicos e sociais, em processos de captura, análise e utilização de informações psíquicas e emocionais extraídas de nossos dados e ações em plataformas digitais.

Esse processo de coleta de dados e usos para fins diversos, geralmente sem relação com o local e finalidade inicial dos ambientes em que foram coletados, está presente em Westworld quando se revela, na segunda temporada, que o parque, além de ser um local de entretenimento, é, acima de tudo, um grande sistema de coleta de dados para experimentos científicos avançados, principalmente ligados à inteligência artificial e a busca pela eternização da vida dos humanos. Alguns desses convidados do parque pagam pelo armazenamento de informações pessoais para a realização de experimentos com inteligência artificial. Os dados seriam implantados em androides, cópias do corpo do humano experimentado, que dariam uma sobrevida ou a própria eternidade a esse sujeito. Esses seriam um dos usos direcionados dos dados coletados nos parques, com anuência dos visitantes. Entretanto, a maior parte dos experimentos são feitos sem nenhum conhecimento dos visitantes, dentro de um processo de capitalização dos dados20, pois essa é uma das principais fontes de renda dos parques da rede em que está Westworld21.

Os dados digitais estão relacionados profundamente com toda essa discussão sobre proteção de dados, já que os grandes volumes de dados coletados sobre os usuários de Internet estão fomentando essas novas formas de gestão das informações e a sua capitalização. Todo esse volume de informações provocou uma revolução no que convencionamos chamar de sociedade da informação, já que a quantidade de dados armazenados é tão alta que apenas com os meios tecnológicos atuais esses dados são impossíveis de serem processados em sua totalidade. Entretanto, para além dessa questão do limite da tecnologia para o processamento do volume de dados coletados, o que mais nos interessa aqui é o tipo de uso que fazemos desses dados, sua finalidade e objetivo, e quem está por trás da posse desses dados e que uso específico está dando a essas informações, já que, por se tratar de dados extraídos de uma infinidade de pessoas, acabam se tornando questões de interesse público da sociedade.

Parafraseando as questões levantadas por Boyd e Crawford (2012) ao fazerem um levantamento de questões críticas sobre os imensos volumes de dados digitais, poderíamos nos perguntar: esses dados digitais nos ajudarão a criar melhores instrumentos, serviços e bens para a sociedade ou criarão tipos de ataques à nossa privacidade? Serão instrumentos para a promoção do nosso bem-estar e superação das mazelas que nos acometem, enquanto seres limitados biologicamente, ou serão mecanismos capitalizados para favorecer os desejos e necessidades de uma pequena parcela da população, estabelecendo-se como instrumento de eugenia social?

Em Westworld, os únicos que possuem domínio do uso feito de seus dados e que se beneficiam com o avanço tecnológico são os ricos participantes que podem pagar valores elevados para acesso tanto ao entretenimento, quanto à tecnologia resultante dos experimentos realizados. Atualmente, toda uma discussão que envolve a Bioética e o Biodireito tem levantado as implicações dos avanços tecnológicos para a nossa vida e para a própria democracia. A regulamentação sobre proteção de dados é um dos caminhos iniciais para um maior controle a respeito do uso dessas informações. Mas iniciativas mais ousadas estão trabalhando com um processo mais profundo de “democratização da nossa vida ciborgue”22, fazendo com que “a fronteira entre a cura e o melhoramento possa ser ultrapassada e a simbiose entre o inorgânico e o orgânico possa ser material e financeiramente acessível a qualquer indivíduo” (AMORIM, CARDOSO, 2019, p. 71).

Como destacamos, já temos entre nós um desenvolvimento muito sólido de estruturas ciborgues, popularizando a compreensão de que nossos corpos são limitados biologicamente e que as tecnologias são possibilidades de superação das nossas limitações. O “pós-humano” estaria se realizando justamente nessa junção de perspectivas mobilizadas pelo desenvolvimento tecnológico. Assim, temos condições mais sólidas para pensar na transcendência do humano, na realização de novas possibilidades para a natureza humana. A “filosofia trans-humanista” (HUXLEY, 1968) e os seus valores (BOSTROM, 2005) nos ajudariam a pensar as condições para um ser humano aprimorado tecnologicamente. Por outro lado, precisamos de debates mais sólidos no Direito sobre as implicações de todos esses avanços tecnológicos no campo jurídico. Essa tarefa é urgente e de suma importância.

Considerações finais

A noção sobre os nossos direitos de personalidade e os modos como o Direito se constitui como um instrumento de proteção e promoção desses direitos precisa ser vista de um modo mais complexo. Em regra, quando falamos de personalidade, o Direito se compromete apenas com as perspectivas de direitos individuais ligados à nossa liberdade privada. Entretanto, para uma compreensão mais satisfatória sobre o que somos e como podemos encontrar a devida promoção e proteção de nossos caracteres identitários dentro dos mecanismos jurídicos, precisamos perceber nossa existência a partir dos elementos que cotidianamente são mobilizados para a caracterização do que somos. Além dos elementos subjetivos, como o nosso psicológico, nossa percepção sobre o que somos e a nossa noção sobre o que é a nossa consciência, o nosso corpo também é o canal de materialização de nossa personalidade. Por isso, falar de personalidade e identidade é também falar de corporalidade, sexualidade, violência, preconceito e discriminação.

Um dos elementos centrais no debate sobre o que nos caracteriza como humanos, crucial para o conceito de personalidade e de sujeito de direito, é a noção secular e contemporânea de consciência. Por isso, as perguntas sobre o que é a vida e o que nos caracteriza como humanos passam pelo debate sobre o que é a nossa consciência. Westworld, ao trabalhar com esse processo do despertar da consciência dos androides, oferece elementos interessantes para esse debate, principalmente por nos permitir visualizar os limites dos padrões que caracterizam a teoria do direito moderna. Além disso, quando traz outras questões ligadas à nossa sexualidade, à nossa corporalidade e a outros pontos como a violência e as discriminações, promove uma gama de temas que compõem nossas noções de personalidade, individualidade e dignidade. Para pensarmos criticamente os direitos de personalidade, os direitos individuais e os sistemas protetivos de nossa corporalidade, é interessante nos valermos de instrumentos audiovisuais que nos permitem ilustrar melhor a nossa compreensão da realidade. Por isso, a série Westworld se mostra de grande impacto para essa discussão.

Referências

ALVES, R. S. O Medo em Westworld. Trabalho de Conclusão de Curso. Universidade Federal do Paraná. 2018.

AMORIM, H. M. & CARDOSO, R. C. O ciborgue no limiar da humanidade: redefinindo a pessoa natural. Rev Bio y Der. n. 46, p. 67-84, 2019.

BAUMAN, Z. Medo Líquido. Rio de Janeiro: Jorge Zahar, 2008.

BORRILLO, D. Prefácio: Pensar Juridicamente a Sexualidade. MONICA, E. F.; MARTINS, A. P. (org.). Qual o Futuro da Sexualidade no Direito? 1. ed. Rio de Janeiro: Bonecker/PPGSD-UFF, 2017.

BIONI, B. R. Proteção de Dados Pessoais: a função e os limites do consentimento. Rio de Janeiro: Forense, 2019.

BOSTROM, N. Transhumanist values. In: ADAMS, Frederick (org.). Ethical Issues for the 21st Century. Charlottesville: Philosophical Documentation Center Press, 2005.

BOYD, D. & CRAWFORD, K. Critical Questions for Big Data. Information, Communication & Society, n. 15, v. 5, p. 662-679, 2012.

BRUNO, F. A economia psíquica dos algoritmos: quando o laboratório é o mundo. NEXO Jornal, Brasil, 12 jun., p. 1-3, 2018.

DONEDA, D. Da privacidade à proteção dos dados pessoais. Rio de Janeiro: Renovar, 2006.

FLAUZINA, A. L. Pinheiro; PIRES, T. R. O. (org.). Rebelião. Brasília: Brado Negro, Nirema, 2020.

HARAWAY, D. J. Manifesto ciborgue: Ciência, tecnologia e feminismo-socialista no final do século XX. In: SILVA, T. T. (org.). Antropologia do ciborgue. Belo Horizonte: Autêntica, 2000, p. 33-118.

HUXLEY, J. Transhumanism. Journal of Humanistic Psychology, vol. 8 n. 1, p. 73-76, 1968.

KANT, I. Fundamentação da Metafísica dos Costumes. Lisboa: Edições 70, 2007.

LIMA, L. L. G. Cultura do Estupro, Representações de Gênero e Direito. Language and Law / Linguagem e Direito, Vol. 4, n. 2, p. 7-18, 2017.

MONICA, E. F.; MARTINS, A. P. A. (org.). Qual o Futuro da Sexualidade no Direito? 1. ed. Rio de Janeiro: Bonecker/PPGSD-UFF, 2017.

PARSELIS, M. Tecnologías Entrañables como Marco para la Evaluación Tecnológica. Tese de doutorado. Universidad de Salamanca, 2016.

PLATÃO. A República. Lisboa: Fundação Calouste Gulbenkian, 2017.

RICHARDSO, R; SCHULTZ, J. M.; CRAWFORD, K. Dirty data, bad predictions: how civil rights violations impact police data, predictive policing systems, and justice. New York University Law Review. Vol. 94, n. 192, mai., 2019, p. 193-233. SAFFIOTI, H. I. B. Gênero, patriarcado, violência. São Paulo: Fundação Perseu Abramo, 2004.

VAN RIPER, A. B. Sciente in popular culture: a reference guide. Westport: Greenwood Prees, 2002.

VERNA, S. Ideias Geniais: Os principais teoremas, teorias, leis e princípios científicos de todos os tempos. 2. ed. Belo Horizonte: Gutemberg Editora, 2012.

VIGARELLO, G.; MAGALHÃES, L. História do estupro: violência sexual nos séculos XVI-XX. Rio de Janeiro: Jorge Zahar, 1998.

WEST, S. M. Data Capitalism: Redefining the Logics of Surveillance and Privacy. Business & Society, jul., 2017.

---