https://doi.org/10.18593/ejjl.30342

ESTADO SOCIAL DIGITAL: A TRANSFORMAÇÃO DIGITAL DOS SERVIÇOS SOCIAIS

DIGITAL WELFARE STATE: A DIGITAL TRANSFORMATION OF SOCIAL SERVICES

Carlos Luiz Strapazzon1

Resumo: A digitalização dos serviços sociais foi impulsionada nos últimos anos, tanto por agências internacionais quanto por governos democráticos. Durante a pandemia da Covid-19 essa tendência, que evoluía em ritmo moderado, cresceu velozmente a ponto de criar, em menos de dois anos, um mundo novo para serviços sociais. O estudo apresenta uma revisão do estado atual das discussões que envolvem direitos sociais e a transformação digital nas formas de prestações estatais. Analisa um caso julgado pela justiça holandesa e três relatórios técnicos de organismos internacionais sobre o estabelecimento, definitivo, do Estado Social Digital a partir de 2019. Parece que o sistema de segurança social de nenhuma democracia será capaz de resistir ao fascínio das transformações digitais. Há uma firme aceitação de que o capitalismo entrou em sua fase digital e que é dever do Estado dar à sociedade serviços correspondentes. Esse pensamento alcançou os programas sociais.

Palavras-chave: Segurança social; Transformação; Digital; Direitos humanos.

Abstract: The digitalisation of social services has been promoted in recent years by both international agencies and democratic governments. During the Covid-19 pandemic this trend, which was evolving at a moderate pace, grew rapidly to the point of creating, in less than two years, a new world for social services. This study presents a review of the current state of discussions involving social rights and the digital transformation in the forms of state provision. It firstly analyses a leading case ruled by the Dutch Court, secondly it discusses three technical reports issued by international bodies upon the definitive state of the digital welfare state from 2019 onwards. It argues that the social security system of no democracy will be able to resist the allure of digital transformations. There is a solid acceptance that capitalism has entered its digital era and it implies the duty of the state to provide society with such corresponding services in social domain.

Keywords: Social security. Digital transformation. Human rights.

Recebido em 31 de maio de 2022

Aceito em 03 de junho de 2022

Introdução2

A digitalização dos serviços sociais foi impulsionada nos últimos anos tanto por agências internacionais quanto por governos democráticos. Durante a pandemia da Covid-19 essa tendência, que evoluía em ritmo moderado, cresceu velozmente a ponto de criar, em menos de dois anos, um mundo novo para serviços sociais. Segundo Marta Choroszewicz e Beata Maihaniemi (2020), Dinamarca, Suécia, Alemanha, Finlândia, França e Holanda estão em fase avançada de construção de estados sociais digitais, nos quais novas tecnologias digitais, como a Automated Decision-Making (ADM)3, são utilizadas para fortalecer o poder de Estado e de suas instituições sobre os cidadãos.

Um dos organismos mais importantes que apoia a transformação digital das políticas sociais é o Banco Mundial. Organismo especializado em fomentar o desenvolvimento, notadamente de países pobres ou em desenvolvimento, o Banco Mundial vem desenvolvendo estudos e linhas de financiamento específicas para esse objetivo. Vale destacar os estudos sobre a digitalização de pagamentos de Leora Klapper e Dorothe Singer (2017), executiva do Banco. As autoras apontam muitas vantagens em mudar o modelo tradicional de pagamentos sociais feitos pelo Estado. Estão entre as vantagens listadas e intensamente repetidas: menores custos, maior velocidade, mais transparência, mais segurança, mais inclusão financeira e maiores níveis de empoderamento econômico de mulheres.

A visão otimista dessas executivas, todavia, não é consensual na literatura sobre o tema. Críticos vêm apontando que uma transição dessa envergadura (envolvendo todas as formas de pagamentos sociais de um Estado) não será feita sem complicações e sem efeitos indiretos, ainda mal estimados (BEKKER 2021, CHOROSZEWICZ 2020, BATTAGLIN 2020, ALSTON 2019, BEDUSCHI 2019, EUBANKS 2017). A rápida expansão nas formas digitalizadas de pagamentos exigirá, por exemplo, uma acelerada transformação na produção detalhada de dados civis dos beneficiários. Não é novidade que órgãos pagadores de benefícios sociais (seguro social – como aposentadorias e pensões, assistência social, bolsas de estudos etc.), ou prestadores de serviços sociais (de saúde pública, de assistência social, de educação pública etc.) precisam identificar precisamente os indivíduos que recebem serviços e pagamentos de Estado. A tarefa de transformar dados existentes e produzir outros novos é complexa. Não só por causa da tecnologia envolvida, mas também por causa das características do público, em geral pobres, no sentido multidimensional, ou seja, privados de renda, de saúde, de educação, de tecnologia. Mas também por causa do contexto socioeconômico das pessoas invisíveis.

Em 2014, mais de 2 bilhões de pessoas no mundo não tinham nenhuma identificação formal (Demirguç-Kunt 2015). Em 2017, de acordo com o Banco Mundial4, ainda havia 1 bilhão de pessoas nessa condição, sendo que 82% se encontravam em regiões com baixo nível de desenvolvimento e democracia. É um problema grave fazer a transição digital para serviços sociais onde direitos civis básicos, como a identificação, ainda não foram realizados. As tabelas abaixo explicitam, com mais detalhes, a geografia do problema aqui discutido aqui.

Tabela 1 – Pessoas sem ID (identificação formal). Mundo, 2017

Regiões

Milhões de pessoas

% dentro da região

África subsaariana

494

45

Sul da Ásia

312

17

Oriente médio e norte da África

63

15

América Latina e Caribe

34

5

Ásia oriental e Pacífico

74

3

Europa e Asia Central

11

1

Fonte: World Bank, (2017).

Tabela 2 – Pessoas sem ID (identificação formal). Países selecionados, 2017

Países selecionados

Milhões de pessoas

% dentro do país

Etiópia

26,4

41

Paquistão

26,9

20,5

Bangladesh

20,4

17

México

10,4

10,8

Indonésia

18,7

9,6

Índia

31,9

3,2

Rússia

2,4

2,0

Brasil

2,7

1,6

Peru

374 mil

1,5

China

16,9

1,4

Chile

168 mil

1,1

Argentina

257 mil

0,7

Fonte: World Bank (2017).

Diante disso, as executivas do Banco Mundial apontaram condições preparatórias da transformação digital no sistema de pagamentos. Primeiramente, seria importante garantir educação para as pessoas em situação de exclusão digital ou de analfabetismo digital. Isso poderia convertê-los em usuários ativos do modus operandi digital do Estado Social. Contudo, a infraestrutura tecnológica do setor público e do setor privado também precisa mudar, e com mais profundidade onde a exclusão digital é mais acentuada. Não só, o Estado Social Digital depende também de mudanças na regulação de infraestrutura tecnológica para pagamentos digitais, adotando novas formas de pagamentos disponíveis por empresas privadas. Ainda, segundo as executivas do Banco Mundial, uma medida que poderia superar a invisibilidade do público sujeito à pobreza multidimensional e abreviar o tempo da transição, seria adotar sistemas biométricos (digitais) de identificação pessoal, seja pela digitalização de polegar ou de retina. Tal medida supriria a falta de documentação em papel de grande parcela do público de usuários de serviços sociais, a pouca ou nenhuma alfabetização, além superar o frequente risco de esquecimento de códigos, senhas e números longos (KLAPPER; SINGER 2017).

Outras críticas afirmam que não está devidamente comprovado que transição digital vai gerar, necessariamente, sistemas de decisão simples, eficientes e imparciais. Virgínia Eubanks (2017) e Cathy O’Neil (2016) estudaram experiências de automação de serviços públicos que adotaram modelos preditivos de risco nos Estados Unidos. Os casos envolviam políticas de serviços de proteção a crianças e, também, de elegibilidade de acesso a políticas sociais. As autoras sustentaram que mecanismos automatizados de tomada de decisões (ADM) foram adotados pela administração pública para auxiliar pessoas a fazerem escolhas. Contudo, notaram que as pessoas tendem a concordar com o sistema. Que se inclinam a não o desafiar e, eventualmente, contestar suas escolhas, indicações ou decisões. Concluíram que as tecnologias adotadas estão produzindo orientações parciais e tendenciosas idênticas, ou até em maior grau, do que as produzidas por decisões humanas.

Seja como for, o tema das transformações digitais no âmbito dos direitos sociais, das políticas estruturadas para garanti-los, das instituições e órgãos encarregados de prestar serviços sociais, vem ganhando muita atenção. E tudo indica que durante a pandemia da Covid-19, a grande maioria dos Estados (mesmo não democráticos) despendeu altas quantias de recursos em inovações tecnológicas para executar suas políticas sociais.

Uma diferente forma de análise, porém, ganhou importância no campo da teoria sobre políticas sociais e direitos sociais. Sabe-se que a literatura mais abundante sobre direitos humanos e transformação digital tem se concentrado nos impactos da transformação digital sobre direitos civis, tais como o direito à privacidade (SARLET 2022; BATTAGLIN 2020; NYST 2017; DEVRIES 2003; KIRBY 1999), a não-discriminação (BEDUSCHI 2019; MENDES 2019; SAUNDERS 2016), à liberdade de expressão e informação (BALAGUER CALLEJÓN 2021, 2022; BROMELL 2022; GODWIN 2003), ao esquecimento (SARLET 2018, POST 2017, BROCK 2016) para citar alguns. Raros estudos, antes de 2019, capturaram a gama complexa de ameaças e riscos propriamente sociais da transformação digital das políticas públicas de segurança social e de promoção social.

Neste estudo apresento uma revisão do estado atual das discussões que envolvem direitos sociais e a transformação digital nas formas de prestações estatais. Para isso, início analisando um caso julgado pela justiça holandesa e depois discuto três relatórios técnicos produzidos por organismos internacionais sobre o estabelecimento, definitivo, do Estado Social Digital.

Em relação aos aspectos metodológicos, este trabalho foi escrito com o objetivo geral de revisar a literatura, produções técnicas e jurisprudência recentes e importantes. Assim, a pesquisa está ancorada num mapeamento qualitativo de abundante material e a seleção de casos e relatórios que pudessem cumprir esses dois critérios acima. Para a jurisprudência, selecionei o “Caso SyRI”, da Justiça Holandesa. Para os relatórios, selecionei o da Associação Internacional de Segurança Social (AISS), o do Parlamento Europeu e o do Alto Comissariado de Direitos Humanos das Nações Unidas. Este trabalho não apresenta resultados sobre o Brasil porque está em andamento a coleta de dados que permitirá apresentar, em publicação futura.

1 A gestão integrada de dados sociais e o caso SyRI

Começo com o caso julgado pelo Tribunal Distrital de Haia, na Holanda, em fevereiro de 2020. Parece-me uma boa maneira de sintetizar as grandes questões deste estudo, questões que vou denominar, aqui, de agenda de preocupações sobre o Estado Social Digital.

Destaco, inicialmente, que a ONU chamou de histórica5 a decisão do caso SyRI (Systeem Risico Indicatie ou System Risk Indication), proferida pelo Tribunal Distrital de Haia. De fato, é um dos raros casos em que a judicialização de uma estratégia governamental – concebida para mobilizar um complexo sistema de tecnologia da informação para prevenir fraudes no campo dos direitos sociais e na realização de políticas sociais – foi impugnada com base em violação a direitos humanos.

O caso envolveu o denominado SyRI, ou seja, o Sistema de Indicadores de Riscos criado pelo governo holandês. De acordo com os fatos descritos na sentença da Corte Distrital de Haia6, o SyRI era uma tecnologia avançada de observação de dados (supostamente um modelo de Inteligência Artificial7) que foi adotada pelo governo nacional da Holanda, com métodos deliberadamente secretos, para combinar e analisar uma ampla quantidade de dados pessoais coletados de muitas bases governamentais, em especial de bases mantidas por órgãos responsáveis pelas políticas sociais. O objetivo do SyRI era gerar relatórios e perfis de riscos para prevenir fraudes em múltiplos sistemas de pagamentos de benefícios e de prestação de serviços de proteção social. O sistema alcançaria também programas correlacionados a estes, como os de arrecadação tributária e de cumprimento da legislação trabalhista. Então, se o SyRI (NETHERLANDS 2020) gerasse um relatório de risco individual a partir das bases de dados disponíveis, entendia-se que haveria, ali, um indicativo de “que uma pessoa física ou jurídica deveria ser considerada digna de investigação em relação a possíveis fraudes, uso ilegal e não conformidade com a legislação8”.

De acordo com o Decreto regulamentador do SyRI9, um indicador de risco seria qualquer informação que permitisse considerar plausível a presença de uma determinada circunstância. Por modelo de risco, definiu-se que seria um modelo analítico constituído por indicadores de riscos predeterminados que indicariam a existência objetiva de risco aumentado de utilização ilícita de fundos na área da segurança social e de outros programas que envolvessem transferência de renda, além de risco aumentado de fraude fiscal e de conduta violadora de leis trabalhistas.

O mecanismo operava do seguinte modo: diante de casos concretos individualizados, o Ministério dos Assuntos Sociais e Emprego disponibilizava relatórios de risco a quaisquer dos órgãos de Estado conveniados para ter acesso a dados do SyRI, na medida do necessário para o desempenho adequado das finalidades institucionais do órgão solicitante. O Ministério também podia apresentar relatórios de risco ao Ministério Público e à Polícia, na medida do necessário para o desempenho de suas funções10. A Lei do SyRI e o respectivo Decreto regulamentador11 previam que os indivíduos envolvidos não seriam informados sobre a existência e o teor dos relatórios realizados para fundamentar um inquérito.

Para assegurar boa funcionalidade ao SyRI, um amplo conjunto de órgãos públicos fizeram parcerias formais de compartilhamento de dados, dentre eles: a Administração Tributária e Aduaneira, a Inspetoria do Trabalho, o Serviço Público de Emprego, a Agência de Seguro Social Holandês (SVB), o Ministério dos Assuntos Sociais e Emprego, o Ministério das Finanças e os municípios. Todos possuíam bancos de dados segregados, isolados e únicos, com informações de cidadãos e/ou de empresas, coletados para os fins das políticas sociais que administravam. No arranjo criado pelo SyRI, os dados desses órgãos passaram a ser compartilhados de modo centralizado, assim o SyRI poderia rastrear todas as bases e ajudar os órgãos públicos a realizar um dos seguintes objetivos principais: (a) reduzir fraudes, (b) aumentar a eficiência administrativa, (c) reduzir custos operacionais e (d) criar uma forma única de entrada de dados na administração pública.

A Lei do Trabalho e Renda (SUWI), na versão atualizada em 2014, listou 17 categorias de informações pessoais que alimentavam o algoritmo do SyRI, dentre as quais:

  1. trabalhos realizados por uma pessoa;
  2. sanções administrativas aplicadas a uma pessoa;
  3. dados fiscais;
  4. bens móveis e imóveis;
  5. motivos de exclusão de benefício de assistência social ou outros;
  6. atividades comerciais;
  7. dados de habitação;
  8. dados de identificação, como nome, endereço, endereço postal, cidade, data de nascimento, sexo e características administrativas, e para pessoa jurídica: nome, endereço, endereço postal, forma jurídica, sede e características administrativas;
  9. dados para apurar se uma pessoa foi obrigada a participar de algum programa de integração cívica
  10. dados de conformidade, para apurar um histórico de conformidade ou violação da legislação;
  11. dados de educação, dentre os quais os de apoio financeiro recebido para educação;
  12. dados de aposentadorias e pensões;
  13. dados de reintegração, para saber se foram impostas obrigações de reintegração a uma pessoa e se foram cumpridas;
  14. endividamento, para apurar eventuais dívidas de uma pessoa;
  15. prestações sociais, abonos e subsídios, para apurar o apoio financeiro recebido por uma pessoa;
  16. autorizações especiais e isenções;
  17. seguro de saúde, para apurar se uma pessoa estava segurada.

A Fundação e Agência de Inteligência em Benefícios (IB) foi designada como unidade processadora dos dados e responsável pela coordenação e prestação de serviços aos demais órgãos e governos municipais. Era também responsável por fazer o agrupamento, pseudonimização (criptografia de dados), verificação de registros criptografados em relação ao modelo de risco e descriptografia, após o inquérito e avaliação.

Em síntese, os órgãos públicos coletavam dados, o Ministério de Assuntos Sociais e Emprego era o responsável formal pelo processamento desses dados e pela gestão do SyRI. Era também o fornecedor de perfis de risco. Os cidadãos holandeses não sabiam que o SyRI inspecionava seus dados, que comparava informações, que tinha um modelo de risco individualizável que conjugava informações que poderiam produzir uma suspeita de crime ou violação da ordem jurídica.

Vários grupos de interesse da sociedade civil, incluindo a Seção Holandesa da Comissão Internacional de Juristas (NJCM) e dois grupos particulares, promoveram medidas judiciais contra o Estado da Holanda. A Confederação Sindical Holandesa (FNV) ingressou como parte no processo dos demandantes. Os requerentes queriam ‘parar’ o uso do SyRI. Eles acreditavam que ao aplicar o SyRI o governo holandês violava os direitos humanos. O Estado discordou e argumentou que a legislação do SyRI continha salvaguardas suficientes para proteger a privacidade de todos.

Na decisão judicial do caso, a legislação e aplicação do SyRI foram consideradas ilegais e sem efeito vinculante. O Tribunal Distrital de Haia decidiu que a legislação pertinente violou a lei superior da Holanda, além de não cumprir o Art. 8o da Convenção Europeia sobre Direitos Humanos (CEDH)12, porque não oferecia um justo equilíbrio entre interesses públicos e vida privada. Além disso, foi considerado insuficientemente transparente e, portanto, não verificável.

O caso SyRI da Holanda tornou-se uma vitrine internacional de aspectos científicos e políticos que envolvem o tema do Welfare State Digital ou, simplesmente, do Estado Social Digital. Sonja Bekker (2019) apontou muito bem que, para além das questões de privacidade e algoritmos, outros temas muito importantes emergiram do caso SyRI. Destaco, por exemplo, a economia digital adentrando na arena das políticas sociais, a infraestrutura digital criada por governos para aparelhar o Estado em ações baseadas em tomada de decisões automatizadas, o modelo de tomada de decisões envolvendo ampla base de dados de órgãos públicos responsáveis pela gestão de políticas sociais, como o seguro social, a assistência social, o trabalho, a educação. Além disso, o uso dos dados e as características do algoritmo – que foi adotado pelo governo da Holanda para ler e interpretar dados sociais de múltiplas bases de políticas sociais – geraram informações para outras finalidades, particularmente, de segurança pública e de atuação da polícia de Estado na prevenção de crimes.

2 A transformação digital no campo do seguro social

A Associação Internacional de Segurança Social (AISS) é uma organização não governamental que reúne 318 instituições de segurança social, de 159 países.

Em 2019, a AISS publicou um Relatório exclusivamente dedicado ao tema da transformação digital da economia e seus impactos para o futuro das políticas de segurança social13. O relatório apresentou informações desafiadoras da economia digital, mas adotou um tom bastante otimista para os rumos da transformação digital dos sistemas de segurança social.

A AISS tem uma visão multidimensional sobre a relevância dos sistemas de segurança social. É uma visão que convergente com a perspectiva adotada pela Organização Internacional do Trabalho e que denomina de “Segurança Social Dinâmica”14.

O relatório aponta que nenhuma transformação digital é mais importante para as políticas de segurança social do que as que estão ocorrendo no mundo do trabalho. Em particular, as derivadas das plataformas digitais, que desafiam as políticas de financiamento, de cobertura universal e de qualificação para o trabalho. Para lidar com as transformações do trabalho mediado por plataformas digitais, a AISS recomendava as principais mudanças a serem adotadas para adequar a prestação de serviços de segurança social ao novo cenário.

  1. Definir o status jurídico dos trabalhadores de plataformas digitais e harmonizar a legislação social para reduzir oportunidades de violação de direitos fundamentais e de acesso à proteção social.
  2. Oferecer programas de educação, requalificação e de atualização profissional adequados para um cenário de crescente digitalização e autonomização das formas de trabalho.
  3. Reformar modelos de financiamento e cobertura dos programas sociais para adaptá-los às novas formas de trabalho, particularmente, para ampliar as garantias de cobertura de saúde e de segurança de renda desses trabalhadores em contextos adversos;
  4. Desenvolver políticas tributárias comprometidas com a sustentabilidade do sistema de segurança social, dentre as quais, a tributação internacional de empregadores digitais.
  5. Encontrar o caminho do equilíbrio entre a proteção da privacidade e do fornecimento de serviços personalizados.
  6. Garantir que as instituições de segurança social de renda e governos cooperem para garantir a portabilidade de direitos e benefícios, dentro e fora dos territórios nacionais.

Segundo o relatório da AISS, as tecnologias e a digitalização das formas de trabalho podem ter um impacto positivo sobre as administrações da segurança social, na medida em que podem simplificar procedimentos de registro e coleta de contribuições, bem como reduzir fraudes e erros. A formalização de grupos difíceis de cobrir poderia ser muito facilitada.

Nessa visão, a transformação digital oferece oportunidades novas para realizar conhecidos objetivos das instituições da segurança social.

Em seu mais recente relatório anual (2020/2021), a AISS mapeou transformações digitais impulsionadas pelo contexto pandêmico causador da Covid-19. Reuniu mais de 1.600 medidas adotadas por 206 países e territórios. O relatório indica que a pandemia acelerou transformações digitais em todas as instituições analisadas.

No relatório publicado em agosto de 2021, a AISS reconheceu que a transição para a era humana-e-digital foi acelerada durante a pandemia. Para as instituições membros da AISS, a combinação de habilidades humanas e tecnologias digitais deixou de ser uma opção, passando a ser, doravante, “uma obrigação das políticas e programas de segurança social” (p.16).

Os serviços de seguro social foram repentinamente impactados por uma massiva mudança no mercado de trabalho que desde antes já se orientava para o teletrabalho. Esse movimento, captado no relatório de 2019, generalizou-se nos países analisados (p.16 e 24). A principal novidade é que agora os serviços sociais foram duramente impactados, dado que com a pandemia o contato pessoal com usuários de serviços de segurança social tornou-se difícil, ou impossível. Assim, o contato através de canais digitais assumiu o controle (p.16). Os serviços de segurança social migraram para formatos alternativos incorporando, inclusive, a ajuda de inteligência artificial e de big data, num generalizado movimento de digitalização e de automatização de processos (p.16).

As informações disponíveis nos Relatórios de 2019 e 2021 apontam para o alto nível de atenção da AISS para o tema da transformação digital no âmbito da segurança social. Contudo, nos dois casos a transição é considerada positiva: segundo a AISS, as instituições de segurança social passaram por um importante teste de resiliência, posto que aumentaram a capacidade de atender mais pessoas e, agora, de maneira mais rápida. Não seria exagero concluir que, na visão da AISS, as instituições prestadoras de serviços de segurança social estão prontas para os próximos desafios da era digital.

3 Transformação digital no campo da saúde

O Parlamento Europeu publicou, em 02.11.2021, versão provisória do relatório AIDA - Artificial Intelligence in a Digital Age15 sobre a situação atual das aplicações da inteligência artificial (IA) em vários domínios. Segundo o que revela o estudo, até 2030 a contribuição da IA para a economia mundial deverá ser superior a 11 bilhões de euros, algo que quase corresponde ao PIB da China em 2020.

O tom adotado pelo relatório é de muita preocupação. O atraso da União Europeia nesse assunto é apontado como um problema muito sério. Afinal, apenas oito das atuais 200 principais empresas digitais estão domiciliadas na UE (§ 5o). Tudo indica que a UE está perdendo terreno e está longe de cumprir sua aspiração de se tornar líder mundial no domínio da IA (§101). O relatório também contém advertências dramáticas, como a de que a corrida tecnológica mundial se tornou, para a UE, uma luta pela sobrevivência e, se a UE não reagir de forma rápida e corajosa, acabará por se tornar uma colônia digital da China, dos EUA e de outros Estados (§6o), correndo o risco de perder sua estabilidade política, sua segurança social e suas liberdades individuais, visto que ferramentas digitais são cada vez mais um instrumento de manipulação nas mãos de governos autoritários.

O estudo explorou as áreas da saúde, meio ambiente, política externa, competitividade, democracia e mercado de trabalho, consideradas sensíveis para investimentos, pesquisas aplicadas e efeitos de longo prazo no desenvolvimento sustentável da União Europeia. Dentre as seis áreas, há duas que envolvem diretamente a agenda das políticas sociais: saúde e mercado de trabalho.

Quanto ao mercado de trabalho, as conclusões positivas complementam, em certa medida, o que foi relatado pela AISS e discutido no tópico anterior deste trabalho. O relatório acredita que a adoção da IA, se combinada com o apoio necessário de infraestrutura e treinamento, pode aumentar substancialmente a produtividade, inovação, crescimento e criação de empregos, com expectativas de aumentar a produtividade do trabalho de 11 a 37 % até 2035 (§70). Salienta que embora a IA possa substituir algumas tarefas, incluindo as mais rotineiras e básicas, as de trabalho intensivo ou perigosas, também criará empregos novos e de maior valor agregado. Destaca que a implementação da IA representa uma oportunidade para mudanças culturais significativas dentro das organizações, incluindo melhor segurança no local de trabalho, melhor equilíbrio entre trabalho e vida pessoal e treinamento e orientação mais eficazes. E que poderiam criar oportunidades de emprego para pessoas que, por deficiências ou circunstâncias de vida, estão vinculadas a empregos menos qualificados (§72).

No campo da saúde (§§ 17 a 26), o relatório conclui que aplicações da IA serão decisivas para o futuro dos cuidados de saúde e para a farmacologia. Aqui também há um reconhecimento do papel fundamental desempenhado pela pandemia da Covid-19. A luta contra a Covid acelerou a investigação e a utilização de novas tecnologias, nomeadamente aplicações de IA, na tentativa de melhorar a detecção de casos e reforçou a necessidade de a indústria e a investigação financiada por fundos públicos poderem recorrer à IA para melhorar o acompanhamento e a modelização da propagação de futuras pandemias.

Ainda segundo o Relatório do Parlamento Europeu, a mais eficiente aplicação da IA no setor da saúde depende, basicamente, de uma grande quantidade de dados pessoais, da partilha de dados, da acessibilidade e da interoperabilidade desses dados. Se essas condições forem alcançadas, aplicações de IA nas políticas de saúde podem reforçar a colaboração entre os múltiplos participantes dos sistemas de saúde. O acesso a conjuntos estruturados de dados de saúde aumentará a capacidade dos profissionais de saúde para compreender melhor os padrões e sintomas de doentes e de pacientes saudáveis.

Se a área da saúde contar com dados abundantes e confiáveis, a IA vai aprimorar a capacidade de detectar doenças e anomalias numa fase precoce e com maior precisão através do reconhecimento de padrões e do tratamento de imagens em tempo real (§18). Além disso, pode acelerar o desenvolvimento de novos medicamentos, tratamentos e vacinas a um custo inferior, podendo ajudar a prever, com mais precisão, os resultados e as respostas aos tratamentos, se baseados em dados de alta qualidade. Pode adaptar tratamentos e o desenvolvimento de medicamentos às necessidades específicas de pacientes. Também pode ajudar a acompanhar o estado de saúde de um indivíduo, recolher dados que podem ser utilizados para a triagem precoce e incentivar comportamentos saudáveis. Tudo isso pode, em síntese, aliviar os sistemas de saúde, em especial o pessoal médico, apoiando desde tarefas rotineiras - como o transporte de doentes, lembrar doentes sobre sua medicação, bem como para fazer face aos desafios colocados pelo rápido envelhecimento da população da União Europeia.

O tema tem seu lado positivo, mas o Relatório também destaca muita incerteza jurídica em matéria de responsabilidade civil nos casos de possíveis erros que serão cometidos pela IA na área da saúde. Ainda vai precisar muito tempo para uniformizar a jurisprudência administrativa e judicial em relação a interpretações contraditórias por parte das autoridades nacionais de proteção de dados. Além disso, os dados que impulsionam o setor da IA são, na sua esmagadora maioria, recolhidos pelas mesmas grandes empresas tecnológicas que oferecem aos usuários acesso a serviços em troca de dados e de exposição a anúncios publicitários.

4 Erros, desvios de interesse público e violações de direitos humanos

O Relatório que vou discutir agora é um dos mais completos e atuais estudos já feitos sobre o tema do Estado Social Digital. Foi elaborado por Philip Alston, professor da Escola de Direito da Universidade de New York, na condição de Relator Especial da ONU para o tema “Pobreza extrema e direitos humanos” e apresentado à Assembleia da ONU em outubro de 201916.

O relatório se baseia nas visitas técnicas do relator e sua equipe realizadas aos programas sociais dos Estados Unidos, em 2017, e do Reino Unido, em 2018. Na preparação do relatório para a ONU, Alston consultou representantes de vários grupos de direitos digitais, estudiosos e algumas instituições, como o Fundo para a Liberdade Digital17 de Berlim e o Centro de Política de Tecnologia da Informação da Universidade de Princeton18. Além disso, recebeu informações de 60 instituições de 3419 países. O resultado levou-o a denominar o fenômeno observado de “estado social digital”.

Nos países analisados, os sistemas de proteção social, inclusive de assistência social, têm sido fortemente impulsionados por tecnologias digitais que estão sendo usados para automatizar, prever, identificar, vigiar, detectar, focalizar e, também, punir20. Segundo Alston, esse processo de digitalização dos serviços sociais vem sendo chamado de “transformação digital”. Todavia, um termo neutro como esse não deveria ser usado pois oculta o caráter revolucionário, politicamente motivado de muitas das inovações que estão sendo adotadas.

Diferentemente dos relatos apresentados por outros organismos internacionais mencionados neste trabalho (Banco Mundial, AISS, Parlamento Europeu), e de certo modo convergente com as conclusões judiciais do caso SyRI, neste relatório da ONU prevalece um tom de alerta com a violação de direitos humanos.

Passo agora a descrever as principais descobertas reveladas pelo Relatório de Alston.

1. Registro biométrico e identidade digital complexa. A identidade digital é um tema importante para realizar políticas sociais personalizadas. Talvez seja o tema mais recorrente na literatura especializada, pois a partir da identidade digital muitas ações podem ser realizadas. O Relatório de Alston aponta que o maior sistema de identificação biométrica do mundo é o da Índica, chamado de Aadhaar21. Trata-se de um número de identificação único, com 12 dígitos, emitido para residentes indianos. O código carrega informações demográficas e biométricas, incluindo uma varredura da íris, uma fotografia e impressões digitais. O sistema é utilizado para confirmar a identidade dos titulares de benefícios e subsídios sociais e é obrigatório para acessar direitos sociais22. Foi introduzido pela primeira vez em 2009 e agora cobre mais de 1,2 bilhões de pessoas.

O relatório de Alston informa que em 2018, a Suprema Corte da Índia - em uma decisão histórica de 1.448 páginas - manteve a constitucionalidade do sistema Aadhar, embora tenha feito algumas advertências. A Corte parece ter visto o uso da tecnologia de identificação biométrica num contexto mais amplo e como um meio adequado para proporcionar benefícios sociais. Foi considerado legítimo, proporcional e até mesmo inevitável. Em um Estado com políticas sociais, o objetivo do Aadhaar é assegurar que os benefícios cheguem ao beneficiário pretendido. Por isso, a medida foi considerada “naturalmente um objetivo legítimo do Estado23”. Ao ponderar sobre o conflito entre direito à segurança social e à privacidade, a Corte considerou que o registro de dados biométricos representava uma intervenção “mínima” nos direitos de privacidade24, e chegou ao ponto de caracterizar o Aadhaar como “uma ferramenta vital para garantir a boa governança em um Estado de bem-estar social”25.

2. Avaliação de elegibilidade por sistemas automatizados de tomada de decisão. O Relatório descobriu que programas automatizados são cada vez mais utilizados para avaliar e decidir sobre a elegibilidade a benefícios e serviços sociais nos países analisados. Com isso, o cálculo e o pagamento de benefícios estão sendo feitos, cada vez mais, por meio de tecnologias digitais sem envolvimento de servidores públicos ou de humanos. Embora tais sistemas ofereçam muitas vantagens potenciais, o Relator também recebeu informações sobre situações destacadas de erros e falhas tecnológicas que geraram muitos problemas para grande número de beneficiários.

Dentre os casos mais comentados, Alston destaca os “fiascos” (sic) do Robodebt, na Austrália. Também do sistema PAYE RTI, no Reino Unido26 e o sistema SAMS27 do Canadá.

Robodebt” 28 é o rótulo aplicado à iniciativa do governo australiano (2016) destinada a recuperar “pagamentos indevidos” feitos a beneficiários da seguridade social, a partir de 2010. A ação coletiva Robodebt foi finalizada com um custo de US$ 1,2 bilhão para o Estado e de acordo com o líder trabalhista federal Bill Shorten, foi a maior ação coletiva da história jurídica australiana. Envolveu reembolsos de US$ 721 milhões para 373.000 pessoas, US$ 112 milhões em indenizações e US$ 398 milhões em dívidas canceladas.

As reformas nas políticas sociais do Reino Unido combinaram múltiplos benefícios em um único pagamento mensal aos beneficiários, o Crédito Universal (UC), que tem valor flutuante de acordo com os ganhos do requerente reportados ao HMRC via RTI. O direito dos empregados a benefícios fiscais sobre suas contribuições para a aposentadoria está registrado no PAYE RTI29.

A introdução do PAYE RTI, em abril de 2013, reformulou o relatório de impostos Pay As You Earn, exigindo que todos os empregadores do Reino Unido notificassem o HMRC no momento do pagamento a seus empregados. O software de folha de pagamento coleta as informações necessárias e as envia ao HMRC por meio do portal digital. Muitos relatos indicam que representa a maior mudança no PAYE desde a sua introdução em 1944. O PAYE RTI permite que o HMRC transmita dados ao Departamento de Trabalho e Pensões e para a administração dos pagamentos do Crédito Universal (UC-Universal Credit). Os dados do RTI estão sendo usados para apoiar a administração desses serviços e ajudando a eliminar fraudes e erros no sistema de benefícios.

O sistema distribui dados da folha de pagamento para cerca de 40 outros sistemas de informações do Estado. E não é um sistema bem integrado, o que tem gerado muitos problemas e críticas. Os principais problemas têm sido a duplicação de entradas, a atribuição de códigos tributários errados às pessoas.

No Canadá, em 2015, uma auditoria descobriu que o SAMS (Social Assistent Management System), sistema informatizado da província de Ontário para pagamentos de benefícios sociais, ainda estava cometendo milhões de erros de pagamentos. O SAMS gerou um total de $140 milhões em erros de cálculo de benefícios, incluindo $89 milhões de pagamentos em excesso e $51 milhões em pagamentos inferiores. Esses números se revelaram muito maiores do que o admitido pelo governo. A auditoria revelou que o sistema tinha 771 defeitos graves e criticou o governo por apressar a entrada em funcionamento do sistema, no ano de 2014, sabendo desses problemas. Até a data da auditoria o governo gastou US$290 milhões no SAMS, o que significa US$90 milhões acima do orçamento previsto.

Esses são alguns dos principais problemas encontrados em praticamente todos os modelos de transformação digital em andamento. O Relator da ONU destaca os prejuízos e, também, violações de direitos humanos decorrentes de tais erros na gestão de informações, de descontos indevidos, de pagamentos incorretos. Contudo, aponta também que a terceirização da emissão e administração de cartões eletrônicos para empresas privadas vem gerando desvios de interesse público, na medida em que muitas empresas privadas contratadas estão incentivando usuários dos serviços sociais a pagar por produtos financeiros comerciais e a pagar taxas pelo uso de cartões e serviços das empresas financeiras30.

3. Prevenção e classificação individual. O Estado social digital oferece infinitas possibilidades de levar a vigilância a novos e problemáticos níveis. O caso mais destacado é o do SyRI, da Holanda, estudado no início. Contudo, o SyRI é só um exemplo de uma prática que vai se espalhando. Os governos partem das informações disponíveis em áreas especializadas do trabalho, da educação, da saúde, do seguro social, de financiamentos e de outros bancos de dados sociais, fiscais e de polícia. A partir daí, abrem dados antes fechados para os órgãos especializados da área, integram-nos a outras bases e passam monitorar todos os dados sistemicamente, de múltiplas áreas sociais. Com isso é possível classificar e fixar pontuação para pessoas, com base no comportamento de risco atribuído a elas. Além de buscarem prevenir fraudes e crimes, a proteção à criança também tem sido um dos objetivos dessas medidas, como foi constatado no caso dos Estados Unidos (CHOULDECHOVA ٢٠١٨, EUBANKS 2017), Nova Zelândia (GILLINGHAM 2017, p. 150), Reino Unido31 e Dinamarca32.

Os governos também aplicaram essas técnicas para determinar a assistência ao desemprego. Na Polônia, um esquema desses foi considerado inconstitucional (FRA 2019, p 161)33, mas na Áustria continua sendo usado para categorizar desempregados à procura de emprego para determinar o apoio que eles receberão dos centros de emprego do governo34. Na França o tema chegou ao Conselho Constitucional35, por causa do Parcoursup36, software adotado na seleção de 812 mil candidatos a vagas nas Universidades. Prevaleceu o entendimento de que o processo seletivo pode se apoiar na seleção algorítmica, desde que essa não seja a única forma de selecionar.

Muitas questões jurídicas importantes emergem quando o Estado pretende determinar os direitos de um indivíduo com base em classificações decorrentes de previsões do comportamento de um indivíduo, a partir do comportamento observado de um grupo populacional37. Contudo, importantes questões técnicas também ganham relevância, dado que o funcionamento das tecnologias e como elas chegam a uma determinada pontuação ou classificação de indivíduos é muitas vezes secreto.

4. Comunicação virtual ou por IA entre Estado e cidadãos. Essa difundida inovação corresponde ao autoatendimento digital com transferência de serviços ao próprio cidadão, por meio de um painel digital. No caso da Austrália, os candidatos a emprego e a benefícios de desemprego são obrigados a interagir com um painel de busca de emprego “self-service”. Espera-se que estabeleçam um plano de trabalho, que monitorem suas próximas tarefas, metas e compromissos e que informem as buscas de emprego ou a presença em atividades. Se não atenderem a nenhum dos requisitos estabelecidos, o Targeted Compliance Framework acumula pontos demeritórios que geram penalidades, na forma de pagamento em pontos. Os pagamentos de benefícios de desemprego são suspensos automaticamente se a participação ou presença em um compromisso do plano de trabalho não tiver sido relatada. A suspensão é revogada quando os candidatos a emprego atendem ao requisito de reemprego.

Considerações finais

Parece que o sistema de segurança social de nenhuma democracia será capaz de resistir ao fascínio das transformações digitais. Há uma firme aceitação de que o capitalismo entrou em sua fase digital e que é dever do Estado dar à sociedade serviços correspondentes às mudanças nas formas de comunicação e tomada de decisões mediados por tecnologia. Esse pensamento alcançou os programas sociais.

Este trabalho procurou analisar a literatura e relatórios técnicos recentes sobre o tema do estado social digital (Welfare Sate Digital). A pesquisa concentrou-se em mapear características e tendências da transformação digital no âmbito dos direitos, políticas e programas sociais que perfazem o complexo sistema de direitos, instituições, órgãos e programas de sociais. Nota-se que há dois movimentos acontecendo: uma linha de ações e de discursos claramente favoráveis à aceleração digital nessa área, nos termos em que vem se desenvolvendo. E outra notadamente crítica com as consequências da aceleração a partir deste modelo.

A linha favorável enfatiza que as transformações digitais no Estado Social, do modo como estão avançando, trazem mais vantagens do que desvantagens. É uma abordagem pouco sensível a direitos humanos e a direitos constitucionais. Sua preocupação está na eficiência de processos e otimização de resultados. Já a linha cautelosa é enfática quanto aos enormes custos que o modelo atual traz para regimes democráticos e para direitos humanos.

O apoio do Banco Mundial às transformações digitais nos sistemas de pagamentos sociais aponta para vantagens. Sistemas digitalizados de pagamentos requerem infraestrutura e alfabetização digital, mas oferecem menores custos operacionais, maior velocidade na geração de informações, mais transparência, mais segurança e, por fim, mais inclusão financeira e maiores níveis de empoderamento econômico de mulheres. Todos indispensáveis para promover o desenvolvimento de economias de baixa renda.

A Associação Internacional de Segurança Social (AISS) aponta que a transformação digital no campo dos seguros sociais é inevitável porque os sistemas de seguro social estão sendo pressionados pelas transformações tecnológicas do mundo do trabalho. Há um grande desafio nas políticas de financiamento, de cobertura universal e de qualificação e reposicionamentos no mercado de trabalho. O direito do seguro social precisa ser reformado para definir adequadamente o status jurídico de trabalhadores de plataformas digitais. Os arranjos de segurança social precisam oferecer educação, requalificação e atualização profissional adequados ao novo contexto. O direito tributário e das finanças públicas precisam oferecer soluções que assegurem sustentabilidade financeira ao seguro social.

De certo modo, tanto o Banco Mundial quanto a AISS apontam para oportunidades, desde que superadas certas adversidades diagnosticadas. Apostam que as mídias sociais, videoconferências, telefones celulares e a Internet das Coisas (IoT) podem facilitar a assistência às pessoas, particularmente daquelas com oportunidades restritas, seja por deficiências, localização ou preconceitos culturais.

O Parlamento Europeu, embora apresente muitas soluções favoráveis e compatíveis com a posição do Banco Mundial e da AISS, adota uma postura cautelosa. Relata muitas preocupações não identificadas no posicionamento daqueles. Tanto em relação ao desenvolvimento econômico, quanto em relação ao desenvolvimento social e democrático da União Europeia. Para o Parlamento Europeu, no campo da saúde as aplicações da IA serão decisivas para o futuro dos cuidados e da farmacologia. Contudo, a transformação digital da saúde depende, basicamente, de uma grande quantidade de dados pessoais, da partilha de dados, da acessibilidade e da interoperabilidade desses dados. A linha cautelosa se aprofunda no Relatório da ONU. Neste, a análise está centrada nas violações a direitos humanos causadas pela transformação digital.

De um modo geral, podemos concluir dizendo que as violações e riscos associados à transformação digital do Estado Social resulta de uma articulação complexa e dinâmica que ser realiza em seis momentos, mas que não está completa em todas as democracias:

(1) acumulação digital de dados, fornecidos tanto pelos usuários, quanto pela burocracia estatal;

(2) encorajamento da interação “self service” entre usuário de serviços sociais e aparatos tecnológicos;

(3) integração de múltiplas bases de dados sociais, advindas de múltiplas áreas, instituições e programas;

(4) compartilhamento de informações públicas com empresas privadas;

(5) classificação algorítmica de indivíduos e de direitos a partir de informações colhidas nas múltiplas bases de dados;

(6) prestação de benefícios e serviços sem interação humana, ajustados pelas avaliações geradas por mecanismos automatizados de tomada de decisões.

O Estado Social Digital se empenha em personalizar serviços a partir das identidades digitais complexas e da interpretação dinâmica das informações disponíveis nas bases de dados dos programas sociais. Produz informação digital, interpretação, classificação e reclassificação de cidadãos e direitos a partir de regras e níveis de riscos atribuídos a pessoas, segundo os padrões de comportamentos dos grupos a que pertencem.

Trata-se de inovação criada para reduzir custos operacionais de ampliação de serviços, induzir comportamentos eficientes e, também, para punir desvios.

Importante anotar que o Estado Social Digital não existe sem parceria com empresas privadas globais, que fornecem a tecnologia mais avançada para realizar os objetivos digitais do Estado Social.

É preciso, com urgência, inventar procedimentos e mecanismos que assegurem equilíbrio entre o direito humano à proteção social e a eficiência operacional do Estado. Também entre democracia e autoridade digital. Aliás, essa bem que poderia ser a sétima etapa desse movimento irreversível do Estado Social Digital. Sem isso, a consequência será o ressurgimento do Leviatã Digital. Um pesadelo antigo para a cultura liberal e democrática do ocidente. Misto de organismo interventor violento na vida privada dos indivíduos e fornecedor de bens sociais que, precariamente, justificam sua existência autoritária.

Referências

ALGORITHMWATCH. Automating Society: taking stock of automated decision-making in the EU, 2019. Disponível em: https//algorithmwatch org/en/automating-society/.

ALSTON, P. Digital welfare states and human rights. Report n. A/74/48037, October 11th, 2019. United Nations. Disponível em: https://www.ohchr.org/en/special-procedures/sr-poverty/annual-reports.

BALAGUER CALLEJÓN, F. The impact of the new mediators of the digital age on freedom of speech. In: YSEC Yearbook of Socio-Economic Constitutions. Springer, Cham, 2022. Disponível em: https://doi.org/10.1007/16495_2021_32.

BALAGUER CALLEJÓN, F. L’impatto dei nuovi intermediari dell’era digitale sulla libertà di espressione. CITTADINANZA EUROPEA (LA), n1, 2021, 33-62. DOI: 10.3280/CEU2021-001002.

BATTAGLIN, M. F. L.; CARNEIRO, J. V. V. Problematizando o direito à privacidade e à proteção de dados pessoais em face da vigilância biométrica. Revista Teknokultura, Univ. Complutense de Madrid, V17, n2, 2020.

BEDUSCHI, A. Digital identity: contemporary challenges for data protection privacy and non-discrimination rights. Big Data & Society. v6, n2, 2019.

BEKKER, S. Fundamental rights in digital welfare states. The case of SyRI in the Netherlands. In Netherlands Yearbook of International Law 2019. TMC Asser Press. The Hague: 2021, p. 289-307.

BROCK, G. The right to be forgotten: privacy and the media in the digital age. Bloomsbury Publishing, 2016.

BROMELL, D. Regulating free speech in a digital age hate harm and the limits of censorship. Springer, 2022.

CHOROSZEWICZ, M.; MÄIHÄNIEMI, B. Developing a digital welfare state data protection and the use of automated decision-making in the public sector across six EU countries. Global Perspectives, UC Press, 2020. https://doi.org/10.1525/gp.2020.12910.

CHOULDECHOVA A. et. al., A case study of algorithm-assisted decision making in child maltreatment hotline screening decisions. Proceedings of Machine Learning Research, n.81:1–15, 2018. Disponível em: https://bityl.co/C1Rv.

DEMIRGUÇ-KUNT, A. et al. The Global Findex Database 2014: measuring financial inclusion around the world. Policy Research Working Paper n. 7255, World Bank Washington, DC, 2015.

DEVRIES, W. T. Protecting privacy in the digital age. Berkeley Tech. LJ, v. 18, p. 283, 2003.

EUROPEAN PARLIAMENT. Draft Report on artificial intelligence in a digital age. Comissão Especial sobre Inteligência Artificial na Era Digital (IADA), 2021. Disponível em: https://bityl.co/Bviw.

EUBANKS, V. Automating inequality: how high-tech tools profile police and punish the poor. NY, St Martin’s Press, 2017.

FRANÇA. Conseil Constitutionel, Sentença n° 2020-834 QPC de 3 de abril de 2020. Disponível em: https://bityl.co/C1UQ.

FRA - EUROPEAN UNION AGENCY FOR FUNDAMENTAL RIGHTS. Fundamental Rights Report 2019, doi:10.2811/303379

GILLINGHAM, P. Predictive risk modelling to prevent child maltreatment: insights and implications from Aotearoa, New Zealand. Journal of Public Child Welfare. Vol. 11, 2017.

GODWIN, M. Cyber rights defending free speech in the digital age. MIT Press, 2003.

INTERNATIONAL SOCIAL SECURITY ASSOCIATION-ISSA. Relatório anual, 2020/2021, disponível em: https://bityl.co/BvjA.

INTERNATIONAL SOCIAL SECURITY ASSOCIATION-ISSA. Social security for the digital age: addressing the new challenges and opportunities for social security systems, 2019. Disponível em: https://bityl.co/BvNc.

KIRBY, M. International dimensions of cyberspace law protection of privacy and human rights in the digital age. LASIE, 1999.

KLAPPER, L.; SINGER, D. The opportunities and challenges of digitizing government-to-person payments. The World Bank Research Observer, v32, n2. 2017.

MENDES, L. S.; MATTIUZZO, M. Discriminação Algorítmica: conceito, fundamento legal e tipologia. Direito Público, v. 16, n. 90, 2019.

NETHERLANDS. Court The Hague, SyRI-wetgeving in strijd met het Europees Verdrag voor de Rechten voor de Mens, press release, 5 Número do caso: ECLI:NL:RBDHA:2020:865. Disponível na íntegra em: https://bityl.co/B8ml. Acesso em 02.02.2022.

NYST, C.; FALCHETTA, T. The right to privacy in the digital age. Journal of Human Rights Practice. v9, n1, p.104-118, 2017.

O’NEIL, C. Weapons of math destruction how big data increases inequality and threatens democracy. New York Crown, 2016.

POST, R. C. Data privacy and dignitary privacy: Google Spain the right to be forgotten and the construction of the public sphere, Duke LJ, v67, p.981, 2017.

POLISH SUPREME COURT, case K 53/16, June 6th, 2018, http://trybunal.gov.pl/postepowanie-i-orzeczenia/komunikaty-prasowe/komunikaty-po/art/10168-zarzadzanie-pomoca-kierowana-do-osob-bezrobotnych.

SARLET, I. W. Proteção da personalidade no ambiente digital: uma análise à luz do caso do assim chamado direito ao esquecimento no Brasil. Espaço Jurídico: Journal of Law, v. 19, n. 2, p. 491-530, 2018.

SARLET, I. W. et al. Estudos sobre proteção de dados pessoais. Saraiva Educação SA, 2022.

SAUNDERS, M. E. Digital-Age discrimination: the voting rights act language-minorities and online voter registration. Colum JL & Soc. v50, p.449, 2016.


1 Doutor e Mestre em Direito pela Universidade Federal de Santa Catarina (UFSC); Estágio de Pós-doutorado em Direito (PUC-RS); Professor de Direito Constitucional no curso de mestrado e doutorado (Unoesc); Professor de Direito Constitucional no curso de mestrado em direito da Universidade Positivo; Editor da Espaço Jurídico Journal of Law [EJJL], desde 2011. Orcid: https://orcid.org/0000-0001-6595-548X; Strapazzon.carlos.luiz@gmail.com

2 Quero deixar agradecimentos especiais para Rosana Pizzatto, Isadora K. Lazzaretti e Celso P. Costa, pelos generosos comentários críticos às primeiras versões deste trabalho.

3 Automated Decision-Making. ADM é a sigla em inglês também adotada pela Algorithm Watch para designar o conjunto amplo de sistemas automatizados de tomada de decisão que envolvem inteligência artificial e algoritmos. AlgorithmWatch é uma organização de pesquisa e advocacy sem fins lucrativos, com sede em Berlim, Alemanha, destinada a avaliar e esclarecer processos automatizados de tomada de decisão. Tem o apoio institucional do Estado alemão, particularmente da Agência Federal antidiscriminação e do Ministério de Educação e Pesquisa. Ver, https://algorithmwatch.org.

4 Dados do programa ID4D, identidade para o desenvolvimento. Atualizados até 2020 e disponíveis em https://bityl.co/BzSO.

5 Ver, Landmark ruling by Dutch court stops government attempts to spy on the poor – UN expert. Disponível em: https://bityl.co/B8mh , acesso em 15.12.2021.

6 Court The Hague, SyRI-wetgeving in strijd met het Europees Verdrag voor de Rechten voor de Mens, press release, 5 Número do caso: ECLI:NL:RBDHA:2020:865. Disponível na íntegra em: https://bityl.co/B8ml, acesso em 02.02.2022.

7 A decisão judicial manifesta dúvidas sobre a natureza tecnológica do SyRI, pois não ficou claro, na argumentação do governo nacional, se o sistema já era um modelo de inteligência artificial, ou não.

8 Trad. do autor, a partir de: Court The Hague, SyRI-wetgeving in strijd met het Europees Verdrag voor de Rechten voor de Mens, press release 5, Número do caso: ECLI:NL:RBDHA:2020:865. Disponível na íntegra em: https://bityl.co/B8ml, acesso em 02.02.2022.

9 Artigo 1.1. do Decreto SUWI, cfe. Court The Hague, SyRI-wetgeving in strijd met het Europees Verdrag voor de Rechten voor de Mens, press release 5, Número do caso: ECLI:NL:RBDHA:2020:865. Disponível na íntegra em: https://bityl.co/B8ml, acesso em 02.02.2022.

10 Art. 65 subseção 3 da Lei SUWI, cfe. Court The Hague, SyRI-wetgeving in strijd met het Europees Verdrag voor de Rechten voor de Mens, press release 5, Número do caso: ECLI:NL:RBDHA:2020:865. Disponível na íntegra em: https://bityl.co/B8ml, acesso em 02.02.2022.

11 Art. 5o, cfe. Court The Hague, SyRI-wetgeving in strijd met het Europees Verdrag voor de Rechten voor de Mens, press release 5, Número do caso: ECLI:NL: RBDHA: 2020:865. Disponível na íntegra em: https://bityl.co/B8ml, acesso em 02.02.2022.

12 Art ٨° - Direito ao respeito pela vida privada e familiar. ١. Qualquer pessoa tem direito ao respeito da sua vida privada e familiar, do seu domicílio e da sua correspondência. ٢. Não pode haver ingerência da autoridade pública no exercício deste direito senão quando esta ingerência estiver prevista na lei e constituir uma providência que, numa sociedade democrática, seja necessária para a segurança nacional, para a segurança pública, para o bem-estar econômico do país, a defesa da ordem e a prevenção das infrações penais, a proteção da saúde ou da moral, ou a proteção dos direitos e das liberdades de terceiros. Disponível em: https://www.echr.coe.int/documents/convention_por.pdf, acesso em 20.03.22.

13 Trata-se do Relatório Social security for the digital age: addressing the new challenges and opportunities for social security systems. Disponível em: https://bityl.co/BvNc.

14 A segurança social desempenha um papel macroeconômico de estabilizador automático, proporcionando substituição de renda em tempos de desemprego ou inatividade, apoiando, assim, o consumo doméstico diário de bens e serviços e, por extensão, a atividade econômica local e nacional e o emprego. Ao apoiar a adequação de empregos e equipar os trabalhadores com as habilidades necessárias no mercado de trabalho, aumenta as oportunidades de emprego, reduz o desemprego e facilita as transições econômicas estruturais. Apoia a participação ativa dos indivíduos no trabalho e na comunidade através de cuidados de saúde preventivos e reabilitativos e a promoção de um estilo de vida saudável. Ao fazê-lo, reduz a dependência a longo prazo, ao mesmo tempo em que aumenta a renda dos programas e a receita tributária dos governos. Apoia famílias com crianças com benefícios em dinheiro, oferecendo um melhor início de vida na primeira infância e fornecendo apoio em momentos de vulnerabilidade. Promove a igualdade de gênero e melhora o equilíbrio entre trabalho e vida pessoal. Desenvolve o capital humano ao longo da vida para capacitar e fomentar a adaptabilidade, aumentando assim a resiliência individual nas transições da vida, para prover a unidade familiar e para contribuir para a comunidade. Em conjunto, estes papéis definem uma segurança social que seja acessível, sustentável e adequada. Que protege os vulneráveis sem criar dependências indevidas, fomentando a resiliência. Que trata a todos com dignidade e respeito. Com base nestas premissas, a AISS adotou o conceito de “Segurança Social Dinâmica”. (p.1-2)

15 Disponível em: https://bityl.co/Bviw.

16 UNITED NATIONS. Digital welfare states and human rights. by Philip Alston. Report n. A/74/48037, October, 11th 2019. Disponível em: https://www.ohchr.org/en/special-procedures/sr-poverty/annual-reports.

19 AMÉRICAS: Estados Unidos, Argentina, Brasil, Chile, México, El Salvador, Guatemala, Nicarágua. EUROPA: Áustria, Alemanha, Itália, Irlanda, Holanda, Polônia, Suíça, Reino Unido, Grécia e Croácia. ÁFRICA: Senegal, África do Sul, Egito. ÁSIA: Azerbaijão, Índia, Cazaquistão, Federação Russa, Estônia, Líbano, Omã, Paquistão, Qatar. OCEÂNIA: Austrália, Nova Zelândia, Filipinas.

20 Philip Alston and Christiaan van Veen, How Britain’s welfare state has been taken over by shadowy tech consultants. The Guardian, 27 June 2019.

21 O número Aadhaar é um número aleatório de 12 dígitos emitido pela UIDAI (“Autoridade”) para os residentes da Índia. Qualquer indivíduo, independentemente de idade e sexo, que seja residente da Índia, pode se inscrever voluntariamente para obter o número de Aadhaar. A pessoa disposta a se inscrever tem que fornecer informações demográficas e biométricas mínimas durante o processo de inscrição, que é totalmente livre de custos. Um indivíduo precisa inscrever-se para Aadhaar apenas uma vez e após a desduplicação será gerado apenas um Aadhaar, pois a singularidade é alcançada através do processo de desduplicação demográfica e biométrica. Ver https://uidai.gov.in/what-is-aadhaar.html.

22 Ver Centre for Communication Governance at National Law University Delhi, em https://www.ohchr.org/Documents/Issues/Poverty/DigitalTechnology/NationalLawUniversityDelhi.pdf.

23 Supreme Court of India, Writ Petition (Civil) No. 494 of 2012, p. 341.

24 Id., p. 377.

25 Id., p. 553.

26 Para ver mais detalhes, consultar: http://www.payerti.org/RTI-UC/what-is-paye-rti Para ver mais detalhes sobre as críticas: https://www.theguardian.com/money/2014/jun/20/millions-wrongly-taxed-hmrc-rti-system

27 Para ver mais detalhes: https://www.cbc.ca/news/canada/toronto/ontario-auditor-report-1.3347035.

29 PAYE RTI é o software gratuito da HMRC para empresas relatarem, em tempo real, pagamentos feitos a empregados. RTI é Real Time Information, e HMRC é Her Majesty’s Revenue and Customs, um departamento do governo britânico responsável pela cobrança de impostos, pela realização de algumas formas de apoio estatal, e pela regulação de alguns temas como o salário-mínimo nacional e a emissão de números de seguro nacional.

30 Ver, http://theconversation.com/the-real-risks-behind-south-africas-social-grant-payment-crisis-73224.

31 https://www.theguardian.com/society/2018/sep/16/councils-use-377000-peoples-data-in-efforts-to-predict-child-abuse; https://www.communitycare.co.uk/2019/06/14/county-becomes-latest-authority-trial-predictive-algorithms-childrens-social-work/

32 https://foreignpolicy.com/2018/12/25/the-welfare-state-is-committing-suicide-by-artificial-intelligence/.

33 De acordo com o relatório anual da FRA (p.161), Agência da União Europeia que monitora o respeito e realização de Direitos Fundamentais, na Polônia, o Comissário polonês de Direitos Humanos pediu ao Tribunal Constitucional que avaliasse a constitucionalidade de um sistema automatizado de tomada de decisões que o Ministério do Trabalho e Política Social utilizava para traçar o perfil de indivíduos desempregados. A decisão do Tribunal esclareceu que esse perfil deveria ser regulamentado em lei e não apenas com base na portaria do Ministério.

34 Ver https://www.ohchr.org/Documents/Issues/Poverty/DigitalTechnology/EpicenterWorks.pdf

35 França. Conseil Constitutionel, Sentença n° 2020-834 QPC de 3 de Abril de 2020. Disponível em: https://bityl.co/C1UQ

36 O site oficial do Parcoursup informa que “os estudantes do ensino médio ou universitários que desejam se matricular no primeiro ano do ensino superior devem preparar um dossiê e tornar seus desejos conhecidos no Parcoursup. Mais de 19.500 cursos de ensino superior estão em oferta” (Trad. do autor). Ver: https://www.parcoursup.fr

37 University of Queensland, at https://www.ohchr.org/Documents/Issues/Poverty/DigitalTechnology/University_of_Queensland.pdf; and Data Justice Lab, at https://www.ohchr.org/Documents/Issues/Poverty/DigitalTechnology/UniversityCardiff.pdf.