Cuidado, estão te vigiando

Anna Venturini: Olá, bem-vindas e bem-vindos à terceira temporada do Revoar, o podcast do LAUT, o Centro de Análise da Liberdade e do Autoritarismo. Eu sou a Anna Venturini.

Felipe de Paula: E eu sou o Felipe de Paula.

Pedro Ansel: E eu sou o Pedro Ansel.

Anna Venturini: A primeira temporada do Revoar foi dedicada a um só assunto: a discriminação. Ao longo de oito episódios, a Natália Neris e o Rafael Mafei entrevistaram pessoas de diversas áreas para entender os muitos aspectos desse problema.  Já na segunda temporada, o tema foi a mudança climática. Conrado Hübner Mendes e a Joana Setzer conversaram com especialistas e pessoas da sociedade civil sobre como a crise ambiental ameaça a democracia e as liberdades.

Felipe de Paula: Quem ouviu as primeiras temporadas do Revoar e acompanha o nosso trabalho, já sabe que pesquisar as relações entre liberdade e autoritarismo é um dos principais objetivos do LAUT –  a organização por trás do Revoar.

Anna Venturini: Mas, se você é novo por aqui, eu vou fazer um resumo: o LAUT é um centro de pesquisa criado em São Paulo em 2020, que pretende aprofundar o debate sobre as manifestações do autoritarismo e as ameaças às liberdades na sociedade brasileira. A gente quer arejar o debate jurídico – e este podcast é uma forma de trazer você pra essa conversa. Bom, eu tô muito feliz de ter o Felipe como “companheiro de bancada” nessa temporada. O Felipe é advogado, ex-gestor público e pesquisador do LAUT.

Felipe de Paula: Opa, o prazer é meu de apresentar o Revoar com você, Anna! Além de ser pesquisadora do LAUT, a Anna é pesquisadora e pós-doutoranda no CEBRAP. Nessa temporada a gente também vai contar com a participação de dois pesquisadores do LAUT, o Pedro Ansel, que irá trazer casos pra discutirmos, e a Luisa Plastino, que ao final de cada episódio vai sugerir dicas culturais vinculadas ao tema de cada episódio.

Anna Venturini: Mas chega de falar da gente, né? Vamos direto ao assunto. Nessa terceira temporada o nosso tema é a vigilância, o vigilantismo e como esses temas se conectam com os nossos direitos e com a ideia do estado democrático de direito.

Felipe de Paula: Durante oito semanas, nós vamos conversar com pessoas do direito, da política, das ciências humanas e sociais e da tecnologia, pra entender os diferentes aspectos relacionados a como e por que somos vigiados…

Anna Venturini: …por empresas privadas – como as empresas de tecnologia – e também pelo Estado.

Pedro Ansel: Veremos também casos e dados que nos ajudarão a entender os contornos, a substância e a dimensão da vigilância e do vigilantismo no Brasil e no mundo.

Anna Venturini: No episódio de hoje, a gente vai tratar desses dois conceitos de forma ampla, a vigilância e o vigilantismo, para que a gente possa entender melhor se e como eles impactam as nossas vidas e as políticas públicas que são implementadas pelo Estado.

Felipe de Paula: É isso aí, Anna! Hoje a gente conversa com a Yasodara Córdova, pesquisadora no Harvard Ash Center, um centro de pesquisa dedicado a temas como a democracia e a inovação governamental; e com o professor Sérgio Amadeu, professor da Universidade Federal do ABC.

Trecho de áudio sobre o romance ‘1984’ de George Orwell, do canal Grandes Livros.

Anna Venturini: O áudio que você ouviu agora faz referência ao livro ‘1984’ de George Orwell, que ambienta sua história em uma Inglaterra distópica controlada pelo Grande Irmão. Na história Winston é vigiado pelas “Teletelas”. E é difícil não pensar nelas quando descobrimos que  os nossos celulares captam nossos dados. Sabe quando você está procurando uma bicicleta na internet e logo depois as suas redes sociais ficam cheias de anúncios de bicicletas à venda? Já aconteceu comigo e provavelmente com você também.

Felipe de Paula: Esse é um exemplo de dado usado para propaganda, mas a verdade é que a tecnologia e as redes sociais armazenam dados sobre praticamente tudo que nós fazemos.

Anna Venturini: Já faz um bom tempo que as leis e as constituições de muitos países, inclusive as do Brasil, estabelecem o direito à privacidade e à intimidade. Mais recentemente, a proteção aos dados pessoais também vem sendo garantida em vários países. Mas com o avanço tecnológico essas afirmações abstratas nem sempre são efetivamente garantidas e muitos dados pessoais são compartilhados, às vezes sem a nossa autorização.

Pedro Ansel: No início de 2021, ocorreu o maior vazamento de dados da história do país, onde foram expostas informações pessoais de cerca de 223 milhões de brasileiros, número que incluía pessoas já falecidas e informações duplicadas. Dados como CPF, data de nascimento, sexo, números de telefone, nível de escolaridade, além de listas contendo números de CNPJ e placa de veículos foram divulgados na internet. As informações foram publicadas por hackers em um fórum da dark web, camada da rede frequentemente utilizada para cometer crimes virtuais, pois dificulta a identificação dos usuários que nela navegam. Os hackers  ofereciam parte dos dados como o número do CPF gratuitamente e posteriormente cobravam por informações mais detalhadas como benefícios do INSS, Bolsa Família, scores de crédito e outros dados sensíveis. A Polícia Federal prendeu os suspeitos de venderem essas informações e o Procon de São Paulo notificou a Empresa Serasa Experian, suspeita de ter sido a origem dos dados roubados, pedindo explicações sobre o megavazamento de dados. A empresa nega que seja a fonte dos dados vazados.

Felipe de Paula: Esse caso mostra justamente os efeitos perversos da centralização de dados, assim como a falta de mecanismos de segurança mais efetivos contra invasões cibernéticas. Um problemão! Vamos começar nossa conversa tentando entender melhor o que devemos entender por vigilância e vigilantismo.

E aí, Yasodara, ao final de contas o que é vigilância?

Yasodara Córdova: Pra mim vigilância é um estado permanente de estar alerta. Monitorando, acompanhando o comportamento né? Pessoas, locais…Então, no contexto da tecnologia a vigilância pra mim é o ato de acompanhar sempre determinado ambiente, tá sempre sempre monitorando o que tá acontecendo em determinado lugar.

Anna Venturini: Ou seja: a vigilância pode ser entendida como o olhar do Estado, de empresas ou da sociedade que exerce o controle de pessoas ou grupos de pessoas. No nosso papo, o professor Sérgio Amadeu explicou como ao longo da história os mecanismos de vigilância deixaram de ser movidos apenas pelo sentimento de medo e passaram a produzir outros tipos de afetos.

Sérgio Amadeu: O próprio Foucault cita no texto dele o Jeremy Bentham, que é utilitarista e que ele cria uma arquitetura de vigilância que vai inspirar vários presídios, que é a arquitetura panóptica. Resumidamente, é o olho que tudo vê, né? É uma arquitetura onde você tem uma cabine alta, que o vigiado num sabe nem se você tá olhando pra ele ou não, naquele momento. Mas o quê que essa arquitetura faz? Ela embute em cada um de nós o medo. Então, a disciplina, a câmera, o vidro…que não permite saber quem tá atrás observando. Mas sobre elas, surgiram novas técnicas de vigilância que não embutem em cada um de nós o medo, ao contrário, são técnicas que nos tornam mais aptos, mais comunicativos, mais alegres. Quem iria imaginar que nós entregamos pruma série de corporações o que a gente acha do nosso chefe, o que a gente acha da nossa mãe, da nossa namorada, do nosso namorado, se a gente é homossexual, se a gente não é..se a gente gosta de coisas que o seu pai não gosta. Tudo a gente fala por dentro disso, porque a gente se sente confortável. Porque essas tecnologias não nos metem medo, mas nos vigiam, nos controlam. Então, na verdade, a discussão da vigilância é uma discussão que vem de longa data.

Felipe de Paula: Como disse o professor Sérgio, não é de hoje que se discute o  conceito de vigilância.  E como esse conceito é super importante pra nós, a gente pediu essa definição pra vários dos nossos entrevistados ao longo da temporada. O Rafael Zanatta, nosso convidado do terceiro episódio, explicou como era pensado o conceito de vigilância lá nos anos 1960, antes mesmo do surgimento da internet.  

Rafael Zanatta: Hoje esse campo de estudos de vigilância, né, o surveillance studies, ele é um campo bastante amplo, muito populado, por assim dizer, por sociólogos, filósofos, cientistas políticos…Há revistas especializadas em surveillance studies, há redes acadêmicas especializadas como a Lavits, Rede Latino-Americana de Estudos em Vigilância, Tecnologia e Sociedade; há encontros anuais que são encontros especificamente sobre vigilância, mas interessante, retomando essa provocação de como é que se discutia o entrelaçamento de vigilância e proteção de dados pessoais é que na ciência política da década de 60, tinha um consenso de que a vigilância ela possui um aspecto funcional em cada sociedade democrática, ou seja: toda comunidade política precisa vigiar, precisa se vigiar, né? Esse processo de se vigiar tem inclusive uma capacidade de neutralização dos elementos que são antidemocráticos, ou seja, uma democracia que se preze, uma comunidade política que se preze, que se constitui como tal, ela também precisa ter mecanismos de vigilância pra neutralizar aqueles elementos de disrupção democrática, que é um pouco do debate que a gente tem nos últimos anos no Brasil e em outros países. Então, essa compreensão do aspecto funcional, ele ajuda a entender também porque que Estados nacionais possuem estruturas de inteligência e essa é uma discussão bastante antiga também na ciência política: como é que se constitui atividade de inteligência em cidades democráticas? Qual é a função dessa estrutura especializada em coleta de informações e de amparo decisório para o próprio poder executivo e como é que se neutralizam também e se vigiam ameaças à perspectiva externa? Então, isso tudo é pressuposto e acho que o grande debate posto pelo Westin, pelo Rodotà, por essa turma que tava discutindo surveillance e dataveillance, que é o termo que eles cunharam para explicar como que essa vigilância se dá também pela produção de dossiês, também se dá pela amplificação do Estado de registrar e armazenar informações, por meio dessa revolução física e sociotécnica, então, se barateou muito o custo de armazenamento de forma impressionante, se barateou muito o custo de computação e de processamento de dados. Então, isso levou naturalmente, era previsível isso, levaria a uma capacidade de expansão da inteligência, da capacidade de vigiar de forma inédita. E acho que a própria noção de que há uma sociedade que se vigia cada vez mais, ela é decorrente inclusive da possibilidade desse vigiamento mútuo, né? Ou seja, não são só as autoridades estatais que vigiam, mas são os cidadãos que, munidos também por meio de tecnologia da informação, vigiam a conduta estatal. Então, surveillance e sousveillance, que é a contra-vigilância, né. Quando a  gente entra nas possibilidades de vigilância, contra-vigilância ou a própria sociedade conseguir exercer isso na própria conduta estatal. O problema que eu vejo é que no Brasil, a gente tem uma experiência que tem que ser levada em conta, que é uma experiência ditatorial. Você pega os textos do José Murilo de Carvalho ou o livro “Casa da vovó”, que mostra como é que se operava ali a Operação Bandeirantes, o surgimento do DOI-CODI, né? É um problema da perspectiva de que existiu, e ainda há resquícios de uma estruturação de um mecanismo de vigilância, de produção de dossiês que era profundamente opaco, não supervisionado, à margem dos elementos democráticos e que hoje se apresenta ainda como uma ameaça, porque uma das grandes suspeitas, ou medos, ou preocupações do ativismo que estuda vigilância no Brasil é: dadas as capacidades de compartilhamento de informações, de amplificação da capacidade do Estado de vigiar, se ele não pode distorcer sua finalidade democrática de se fazer vigilância e começar a produzir dossiês, com orientação política, e começar a produzir categorizações da população brasileira a partir daquilo que se pensa, a partir da sua vocação de agregação política, sua vinculação político-partidária, de ideais. Essa é uma ameaça bastante séria, e que é bastante preocupante da perspectiva brasileira, porque ainda somos tímidos na discussão democrática dos limites da atividade de inteligência e ainda não limpamos, né, o estoque autoritário, desde a lei de segurança nacional até essa retomada de uma ABIN paralela, dessa retomada da produção dos dossiês, dossiês de servidores antifascistas, policiais antifascistas e assim por diante.

Anna Venturini: Fecha a nota de rodapé do Rafael Zanatta.

Pedro Ansel: Pra quem quiser conhecer um caso que trata da vigilância  estatal no país, em junho do ano passado a agência de notícias The Intercept Brasil, publicou uma matéria denunciando que a Abin (Agência Brasileira de Inteligência) solicitou ao Serviço Federal de Processamento de Dados (Serpro), acesso aos dados dos mais de 76 milhões de brasileiros que possuem Carteira Nacional de Habilitação, a CNH. Segundo documentos revelados por fontes que fizeram parte desta negociação administrativa sigilosa envolvendo os dois órgãos federais, seriam repassados à Abin dados com nomes, filiação, endereço, telefones, informações sobre os veículos e fotos dos condutores. Os dados seriam extraídos do Registro Nacional de Condutores Habilitados, o Renach, que é de responsabilidade do Detran, o Departamento Nacional de Trânsito. A CNH é o único documento de identificação de cidadãos armazenado em nível nacional que possui registro fotográfico. Segundo as informações no site do governo, a Abin “é responsável por produzir conhecimentos que são repassados à Presidência da República para subsidiar a tomada de decisões do presidente”. Mas fica a dúvida, quais decisões o presidente tomaria baseado em informações cruzadas como filiação, endereços, telefones, dados dos veículos e fotos de todos os brasileiros portadores da CNH? A finalidade da coleta de tais dados pelo Denatran legitima esse uso por parte da agência de inteligência brasileira?

Felipe de Paula: Haja pergunta! Mas, vamos por partes, agora que a gente já sabe o que é vigilância, o que seria vigilantismo?

Yasodara Córdova: Olha, vigilantismo é quando um um comitê se auto define como autoridade e na verdade não teria autoridade pra fazer a vigilância né. Acho que tem vários exemplos na literatura e nos quadrinhos. Mas é isso, é quando um grupo ou uma pessoa ou uma empresa diz assim, “não, eu vou fazer esse trabalho aqui de vigilância”.
O Brasil é cheio desses exemplos, porque a gente tá num num país onde a segurança nunca foi assim prioridade […] o vigilante ele é por natureza assim completamente paralelo à lei instituída.

Felipe de Paula: O termo “vigilante” costuma ser usado para designar os profissionais de segurança privada no Brasil. É muito comum vermos bairros com “vigilantes” que cuidam da segurança daquela região. Desde 1996, a Polícia Federal é responsável por regular e fiscalizar essa atividade que se proliferou pela sociedade brasileira.

Anna Venturini: Mas o vigilantismo não se restringe apenas à segurança privada. Há muitos casos de pessoas que decidem “fazer justiça com as próprias mãos”, bem na linha do que a gente vê nos filmes e nos quadrinhos.

Pedro Ansel: Na ficção as histórias de vigilantismo geralmente são empolgantes, podem envolver super heróis que lutam contra o mal, e até serem  engraçadas, porém, na vida real elas estão frequentemente relacionadas a situações nefastas e de extrema violência. Ações vigilantistas podem partir tanto de grupos criminosos organizados como as milícias, quanto de pessoas da vizinhança que talvez nunca tenham praticado sequer um crime na vida, como no caso de uma dona de casa da Cidade do Guarujá em São Paulo. Tudo começou quando um retrato falado de uma mulher foi postado nas redes sociais, acompanhado de acusações sobre sequestro de crianças. A partir daí começou a circular o boato de que a pessoa do retrato falado era a dona de casa, que chamaremos aqui de F. A notícia se espalhou pela região onde a dona de casa residia. Foi então que dezenas de pessoas convencidas pela falsa história se juntaram e cercaram F. em uma das ruas do bairro onde ela morava. Amarraram-na e a espancaram de forma tão brutal que os policiais ao entrarem em contato com a cena do crime chegaram a confirmar sua morte. F. acabou não resistindo aos ferimentos e morreu dois dias após o linchamento.

 Anna Venturini: Os conceitos de vigilância e vigilantismo são muito parecidos e, muitas vezes, acabam sendo confundidos. Então, como diferenciar essas duas ideias?

Yasodara Córdova: Tava conversando com meu filho e ele perguntou exatamente isso, qual a diferença. Eu falei pra ele ah por exemplo, a gente tem a vigilância sanitária, que é uma agência do governo que verifica se os produtos tão bons pra comer, né? E…e se a gente fala em vigilantismo nessa área a gente teria que ter sei lá uma um grupo de mães, que porque não têm vigilância sanitária ativa vai de supermercado em supermercado vendo se os produtos são bons pra comer, algo assim. […] até hoje os casos que eu estudei são todos referentes a essa esse buraco deixado pelas instituições. Então quando você não confia nas instituições, é quando as instituições começam a se demonstrar insuficientes pra atuar de maneira adequada na era pós internet, que é essa era onde tem uma fragmentação muito grande é é um volume muito grande de informações e de necessidades e das diversas áreas não só da área de segurança e informação, você tem o nascimento dessa atividade de vigilantismo.

Felipe de Paula: Bom, e como a gente disse lá atrás, a vigilância também é feita pelo Estado. Com base nas pesquisas e nas entrevistas que a gente fez pro podcast, a gente percebeu que é natural que o Estado trabalhe com informações e dados sobre os cidadãos. No próximo episódio, a gente vai ver mais exemplos de usos legais e legítimos de informação de cidadãos por parte do Estado, inclusive para a formulação de políticas públicas mais embasadas e melhores.

Anna Venturini: Por outro lado, os desenvolvimentos tecnológicos desde a Guerra Fria acabaram aumentando o poder de vigilância do Estado. A capacidade de monitorar os dados e as comunicações de grupos inteiros e até de nações em grande escala é agora uma realidade técnica.  Hoje a gente vê uma massificação da vigilância com o avanço da tecnologia, com participação de entes públicos e privados, o que pode colocar em risco direitos básicos.

Yasodara Córdova: Eu acho que o estado vigia sim, e a diferença do estado vigilante de cinquenta anos atrás pro estado vigilante de hoje em dia, é exatamente a participação de tecnologias que foram criadas em âmbito privado e que têm o objetivo de lucrar com essa com essa vigilância. O que a gente observa é que tem uma distorção no uso de dados, por parte do Estado. Existe um foco muito grande na área de segurança, no uso de dados,e infelizmente as outras áreas acabam sendo deixadas de lado.

Felipe de Paula: Sobre o uso distorcido de dados a partir do uso das tecnologias, o professor Sérgio Amadeu também comentou o papel do setor privado:

Sérgio Amadeu: O vigilantismo, a partir do momento onde as tecnologias cibernéticas se disseminam, o vigilantismo passa a ser feito pelo setor privado. Então, nós tamos vivendo, hoje, uma sociedade, eu diria, vigilantista. Por quê? Porque ela é baseada na coleta ubíqua, incessante, permanente de dados pessoais. A inteligência artificial que a gente chama de “machine learning” ou “deep learning”, que é baseado em dados, se extrai padrões, e muitas vezes, também, se utiliza pra ter modelos de previsão. Qual será a nossa vontade? Qual será o nosso comportamento futuro? As empresas privadas passam também a praticar uma vigilância intensa – portanto, o vigilantismo. Esse vigilantismo, é um vigilantismo que tá presente no nosso cotidiano e ele, diferente daquele momento que o Foucault captou lá no século XVIII, XIX, ele não gera medo. Ele gera adesão, ele gera afeto. Ele gera uma interação feliz.

Anna Venturini: E se as empresas privadas utilizam mecanismos de monitoramento para fazer previsões de mercado? A vigilância por parte dos agentes do Estado pode ser utilizada nas mais diversas políticas públicas, desde a criação de cadastros até em políticas de segurança. E a gente não pode esquecer que as agências estatais também utilizam tecnologias de vigilância para fins militares, ofensivos e de espionagem.

Felipe de Paula: Diariamente produzimos uma série de dados que são utilizados pelo Estado para a produção de políticas públicas.

Anna Venturini: Por conta disso, muitos países começaram a revisar suas leis sobre vigilância, privacidade e proteção de dados pessoais, com o objetivo de garantir mais segurança às pessoas e ao compartilhamento de seus dados e informações pessoais pelo Estado e também por empresas privadas.

Felipe de Paula: Mas em sistemas não democráticos e autoritários, o poder ligado ao uso de tecnologias de vigilância pode afetar o desenvolvimento democrático e levar a graves abusos de direitos humanos. São recorrentes os casos em que ativistas de oposição, defensores de direitos humanos e jornalistas são colocados sob vigilância governamental. Às vezes de forma legítima e outras de forma ilegal. Mas sem spoiler, isso é papo para o próximo episódio.

 Anna Venturini: Isso aí! Mas para além de eventual uso indevido, a coleta de um grande número de dados por parte do Estado também traz outras questões relevantes. Qual a segurança desse armazenamento para impedir vazamentos? Com qual finalidade específica tais dados serão tratados? O que legitima o compartilhamento de dados por diferentes órgãos governamentais? E quais os riscos da centralização desses dados pessoais em um único banco de dados? Nós tivemos uma discussão recente sobre isso no Brasil. Em 2019, o governo federal emitiu um decreto regulamentando o compartilhamento de dados entre órgãos da administração pública federal e criou o Cadastro Base do Cidadão – ou CBC.

Felipe de Paula: O CBC é uma base de dados que foi construída a partir de várias outras bases de dados de distintos órgãos do governo federal. O cadastro cruza dados dessas diversas bases e também tem informações pessoais básicas como CPF, nome, data de nascimento, filiação. O argumento utilizado para criação desse cadastro é de que isso possibilitaria o acesso unificado a dados dos cidadãos para a prestação de serviços públicos. Ou seja, ter os dados unificados ajudaria o governo a formular melhores políticas públicas.

Anna Venturini: Mas será que a centralização desses dados nas mãos do Estado é realmente benéfica? Ou ela poderia representar um risco para a população? Com a palavra, Yasodara.

Yasodara Córdova: Não é porque a gente está fazendo coleta de dados que a gente precisa necessariamente colocar tudo num banco de dados só acumulado, se as políticas públicas forem feitas em um nível descentralizado, municipal por exemplo, estadual. E eu gosto muito de olhar para o que é feito no Brasil em termos por exemplo de Bolsa Família. Agora esse governo que gosta de centralizar as coisas, que entende o  poder político que a centralização de dados dá pra ele, eles por exemplo estabelecem que os municípios agora não têm mais autonomia de preencher o cadastro Bolsa Família. Então, centralizando isso dentro do governo federal. Para mim isso é uma medida autoritária, que ainda é pior do que, por exemplo, o cadastro base do cidadão, porque é uma medida que tira o poder do município e quando você tira o poder do município você tira o poder de perto da onde o povo está. Se é poder do município distribuir e selecionar quem vai receber Bolsa Família, os dados socioeconômicos que estão lá no município, ficam lá. Você não precisa ter uma base centralizada doida do governo que vai juntar dados de tudo. O governo quer fazer isso porque dá dinheiro.

Felipe de Paula: Além do problema da centralização, quando perguntamos ao Sérgio Amadeu sobre os riscos de práticas autoritárias pelo Estado ele levantou outro ponto super importante: a transparência. E segundo Sérgio Amadeu, isso exige…

Sérgio Amadeu: Um controle do Estado por parte da sociedade. Isso exige transparência nos mecanismos, né? O Estado que coleta dados tem que dizer que dados ele está coletando, por que ele está coletando, qual objetivo e tem que impedir que esses dados sejam utilizados para outras finalidades. Porque tem dados, por exemplo, de saúde, que o Estado pega pra poder produzir políticas melhores de saúde, só que esses dados, não podem comprometer a vida do indivíduo – que para o Estado pode ser um número, pode ser mais uma pessoa dentre milhões de pessoas, mas para aquele indivíduo, se aquele dado vaza, se aquele dado vai para uma empresa de seguro, se aquele dado vai para uma empresa de convênio médico, se aquele dado é colocado para um banco, ele pode ter muitos problemas.

Anna Venturini: E por falar em problemas em banco de dados, a Yaso trouxe o caso da Estônia para ilustrar a questão:

Yasodara Córdova: A Estônia tem uma infraestrutura de identidade digital que é muito famosa, o ID Card deles. Eles têm toda uma arquitetura centralizada e a x-road, que seria uma camada de distribuição da identidade, para que o país possa controlar as identidades do cidadão. E aí juntou tudo em um lugar só, então a gente tem, por exemplo, a placa do carro do cara está ligada já com a carteira de motorista, e aí tem um software que pode fotografar e identificar se ele tem costume de dirigir bêbado, por exemplo. Ou é muito fácil pra você abrir uma empresa, leva só três horas, porque está tudo pronto. Então a Estônia tem essa fama de ser um país que conseguiu resolver a sua questão de infraestrutura para identidade de uma maneira inovadora. O problema é que a Estônia é um país muito pequeno, com uma homogeneidade muito grande. É um país rico, faz parte da União Européia, então fica muito diferente você olhar pra Estônia e olhar para o Brasil.

Felipe de Paula: E tem um outro ponto aqui, quando a gente fala em tecnologia, é impossível não pensar em discriminação. Nos últimos anos, muitas pesquisas têm mostrado como as tecnologias automatizadas e inteligências artificiais reproduzem vieses, estereótipos e acabam sendo discriminatórias.

Anna Venturini: A falta de diversidade no setor de tecnologia é notável e amplamente pesquisada. Muitos estudos mostram a sub-representação de mulheres e minorias nas áreas de ciência, tecnologia, engenharia ou matemática. Seja no ensino superior ou no mercado de trabalho.

Felipe de Paula: E a ausência de pessoas com diferentes identidades, trajetórias e experiências, gera efeitos nas tecnologias que são desenvolvidas. Isso porque a maioria delas depende de programação – isto é – de uma pessoa que irá desenvolver o código, o algoritmo necessário para que aquilo funcione.

Anna Venturini: Há um número crescente de organizações que dependem de algoritmos para auxiliar na tomada de decisões, mas se a indústria de programação e inteligência artificial for composta apenas por um grupo – os homens brancos – isso pode levar a um viés nos sistemas. Inclusive o Sérgio Amadeu trouxe um conceito muito bacana que explica a crença na neutralidade dos dados.

Sérgio Amadeu: Nós estamos vivendo um momento onde é preciso romper com o dataísmo. O dataísmo é a crença que as tecnologias e que os dados são neutros.

Felipe de Paula: Pesquisas mostram que as pessoas que produzem os sistemas acabam replicando em seus códigos os estereótipos que elas possuem.  Um exemplo interessante é o do mecanismo de busca no Google. Há alguns anos, pesquisadores fizeram testes e colocaram expressões como “família feliz”, “criança linda”, “bebês bonitos” e fizeram a busca. O resultado mostrava apenas pessoas brancas. Ou seja, a tecnologia reforça padrões estéticos discriminatórios.

Anna Venturini: Sobre isso, a ativista digital e pesquisadora do MIT, Joy Buolamwini, também denunciou o viés racial de tecnologias de reconhecimento facial. Ela fez vários experimentos e verificou que os robôs – a inteligência artificial – tinham dificuldade de reconhecer rostos negros.

Felipe de Paula: Esse e outros casos revelaram que a programação estava impedindo a internet de ser um espaço verdadeiramente inclusivo. Em resumo, a falta de diversidade no campo da tecnologia e da inteligência artificial pode contribuir para perpetuar desigualdades e preconceitos na sociedade. Há uma compreensão crescente dos efeitos dos vieses e preconceitos no aprendizado das máquinas – o machine learning.

Anna Venturini: As plataformas digitais coletam muitos dados a nosso respeito. Elas sabem o que a gente compra na internet, quais páginas nós gostamos e com quais pessoas interagimos. E com isso, elas acabam controlando nossas relações, comportamentos e decisões de consumo.

Felipe de Paula: A gente sabe que as redes sociais direcionam o tipo de conteúdo que consumimos. Mas como elas fazem isso? É o que o Sérgio Amadeu questiona:

Sérgio Amadeu: O problema é: como é que eu sei que o algoritmo do Facebook não está bloqueando as mensagens de pessoas que pensam como eu? Como é que eu sei que quem tem dinheiro, leva a sua mensagem para muito mais gente? Aliás, eles têm um nome pra isso, “monetizar” os esforços comunicativos. Então, nós estamos falando de redes que trabalham com dados, eu posso comprar exatamente a amostra que eu quero atingir. Eu estou construindo uma comunicação plutocrática. Como é que eu sei que quando eu faço uma postagem defendendo o WikiLeaks, o Facebook não bloqueia a visualização desse comentário? Essa dúvida que eu tenho é legítima! Porque o sistema de gerenciamento dessas plataformas é um sistema veloz, automatizado, algorítmico. Com definições que eu não sei quais são. “Por que esta desconfiança?” – porque eu não sou dataísta. Porque eles têm interesses econômicos, políticos e culturais.

Anna Venturini: Diante desse cenário, é preciso pensar: Quais seriam os caminhos para desconstruir o modelo de vigilância que nós temos hoje? E como se proteger da vigilância exercida tanto por agentes públicos como privados?

Felipe de Paula: A Yaso trouxe uma provocação interessante sobre a própria função das redes, a web.

Yasodara Córdova: Não tem como escapar do vigilantismo, acho que tem como a gente abandonar o uso de algumas redes para a gente parar de alimentar elas com dados. Tipo, você pode largar o Facebook, você pode abandonar as redes sociais, você pode usar o Signal em vez do WhatsApp do Telegram. Mas a gente vai estar sempre utilizando a web, e a web que é não é a internet, a web, que é essa que a gente abre o browser e navega, ela foi criada para distribuir, organizar e compartilhar informação. Então, daqui não tem como a gente escapar desse vigilantismo, sempre vai rolar, e só vai piorar. Até a gente começar a discutir isso de uma maneira mais ambiciosa. Especialmente no Brasil.

Anna Venturini: E como lembraram nossos convidados, discutir vigilância e vigilantismo de uma maneira mais ambiciosa, envolve uma dimensão não só individual, mas também coletiva e estatal.

Sérgio Amadeu: No setor público, a gente precisa ter cada vez mais uma legislação que delimite efetivamente os dados que o Estado vai coletar, e que defina claramente o objetivo em função de políticas públicas em benefício da sociedade. As pessoas têm que saber que se coleta dados delas, elas têm que saber que o futuro delas, dependendo de quem está coletando dados, está em risco. E elas têm que apoiar legislações democráticas, que sejam feitas muito tranquilamente, não à toque de caixa, não porque saiu uma matéria na televisão. Tem que ser feita com racionalidade, com debates com os vários segmentos, envolvendo as plataformas e a gente ter um controle. Então, nós temos que ter uma possibilidade de regular as plataformas, ter transparência dos sistemas algorítmicos, ter responsabilidade de redução de viés por eles.

Felipe de Paula: E sobre o problema do vigilantismo, a Yaso pontuou que qualquer solução precisa acontecer a partir de bases já delimitadas pela democracia:

Yasodara Córdova: Eu acho muito difícil a gente se salvar do vigilantismo pelos próximos dez anos. Porque a gente não têm ainda essa discussão em termos é democráticos aqui no Brasil. Eu gosto muito quando eu vejo autoridades do mundo todo falando “a democracia é um modelo viável dentro da pós quarta revolução industrial”. Pode existir democracia dentro do ambiente digital, a gente consegue exercer e melhorar essas regras que foram criadas há tanto tempo. A gente vai precisar fazer um upgrade, a gente vai precisar fazer uma discussão grande que vai envolver tecnologia e a fundamentação democrática. E como que a gente vai estabelecer que a tecnologia siga esses princípios democráticos. 

Felipe de Paula: Ou seja, é fundamental termos mais transparência sobre a coleta, armazenamento e uso de dados pelo Estado e pela iniciativa privada. Para isso, esse tema precisa ser discutido com a profundidade necessária pelos especialistas, pela sociedade civil, pelas empresas e pelo Estado, de modo a chegarmos a um modelo que respeite os direitos garantidos pela Constituição.

Anna Venturini: A gente já tá chegando ao fim deste episódio do Revoar, e assim como nas outras temporadas, a gente vai sempre pedir dicas de filmes e livros pros nossos convidados pra você continuar refletindo sobre o assunto. A Luisa Plastino questionou nossos convidados sobre isso. Primeiro, as dicas da Yasodara Córdova:

Yasodara Córdova: Eu acho que em termos de quadrinhos sobre vigilantismo a gente tem uma vasta literatura de comics, de quadrinho, não só vindas dos EUA. Mas é muito legal a gente ler todas elas, porque a maioria delas mostra para a gente essa fixação pela cultura do vigilantismo como a solução quando um governo é corrupto, ou quando você tem uma instituição muito corrupta. Tem o básico do vigilantismo que é o Batman, mas saiu agora um remake do Watchmen e ganhou até Emmy Award e tal. É muito legal porque é isso: você tem uma polícia racista, instituições racistas e você tem o vigilantismo, que é onde os vigilantes usam uma máscara para ir atrás de quem é criminoso.  Você assiste e você fica pensando, aquela velha pergunta, quem vigia os vigilantes? Ninguém.

[…]

Também gosto muito da série Hunters, que é uma série que mostra um grupo de pessoas que vão atrás de nazistas que fugiram dos julgamentos da corte internacional e se escondem. E esses caras vão atrás dos nazistas para fazer justiça com as próprias mãos, e é legal porque eles vão atrás de dados também.

[…]

Eu gosto muito do filme infantil chamado Big Hero, que é um filme de um robô que protege um garoto. Não posso dar muitos spoilers. É um filme infantil que ajuda você a conversar com o seu filho sobre morte e tal, mas o fundo do filme é todo sobre como é bom é o vigilantismo, né? Muito engraçado.

Felipe de Paula: A Luisa também perguntou pro Sérgio Amadeu:

Sérgio Amadeu: Ah, eu acho legal um texto da Cathy O’Neil. É um texto que pode ser lido por uma pessoa que tem costume de ler, que não precisa ser um acadêmico, que se chama “Weapons of Math Destruction”. Ele já foi traduzido, “Armas de Destruição Matemática”, se eu não me engano, algo assim. Mas é um livro que tem vários casos concretos. A Cathy O’Neil, é matemática, é da ciência da computação também, e ela trabalhou muito tempo no mercado financeiro, então, ela traz exemplos que ajudam a gente a entender esse universo.

[…] Eu tenho um livro, que é um e-book, pequenininho, pela coleção SESC São Paulo, chamado “Democracia e os Códigos Invisíveis”. Eu trato como esses algoritmos podem prejudicar a democracia.

 Anna Venturini: E eu e a Luisa também temos dicas culturais para dar aqui no Revoar. A minha dica de hoje é um filme alemão chamado “A vida dos outros”. Ele ganhou o Oscar de melhor filme estrangeiro em 2007 e mostra a polícia secreta da Alemanha oriental – antes da queda do muro – monitorando cidadãos. No caso, um casal de artistas é vigiado 24 horas por dia por meio de escutas e observações clandestinas. E o filme foca bastante nos vigias. É muito interessante.

Luisa Plastino: Eu também quero indicar um filme. Ele já é um pouco mais antigo, mas é um dos meus filmes preferidos, é o “Show de Truman”. O filme é protagonizado por Jim Carrey e no começo pode parecer que vamos assistir a mais uma de suas comédias. Mas quando o personagem Truman descobre que cada um dos seus passos estão sendo vigiados e controlados, a narrativa passa por uma reviravolta. Assistam!

Anna Venturini: E assim a gente termina o primeiro episódio da terceira temporada do Revoar, o seu podcast sobre liberdade e autoritarismo. 

Felipe de Paula: Nosso papo da semana que vem será sobre a relação entre a vigilância e a pandemia do novo coronavírus. Como usar dados em prol do combate à pandemia sem ampliar eventuais riscos autoritários? Nossos convidados serão a advogada e pesquisadora Nathalie Fragoso e o co-fundador da Impulso, João Abreu.

Anna Venturini: Você também pode acompanhar o Revoar pelo Instagram, em @revoar.podcast, e pelas redes sociais do LAUT.
As referências dos áudios que a gente usou nesse programa estão na página do Revoar, no site do LAUT, em laut.org.br/revoar.
Fiquem bem. E até semana que vem!

Felipe de Paula: O Revoar é uma produção da Rádio Novelo para o LAUT – o Centro de Análise da Liberdade e do Autoritarismo.
A coordenação é da Paula Scarpin e da Clara Rellstab.
A produção é da Clara Rellstab, e a edição é da Claudia Holanda.
A pesquisa para este podcast é do Pedro Ansel e da Luisa Plastino, que também participam das entrevistas.
A música original é da Mari Romano, e a finalização e a mixagem do programa são do João Jabace.
A coordenação digital é da Iara Crepaldi, da Andressa Maciel e da Bia Ribeiro, que também faz a distribuição.

Anna Venturini: Nos vemos na próxima revoada. Até lá!