| “Se quisermos evitar a concentração de toda a riqueza e de todo o poder nas mãos de uma pequena elite, a chave é regulamentar a propriedade de dados.” (HARARI, Yuval. 21 lições para o século 21. São Paulo: Cia das Letras, 2018. p. 107) Resumo O presente texto aborda o estudo das liberdades, da coesão social, da pluralidade democrática e da tolerância sob o impacto das bolhas de mídias digitais e da utilização indevida de dados pessoais. Analisamos o princípio geral de liberdade veiculado pela Carta Americana de Direitos Humanos e, a partir de tal análise, confrontamos essas liberdades com os principais problemas enfrentados pelas democracias na era digital. Usamos, para tanto, conceitos da filosofia de John Rawls de formação do pacto político e da vontade política. Buscamos estabelecer os danos que as redes sociais binárias e o uso indiscriminado de dados, além da manipulação das bolhas na mídia, causam às democracias para enfim cotejarmos algumas possíveis soluções, a fim de preservar o real discurso político, principalmente no que tange à Declaração de Direitos Humanos da Convenção Americana de Direitos Humanos – CADH. Palavras-chave: CADH. Liberdade. Rawls. Bolhas midiáticas. Redes sociais binárias. Abstract This text addresses the study of freedoms, social cohesion, democratic plurality and tolerance under the impact of digital media bubbles and misuse of personal data. We analyze the general principle of freedom conveyed by the American Charter of Human Rights and, based on such analysis, we confront these freedoms with the main problems faced by democracies in the digital age. For that, we use concepts from John Rawls’ philosophy on the formation of the political pact and political will. We seek to establish the damage that binary social networks and the indiscriminate use of data, in addition to the manipulation of bubbles in the media, cause to democracies, as well as address some possible solutions in order to preserve the real political discourse, especially with regard to the Declaration of Human Rights of the American Convention on Human Rights – ACHR. Keywords: ACHR. Freedom. Media bubbles. Binary networks. Introdução No presente trabalho, buscar-se-á analisar o direito à liberdade de expressão e, consequentemente, à liberdade política, conforme garantido na Declaração de Direitos Humanos da Convenção Americana de Direitos Humanos. Buscaremos estabelecer a natureza da relação entre liberdade e redes sociais binárias, principalmente no que tange à formação de um discurso político pela sociedade que seja um discurso real, e não manipulado. Para tanto, o trabalho é dividido em três partes. Inicia-se com uma breve lembrança dos conceitos das cartas de direitos, com destaque para a Carta Americana de Direitos Humanos – CADH, bem como de conceitos básicos na filosofia de John Rawls sobre pluralismo político, atuação política livre e tolerância. Usamos também análise de conhecidos autores que se debruçam sobre liberdades e igualdades, principalmente em contraponto ao desenvolvimento econômico, como Amartya Sen. Na segunda parte, abordamos os principais problemas que diversos atores da democracia identificaram no uso de redes sociais e de dados, ainda sob o cotejo de conceitos rawlsianos. Analisamos brevemente a revolução que a inteligência artificial imprimiu à vontade humana, ao discurso e às teorias discursivas, bem como a crescente polarização política e desagregação social que se tem percebido nas últimas eleições e manifestações políticas populares. Por último, delineamos os principais danos que essas redes causam às democracias e quais são as alternativas filosóficas, políticas e sociais para combater a corrosão democrática e fazemos ponderações sobre soluções de regulamentação pela Corte Interamericana de Direitos Humanos, a fim de proteger os direitos à liberdade, individuais e políticos veiculados na CADH. 1 Carta Americana de Direitos Humanos e direito à liberdade como garantido nas revoluções de 1789 e nas demais declarações de direitos universais A liberdade é um bem supremo. Brilhantes filósofos já nos convenceram desse pressuposto, e mesmo Sócrates, ao abrir mão da sua própria, o fez por amor à pólis, porque da obediência à sua cidade-estado e às suas leis advinham todas as liberdades. Esse antigo pacto entre humanos e todas as suas belezas e idiossincrasias é o nó político sobre o qual ainda hoje nos debruçamos. Mas de que liberdade hoje falamos? As conquistas da Revolução Francesa de 1789 são conhecidas por abrir aos homens – na sua universalidade – os direitos que desde a antiguidade filósofos já diziam pertencer a todos. Parece demasiado nos atermos à história dessa revolução, mas Peter Häberle bem faz em nos lembrar que fatos extraordinários para a conquista de direitos humanos nasceram de uma assembleia de homens e no confronto dessas novas ideias: Pero antes, un repaso de nuestra cultura general: qué temas asociamos de ordinario con 1789? – la Asamblea Nacional francesa se proclama Asamblea Nacional constituyente en nombre de la soberanía popular; – proclamación de los derechos del hombre y del ciudadano como programa de una vocación cívica universal, autonomía y emancipación de la persona; – nacionalización del patrimonio de la iglesia, constitución civil del clero; – suspensión del orden feudal-estamental, erección de la sociedad de ciudadanos y del mundo político moderno, formulación de los postulados de la Ilustración; – derecho de autodeterminación de los pueblos; – potestad legislativa y fiscal del Parlamento; – igualdad del ciudadano ante la Ley, igualdad de sufragio, igualdad impositiva en función de la riqueza; – supresión de los privilegios de nacimiento y honor (y con ello de la nobleza); – Constitución escrita representativa de 1791, dominio de la burguesía propietaria e ilustrada; – Estado nacional como unidad de pueblo, Estado, Nación. (HÄBERLE, 1998, p. 39-40) Vemos que é uma verdade que os pactos políticos, e o pacto político inovador por excelência de 1789, foram produto de uma imensa luta de ideias, de uma luta social, e mais, de uma luta de classes, em que estamentos abastados e que desde sempre regularam a vida política (clero e nobreza) tiveram de ceder a uma outra vontade. Essa vontade inédita até então em sua universalidade: a vontade do povo. A Carta Americana de Direitos Humanos, doravante referida como CADH, tem um preâmbulo que lembra “um regime de liberdade pessoal e de justiça social, fundado no respeito dos direitos essenciais do homem”. Ressalta que tais direitos são atributos da pessoa humana, logo, universais. E que o “ideal do ser humano livre, isento do temor e da miséria”, só prospera se “forem criadas condições que permitam a cada pessoa gozar dos seus direitos econômicos, sociais e culturais, bem como dos seus direitos civis e políticos”, seguindo para a explanação de direitos mais específicos. Mas daí já tiramos a alma dessa Carta e desses direitos, a própria alma revolucionária de 1789: os homens nascem livres e iguais e são sujeitos de direitos que o Estado deve preservar. Ou, conforme nos fala Häberle (1998): “Los hombres nacen y permanecen libres e iguales en derechos”. Tal principio es texto constitucional en sentido estricto, esto es, norma constitucional positiva vigente en Francia hasta hoy; retorna, formal o materialmente, en todas las declaraciones de derechos del hombre e igualmente tiene el rango de un texto clásico, un texto constitucional en sentido amplio: nos retrotrae a Rousseau. El artículo 1 constituye una suerte de dogma permanente del Estado Constitucional y, del mismo modo, es susceptible y necesita de elaboración científico-racional. (HÄBERLE, 1988, p. 49) Logo, a grande subversão histórica é que, pela primeira vez, o dinheiro, a renda, a posição política, religiosa ou racial não faz mais frente à igualdade que se pretende infundir à vontade humana, e, dentre essas vontades, a vontade política mais premente é a liberdade. De expressão, de ser, de agir politicamente. O guia mestre de nossa declaração de direitos no que se refere à liberdade não pode fugir desse marco histórico e revolucionário, portanto. Mas não só. 2 Liberdade, pluralismo e tolerância em John Rawls A filosofia política também nos define a liberdade. E, mais profundamente, seus desdobramentos no viver político. Define-nos algo até mais novo (nem tanto): democracia. Mas qual a qualidade de coesão social, pluralismo e tolerância que nossas democracias detêm hoje? Para ajudar nessa pergunta crucial, devemos reler os ensinamentos do não menos brilhante John Rawls. Esse filósofo nos ensina que, no liberalismo político, há propósitos políticos, pluralidade de doutrinas razoáveis (muitas vezes incompatíveis), mas que nada mais são do que resultado normal da razão humana dentro das instituições livres de um regime democrático. Para Rawls (2000, p. 224), “claro que uma sociedade também pode conter doutrinas abrangentes pouco razoáveis, irracionais ou até mesmo absurdas. Nesses casos, o problema é administrá-las de forma a não permitir que solapem a unidade e a justiça da sociedade”. Ora, em um contexto em que a comunicação humana passa por uma revolução com as mídias digitais e no qual estas se revelam perigosamente disruptivas, polarizadoras e manipuladoras (UNIÃO EUROPEIA. Resolução RSP 2018/2855. Resolução do Parlamento Europeu sobre a utilização pela Cambridge Analytica de dados dos utilizadores do Facebook e o impacto na proteção de dados, de 25 de outubro de 2018), qual o valor da liberdade, do pluralismo e da tolerância que Rawls nos ensina para preservar a coesão social e os direitos fundamentais das futuras gerações? Ao responder a essas perguntas filosóficas sobre o Estado político e o pluralismo nas democracias atuais, como entendido por Rawls, devemos atentar para as mesmas perguntas que ele se fez na introdução do seu livro Liberalismo político: Uma primeira questão fundamental sobre a justiça política numa sociedade democrática, a saber: qual a concepção de justiça mais apta a especificar os termos equitativos de cooperação social entre cidadãos considerados livres e iguais e membros plenamente cooperativos da sociedade durante a vida toda, de uma geração até a seguinte? A essa questão fundamental, acrescentamos uma segunda, a da tolerância compreendida em termos gerais. (RAWLS, 2000, p. 45) Vemos que é uma preocupação de Rawls a transmissão desse conceito de justiça de uma geração a outra, de modo que sejam preservadas as liberdades que ele considera fundamentais. Sua teoria é eminentemente contratualista e baseada em Locke, Rousseau e Kant. De forma rápida, identificamos nos livros publicados do filósofo que o princípio da liberdade é um princípio chave para o entendermos. Ele constrói uma teoria da justiça baseado na distribuição universal de liberdades básicas, e somente depois desse estágio os pactos assegurariam igualdade e equidade nas relações. Dentre essas liberdades primordiais, citamos o elenco que o autor colocou no seu livro Justiça e democracia: As liberdades básicas iguais para todos no primeiro princípio de justiça são definidas pela lista seguinte: a liberdade de pensamento e a liberdade de consciência, as liberdades políticas e a liberdade de associação, bem como as liberdades incluídas na noção de liberdade e integridade da pessoa e, finalmente, os direitos e as liberdades protegidos pelo Estado de Direito. (RAWLS, 2002, p. 149) Ele próprio lembra que a forma como se prioriza uma e outra tem por vezes origem mais histórica que de importância real. Mas, considerando o conjunto de sua obra, bem como seu método do equilíbrio reflexivo – que, sinteticamente, é a ponderação que politicamente as pessoas fazem de seus direitos e suas liberdades, a fim de expressar os melhores juízos sobre determinado tema –, temos alguns marcos importantes que assim Rawls nos coloca: A ideia intuitiva da justiça como equidade é considerar que princípios primordiais da justiça constituem, eles próprios, o objeto de um acordo original em uma situação inicial adequadamente definida. Esses princípios são aqueles que pessoas racionais interessadas em promover seus interesses aceitariam nessa posição de igualdade para determinar os termos básicos de sua associação. (...) o acordo baseado nesses princípios é a melhor maneira para cada pessoa de assegurar seus objetivos, em vista das alternativas disponíveis. (RAWLS, 2002, p. 127-8) Amartya Sen publicou uma excelente obra denominada Desenvolvimento como liberdade, na qual explora muito bem os conceitos rawlsianos, que serão importantes para este estudo, principalmente sobre a denominada “prioridade de liberdade formal”. Sen apresenta seus contrapontos e explica um pouco a origem dessas prioridades: Tratarei agora da mais influente – e, em muitos aspectos, a mais importante – das teorias contemporâneas de justiça, a de John Rawls. Sua teoria possui muitos componentes, e começarei com um requisito específico que John Rawls denominou “a prioridade da liberdade formal”. A formulação dessa prioridade pelo próprio Rawls é comparativamente moderada, mas essa prioridade assume uma forma particularmente importante na teoria libertarista moderna, que, em algumas formulações (por exemplo, na construção elegantemente inflexível apresentada por Robert Nozick), considera que amplas classes de direitos – variando de liberdades formais a direitos de propriedade – têm precedência política quase total sobre a promoção de objetivos sociais (incluindo a eliminação da privação e da miséria). Esses direitos assumem a forma de “restrições colaterais” que não podem absolutamente ser violadas. (...) Em formulações menos exigentes da “prioridade da liberdade formal” apresentadas em teorias liberais (de modo mais notável nos trabalhos de John Rawls), os direitos que recebem precedência são muito menos amplos e consistem essencialmente em várias liberdades formais pessoais, como alguns direitos políticos e civis básicos. Mas a precedência que esses direitos mais limitados recebem deve ser total e, embora eles tenham uma abrangência bem mais restrita do que os da teoria libertária, também não podem ser de modo algum comprometidos pela força das necessidades econômicas. (...) A questão crucial, eu diria, não é a total procedência, mas sim se a liberdade formal de uma pessoa deve ser considerada possuidora do mesmo tipo de importância (e não de uma importância maior) que a de outros tipos de vantagens pessoais – rendas, utilidades etc. Em particular, a questão é se a importância da liberdade formal para a sociedade é adequadamente refletida pelo peso que a própria pessoa tenderia a atribuir a essa liberdade ao julgar sua própria vantagem global. A afirmação da preeminência da liberdade formal (como liberdades políticas e direitos civis básicos) contesta que seja adequado julgar a liberdade formal simplesmente como uma vantagem – tal como uma unidade extra de renda – que a própria pessoa recebe por essa liberdade. Para evitar mal-entendidos, devo explicar que o contraste não é com o valor que os cidadãos atribuem – e com razão – à liberdade formal e aos direitos com seus juízos políticos. Muito pelo contrário: a salvaguarda da liberdade formal tem de ser essencialmente relacionada à aceitabilidade política geral da sua importância. O contraste ocorre antes com o grau no qual ter mais liberdade formal ou direitos aumenta a vantagem pessoal do indivíduo, vantagem que é apenas uma parte do que está envolvido. Está-se afirmando aqui que a importância política dos direitos pode exceder imensamente o grau em que a vantagem pessoal dos detentores desses direitos é aumentada pelo fato de tê-los. Os interesses de outros também estão envolvidos (uma vez que as liberdades formais de diferentes pessoas são interligadas), e a violação da liberdade formal é uma transgressão processual à qual podemos com razão resistir como uma coisa ruim em si. Assim, há uma assimetria em relação a outras fontes de vantagem individual, como, por exemplo, as rendas, que seriam valorizadas em grande medida com base no quanto elas contribuem para as vantagens pessoais. A salvaguarda da liberdade formal e dos direitos políticos básicos teria prioridade processual que decorre de sua proeminência assimétrica. Essa questão é particularmente importante no contexto do papel constitutivo da liberdade formal e dos direitos políticos e civis para possibilitar que haja o discurso público e a emergência comunicativa de normas e valores sociais consensuais. (SEN, 2009, p. 83-5) Outro conceito importante para nossa análise é o de consenso constitucional, o qual veicula o discurso público de nível hierárquico legal maior, cujos passos Rawls assim traça: No consenso constitucional, uma constituição que satisfaz certos princípios básicos estabelece procedimentos eleitorais democráticos para moderar a rivalidade política no interior da sociedade. Essa rivalidade diz respeito não apenas àquela entre classes e interesses, mas também àquelas que envolvem favorecer determinados princípios liberais em detrimento de outros, quaisquer que sejam as razões disso. Embora haja concordância sobre certas liberdades e direitos públicos fundamentais – sobre direito de voto, liberdade de expressão e associação política e tudo o mais que os procedimentos eleitorais e legislativos da democracia requerem (...) como criar consenso constitucional? Suponha que, num certo momento, devido a diversas contingências e eventos históricos, certos princípios liberais de justiça são aceitos como um simples modus vivendi e estão incorporados às instituições políticas existentes. Essa aceitação surgiu, digamos, de forma muito semelhante à aceitação do princípio da tolerância, enquanto um modus vivendi, depois da reforma: no início, com relutância, mas, mesmo assim, como a única alternativa viável à guerra civil interminável e destrutiva. (...) Uma adesão às instituições e aos princípios que as regulam pode, evidentemente, basear-se em parte nos interesses pessoais e de grupos de longo prazo, no costume e nas atitudes tradicionais, ou simplesmente no desejo de se conformar àquilo que se espera que seja feito e que usualmente se faz. (...) Quando os princípios liberais regulam efetivamente as instituições políticas básicas, eles satisfazem três requisitos de um consenso constitucional estável. Primeiro, dado o fato do pluralismo razoável – o fato primeiro que leva a um pluralismo constitucional como um modus vivendi –, os princípios liberais satisfazem a exigência política urgente de fixar, de uma vez por todas, o conteúdo de certas liberdades e direitos políticos fundamentais e de lhes atribuir uma prioridade especial. Fazer isso retira essas garantias da agenda política e as coloca além do cálculo dos interesses sociais, estabelecendo assim as normas da competição política. O segundo requisito de um consenso constitucional estável está ligado ao tipo de razão pública envolvido na aplicação dos princípios liberais de justiça. (...) raciocínios e argumentação acessíveis aos cidadãos em geral (...). Que o terceiro requisito de um consenso constitucional estável seja satisfeito pelos princípios liberais é algo que depende do sucesso dos dois anteriores. As instituições políticas básicas que incorporam esses princípios e a forma de razão pública que se manifesta aos aplicá-los – quando essas instituições funcionam de maneira efetiva e bem sucedida por um período de tempo considerável (como estou pressupondo aqui) – tendem a encorajar as virtudes cooperativas da vida política: a virtude da razoabilidade e o senso de justiça, o espírito de conciliação e a disposição de fazer concessões mútuas, tudo isso ligado à vontade de cooperar com os outros em termos políticos que todos possam aceitar publicamente. (RAWLS, 2002, p. 205-10) Todos esses conceitos nos remetem a uma ideia central para a liberdade e a formação do consenso democrático: que as vontades sejam livres. De uma liberdade palpável, advinda do confronto de ideias, dos pactos de direitos e da troca hodierna, tão humana. Mas onde está o nó? O que hoje em nossas democracias corre risco? O que da Revolução de 1789 restará? 3 Redes sociais binárias, uso indiscriminado de dados e corrosão da coesão social Três publicações sintetizam com clareza a imensa ruptura do pacto social que as mídias sociais nos trouxeram. Elas provêm de diversas fontes e, embora à primeira vista não tenham muita sintonia, identificam estágios de degenerescência provável, real, de nossa coesão social e da falta de empatia que hoje cultivamos. A primeira é uma resolução do Parlamento Europeu sobre a Cambridge Analytics e os dados utilizados do Facebook que, em síntese: 1. Espera que todas as plataformas em linha garantam o pleno cumprimento da legislação da UE em matéria de proteção de dados, nomeadamente o RGPD e a Diretiva 2002/58/CE (privacidade e comunicações eletrônicas), e ajudem os utilizadores a compreender a forma como as suas informações pessoais são tratadas na publicidade dirigida a grupos específicos, e que se disponha de controles eficazes, que incluam a garantia de que diferentes finalidades de tratamento sejam objeto de autorizações distintas e de que exista maior transparência em relação aos parâmetros de privacidade e à concepção e à relevância das declarações de privacidade; (...) 4. Salienta a necessidade de maior transparência e responsabilidade relativamente aos algoritmos no que se refere ao tratamento e à análise de dados por parte dos setores público e privado e outros intervenientes que recorram a análises de dados, enquanto instrumento essencial para garantir que os cidadãos sejam devidamente informados sobre o tratamento dos seus dados pessoais; 5. Considera que, na era digital, é necessário que as leis eleitorais se adaptem à nova realidade digital e sugere que sejam igualmente aplicadas em linha as salvaguardas eleitorais convencionais (off-line), tais como as regras aplicáveis às comunicações políticas durante o período eleitoral, a transparência e os limites das despesas eleitorais, o respeito pelos períodos de reflexão e a igualdade de tratamento dos candidatos; é de opinião que os Estados-membros devem introduzir um sistema obrigatório de impressões digitais para as campanhas e a publicidade eletrônicas e aplicar a recomendação da Comissão que visa a reforçar a transparência da propaganda e das comunicações políticas em linha que são pagas; salienta que todos os tipos de propaganda política devem incluir informações de fácil acesso e compreensão sobre a organização que a publica e sobre quem é legalmente responsável pelas despesas, para que se saiba com clareza quem patrocina as campanhas, à semelhança do já exigido em vários Estados-membros para os materiais de campanha impressos; insiste em que os cidadãos da União devem poder reconhecer facilmente a propaganda e as comunicações políticas em linha que são pagas, bem como o partido, a fundação ou a organização que as promove; insiste, além disso, na necessidade de, por razões de transparência, incluir igualmente informações completas sobre os critérios de seleção dos destinatários de determinada propaganda política e sobre a dimensão prevista do grupo de destinatários; (...) 7. Recomenda que todas as plataformas em linha estabeleçam uma distinção entre a utilização dos seus produtos publicitários em linha para fins políticos e para fins comerciais; recorda que o tratamento de dados pessoais para fins de propaganda política requer uma base jurídica distinta do tratamento para fins de publicidade comercial; (...) 11. Considera que a interferência nas eleições constitui um enorme risco para a democracia, e que, para fazer face a esse risco, é necessário um esforço conjunto dos prestadores de serviços, das entidades reguladoras e dos intervenientes e partidos políticos; (...) A segunda é um primoroso artigo do diretor do Center for Civic Media Ethan Zuckerman (MIT/EUA) no qual ele analisa as bolhas ideológicas e de informação causadas pelas mídias sociais, separando os três tipos de publicações jornalísticas/informativas/sociais: a) consenso, no qual há acordo social/universal, de que é exemplo ser a democracia o melhor meio de governo; b) desvio, pois o tema é tabu ou inaceitável socialmente, como racismo, pedofilia; c) debates padronizados ou controvérsia legítima, em que repórteres e agentes estatais devem se manter neutros. Para ele: A estrutura das plataformas de mídia da Internet contribui para o ensimesmamento ideológico. (...) três gerações diferentes de mídia online tornaram possível selecionar os tópicos e os pontos de vista em que cada usuário está mais interessado. A web anterior ao Google nos permite selecionar pontos de vista mais ou menos como uma banca de jornais: escolhemos uma publicação, e não outra. Diferentemente da TV aberta, que tende a pontos de vista centristas a fim de atrair ampla gama de verbas publicitárias, veículos com foco mais restrito, como sites e revistas, permitem-se divisões partidárias mais incisivas. Com a ascensão dos sites de busca, a navegação baseada em interesses passou a nos conduzir à segregação ideológica, seja por causa dos tópicos que selecionamos, seja pela linguagem que usamos. Não espere fazer amigos conservadores em um site de culinária vegetariana, da mesma forma que buscar progressistas em um site sobre caça pode ser frustrante. A linguagem empregada para descrever uma questão – mudança do clima, aquecimento global ou fraude científica – pode isolar a informação que obtemos com base em critérios ideológicos. O que a mídia social oferece de diferente não é a possibilidade de escolhermos os pontos de vista com os quais entraremos em contato, mas sim o fato de que muitas vezes não estamos cientes das escolhas. (...) Como o algoritmo do Facebook apresenta conteúdo ao usuário com base naquilo de que ele gostou e que ele escolheu no passado, sua tendência é reforçar ideias preconcebidas, tanto por ser provável que os amigos de uma pessoa concordem com seu ponto de vista quanto porque o comportamento online indica ao Facebook o conteúdo que mais lhe interessa. (ZUCKERMAN, 2017) Ethan Zuckerman conclui, nesse artigo, que chegamos ao que ele qualifica como “diálogo impossível”: As esferas definidas por Daniel Hallin (a do consenso, a do desvio e a da controvérsia legítima) sugerem que questionamos se nos sentimos estimulados a discutir gama suficientemente ampla de assuntos no campo da controvérsia legítima. Nosso problema atual é que o diálogo é difícil, senão impossível, porque aquilo que um lado vê como esfera de consenso representa para o outro a esfera do desvio, e vice-versa. Nossos debates se complicam não só porque não conseguimos chegar a acordo sobre um conjunto de fatos compartilhados, mas porque, para começar, não conseguimos nos entender sobre o que merece ser discutido. Não tenho panaceias a oferecer para a polarização e para as câmaras de eco. Ainda assim, vale a pena identificar tais fenômenos – e reconhecer a profundidade de suas raízes – enquanto buscamos soluções para esses problemas. Vale notar que a pesquisa que a equipe dirigida por Benkler e eu conduziu sugere um fenômeno de polarização assimétrica – em nossa análise, as pessoas de extrema direita estão mais isoladas, em termos de ponto de vista, do que as pessoas de extrema esquerda. Nada no estudo sugere que a direita seja inerentemente mais propensa a isolamento ideológico. Ao compreender de que maneira a polarização extrema se desenvolveu recentemente, pode ser possível impedir que a esquerda desenvolva câmara de eco semelhante. A pesquisa também sugere que a centro-direita tem um papel produtivo a desempenhar na criação de alternativas de mídia que apelem à direita rebelde e alienada, o que manteria esses importantes pontos de vista em comunicação com as comunidades existentes da esquerda, de centro e da direita. Acredito que a polarização do diálogo na mídia resulte de novas tecnologias, da maneira pela qual o civismo é praticado hoje e das mudanças profundas nos indicadores de confiança em instituições [muitas pesquisas demonstraram, nas últimas décadas, um decréscimo constante da confiança em todo tipo de instituição – governo, Congresso, religião, mídia, bancos, escolas públicas e assim por diante, um fenômeno que afeta não só os EUA, mas diversos países ocidentais, incluindo o Brasil]. A breitbartosfera é possível não só porque se tornou mais fácil do que nunca criar um veículo de mídia e compartilhar pontos de vista com pessoas que pensam parecido, mas porque a confiança baixa no governo leva as pessoas a buscarem novas modalidades de engajamento efetivo – e, mais especificamente, a baixa confiança na mídia as leva a buscar fontes diferentes de informação. Criar e disseminar veículos e conteúdo de mídia parece ser uma das maneiras mais efetivas de engajamento cívico em um mundo em que a confiança desapareceu, e as eleições de 2016 sugerem que essa mídia cívica é uma força poderosa que estamos apenas começando a compreender. O terceiro e mais recente foi publicado pelo World Economic Forum (Davos), em seu Relatório de Riscos Globais de 2020, que menciona o risco de ruptura de coesão social advindo da crescente polarização política. Esse seria o segundo risco mais provável de aumentar em 2020, segundo os observadores de Davos, basicamente por manifestações sociais violentas em face de causas econômicas e desigualdades sociais. Mas desigualdades econômicas sempre foram móveis de revoluções e convulsões sociais. Essa explicação puramente econômica não serve para explanar a completude do avanço que, dentro dessa polarização, fizeram vários partidos nacionalistas (cuja dialética justamente é a da polarização). A desigualdade explicaria convulsões sociais, mas não propriamente a enorme polarização que hoje sentimos em todos os âmbitos de nossa vida política. A quem a polarização serve, deveríamos nos perguntar. O que nas sociedades contemporâneas facilitou imensamente esse estado de todos contra todos? O modo como produzimos nosso discurso político e social é parte desse problema? 4 O risco de corrosão democrática e convulsão social pela manipulação das mídias binárias e o risco da falta de regulação pelos parlamentos e pelos órgãos internacionais de direitos humanos Ora, sendo a liberdade de consciência e a liberdade política tão caras a todo o pacto político e à justiça, como encaramos os três relatos acima, o quais têm em comum a constatação de que nosso discurso foi aprisionado por algoritmos privados dos quais não temos controle? Não podemos mais falar em comunicação humana sem falarmos de mídias sociais. Toda troca de ideias, políticas ou não, se dá por meio dessas mídias pelo menos em determinado momento de sua vida enquanto ideia. Nossos discursos e, consequentemente, as diferenças políticas que eles carregam e que antes eram elaboradas diretamente por mecanismos controlados pela pólis (academia, meios de comunicação formais, partidos políticos e sistemas religiosos como exemplo) hoje perpassam por uma infinidade de algoritmos particulares que os traduzem em dados de marketing e afins para só então chegar ao seu destinatário. Quando adicionamos um parente distante, um colega do ginásio, quando curtimos uma nova ONG de preservação ambiental ou (secretamente) uma comunidade que combate vacinas ou prega o racismo e o ódio aos imigrantes, não pensamos, em nossa primeira conversa ou contato, que alguns algoritmos irão rapidamente se apropriar dessa relação, de seus dados, de suas significações, de seus signos, e traduzirão em relatórios de preferências e características que serão vendidos ao marketing ou qualquer outra venda física ou de ideias. Nossa vontade é o novo ouro. Se alguma vez nossas democracias estiveram em risco e nossas liberdades foram mais ameaçadas, nunca o foram com mais eficácia e discrição. O uso de mídias sociais, que passo a nomear de mídias sociais binárias – mídias baseadas em algoritmos que extraem o mínimo denominador comum de todas as nossas conversas, preferências e ações, e que, refinado, sempre resultará em um sistema dual, um sistema de opostos –, apropria-se dos discursos públicos e privados. E essa inteligência artificial reduzirá sempre as estatísticas do contra ou a favor de uma ideia, do simpático ou antipático a um candidato, e todos os indecisos serão tratados como números passíveis de um dia figurarem de um lado ou de outro. Esses algoritmos que aprisionam nosso discurso e o pasteurizam de forma geralmente binária, do like e do dislike, da esquerda ou da direita, do dentro ou do fora (Brexit), do “ele não” e, consequentemente, do “ele sim” – referência à campanha feminina de oposição ao candidato à Presidência da República de 2018 Jair Messias Bolsonaro por suas manifestações misóginas e que se iniciou nas mídias sociais –, são a forma ideal de manipular o maior número de pessoas que os grupos de interesses econômicos e por vezes políticos encontraram para vender seus produtos. Posso vender um livro ou um candidato com uma facilidade jamais vista. Mas há um inconveniente nessa relação. E ele é o risco de atingirmos mortalmente nossa coesão social pelo excesso de polarização e pela artificialidade de nosso discurso. De tudo o que replicamos na rede, o que é realmente objeto de um real embate que enseje um equilíbrio do discurso? Do ponto de vista filosófico, a criação de uma vontade política coletiva que cimentava, em um pacto da pólis, as várias diferenças de vontade foi substituída por uma vontade artificial, captada, digerida e cuidadosamente inoculada novamente em nós. Aderimos a bolhas de pensamento – manipulados, mesmo que não intencionalmente – que nos são extremamente sedutoras. Sedução essa garantida por tudo que a inteligência artificial é capaz de nos legar. Refinados pelos algoritmos de modo infinitesimal, a cada compra, a cada contato, a cada replicação de notícia, só podemos ver o outro ao lado ou contra nós. Esta a verdadeira equação: a dupla face irreconciliável. A ponte que o próprio discurso político construía, com a sua variação imensa de ideias, foi substituída por uma esquizofrenia (capitalista) que tão bem definiu Deleuze em sua famosa obra Mil platôs. Não estamos diante do que Rawls qualificava de sociedades justas e estáveis de cidadãos profundamente divididos por razões morais filosóficas e religiosas. Estamos simplesmente divididos por razões de marketing e da forma mais artificial. Pois as interações das diferenças que num passado foram reais e autênticas hoje carecem desses atributos. E, num discurso artificial, nenhum cimento há de ser igualmente real, pois, segundo esse filósofo: O objetivo da justiça como equidade é, por conseguinte, prático: apresenta-se como uma concepção de justiça que pode ser compartilhada pelos cidadãos como a base de um acordo político racional, bem informado e voluntário. Expressa a razão política compartilhada e pública de uma sociedade (...) os próprios cidadãos, no exercício de sua liberdade de pensamento e consciência, e considerando suas doutrinas abrangentes, veem a concepção política como derivada de – ou congruente com – outros valores seus, ou pelo menos não em conflito com eles. (RAWLS, 2000, p. 52-3) Nesse contexto, o conflito social não só não é resolvido como é acirrado. Isso é a tradução de uma mídia binária: um discurso sempre polarizado, construído artificialmente por meio de um algoritmo privado que não respeitou o interesse público, de modo que a tolerância e um equilíbrio reflexivo como o proposto por Rawls não são alcançados porque são artificialmente alcançados. É um jogo não jogado. Um modo dual que, de tanto filtrar nossas emoções, nossos pensamentos e nossa comunicação, corre o risco de tornar a nós próprios binários e falsamente políticos. Falsamente livres. Se é certo que Rawls sempre concebeu que sociedades pudessem existir de modo profundamente dividido (RAWLS, 2000, p. 33), jamais falou que podíamos resolver essas diferenças sem tolerância no discurso. Sem que a tessitura desse ente político fosse real e objeto de embates reais, e não os criados e filtrados por inteligência artificial. Antigamente, tínhamos eleições. Hoje, precisamos de eleições e precisamos concordar no dia seguinte sobre quem venceu. Fake news e campanhas falsamente populares em redes sociais contaminam a coesão e a fraternidade sem as quais mais nenhum pacto será possível. 5 Soluções no âmbito da CADH Assim como o Parlamento Europeu se debruça, há quase dois anos, sobre o caso emblemático da Cambridge Analytica e dos dados dos utilizadores do Facebook, também o órgão americano de direitos humanos pode dar concretude à salvaguarda da ameaça real que os algoritmos privados e dirigidos ao marketing representam para a formação dos pactos políticos e das interações. Os microdirecionamentos que empresas e plataformas de Internet criam não podem ter algoritmos que simplesmente desrespeitem os pressupostos que elegemos como universais, nem que sirvam simplesmente ao mais rico e poderoso. O público alvo de uma propaganda de mercadorias não pode ser manipulado, muito menos os eleitores em um determinado país. A eficiência de resultados e segmentos deve ser revista e submetida a órgão de controle que ainda não temos: o órgão de controle interamericano de algoritmos e plataformas digitais, para dar um exemplo. Parece ficção científica, mas não é. Não há mais como olvidarmos a necessidade de se abrir a caixa-preta dos algoritmos. Para isso, um bom começo seria atentar para o órgão denominado no Reino Unido de Centro de Ética de Dados e Inovação (Centre for Ethics and Innovation) e suas recentes conclusões compiladas em um extenso relatório, que versa sobre a necessidade de regulamentar o microdirecionamento, que nada mais é que produto de centenas de algoritmos, de vídeos, anúncios, posts para todos os usuários do Reino Unido. O fundamento da regulamentação é principalmente a discriminação racial e as demais discriminações a que o direcionamento abusivo (do poder econômico e/ou político) conduz ou que ele traz embutidas. Mais, o relatório é cabal em qualificar as várias plataformas e mídias e seus algoritmos de “opacos”, pois as informações sobre os impactos online das atividades são quase impossíveis de obter na maior parte das vezes. Algumas das conclusões do relatório são: 1. A segmentação online orientada por dados é uma aplicação nova e poderosa da tecnologia. (...) 5. No entanto, os sistemas de segmentação online operam com muita frequência sem suficiente transparência e responsabilidade. O uso de sistemas de segmentação online fica aquém dos princípios centrados no ser humano da OCDE sobre IA (que o Reino Unido subscreveu), os quais estabelecem padrões para o uso ético da tecnologia. A segmentação online foi culpada por uma série de danos. Estes incluem a erosão da autonomia e a exploração das vulnerabilidades das pessoas, potencialmente minando a democracia e a sociedade, e o aumento da discriminação. A evidência para essas reivindicações é contestada, mas elas se tornaram proeminentes no debate público sobre o papel da Internet e das mídias sociais na sociedade. 6. A segmentação online ajudou a colocar algumas plataformas online globais em posições de enorme poder de prever e influenciar o comportamento. No entanto, os mecanismos atuais para responsabilizá-las são inadequados. Revisamos os poderes dos reguladores existentes e concluímos que não se pode confiar na aplicação da legislação e da autorregulamentação atuais para atender às expectativas públicas de maior responsabilidade. 7. A operação e o impacto dos sistemas de segmentação online são opacos. Informações sobre o impacto dos sistemas de segmentação online nas pessoas e na sociedade são difíceis de obter, pois grande parte da base de evidências é mantida por grandes plataformas online. Isso impossibilita o nível de escrutínio necessário para avaliar robustamente o impacto dos sistemas de segmentação nos indivíduos e na sociedade e ajuda a obscurecer a responsabilidade. 8. Nossa nova pesquisa sobre atitudes públicas em relação à segmentação online mostra que as pessoas apreciam a conveniência que esses sistemas oferecem, mas expressam preocupação quando aprendem sobre a prevalência, a sofisticação e o impacto dos sistemas. Elas estão particularmente preocupadas com o impacto da segmentação online em pessoas vulneráveis. As pessoas não querem que a segmentação seja interrompida, mas elas querem que os sistemas de segmentação online operem com padrões mais altos de responsabilidade e transparência, e querem ter controle significativo sobre como elas são direcionadas. 9. Há um reconhecimento da indústria e do público de que há limites para a autorregulação e de que o status quo é insustentável. Agora é a hora de ação regulatória que tome medidas proporcionais para aumentar a responsabilidade, a transparência e o empoderamento do usuário. Recomendamos várias etapas para abordar a confiança do público a longo prazo. 10. Não propomos restrições específicas à segmentação online. Em vez disso, recomendamos que o regime regulatório seja desenvolvido para promover a responsabilidade e a transparência e salvaguardar os direitos humanos. Os reguladores devem ser capazes de antecipar e responder a mudanças na tecnologia e procurar orientar seu desenvolvimento positivo para estar mais bem alinhado com os interesses das pessoas. 11. O governo deve fortalecer a supervisão regulatória do uso de sistemas de segmentação online por organizações por meio de seu proposto regulador de danos online, trabalhando em estreita colaboração com outros reguladores, incluindo o Gabinete do Comissário de Informações [Information Commissioner’s Office] (ICO). Deve ser requerido ao regulador que aumente a responsabilidade sobre a segmentação online por meio de um código de prática. O código deve exigir que as organizações adotem padrões de gerenciamento de riscos, transparência e proteção de pessoas vulneráveis, para que possam ser responsáveis pelo impacto dos sistemas de segmentação online nos usuários. 12. A regulamentação da segmentação online deve ser desenvolvida para garantir a liberdade de expressão e a privacidade online e para promover normas internacionais baseadas em direitos humanos. O regulador de danos online deve ter o dever estatutário de proteger e respeitar a liberdade de expressão e a privacidade. 13. O regulador precisará de poderes de coleta de informações para avaliar se as plataformas estão operando em conformidade com o código de prática para que possam ser responsabilizadas. Em alguns casos, será necessário suporte externo independente para estabelecer isso. O regulador deve ter o poder de exigir que as plataformas deem a especialistas independentes acesso seguro aos seus dados para permitir testes mais extensos de conformidade com o código. 14. O regulador deve usar seus poderes de maneira proporcional, reconhecendo que o uso da segmentação pode ser de baixo risco e garantindo que a inovação responsável possa florescer. No uso de seus poderes, o regulador deve estar sujeito ao devido processo, com um limite estabelecido para investigação, consulta aos acionistas e um processo no qual as conclusões do regulador sejam passíveis de apelação. (...) 16. Deve ser requerido das plataformas que mantenham arquivos de publicidade online para garantir transparência para tipos de publicidade personalizada que apresentem riscos sociais particulares. Essas categorias incluem política, de modo que reivindicações políticas possam ser vistas e contestadas, garantindo que as eleições sejam não apenas justas, mas vistas como justas; emprego e outras “oportunidades”, onde o escrutínio é necessário para garantir que a segmentação online não leve à discriminação ilegal; e produtos com restrição de idade. (...) (UNITED KINGDOM, 2020) São recomendações desse órgão inglês e que inovam sobremaneira o ordenamento, pois configuram a primeira tentativa de apropriação pelo público dos algoritmos privados, impondo uma ética que respeite os direitos humanos: Prestação de contas – O novo regulador de danos online do governo deve ser solicitado a fornecer supervisão regulatória da segmentação: – o regulador deve adotar uma abordagem “sistêmica”, com um código de prática para estabelecer padrões e exigir que plataformas online avaliem e expliquem os impactos de seus sistemas; – para garantir a conformidade, o regulador precisa de poderes para coleta de informações. Isso deve incluir o poder de dar a especialistas independentes acesso aos dados da plataforma para realizar auditorias; – os deveres do regulador devem incluir explicitamente a proteção dos direitos à liberdade de expressão e à privacidade; – a regulamentação da segmentação online deve abranger todos os tipos de conteúdo, incluindo publicidade; – o cenário regulatório deve ser coerente e eficiente. O regulador de danos online, o ICO e a CMA [Competition and Markets Authority] devem desenvolver mecanismos de coordenação. – O governo deve desenvolver um código para o uso da segmentação online pelo setor público para promover inovações seguras e confiáveis na entrega de aconselhamento e suporte personalizados. Transparência – O regulador deve ter o poder de exigir que as plataformas ofereçam a pesquisadores independentes acesso seguro a seus dados quando isso for necessário para pesquisas de importância potencial significativa para políticas públicas. – Deve ser exigido das plataformas que hospedem arquivos acessíveis ao público para publicidade política online, publicidade de “oportunidade” (empregos, crédito e habitação) e anúncios de produtos com restrição de idade. – O governo deve considerar mecanismos formais de colaboração para combater o “comportamento inautêntico coordenado” em plataformas online. Empoderamento do usuário – A regulamentação deve incentivar plataformas a fornecer às pessoas mais informação e controle: – nós apoiamos o dever “Fairness by Design” proposto pela CMA em plataformas online; – os planos do governo para rótulos em anúncios eleitorais online devem facilitar a identificação do conteúdo pago e oferecer aos usuários informações básicas para mostrar que o conteúdo que eles estão vendo foi direcionado a eles; – os reguladores devem aumentar a coordenação de suas campanhas de alfabetização digital. – O surgimento de “intermediários de dados” poderia melhorar a governança de dados e reequilibrar o poder em favor dos usuários. A política regulatória e do governo deve apoiar seu desenvolvimento. (UNITED KINGDOM, 2020) Essa é uma valiosa análise universal dos problemas que as democracias e seus cidadãos enfrentam na regulamentação da Internet e da inteligência artificial. É o primeiro relato de um país a sugerir parâmetros e a definir que tal falta de regulamentação está corroendo a democracia. Vislumbra que a vontade do eleitor já não é tão forte quanto a vontade dos poderosos de manipular as eleições. A comunicação humana e mesmo a vontade política estão sendo subjugadas e deturpadas, e o poder econômico está colocando por terra a igualdade que nos trouxeram as Cartas de Direitos. E tudo num ritmo acelerado da inteligência artificial, difícil de ser alcançado pelos órgãos de controle democráticos. É igualmente mais do que urgente que se instale o centro interamericano e centros nacionais para regulação e preservação da ética dos algoritmos e controle da atividade de inteligência artificial sobre a vontade humana. Não é matéria privada, é matéria pública, universal e política de primeira grandeza a regulamentação de todo o processamento de dados a que somos submetidos. Os parlamentos nacionais igualmente deveriam, no âmbito da América, instaurar suas próprias análises. Estamos deixando sem importância uma atividade que pode subtrair a grande conquista civilizatória que foram as cartas de direitos. E, como nos falam os próprios ingleses no relatório: “levamos cem anos para regular os impactos da energia a vapor, vamos aprender com o passado” (UNITED KINGDOM, 2020). Conclusão No presente trabalho, buscamos estabelecer a natureza da relação entre liberdade e redes sociais binárias, direito à liberdade como garantido na Declaração de Direitos Humanos da Convenção Americana sobre Direitos Humanos, e demonstrar que tais redes, desreguladas e da forma como estão, são veículos altamente propensos à manipulação de conteúdo, criando bolhas ideológicas e situações altamente tendentes à desigualdade. Essa desregulação facilita igualmente a corrosão social e a polarização e fragiliza a formação de um discurso real pela pólis. Esperamos ter conseguido demonstrar que a sociedade na era das redes sociais binárias é um vasto ringue que não pacifica. Perdemos com os filtros artificiais as matizes e as variações do pensamento, empobrecendo os interlocutores, que, por fim, se instalam em lados opostos e irreconciliáveis. E essa polarização contaminou nossas democracias, como deduzimos dos relatos acima. Ela nos contamina. A pólis precisa restaurar mecanismos de produção do discurso que insiram novamente diferença, tolerância e ética e permitam uma real interação dos cidadãos entre si e com a pólis. Precisamos entender que tais algoritmos não são assunto privado, que são assunto público por natureza, humano por essência, pois hoje representam e traduzem as vontades dos seus cidadãos. E essas vontades, em uma democracia, devem ser absolutamente livres. As mídias estão hoje configuradas em uma armadilha polarizadora com os algoritmos que permitem deturpar a comunicação humana, esta sim substrato do pacto que sustenta as sociedades e as novas gerações. É a nova cicuta que bebemos sem perceber. Coesão social, pluralismo e tolerância real estão em perigo, e os parlamentos e órgãos de proteção internacionais de direitos humanos deveriam se debruçar sobre uma mudança imediatamente, uma regulamentação em todos os níveis, e não lamentar ou admoestar em razão de o Sr. Zuckerberg não ter sido ético. Urge que os Estados nacionais e todos os órgãos de proteção de direitos humanos – em especial a Corte Americana de Direitos Humanos –, os quais já percebem o abismo de tais práticas, imponham a necessidade de regulação rígida e respeito ao modo como nossas ideias políticas são hoje construídas. Está em risco não só o direito à liberdade de pensamento e expressão – como garantido na Carta Americana de Direito Humanos –, mas a própria matéria política sobre a qual se sustentam as decisões em uma democracia (art. 13 da CADH) também está em jogo. A ética que emana de todos os direitos e todas as liberdades fundamentais deve ser obrigatória e cogente a todas as plataformas digitais, pequenas ou grandes. Nosso cimento social está poroso, e, sem essa resposta urgente a tão grave ataque às liberdades civis, só nos restará lembrar de sacrificar um galo a Asclépio, pois a morte dos Estados nacionais e das consequentes liberdades que eles veiculam será inevitável.
Referências CONVENÇÃO AMERICANA DE DIREITOS HUMANOS. HÄBERLE, Peter. Liberdad, igualdad, fraternidad: 1789 como historia, actualidad y futuro del Estado constitucional. Madrid: Trotta, 1998. HARARI, Yuval. 21 lições para o século 21. São Paulo: Cia das Letras, 2018. RAWLS, John. Justiça e democracia. São Paulo: Martins Fontes, 2002. RAWLS, John. Liberalismo político. São Paulo: Ática, 2000. SEN, Amartya. Desenvolvimento como liberdade. São Paulo: Companhia das Letras, 2009. UNIÃO EUROPEIA. Resolução RSP 2018/2855. Resolução do Parlamento Europeu sobre a utilização pela Cambridge Analytica de dados dos utilizadores do Facebook e o impacto na proteção de dados, de 25 de outubro de 2018. Disponível em: http://www.europarl.europa.eu/doceo/document/TA-8-2018-0433_PT.html. Acesso em: 01 jan. 2020. UNITED KINGDOM. Centre for Data Ethics and Innovation. Review of online targeting: final report and recommendations. Disponível em: https://www.gov.uk/government/publications/cdei-review-of-online-targeting. Acesso em: 12 fev. 2020. WORLD ECONOMIC FORUM. The global risks report. 15. ed. 2020. Disponível em: http://reports.weforum.org/global-risks-report-2020/. Acesso em: 16 jan. 2020. ZUCKERMAN, Ethan. Cada macaco no seu galho. Traduzido por Paulo Migliacci. Folha de S. Paulo, São Paulo, 24 de setembro de 2017. Disponível em: https://www1.folha.uol.com.br/ilustrissima/2017/09/1920816-cada-macaco-no-seu-galho---zuckerman.shtml. Acesso em: 03 dez. 2019. ZUCKERMAN, Ethan. Mistrust, efficacy and the new civics: understanding the deep roots of the crisis of faith in journalism. Knight Commission Workshop on Trust, Media and American Democracy, Aspen Institute, 2017. Disponível em: https://dspace.mit.edu/bitstream/handle/1721.1/110987/deeprootsofmistrust.pdf?sequence=1&isAllowed=y. Acesso em: 03 dez. 2019. |
