Fenomenologia (e ontologia) dos algoritmos

*Rodolfo Rorato Londero

**Imagem em destaque: Handy Pandy

Em A sociedade de controle: manipulação e modulação nas redes sociais (SOUZA; AVELINO; SILVEIRA, 2018), os autores pretendem definir o vago conceito deleuzeano de modulação1, apresentado no “Post-scriptum sobre as sociedades de controle” (DELEUZE, 1992), a partir de referências ao uso intensivo de algoritmos e máquinas de aprendizagem (ramo da Inteligência Artificial) nas redes sociais. Acredito que os autores não são bem sucedidos em sua empreitada, pois eles apenas atualizam o conceito deleuzeano sem apresentar uma reflexão mais aprofundada e muito menos uma definição. Também há certo deslumbre apocalíptico em relação ao poder dos algoritmos, como se a própria crítica confirmasse esse poder (algo assim aconteceu diversas vezes na história da publicidade). Criticar como os algoritmos são eficazes em modular nossos comportamentos e subjetividades é a prova que os capitalistas precisam para continuar usando intensivamente essas ferramentas. Contudo, o livro apresenta dados muito interessantes desse admirável mundo novo, principalmente quando cita diversas patentes registradas por empresas de tecnologia, como Facebook, Apple, Google, etc. Uma delas, registrada pela Samsung, se chama Apparatus and method for determining user’s mental state (“Aparelho e método para determinar estado mental de usuário”), cujo objetivo é identificar, por meio de certos indicadores, o estado emocional do usuário de celular em determinado momento. Uma citação retirada da patente:

(…) quando a velocidade de digitação usando um teclado é de 23 caracteres por minuto, a frequência de uso da tecla de retrocesso [backspace] é três vezes ao escrever uma mensagem, a frequência de uso de um sinal especial é cinco vezes, o número de tremores de um dispositivo é 10, uma iluminação média [da tela] é de 150 Lux, e um valor numérico de uma localização específica (por exemplo, estrada) é 3, um estado de emoção classificado aplicando os dados do recurso ao modelo de inferência é “susto”, com um nível de confiança de 74%.

Isto certamente impressionou os autores do livro (e devo confessar, a mim também). Mas numa segunda leitura, é impossível não rir de tudo isso, ainda mais se você é leitor de ficção científica: parece que estamos diante de um conto de Asimov culminando em uma improvável estatística otimista de C-3PO. Contudo, se esse absurdo é levado a sério por nossa sociedade, então é papel da crítica demonstrar esse absurdo (e não admirá-lo apocalipticamente).

A instalação Bion (Rubens Chiri) 
Reprodução: https://vejasp.abril.com.br/atracao/emocao-art-ficial-5-0-autonomia-cibernetica/

Absurdo 1: Da perspectiva da fenomenologia, não podemos apontar para uma causa ou efeito da emoção, pois a emoção “não poderia vir de fora à realidade-humana. Ao contrário, é o homem que assume sua emoção e, por conseguinte, a emoção é uma forma organizada da existência humana” (SARTRE, 2007, p. 27; grifos do autor). Se a emoção não pode vir de fora, ou seja, não se pode causar determinada emoção, ela também não pode ir para fora, ou seja, apresentar-se por meio de indicadores que não seja a própria realidade-humana. Qual é a relação entre “susto” e “iluminação média [da tela]” se não uma equivalência conceitual absurda, típica da psicologia positivista? Para Merleau-Ponty (2004), essa equivalência apenas confirma a postura prática e utilitária que nos coloca longe do mundo da percepção. Um susto se percebe em mim, e não na tela de um celular.

Jon McCormack (Eden, 2000-2010)
Reprodução: https://livreopiniao.com/2017/06/05/consciencia-cibernetica-a-hipotetica-consciencia-das-maquinas-em-mostra-de-arte-no-itau-cultural/

Absurdo 2: Mesmo que o “susto” se confirme (e ele vai se confirmar diversas vezes), devemos questionar, à la Foucault (1996), se não são os indicadores que nos fazem ver o susto. E aqui voltamos à ingenuidade dos autores resenhados, pois em nenhum momento eles põem em questão a vontade de verdade dos algoritmos, como se a modulação algorítmica não fosse tributária da moldagem disciplinar (para retornar ao texto original de Deleuze). Pois os efeitos da modulação são efeitos da vontade de verdade. Se essa vontade é agora tomada como uma nova ontologia, isto apenas a torna mais difícil de rastrear, mas ela continua lá. Na verdade, em termos filosóficos, a passagem da sociedade disciplinar para a sociedade de controle ocorre justamente quando a vontade de verdade funda uma nova ontologia: a partir daí, a negatividade disciplinar desaparece para reaparecer como positividade do real.

Reprodução: https://vejasp.abril.com.br/cidades/emocao-art-ficial-chega-sexta-ultima-edicao-no-itau-cultural/ 

*Rodolfo Rorato Londero é Doutor em Estudos Literários pela Universidade Federal de Santa Maria. Professor do Departamento de Comunicação e Membro Permanente do Programa de Pós-Graduação em Comunicação da Universidade Estadual de Londrina.

** Imagem em destaque Handy Pandy

[1] Ao contrário dos confinamentos disciplinares, que produzem moldes distintos para domesticar os corpos (fábrica, escola, hospital, prisão, etc.), “os controles são uma modulação, como uma moldagem auto-deformante que mudasse continuamente, a cada instante, ou como uma peneira cujas malhas mudassem de um ponto a outro” (DELEUZE, 1992, p. 221; grifos do autor). Na passagem da sociedade disciplinar para a sociedade de controle, Deleuze imagina o poder operando de forma difusa e ajustável, não mais limitado a espaços fixos e padronizados. O marketing e o cartão de crédito surgem como principais formas de controle: “O homem não é mais o homem confinado, mas o homem endividado” (DELEUZE, 1992, p. 224).

Referências bibliográficas

DELEUZE, Gilles. Conversações – 1972-1990. São Paulo: Ed. 34, 1992.

FOUCAULT, Michel. A ordem do discurso. São Paulo: Loyola, 1996.

MERLEAU-PONTY, Maurice. Conversas – 1948. São Paulo: Martins Fontes, 2004.

SARTRE, Jean-Paul. Esboço para uma teoria das emoções. Porto Alegre: L&PM, 2007.

SOUZA, Joyce; AVELINO, Rodolfo; SILVEIRA, Sérgio Amadeu da (orgs.). A sociedade de controle: manipulação e modulação nas redes digitais. São Paulo: Hedra, 2018.

1 Comment

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s