Cada época produz as suas próprias formas de racionalidade. Durante séculos, as sociedades ocidentais depositaram a sua confiança na razão humana como instância encarregada de interpretar a realidade e orientar a ação individual e coletiva. Hoje, porém, parece estar a emergir uma nova forma de racionalidade, um tecno-logos baseado na capacidade dos sistemas digitais e da inteligência artificial para analisar a informação, realizar previsões e prescrever os comportamentos.
Cada vez com maior frequência, são os algoritmos que nos indicam que conteúdos consumir, que rota seguir, que produto comprar ou que decisões são as mais convenientes. A sua presença estende-se também a âmbitos particularmente sensíveis, participando na concessão de créditos, na seleção de pessoal ou na avaliação dos riscos de uma atividade.
A sua legitimidade descansa na promessa, difícil de ignorar, de que é capaz de oferecer respostas mais rápidas, precisas e objetivas do que as produzidas pelos seres humanos. Frente aos nossos erros, preconceitos e limitações cognitivas, os sistemas inteligentes mostram-se como instrumentos capazes de calcular e decidir aparentemente “melhor”. Assim, paulatinamente, o que parecia uma ferramenta de apoio começa a agir como uma instância de orientação permanente da vida pessoal e social.
Seria um erro, contudo, responder a este fenómeno a partir de posições tecnofóbicas, já que a tecnologia nunca foi externa ao ser humano. As ferramentas, as máquinas e os sistemas de informação fazem parte da nossa história e contribuem para nos configurar. A ideia de um ser humano puro, independente da técnica, é imprecisa. Precisamente por isso, o problema não consiste em defender uma suposta essência humana ameaçada pelas máquinas, mas sim que a questão a formular é outra: que tipo de relação estamos a estabelecer com elas?
Porque uma coisa é que ajudem a desenvolver certas capacidades e outra muito diferente que as substituam, assumindo em exclusivo algumas tão valiosas como a criatividade, a interpretação, o juízo, a escrita e a tomada de decisões. Assim, parece óbvio que quanto mais se delega nestes sistemas estas tarefas, mais anulado se fica para realizá-las por si mesmo.
Esta dinâmica adquire uma dimensão especialmente preocupante no âmbito político. A democracia é, por definição, um espaço de deliberação entre perspetivas distintas, interesses contrapostos e visões plurais do mundo. A lógica algorítmica, pelo contrário, substitui a deliberação argumentada de diferentes propostas pela otimização na gestão dos problemas e dos recursos. Não pergunta pelo tipo de sociedade que se quer construir, mas apresenta a solução que resulta mais eficiente em termos quantitativos segundo os dados de que se dispõe.
Por isso, começa a perfilar-se o horizonte de uma possível datacracia, significante que representa a forma de organização social na qual os dados e os algoritmos adquirem uma autoridade crescente para orientar as decisões que, em princípio, pertencem à cidadania e às instituições democráticas. Um poder que se apresenta como mais racional, neutro e eficaz do que a própria política e que, por isso, vai além dos regimes autoritários tradicionais.
Tendo em conta o dito, talvez a pergunta mais relevante não seja se a inteligência artificial pode resolver melhor determinadas tarefas, pois provavelmente já o faz. A questão é se estamos dispostos a converter problemas políticos, éticos e sociais em simples questões de cálculo.
Porque pode ser urgente para uma sociedade a otimização e a eficiência dos recursos, mas, se calhar, ainda o é mais a garantia de que os seus membros participam na construção partilhada do mundo que habitam.
