Tecnologia

Algoritmos: entre o medo e a potencialidade

Antes de julgar um algoritmo, primeiro deveríamos fazer ao menos as seguintes perguntas: Prefiro e compro funcionalidade para vender privacidade? Quem está no controle das decisões?

Autor/a: Prof. José Luis Serrano, Universidad de Murcia

Fuente: The Conversation, Feb. 2023

Os avanços da inteligência artificial (IA) com ferramentas como ChatGPT são indiscutíveis. Assim, os algoritmos automatizaram cada vez mais ações humanas. Avanços que, em definitivo, geraram ilusão, mas também medo, insegurança e incerteza.  

A ameaça geral pela possibilidade de perder o controle sobre nossos pensamentos e nossas decisões está implícita.

Frente a isto, talvez a solução mais eficiente para enfrentar o medo seja interiorizar-se e compreender o funcionamento dos algoritmos ou da IA.

No entanto, os humanos não atendem por igual a toda informação que recebem. Há uma capacidade limitada de processamento.

Pensamento lento e rápido

Daniel Kahneman, prêmio nobel de economia de 2002, explica em seu best seller Thinking fast and slow como os humanos convivem nos sistemas de pensamento.

Por um lado, está o sistema responsável pelos processos controlados, que implica maior atenção e consume mais recursos cognitivos. Para aprender um idioma, por exemplo, necessitamos deste sistema.

Do outro lado, temos o sistema automático, que está fora do controle voluntário e consume poucos recursos. Um caso em que se ativa este sistema é quando conduzimos do trabalho para casa.

Enquanto um parecer nos fazer progredir ou inovar, o outro nos salva em situações vitais ou cuida de tarefas que não são relevantes para nós. Contudo, ambos são necessários e complementares: não funcionam separadamente.

Nas situações estressantes nos interessa que o automatismo tome o controle e deixe o sistema atencional descansar.

Algoritmos e decisões

Os algoritmos processam grande quantidade de dados, embora muitas vezes somente sirvam para distrair-nos ou fazer-nos cair numa falsa sensação de controlo quando tivermos mais informações.

Além disso, nem todos os dados valem por igual em todas as circunstâncias. A leis da estatística não são infalíveis, sobretudo porque nosso organismo muda continuadamente.

O problema que pode dar quando enfrentamos algoritmos informáticos é que não distinguimos claramente quem tem de tomar certas decisões.

Pensamento computacional

O conjunto de processos mentais que ajudam a buscar soluções automatizadas (com ou sem tecnologia) a determinados problemas se conhece como pensamento computacional.

Para estas buscas de soluções ou tomada de decisões, pode ser também de grande utilidade aproveitar a ajuda dos algoritmos ou a utilização do pensamento.

Atalhos mentais

Automatizar tarefas gera ótimos resultados e bem-estar para nós. Historicamente temos utilizado uma série de atalhos mentais (heurísticas) que simplificam problemas cognitivos complexos e os transformam em ações simples.

Estes “atalhos” se ativam quando não temos tempo, de informação ou de capacidade para processar informação. E embora nos economizem energia, é também nesse momento que um algoritmo pode assumir o controle e decidir por nós.

Um exemplo seria que estamos navegando na Internet, abrindo uma notícia que pareceu marcante, ou que os algoritmos colocaram intencionalmente na nossa frente, e consumindo-a em modo automático, desatento, sem processar a informação, sendo esta uma notícia falsa.

O ideal é encontrar um meio-termo: não renunciar à automação, mas também não abusar dela que nos distancia da inovação.

O mais inteligente é explorar novas alternativas quando percebemos que o contexto muda e nosso aprendizado exige novas estratégias para ser mais eficiente.

A automação mal utilizada pode levar-nos a inibir processos de inovação e reflexão, tão necessários no nosso mundo moderno, em mudança e incerto.

Automatização paternalista

Antes de julgar um algoritmo, devemos primeiro nos perguntar pelo menos as seguintes questões: Prefiro e compro funcionalidade para vender privacidade? Quem está no controle das decisões?

Alguns especialistas afirmaram que existe uma automatização paternalista que orienta as decisões e o comportamento humano através de cutucadas, mecanismos psicológicos que afetam a tomada de decisões que se baseiam nas nossas heurísticas e preconceitos.

É então que, através desses “empurrões”, as pessoas escolhem e optam sem fazer uso do sistema de pensamento deliberado e consciente.

Mesmo assim, vale sempre a pena perguntar: o algoritmo é mais racional e eficaz do que você mesmo? E se fosse, será que realmente queremos que tome as nossas decisões?

Os algoritmos podem nos conhecer melhor do que nós mesmos e automatizar muitas decisões. Em última análise, porém, ainda estaremos no controle de nossas decisões.

Uma ideia validada pela passagem do tempo e que Epicteto, um dos mais reconhecidos estóicos, resumiu assim:

“Do que existe, algumas coisas dependem de nós; outros não dependem de nós. O julgamento, o impulso, o desejo, a rejeição e, numa palavra, tudo o que é da nossa conta depende de nós. E o corpo, a propriedade, a reputação, os cargos e, numa palavra, tudo o que não é da nossa conta não depende de nós.”

Saber como funcionamos será mais útil para encontrarmos esse equilíbrio entre automação e inovação e, assim, decidir quem (sistema atencional, automático ou algorítmico) toma quais decisões.