Você já percebeu que o Instagram parece saber o que você quer ver antes mesmo de você procurar? Ou que o ChatGPT começa a responder cada vez mais de acordo com seu jeito de pensar e escrever?
Não é acaso. É parte de um processo de retroalimentação: nossas ações produzem dados, os sistemas aprendem com esses dados e passam a responder de maneira cada vez mais ajustada ao nosso comportamento.
Na cibernética, esse processo funciona como um loop: algo acontece, recebemos um retorno e modificamos nosso comportamento. Com a inteligência artificial (IA), esse circuito ganhou uma dimensão inédita.
Um exemplo é o RLHF (Reinforcement Learning from Human Feedback), ou aprendizado por reforço com feedback humano. Pessoas avaliam respostas da IA, corrigem erros, indicam preferências ou rejeitam resultados. Essas informações ajudam a aprimorar os sistemas.
Mas existe uma segunda direção, menos evidente: a máquina também nos modifica.
Você pergunta. A IA responde. Você ajusta a pergunta. Ela se adapta. Aos poucos, você também aprende a perguntar de uma maneira que produza a resposta desejada.
A máquina aprende com você. E você aprende a funcionar com a máquina. É aqui que começa a questão mais importante.
Se os algoritmos aprendem continuamente nossas preferências, podem nos oferecer cada vez mais aquilo que confirma nossos interesses e opiniões. O resultado pode ser uma bolha confortável, na qual encontramos menos diversidade e menos confronto com aquilo que pensamos diferente.
E existe um risco ainda maior: terceirizar o discernimento.
Se a máquina pesquisa, seleciona, resume, interpreta e escreve por nós, podemos ganhar velocidade — mas também podemos perder o exercício da reflexão. A leitura demorada parece inútil. A dúvida incomoda. O contraditório cansa. A resposta pronta torna-se mais atraente do que a pergunta.
O problema não é utilizar a IA. O problema começa quando deixamos de perceber o que ela está fazendo conosco. A retroalimentação pode produzir avanços importantes na educação, na ciência e em muitas outras áreas. Mas exige consciência e limites.
Às vezes, precisamos interromper o loop: ler algo que o algoritmo não escolheu, conversar com quem pensa diferente, enfrentar uma questão sem pedir imediatamente uma resposta à IA e simplesmente permanecer alguns minutos diante da dúvida.
No Tecnoceno, não basta aprender a usar a tecnologia. Precisamos aprender a educar nossa relação com ela. Pois tecnoceno é um conceito usado para descrever uma época em que as tecnologias, especialmente as tecnologias digitais e a IA, passaram a exercer uma influência profunda sobre a sociedade, a cultura, o trabalho, a educação e até sobre a maneira como pensamos e nos relacionamos.
Porque a pergunta já não é apenas: o que estamos ensinando às máquinas? Mas também: no processo de ensinar as máquinas, o que elas estão nos ensinando a ser?
Quando passamos a pensar apenas dentro de nossas próprias bolhas — inclusive as políticas — e deixamos de dialogar e debater com quem pensa diferente, corremos o risco de alimentar uma sociedade cada vez mais intolerante, polarizada, incapaz de conviver com o contraditório e de superar as próprias frustrações.
Pe. Judinei Vanzeto, SAC – Jornalista