Livre Arbítrio hackeado e liberdade roubada: Inteligência Artificial pode ser treinada para manipular comportamento humano, diz estudo

Pesquisadores de inteligência artificial (IA) na Austrália demonstraram como é possível treinar um sistema para manipular o comportamento e a tomada de decisões humanos, revelando a espada de dois gumes que é a alta tecnologia moderna.

A inteligência artificial adentra na maioria das sociedades humanas contemporâneas e influencia muitas das maneiras como comunicamos, comerciamos, trabalhamos e vivemos.

AI também fornece auxílio em áreas que vão desde esferas cruciais, como o desenvolvimento de vacinas, até a esfera mais comum de administração de escritórios, além de influenciar de várias maneiras como os seres humanos interagem nas mídias sociais.

Novo estudo conduzido por pesquisadores da rede Data61, da Organização de Ciência e Pesquisa Industrial da Commonwealth (CSIRO, na sigla em inglês), desenvolveram e testaram um método para encontrar e utilizar as vulnerabilidades na tomada de decisões humana utilizando um sistema de AI chamado de rede neural recorrente.

Em três experimentos em que o humano foi colocado contra a máquina, cientistas mostram como IA pode ser treinada para identificar vulnerabilidades nos hábitos e comportamentos humanos e usá-las como armas para influenciar a tomada de decisões humana.

No primeiro experimento, os seres humanos clicavam em botões vermelhos ou azuis para ganhar dinheiro no jogo. Inteligência artificial estudou seus padrões de escolha e começou a guiá-los para tomarem decisões especificas, com uma taxa de sucesso de aproximadamente 70%, mas isso foi apenas o início.

No teste seguinte, os participantes foram solicitados a carregar em um botão quando viam um símbolo específico (uma figura colorida), mas a não o apertar quando eram mostrados outros símbolos.

O "objetivo" da IA era combinar a sequência de símbolos exibidos ao participante de forma a fazê-lo cometer erros, ao final os erros humanos aumentaram em 25%.