Especial inteligência artificial

A IA PODE SER UM MEMBRO PROBLEMÁTICO DA EQUIPE

A IA É UMA INTELIGÊNCIA FOCADA, PREPARADA PARA A MÁXIMA PERFEIÇÃO. É POR ISSO QUE, SEGUNDO AS PESQUISAS, A MAIORIA DAS PESSOAS NÃO CONFIA NELA

Por Kurt Gray

A inteligência artificial promete tomar decisões melhores e mais rápidas que os humanos — mesmo os humanos mais inteligentes. A superioridade da IA fica clara quando a escolha é “que caminho devo seguir para voltar para casa?”, ou “como devo organizar as cadeias de suprimentos?”. Mas, em situações de vida ou morte, o que a IA pode fazer?

Sou psicólogo social que estuda a tecnologia, mas quando estava na faculdade, trabalhei para uma empresa de levantamentos geofísicos. Procurávamos gás natural nas florestas congeladas do norte do Canadá. Muitos locais eram remotos e muito frios, aonde só podíamos chegar de helicóptero.

Numa tarde de inverno, o piloto, num desses locais, recebeu más notícias pelo rádio: uma tempestade estava se aproximando, prejudicando a visibilidade e tornando o voo perigoso. O chefe da tripulação, Ian, tinha de tomar uma decisão difícil: colocar nossa vida em risco voando na tempestade ou passar a noite na gelada área selvagem sem alimento nem abrigo. Ele escolheu a segunda alternativa. Embora estivéssemos enfrentando temperaturas congelantes, eu confiava plenamente na decisão de Ian. Ele trabalhou durante anos como bombeiro em florestas e sabia como sobreviver. Eu, literalmente, confiei minha vida a ele.

Se minha empresa estivesse usando IA, Ian não precisaria ter tomado decisões naquela noite. Um programa de computador poderia ter avaliado as condições meteorológicas, contra os custos de perder a tripulação, contra os custos de perder o helicóptero e contra vários outros fatores. A máquina inteligente poderia ter chegado à mesma conclusão de Ian — que passar a noite lá seria a melhor alternativa possível —, mas eu teria confiado naquela decisão? Teria me sentido seguro?

Desde então, meu trabalho sugere que eu não teria confiado minha vida à IA. E essa falta de confiança levanta sérios obstáculos para a completa implementação da AI nas empresas, mesmo quando vidas não estão em jogo.

Minha pesquisa examina como as pessoas entendem outras mentes — a mente humana, a mente dos animais e a mente dos computadores — e revela que seu conteúdo é mais ambíguo do que acreditamos. Nunca podemos vivenciar diretamente os pensamentos e sentimentos dos outros, por isso temos de fazer as melhores escolhas sobre questões como: seu bebê o ama tanto quanto você o ama? Quando seu chefe sorri, ele realmente está feliz? Seu cachorro se sente constrangido quando você o surpreende fazendo traquinagem?

Embora possa ser difícil entender as mentes biológicas, a natureza da mente dos computadores é ainda mais opaca. Quando o Deep Blue venceu Garry Kasparov no xadrez, ele queria ganhar ou ele simplesmente foi programado para fazer aquilo? Quando o Google nos alerta sobre o melhor caminho para casa depois do trabalho, ele realmente entende o que significa fazer o trajeto de volta para casa? Quando a Netflix recomenda um filme que poderíamos gostar, ela está preocupada em nos entreter?

As pessoas que percebem as mentes da IA as veem de forma muito unilateral — capazes de ter pensamentos poderosos, mas totalmente incapazes de ter sentimentos. É uma visão muito precisa da tecnologia atual, porque nem a Google nem a Netflix se apaixonam ou sentem o gosto do chocolate. Mas o que realmente limita a IA — ou, pelo menos, seu papel na força de trabalho — é que as pessoas acreditam que os robôs nunca terão sentimentos. 

Em parte, é essa incapacidade de sentir que faz as pessoas perceberem a IA como não confiável. Isso é incrivelmente importante para a instalação da IA. Os funcionários confiam em algo que não os vê como indivíduos com esperanças e preocupações? 

Confiar nos membros de equipes requer pelo menos três coisas: preocupação mútua, sentido compartilhado de vulnerabilidade e fé na competência. A preocupação mútua — saber que seus colegas de equipe se preocupam com seu bem-estar — é talvez o mais básico elemento da confiança. Quando o líder de um pelotão se arrisca a ser baleado por se posicionar atrás das linhas inimigas para resgatar um de seus soldados, ele não está tomando a melhor decisão da perspectiva funcional. No entanto, o próprio fato de ele — ao contrário dos sistemas de IA —escolher essa atitude “irracional” faz todas as pessoas do pelotão confiarem mais nele, o que leva a um melhor desempenho geral da equipe.

Nas situações do dia a dia, em que carreiras e promoções estão em jogo, ainda gostamos de saber que supervisores e colegas de trabalho nos veem como pessoas e não como variáveis num gigantesco problema de otimização. Queremos ser alguma coisa melhor que uma linha numa planilha de controle de estoque. Mas, na verdade, é isso que somos para a IA  

“Não confiamos na IA não só porque ela aparentemente não tem inteligência emocional, mas também porque parece que lhe falta vulnerabilidade “

Não confiamos na IA não só porque ela aparentemente não tem inteligência emocional, mas também porque parece que lhe falta vulnerabilidade. Se os humanos cometem qualquer erro no trabalho, eles podem ser despedidos, perder o bônus salarial e até morrer. Mas num local de trabalho com IA, se um sistema especializado em tomar decisões recomendar uma ação errada atrás da outra, o computador não sofre nenhuma consequência. Os sistemas de IA brincam somente com o destino dos outros, nunca com os próprios.

O terceiro impedimento para a confiança é, na verdade, a força da IA: sua capacidade super-humana de calcular e prever. Estamos prontos a confiar na competência da IA depois de ver, em primeira mão, como ela pode chegar a somas enormes em segundos ou prever as oscilações das ações da bolsa. Infelizmente, isso pode funcionar contra a IA, porque ela só mostra bom desempenho sob condições restritas. Quando ela é forçada a trabalhar fora de seus limites — quando uma família inteira usa a mesma conta da Netflix, ou quando se pede que o Google preveja o resultado de um relacionamento —, a decepção é inevitável.

Conversei recentemente com uma pessoa da divisão de pesquisa naval do Departamento de Defesa dos Estados Unidos que salientou como os marinheiros tecnologicamente inexperientes operam os sistemas de IA. Primeiro eles abordam a IA com um senso de admiração, esperando que ela complete todas as tarefas perfeitamente. Mas, se um sistema comete erros que do ponto de vista humano parecem indubitavelmente estúpidos, os marinheiros param completamente de utilizá-la, mesmo em situações estruturadas nas quais a IA sem dúvida sobressairia. Para criar confiança, a IA precisa comunicar sua confiança ou, até melhor, expressar seu medo de errar.

Ninguém quer discutir se a AI está dando um salto à frente em sofisticação, mas nossa capacidade de confiar está ficando bem para trás. Isso é importante porque em muitas indústrias o sucesso requer confiança profunda e implícita dentro das equipes. Nas plataformas de petróleo e nos pelotões do Exército, confiar nos colegas de equipe pode ser uma questão de vida ou morte. Em situações menos perigosas, a confiança faz a diferença entre o sucesso e o fracasso na hora de fechar um negócio ou terminar um projeto. Confiamos nas outras pessoas não porque elas são incrivelmente inteligentes — como a IA —, mas porque elas têm conexões emocionais particularmente conosco. 

Isso não significa que a IA não seja útil. Muito pelo contrário. Ela representa uma mente desconstruída, uma inteligência focada, preparada para o desempenho máximo.

Em vários sentidos, ela é o contrário da versátil mente humana, que pode compreender um idioma, resolver problemas e entender os sentimentos dos outros, tudo ao mesmo tempo.

Se hoje eu estivesse trabalhando naquela atividade de pesquisa no norte do Canadá, eu ainda poderia não confiar num computador para salvar minha vida na floresta, mas eu confiaria na IA para monitorar o tempo e decidir contra nossa aventura naquela manhã. Estou feliz porque o chefe da missão era um humano, mas eu gostaria que um computador tivesse impedido, desde o início, de ficarmos presos.