Gabriel Mario Rodrigues
Presidente do Conselho de Administração da ABMES
***

“O perigo é que se investirmos demais no desenvolvimento da IA e de menos no desenvolvimento da consciência humana, a simples inteligência artificial sofisticada dos computadores poderá servir apenas para dar poder à estupidez natural dos humanos.” (Yuval Noah Harari)

Na semana passada fiz uma provocação indagando como reagiria um robô face ao fato que levou o prefeito do Rio de Janeiro a mandar retirar o livro de histórias em quadrinhos da Bienal. As respostas dos leitores foram que as máquinas se posicionariam da mesma forma que os humanos, dependentes de sua realidade social, filosófica ou religiosa. Ou seja, os robôs reagirão de acordo com o pensamento de seus programadores. Vejam o que acontece nas discussões políticas, religiosas ou de futebol, onde todos dizem ter razão. Recentemente, o debate da inteligência artificial e das reações e julgamentos humanos entrou em campo e foi matéria do Estado de S.Paulo desse último domingo: E se o juiz fosse uma inteligência artificial?.

No fim, tudo está relacionado a consciência e emoção, sendo difícil julgar as pessoas quando estão pressionadas pelos acontecimentos. Em seu livro “21 lições para o século 21”, Yuval Noah Harari[1] aborda essa questão ao relatar experimento realizado em 1970 no seminário presbiteriano de Princeton. Numa tarefa escolar, estudantes do último ano precisavam contar aos calouros a parábola do bom samaritano. História do judeu que viajava de Jericó para Jerusalém e foi assaltado e maltratado por ladrões e agonizava à beira da estrada. Por lá passaram um sacerdote e um membro da alta sociedade, que simplesmente o ignoraram. Pouco depois passou um samaritano, de seita desprezada, que o consola, trata das feridas e o leva a uma estalagem e lhe paga a refeição e a diária.

Os seminaristas corriam entusiasmados para a sala de aula para explicar da melhor forma a moral da parábola. Só que nenhum deles percebeu a pessoa maltrapilha e pedindo ajuda que os professores haviam colocado no corredor de passagem. Todos estavam tão preocupados em transmitir a melhor mensagem aos colegas e depois serem avaliados que nem viram o mendigo pedindo esmola.

Voltando às 21 lições: aqui certamente estaria o embate entre consciência e inteligência, posto que a ficção científica tende a confundir isso e supõe que para se equipar ou superar a inteligência humana os computadores terão de desenvolver consciência. “Uma e outra são estados ou condições muito diferentes, pois inteligência é a aptidão para resolver problemas e consciência é a aptidão para sentir raiva, dor, alegria, medo e amor”. Por conseguinte, é ato ou efeito de sentir disposição para se comover, se impressionar, perceber e apreciar algo etc.; sensibilidade conduzindo a afeto, afeição, amor ou para o outro extremo.

Enquanto os Gigantes da Internet (FANG – Facebook, Amazon, Netflix e Google) investem bilhões no desenvolvimento da IA, muito pouco é direcionado a pesquisar a consciência e a mente. Há muitos pensadores envolvidos em estudar as consequências morais, conter os danos que pode causar e pressionar as empresas de tecnologia a integrar bens sociais como privacidade e equidade em seus planos de negócios.

Segundo Brian Green, que estuda ética na inteligência artificial na Universidade de Santa Clara (USA), muitas pessoas de repente se interessaram por ética na IA porque perceberam que estão brincando com fogo. E John W. Miller, escritor que já trabalhou como repórter e correspondente internacional do The Wall Street Journal, diz que "Isso é o que temos de mais revolucionário desde a descoberta do fogo." Ele complementa:

“O campo da ética na IA inclui duas categorias amplas. Uma compreende o questionamento filosófico e por vezes teológico sobre como a inteligência artificial altera nosso destino e nosso papel como seres humanos no universo. A outra é um conjunto de questões básicas sobre o impacto de produtos de IA poderosos, como smartphones, drones e algoritmos de mídias sociais.”

Decisões importantes normalmente envolvem uma dimensão ética, assim, algoritmos jamais poderão tomar tais decisões porque eles não entendem de ética. Nem por isso não há motivo para supor que os algoritmos não serão capazes de superar o ser humano, mesmo na ética.

Os desafios contemporâneos, colocados de forma clara e acessível, podem ser um convite a refletir sobre qual deve ser o nosso envolvimento pessoal num momento de tantos ruídos e incertezas. A propósito, Harari diz que num mundo repleto de informações irrelevantes, clareza é poder. Se não há mais restrição ao fluxo de ideias, a lógica da censura parece ter sido subvertida: o excesso de conteúdo a que as pessoas são expostas diariamente inunda-as de desinformação e distrações.

O que resta certo é que ainda não estamos encontrando nada sedimentado e consolidado, em que pese todo o conhecimento acumulado ao longo dos séculos. Ainda hesitamos muito em aceitar conceitos que parecem sempre estar por serem acabados, como dicotômicos, na dialética platônica, onde a partição de um conceito em dois outros gera ideias contrários e complementares. Assim é com a razão e a emoção, o cérebro e a mente, a inteligência e a consciência.

Como a humanidade irá embutir isso nas IA se ainda gatinhamos nesses aprendizados? Quando queremos expor ideias que conjugam algoritmo com a ética estamos, por ora, nos aproximando do mago Merlin ou do mágico Houdini, com resultados emaranhados.

São observações, digamos, aleatórias e enviesadas. Confiabilidade é a palavra de ordem, observando as culturas humanas de forma metódica e objetiva. Ou seja, a queda de braço por exemplo entre o estudo do cérebro e da mente, a única que se pode observar diretamente, de cada indivíduo, que cada um faz de per si. Ou ainda, quando se trata de observar nossas próprias mentes mal arranhamos a superfície.

Porém, a oportunidade de transcender os limites de nossa imaginação com tecnologias como a IA é quase ilimitada, e o medo em torno disso é natural. Mas seria um grande retrocesso permitir que as forças do medo e pessimismo e do atraso dominassem o grande potencial de transformação e o impacto que tem seu uso.

Precisamos reorientar nosso sistema educacional e desenvolver programas escaláveis de aprendizagem baseados na IA para garantir a inclusão social e a participação universitária das minorias e o desenvolvimento sustentável no mundo do trabalho, tanto no que se relaciona a ética, como no campo da empregabilidade, do empreendedorismo e da inovação.

__________________________________________________

[1] Nascido em Israel, em 1976, é PH.D em história pela universidade de Oxford. Atualmente é professor na Universidade Hebraica de Jerusalém. Tem 3 livros publicados: Sapiens: Uma breve história da humanidade; Homo Deus: Uma breve história do amanhã – juntos já venderam 12 milhões de exemplares – e sua última obra, também soberba, 21 lições para o século 21.