Por Carmen Tavares*

A cooperação velada na gestão ética da Inteligência Artificial (IA) é um tema de grande importância.

Para Onédio S. Seabra Junior, MSc. Pesquisador em IA, essa tem evoluído significativamente, passando de simples algoritmos para sistemas auto aprendizes e adaptáveis. Sua relevância no cenário político é notória, especialmente na análise de dados e previsão de tendências, o que apresenta tanto benefícios quanto desafios complexos.

Os artigos da The Byte e NBC News ressaltam o papel crucial do ex-presidente Barack Obama, trabalhando em conjunto com o presidente Joe Biden em um projeto sigiloso. Eles têm como objetivo estabelecer diretrizes para o desenvolvimento da IA procurando um equilíbrio entre inovação e segurança. Este projeto culminou em uma ordem executiva, refletindo a visão de ambos os líderes para uma IA segura e confiável.

Os dilemas éticos da IA na educação já conhecemos.  Traz melhorias na eficiência e personalização do ensino, mas levanta dilemas éticos como a dependência excessiva de tecnologia e a perda de métodos tradicionais. A coleta de dados dos alunos pela IA gera preocupações com privacidade e segurança, além de questionamentos sobre o acesso e uso dessas informações. Existe o risco de viés na IA podendo ampliar desigualdades educacionais e favorecer grupos específicos. A tomada de decisões opacas pela IA na educação afeta a avaliação dos alunos, exigindo transparência e responsabilidade. Preparar alunos para um futuro tecnológico envolve ensinar habilidades relevantes e promover reflexão crítica sobre a ética da IA. O uso da IA pode agravar a divisão digital, desfavorecendo alunos com acesso limitado a tecnologia. Portanto, é crucial que políticas e práticas educacionais com IA sejam guiadas por princípios éticos, equilibrando seus benefícios com os riscos relacionados à privacidade, viés, transparência e inclusão, para garantir seu uso responsável e justo.

Já os dilemas éticos da IA na política são variados, englobando desde a melhoria da eficiência até questões de privacidade, viés e transparência. A parceria Obama-Biden visa assegurar um uso ético e responsável da IA reconhecendo suas potencialidades e riscos. Segundo Obama “precisamos de reconhecer que a democracia e a inovação dependem uma da outra. Se quisermos que a América continue a liderar, precisamos de continuar a impulsionar novas tecnologias. Mas também precisamos de valores democráticos — desde a liberdade de expressão ao Estado de direito — que tornem a inovação possível. É por isso que qualquer pessoa que trabalhe para aproveitar o poder destas novas ferramentas tem de fazer uma escolha: ignorar potenciais problemas até que seja demasiado tarde, ou enfrentá-los proativamente de uma forma que liberte os enormes benefícios da tecnologia inovadora e, ao mesmo tempo, fortaleça a democracia. Se quisermos que a IA seja uma força para o bem, temos de ser capazes de defender algo maior – não apenas porque é a coisa certa a fazer, mas porque é a coisa inteligente a fazer.”

No Brasil, ainda estamos nas fases iniciais da implementação da IA na política, mas os avanços nos EUA fornecem insights valiosos sobre a gestão ética e a regulamentação da tecnologia. Conforme o Brasil avança na adoção dessa tecnologia, é vital que formuladores de políticas e instituições se atenham aos desafios e oportunidades da IA. A adesão a uma governança ética é crucial para garantir que a IA seja uma força positiva para o bem comum e o fortalecimento da democracia. Isto é particularmente relevante no contexto da PL 2338/23, que aborda a regulamentação da IA no Brasil. Obama teve uma influência significativa na agenda de IA de Biden.

Recentemente, Biden anunciou uma nova ordem executiva sobre IA, que, embora vaga, destaca as preocupações principais do governo atual com a tecnologia. Conforme reportado pela NBC, Obama desempenhou um papel fundamental neste processo, envolvendo-se ativamente nos últimos meses em reuniões e discussões sobre o tema.

Segundo assessores de Biden e Obama, a IA é uma preocupação constante para ambos. Obama, a pedido de Biden, tem se envolvido discretamente em consultas e discussões com especialistas em tecnologia para moldar esta política. Como apontado pelo chefe de gabinete da Casa Branca, Jeff Zients, à NBC, Obama tem enfatizado a necessidade de inovação responsável e a responsabilização das empresas no campo da IA.

Enfim, a análise do papel de Obama e Biden na gestão ética da Inteligência Artificial (IA) no cenário político revela a importância crítica de uma abordagem equilibrada. De igual forma no cenário educacional. Enquanto a IA oferece benefícios notáveis, como a eficiência e personalização no ensino, ela também carrega desafios éticos significativos. Estes incluem questões de privacidade, viés, transparência e acesso equitativo. O projeto colaborativo de Obama e Biden, marcado por uma ordem executiva, reflete um esforço para estabelecer diretrizes que promovam uma IA segura e confiável. Eles reconhecem que a inovação tecnológica deve andar de mãos dadas com valores democráticos e éticos, enfatizando a necessidade de enfrentar proativamente os desafios associados à IA.

No contexto educacional, é imperativo que o uso da IA seja guiado por princípios éticos robustos, balanceando seus benefícios com riscos relacionados à privacidade e viés. A transparência e responsabilidade na tomada de decisões de IA são cruciais para assegurar avaliações justas dos alunos e prepará-los para um futuro tecnológico. Além disso, a inclusão digital torna-se um aspecto fundamental para evitar a ampliação das desigualdades educacionais.

Em um plano mais amplo, a experiência dos EUA na implementação da IA na política oferece insights valiosos para países como o Brasil, que estão nas fases iniciais de adotar essa tecnologia. A ênfase na governança ética é crucial para garantir que a IA seja empregada como uma força positiva para o bem comum e o fortalecimento da democracia. Assim, as lições aprendidas e os princípios estabelecidos por Obama e Biden devem servir como um guia vital para formuladores de políticas e instituições em todo o mundo, assegurando que a IA seja desenvolvida e utilizada de forma responsável e ética.

----------------------------------------------

*Maria Carmen Tavares Christóvão é Mestre em Gestão da Inovação com área de pesquisa em Inovação Educacional. Diretora da Pro Innovare Consultoria de Inovação atuou como Reitora, Pró Reitora e Diretora de Instituições de Ensino de diversos portes e regiões no Brasil.  www.proinnovare.com.br