Pausa no desenvolvimento de Inteligência Artificial traz preocupações e interesses

A carta aberta, assinada por cientistas e endossada por executivos de empresas como Microsoft, Google, Amazon, Meta e Tesla na última semana, pedem uma pausa de seis meses no desenvolvimento de novas tecnologias em Inteligência Artificial (IA), como o GPT-4, mais avançado que o ChatGPT.

Eles questionam sobre a possibilidade de diminuição do ritmo de desenvolvimento da IA, ou mesmo a criação de restrições, eles afirmam que a tecnologia pode trazer riscos e pedem a melhoria de transparência, governança e as medidas protetivas.

Para Carlos Rafael das Neves, professor de Sistemas de Informação da ESPM e especialista em Arquitetura de Software, o pedido demonstra claramente que os especialistas perceberam a possibilidade de um cenário não muito agradável no presente/futuro. “Para o mundo real, esse panorama pode ser o pior possível. A sociedade deve ser capaz de enxergar os reais impactos causados pelas novas tecnologias no seu dia a dia”, diz.

O especialista analisa que a IA avança rapidamente e traz resultados que podem ser positivos, negativos ou numa forma combinada entre os dois. “Os algoritmos que regem as inteligências artificiais devem ser 100% públicos e transparentes. Contudo, isso nem sempre será possível, visto que os algoritmos constituem o núcleo dessas inteligências, e, em um mercado com diversas empresas disputando uma corrida desenfreada em busca de melhores algoritmos, sua divulgação pode significar a entrega da tecnologia empregada a concorrência”, diz.

Neves também destaca que deve ser avaliada toda e qualquer inteligência artificial, para não prejudicar a sociedade mundial. “A rápida substituição da mão de obra humana, de uma parcela considerável de profissionais, por ferramentas automáticas pode causar ondas de desemprego e pobreza em massa, pois a velocidade com que essas mudanças podem ocorrer torna impensável a possibilidade de realocação profissional”.

A carta repercutiu fortemente no cenário global, e apenas dois dias após o assunto viralizar na internet, a Itália tornou-se o primeiro país a banir o Chat GPT. As autoridades italianas justificaram a decisão alegando recolhimento ilegal de informações pessoais por parte do sistema de IA.

“A criação de um marco regulatório e mecanismos de governança podem contribuir para mitigar os riscos associados à tecnologia e garantir que seus benefícios sejam amplamente compartilhados. Há necessidade de preparar a sociedade para essas mudanças é urgente e inadiável”, afirma.

*Carlos Rafael das Neves, professor de Sistemas de Informação da ESPM e especialista em Arquitetura de Software.

Sobre a ESPM - A ESPM é uma escola de negócios inovadora, referência brasileira no ensino superior nas áreas de Comunicação, Marketing, Consumo, Administração e Economia Criativa. Seus 12 600 alunos dos cursos de graduação e de pós-graduação e mais de 1 100 funcionários estão distribuídos em cinco campi - dois em São Paulo, um no Rio de Janeiro, um em Porto Alegre e um em Florianópolis. O lifelong learning, aprendizagem ao longo da vida profissional, o ensino de excelência e o foco no mercado são as bases da ESPM.