Foto: (reprodução/internet) A revolução do ChatGPT impulsionada pelo Bing acaba de bater em uma parede.
Ontem, relatamos uma série de casos em que o mecanismo de pesquisa movido a GPT saiu do fundo do poço. Das respostas perseguidoras do alter ego do Bing, “Sydney”, ao desejo de senciência e à defesa da violência, agora há evidências crescentes de que o chatbot AI é bastante maleável em fazer coisas que não deveria fazer.
Mas talvez não devêssemos nos surpreender com isso. Afinal, a ideia de que esses chatbots de IA relativamente novos, como o ChatGPT, são falhos não é nova. Os primeiros testes do ChatGPT encontraram facilmente instâncias de preconceitos e imprecisões, incluindo um exemplo enervante em que o ChatGPT determinou quem é um bom cientista com base na raça e gênero do cientista e atribuiu automaticamente o valor “bom” a homens brancos.
Então, depois de ver as evidências crescentes de que existem alguns perigos claros e óbvios no uso desses chatbots, entramos em contato com Leslie P. Willcocks, professora emérita de Trabalho, Tecnologia e Globalização da London School of Economics and Political Science para obter suas opiniões sobre os perigos da tecnologia baseada em IA.
Bing com ChatGPT: ‘Precisamos emitir alertas de saúde digital’
O professor Willcocks foi inequívoco em suas opiniões sobre os perigos da tecnologia baseada em IA, como o ChatGPT. Em sua resposta ao nosso pedido de comentário, ele afirmou que a falha inerente a essa tecnologia é que, em última análise, ela é programada por humanos que não conseguem compreender a enorme massa de dados sendo usada e os perigos contidos, particularmente “vieses, precisão, significado .”
“Essas máquinas são programadas por humanos que não sabem o que seus softwares e algoritmos não cobrem, não conseguem entender os dados massivos sendo usados, por exemplo, preconceitos, precisão, significado, e não podem antecipar os contextos em que os produtos são usados, nem seus impactos, escreveu Willcocks: “O fato de podermos fazer coisas com essas tecnologias não significa, portanto, que devamos.”
