O ex-chefe da equipe de Pesquisa de Salvaguardas da Anthropic expressou preocupação ao afirmar que "o mundo está em perigo" enquanto deixava a empresa. Outro pesquisador da OpenAI destacou o potencial da tecnologia para manipular usuários de formas que ainda não compreendemos plenamente. Essa situação reflete uma onda de demissões entre executivos e pesquisadores, que estão soando o alarme sobre o avanço apressado das empresas em tecnologias que consideram arriscadas.
Recentemente, vários funcionários de alto escalão da área de IA decidiram se demitir, mencionando que as empresas estão minimizando as deficiências da tecnologia. Zoë Hitzig, que trabalhou na OpenAI, anunciou sua saída em um artigo, expressando reservas sobre as estratégias publicitárias da empresa e alertando sobre o potencial do ChatGPT para manipular usuários, dado o conteúdo sensível que o chatbot pode abordar.
A crítica de Hitzig ocorre em um contexto em que a OpenAI desmantelou sua equipe de “alinhamento de missão”, que tinha como objetivo garantir que a inteligência artificial beneficiasse a humanidade. Enquanto isso, o chefe da equipe de Pesquisa de Salvaguardas da Anthropic, Mrinank Sharma, também deixou a empresa, mencionando que "o mundo está em perigo" em uma carta enigmática. Ele não detalhou os motivos de sua saída, mas indicou que era hora de seguir em frente.
Essas demissões e os alertas dados por esses profissionais levantam questões importantes sobre a direção que a inteligência artificial está tomando e os riscos associados a seu desenvolvimento acelerado. À medida que líderes de mercado buscam IPOs, a pressão para avançar rapidamente pode ofuscar preocupações éticas e de segurança.
