Em carta aberta, profissionais pedem mudanças no setor, mais transparência e proteção para quem faz denúncias contra o uso inadequado da tecnologia
Essa disputa entre as gigantes levou vários funcionários atuais e ex-funcionários de empresas de IA como a OpenAI e Google DeepMind a publicarem uma carta aberta intitulada, “O direito de alertar sobre inteligência artificial avançada” sobre as preocupações e os riscos que a tecnologia emergente pode provocar.
Quatro funcionários anônimos da OpenAI e sete ex-funcionários, incluindo Daniel Kokotajlo, Jacob Hilton, William Saunders, Carroll Wainwright e Daniel Ziegler, assinaram a carta. Os signatários também incluíram Ramana Kumar, que trabalhou no Google DeepMind, e Neel Nanda, que trabalha no Google DeepMind e anteriormente trabalhou na Anthropic, além de três cientistas da computação conhecidos por promover o campo da inteligência artificial também endossaram a carta: Geoffrey Hinton, Yoshua Bengio e Stuart Russell.
Na carta disponível na internet, os signatários reforçam que os interesses financeiros dessas empresas criam dificuldades para uma supervisão eficaz.
“Não acreditamos que estruturas personalizadas de governança corporativa sejam suficientes para mudar essa situação”, relata a carta.
Os funcionários alertam sobre os riscos da não regulamentação da Inteligência Artificial e suas ameaças, como a propagação da desinformação, aprofundamento das desigualdades existentes, perda de sistemas de IA independentes, e até mesmo a ‘extinção da humanidade”.
Pesquisadores da tecnologia encontraram casos em que os geradores de imagens da OpenAI (DALL-E) e Microsoft (Bing Image Creator) produziram imagens com desinformação relacionada às eleições, mesmo com a existência de políticas contra a produção desse tipo de conteúdo.
A carta relata também que as empresas não estão comprometidas em compartilhar informações com os governos sobre as capacidades e limitações de seus sistemas.
E acrescentam que não se pode confiar que essas empresas compartilhem as informações voluntariamente.
Os signatários da carta reforçam que há uma necessidade de reforçar a segurança em torno da IA generativa que pode produzir texto, imagens e áudio semelhantes aos humanos de forma mais barata e rápida.
“Enquanto não houver uma supervisão governamental eficaz destas empresas, os atuais e antigos funcionários estarão entre as poucas pessoas que podem responsabilizá-las perante ao público”, alerta trecho da carta.
O grupo relatou também que as empresas de IA possam facilitar um processo para que funcionários e ex-funcionários levantem preocupações relacionadas aos riscos da tecnologia, e que não imponham acordos de confidencialidade que proíbam críticas aos rumos da IA adotados pelas empresas.
“As proteções comuns aos denunciantes são insuficientes porque se concentram em atividades ilegais, ao passo que muitos dos riscos que nos preocupam ainda não estão regulamentados. Alguns de nós tememos razoavelmente diversas formas de retaliação, dado o histórico de tais casos em toda a indústria. Não somos os primeiros a encontrar ou falar sobre essas questões”, afirma os signatários da carta aberta.