Jacob Coxon partilhou as preocupações de vários investigadores da indústria que têm apontado para os riscos do crescimento sem regulamentação da Inteligência Artificial. Os avisos sobre o crescimento exponencial e pouco supervisionado da Inteligência Artificial (IA) e, em particular, de modelos de aprendizagem a grande escala (ou LLM, do inglês ‘Large Language Models’) vão-se acumulando. Depois de Bill Gates, que fez uma espécie de ‘mea culpa’ num ensaio sobre os riscos da IA, um investigador da gigante tecnológica Anthropic também advertiu que as empresas que dominam o ramo estão a “apostar com as nossas vidas” e que os modelos podem crescer e ficar fora do controlo.
Jacob Coxon, que trabalhou como investigador de IA na OpenAI, dona do ChatGPT, e na Anthropic, que controla o modelo Claude, saiu desta última na terça-feira depois de três anos a trabalhar para as empresas. E, numa publicação na rede social X (antigo Twitter), reconheceu que “nenhuma empresa está a agir de forma responsável”, por estarem “a correr rumo à superinteligência que se auto-aperfeiçoa e a apostar com as nossas vidas”.
“Não subestimem o poder desta tecnologia. Em breve, serão sistemas superhumanos capazes de ‘hackear’ qualquer coisa, revolucionar qualquer campo do dia para a noite e adquirir poder e recursos reais. Todos testemunhamos progresso em cada uma destas áreas, e o progresso não está a abrandar”, realçou Coxon que, subindo de tom, apontou que “as pessoas que estão a construir IA acreditam sinceramente que pode matar-nos a todos até ao fim da década”.
“Isto não é uma jogada de marketing”, insistiu.
O aviso do investigador surge numa altura em que o crescimento dos sistemas de inteligência artificial, e a aposta crescente nos mesmos por várias empresas a nível global, cria cada vez mais desafios à sustentabilidade de vários ramos. Seja porque diferentes setores substituem trabalhadores por modelos IA, pelos riscos ambientais em torno da proliferação de centros de dados a larga escala e pelo investimento voraz em grupos que ainda nem geraram lucros significativos. Ou seja pela capacidade dos próprios modelos de aprenderem sozinhos à medida que são desenvolvidos, um cenário que parece cada vez menos circunscrito a filmes e livros de ficção científica.
Numa publicação em resposta a Jacob Coxon, o líder da equipa responsável por manter a IA desenvolvida pela Anthropic a par de padrões morais e éticos humanos, Evan Hubinger, assumiu que Coxon “está certo” nos seus avisos. Hubinger admite que “a IA pode mesmo matar humanos”, embora acredite que a Anthropic “está a fazer o seu melhor” — no entanto, ainda não há “um plano para resolver o alinhamento [com padrões humanos] para a superinteligência”. “E não estamos claramente a caminho disso”, acrescentou.
Este ano, a Comissão Europeia avançou finalmente com legislação para fiscalizar e regular os ‘chatbots’ de inteligência artificial, para garantir que as empresas são responsáveis por conteúdos falsos criados por estes sistemas e para que futuros desenvolvimentos na indústria evoluam dentro da legislação em vigor.
Contudo, nos Estados Unidos, onde muitas destas empresas estão sediadas, a Administração de Donald Trump tem sido bem mais permissiva em deixar que a IA cresça desenfreadamente. Muitas delas, como o X (antigo Twitter, detido por Elon Musk que esteve meses dentro da própria administração), doaram dinheiro à campanha de Trump em 2024 e o Presidente partilha frequentemente conteúdos falsos e manipulados por IA para atacar adversários políticos. Ou seja, não se perspetiva que o Governo norte-americano crie regulamentos restritivos à indústria a curto prazo.
Por isso, Jacob Coxon faz um apelo aos próprios cientistas, para que as pessoas dentro das empresas responsáveis por desenvolver IA tenham maiores cuidados e tenham em atenção o potencial de destruição. “Se forem um investigador num laboratório, apelo que considerem como serão realmente os próximos anos. Querem dar o pontapé de partida a uma corrida à superinteligência sem um entendimento rigoroso sobre a sua mente? Devem enfiar a cabeça na areia porque ‘vai acontecer de qualquer das formas’ - ou aproveitar este momento para pedir condições diferentes”, questionou (Expresso, texto do jornalista Hélio Carvalho)
Sem comentários:
Enviar um comentário