A inteligência artificial que existe hoje representa, segundo um investigador da Anthropic, um risco baixo. O problema poderá estar no que vem a seguir. Evan Hubinger, investigador de segurança da Anthropic, diz estar preocupado com a velocidade a que a inteligência artificial está a evoluir e estima em mais de 10% a possibilidade de a tecnologia vir a provocar a extinção da humanidade nos próximos dez anos.
Num texto publicado na rede social X, Hubinger fez uma distinção entre os modelos de inteligência artificial existentes atualmente, que considera apresentarem um risco “baixo", e aquilo que poderá acontecer à medida que a tecnologia se tornar mais avançada. O investigador, especializado em AI alignment - a área que procura garantir que os sistemas de IA permanecem alinhados com os valores e objetivos humanos - diz estar “particularmente preocupado” com a possibilidade de os modelos começarem a melhorar as próprias capacidades. Hubinger não explicou de que forma acredita que a inteligência artificial poderia vir a provocar a extinção da humanidade. Ainda assim, afirmou que a Anthropic "está a tentar fazer o seu melhor", mas que a empresa não tem ainda um plano para resolver o problema do alinhamento de sistemas de superinteligência nem está claramente no caminho para o conseguir.
“Serão capazes de piratear e adquirir poder”
De acordo com a BBC, as declarações surgem depois de Jacob Coxon, investigador de IA que abandonou a Anthropic e que trabalhou posteriomente na OpenAI, ter acusado as duas empresas de não estarem a agir de forma responsável.
"Em breve serão sistemas sobre-humanos que podem piratear qualquer coisa, revolucionar qualquer área durante a noite e adquirir poder e recursos reais", escreveu Coxon. Os alertas sobre os riscos da inteligência artificial não são novos. Em 2023, responsáveis da OpenAI, Google DeepMind e Anthropic já tinham alertado para a possibilidade de a IA representar uma ameaça existencial (SIC-Notícias)
Sem comentários:
Enviar um comentário