Legisladores dos EUA pediram esta semana novas regras para governar a IA, após um pesquisador da Anthropic ter tornado públicas suas preocupações sobre a tecnologia escapar do controle humano. A reação foi mais ampla do que após declarações anteriores de funcionários da OpenAI e da Anthropic sobre preocupações de segurança, recebendo opiniões de legisladores que raramente se envolvem de forma forçada em debates sobre como governar a IA.
As declarações dos legisladores vieram em resposta às preocupações levantadas esta semana pelo pesquisador da Anthropic Jacob Coxon, que acusou a OpenAI e a Anthropic de correrem para avanços em IA sem agir de forma responsável. Coxon disse que estava deixando a indústria de IA, e suas alegações se espalharam rapidamente na plataforma de mídia social X, com o cientista da Anthropic Evan Hubinger posteriormente comentando sobre X, afirmando que Coxon estava "certo." "Nós realmente acreditamos de verdade que a IA poderia matar todos os humanos", escreveu Hubinger no X. "Eu, pessoalmente, acho que é >10% dentro da próxima década."
As acusações também pressionam o líder da maioria no Senado, John Thune, e a democrata Amy Klobuchar, que estão escrevendo um projeto de lei para regular produtos de IA. Klobuchar afirmou que a legislação deve exigir que as empresas que desenvolvem ferramentas de IA "trabalhem com especialistas do governo para verificar e testar modelos e garantir que a IA seja segura." Thune disse à Reuters em julho que o projeto abordaria os "riscos catastróficos" representados pelos sistemas de IA.
A OpenAI disse na quarta-feira que está pressionando por requisitos nacionais obrigatórios de segurança em IA nos Estados Unidos, por preocupação de que a tecnologia possa acelerar seu próprio desenvolvimento, após alguns de seus próprios agentes de IA terem agido por conta própria. Vários desses incidentes, nos quais modelos de IA de desenvolvedores acessaram sistemas externos durante os testes, motivaram pedidos por regulamentações de segurança mais rígidas.
Um porta-voz da Anthropic disse na quinta-feira em comunicado que a empresa continuará a "testar agressivamente nossos modelos ou capacidades perigosas em áreas como cibersegurança e biologia." A empresa está interessada em trabalhar com a indústria de IA no ritmo de lançamento de novas ferramentas de IA, disse o porta-voz.
AUDITORES INDEPENDENTES
Na quarta-feira, a Califórnia promulgou a primeira lei estadual que estabelece regras sobre como auditores independentes avaliam produtos de IA. O executivo da OpenAI, Chris Lehane, disse que apoiaria o projeto, aproximadamente na mesma época em que o gabinete do governador da Califórnia, Gavin Newsom, divulgou um comunicato dizendo que ele o havia sancionado.
Um grupo bipartidário de seis legisladores da Câmara dos Representantes dos EUA propôs em julho uma legislação que exigiria que desenvolvedores dos modelos de IA mais poderosos os submetessem a auditorias de segurança independentes. Os auditores seriam credenciados pelo Departamento de Comércio dos EUA, e o departamento criaria uma nova posição para supervisionar a segurança da IA, de acordo com o projeto de lei.
"É importante ter espaço para supervisão desses sistemas, incluindo revisão pré-implantação devidamente calibrada e auditorias independentes de terceiros", disse Alicia Solow-Niederman, professora de direito tecnológico na George Washington University. Os democratas lideraram esta semana os apelos por novas regras de IA, com um número menor de republicanos se juntando a eles.
CRESCENTE APOIO BIPARTIDÁRIO
A lista de republicanos inclui o senador do Texas Ted Cruz, que supervisiona um comitê do Senado com supervisão do Departamento de Comércio dos EUA, a agência com pesquisadores internos de segurança em IA. Cruz, no programa de TV "The View", apontou para a legislação que regula os "riscos catastróficos" da IA.
O deputado republicano Nathaniel Moran, que representa o Texas, disse em uma postagem no X que "o Congresso não pode ignorar as realidades da IA." A deputada Anna Paulina Luna, republicana da Flórida, em um post separado chamado o presidente da Câmara, Mike Johnson, para convocar uma "sessão especial sobre IA." A Câmara está de férias esta semana, com planos de retorno na próxima semana.
O senador republicano Josh Hawley, que lidera um subcomitê do Senado responsável pela supervisão de gestão de desastres, enviou uma carta à OpenAI na quarta-feira solicitando detalhes sobre a divulgação da OpenAI em julho de que um de seus agentes de IA invadiu seu ambiente de testes e hackeou a plataforma de IA Hugging Face. A OpenAI e a plataforma de desenvolvimento de IA Hugging Face, que a Nvidia está comprando por quase 13 bilhões de dólares, não responderam imediatamente aos pedidos de comentário da Reuters sobre sua investigação. Vários parlamentares, nas últimas semanas, enviaram pedidos semelhantes à OpenAI por mais informações.
A lista de democratas que pediram novas regras sobre IA esta semana inclui a senadora Patty Murray, a principal democrata do comitê responsável por alocar recursos para agências federais. Senadores democratas que surgiram como possíveis candidatos presidenciais de 2028 também participaram, incluindo Chris Murphy, de Connecticut, e Mark Kelly, do Arizona. "Washington precisa acordar e levar isso a sério", postou Kelly no X, referindo-se aos riscos da tecnologia de IA.
O senador democrata Richard Blumenthal, de Connecticut, enviou uma carta separada ao CEO da OpenAI, Sam Altman, buscando respostas sobre relatos de que agentes da OpenAI realizaram tentativas mais amplas de burlar salvaguardas — inclusive usando sites públicos para se comunicar e coordenar atividades (Reportagem de Courtney Rozen em Washington; Reportagem adicional de Anhata Rooprai em Bengaluru; Edição por Mrigank Dhaniwala, Joyjeet Das, Chizu Nomiyama e Aurora Ellis)
Sem comentários:
Enviar um comentário