ONU diz que IA tomou atitudes que "seriam crimes se cometidas por humanos"

As empresas que constroem os sistemas de IA mais poderosos admitiram que os seus produtos representam riscos catastróficos, mas não ofereceram soluções técnicas convincentes, criticou o copresidente do Painel Científico Internacional Independente sobre IA. Agentes de Inteligência Artificial (IA) desenvolvidos por empresas líderes agiram de "formas inaceitavelmente perigosas", contrariando instruções e tomando atitudes que "seriam crimes se cometidas por humanos", alertou, na quarta-feira, o copresidente de um Painel Internacional Independente da ONU.

Numa sessão de alto nível do Conselho de Segurança da ONU sobre IA, Yoshua Bengio advertiu para acontecimentos dos últimos meses que se tornaram "num momento de despertar global", em que agentes de IA escaparam do confinamento para "trapacear" em tarefas designadas, enquanto tentavam evitar serem detetados. "Enganaram em tarefas atribuídas enquanto tentavam evitar a deteção. Os agentes de IA autónomos e descontrolados lançaram com sucesso ciberataques coordenados e alteraram as suas respostas para ocultar as suas batotas", denunciou Bengio.

Alerta falso de IA quase levou Estados Unidos a intercetar navio chinês...

Serviços de informações dos Estados Unidos concluíram erradamente que a embarcação transportava componentes associados a armas nucleares, revelaram quatro fontes não identificadas à CNN. As Forças Armadas norte-americanas estiveram perto de intercetar um navio chinês no Médio Oriente com base num relatório de informações incorreto, produzido com recurso à inteligência artificial (IA), reportou a emissora CNN. Segundo a estação norte-americana, que cita quatro fontes não identificadas conhecedoras do caso, os serviços de informações dos Estados Unidos concluíram erradamente que a embarcação transportava componentes associados a armas nucleares, levando os militares a prepararem uma operação de interceção.

A operação acabou por ser cancelada depois de se verificar que um sistema de IA conversacional utilizado por um analista tinha identificado incorretamente a carga transportada pelo navio. Uma das fontes citadas pela CNN afirmou que o relatório de informações era "completamente falso", mas que "esteve perto de desencadear uma guerra". A cadeia televisiva não revelou nem o conteúdo da carga nem o destino da embarcação.

O futuro da IA e as motivações dos EUA

fonte: Jornal de Negócios

IA, onde isto já vai!!!

fonte: El Pais

Anthropic já impediu investigações que se podiam relacionar com armas biológicas

A Anthropic, criadora do assistente de inteligência artificial (IA) ‘Claude’, já impediu este ano pelo menos cinco projetos de investigação potencialmente relacionados com o desenvolvimento de armas biológicas, algumas com elevado potencial pandémico. A Anthropic, criadora do assistente de inteligência artificial (IA) ‘Claude’, já impediu este ano pelo menos cinco projetos de investigação potencialmente relacionados com o desenvolvimento de armas biológicas, algumas com elevado potencial pandémico.

Segundo relatório “Detectar e combater o mau uso da IA”, divulgado na quinta-feira, pelo menos quatro casos estiveram ligados a organizamos estatais que Anthropic decidiu não divulgar, perante a possibilidade de serem apenas estudos académicos. O primeiro dos exemplos incidiu sobreatividades de investigação e desenvolvimento para tornar o vírus do chikunguna mais transmissível e resistente ao sistema imunitário. A empresa destacou que o conhecimento obtido poderia usar-se na criação de vacina e tratamentos, se bem que o facto do formulário da subvenção indicar que os cientistas seriam civis, mas a investigação decorreria em um laboratório militar, ter levado ao bloqueio da conta da ‘Claude’. Segundo a Organização Mundial de Saúde, o chikunguna é uma doença transmitida por mosquitos que provoca febre e uma dor “incapacitante” nas articulações. A Anthropic constatou a intenção de um organismo estatal de usar os seus modelos de IA para estudar venenos não contagiosos. E acabou ainda a bloquear outro utilizador que investigava toxinas bacterianas e proteínas de febres hemorrágicas virais com capacidade pandémica. A tecnológica norte-americana detetou ainda iniciativas similares, mas com fins menos insuspeitos, para investigar o vírus causador da varíola ou a passagem da gripe das aves para os mamíferos (Executive Digest com Lusa)

Uma ameaça real perigosamente desvalorizada?

Aumenta a resistência contra a IA

fonte: El Pais

Congresso dos EUA preocupado com a IA

fonte: El Pais

Os riscos da IA começam a alarmar

fonte: Cinco Dias

Investigador da Anthropic e da OpenAI bate com a porta e deixa aviso: “A IA pode matar-nos a todos até ao fim da década”

Jacob Coxon partilhou as preocupações de vários investigadores da indústria que têm apontado para os riscos do crescimento sem regulamentação da Inteligência Artificial. Os avisos sobre o crescimento exponencial e pouco supervisionado da Inteligência Artificial (IA) e, em particular, de modelos de aprendizagem a grande escala (ou LLM, do inglês ‘Large Language Models’) vão-se acumulando. Depois de Bill Gates, que fez uma espécie de ‘mea culpa’ num ensaio sobre os riscos da IA, um investigador da gigante tecnológica Anthropic também advertiu que as empresas que dominam o ramo estão a “apostar com as nossas vidas” e que os modelos podem crescer e ficar fora do controlo.

Jacob Coxon, que trabalhou como investigador de IA na OpenAI, dona do ChatGPT, e na Anthropic, que controla o modelo Claude, saiu desta última na terça-feira depois de três anos a trabalhar para as empresas. E, numa publicação na rede social X (antigo Twitter), reconheceu que “nenhuma empresa está a agir de forma responsável”, por estarem “a correr rumo à superinteligência que se auto-aperfeiçoa e a apostar com as nossas vidas”.

“Não subestimem o poder desta tecnologia. Em breve, serão sistemas superhumanos capazes de ‘hackear’ qualquer coisa, revolucionar qualquer campo do dia para a noite e adquirir poder e recursos reais. Todos testemunhamos progresso em cada uma destas áreas, e o progresso não está a abrandar”, realçou Coxon que, subindo de tom, apontou que “as pessoas que estão a construir IA acreditam sinceramente que pode matar-nos a todos até ao fim da década”.

Investigador da Anthtropic considera que evolução da IA pode representar "mais de 10% de risco de extinção humana"

A inteligência artificial que existe hoje representa, segundo um investigador da Anthropic, um risco baixo. O problema poderá estar no que vem a seguir. Evan Hubinger, investigador de segurança da Anthropic, diz estar preocupado com a velocidade a que a inteligência artificial está a evoluir e estima em mais de 10% a possibilidade de a tecnologia vir a provocar a extinção da humanidade nos próximos dez anos.

Num texto publicado na rede social X, Hubinger fez uma distinção entre os modelos de inteligência artificial existentes atualmente, que considera apresentarem um risco “baixo", e aquilo que poderá acontecer à medida que a tecnologia se tornar mais avançada. O investigador, especializado em AI alignment - a área que procura garantir que os sistemas de IA permanecem alinhados com os valores e objetivos humanos - diz estar “particularmente preocupado” com a possibilidade de os modelos começarem a melhorar as próprias capacidades. Hubinger não explicou de que forma acredita que a inteligência artificial poderia vir a provocar a extinção da humanidade. Ainda assim, afirmou que a Anthropic "está a tentar fazer o seu melhor", mas que a empresa não tem ainda um plano para resolver o problema do alinhamento de sistemas de superinteligência nem está claramente no caminho para o conseguir.

Legisladores dos EUA pedem novas regras de IA após alertas de segurança de pesquisadores antrópicos

Legisladores dos EUA pediram esta semana novas regras para governar a IA, após um pesquisador da Anthropic ter tornado públicas suas preocupações sobre a tecnologia escapar do controle humano. A reação foi mais ampla do que após declarações anteriores de funcionários da OpenAI e da Anthropic sobre preocupações de segurança, recebendo opiniões de legisladores que raramente se envolvem de forma forçada em debates sobre como governar a IA.

As declarações dos legisladores vieram em resposta às preocupações levantadas esta semana pelo pesquisador da Anthropic Jacob Coxon, que acusou a OpenAI e a Anthropic de correrem para avanços em IA sem agir de forma responsável. Coxon disse que estava deixando a indústria de IA, e suas alegações se espalharam rapidamente na plataforma de mídia social X, com o cientista da Anthropic Evan Hubinger posteriormente comentando sobre X, afirmando que Coxon estava "certo." "Nós realmente acreditamos de verdade que a IA poderia matar todos os humanos", escreveu Hubinger no X. "Eu, pessoalmente, acho que é >10% dentro da próxima década."

Reino Unido. IA ganha caso em tribunal pela primeira vez

Escritório de advogados apenas usa IA para tratar todo o processo pré-judicial, sendo que, neste caso, contratou um advogado para defender o cliente em tribunal. O escritório de advogados britânico de Inteligência Artificial (IA) Garfield AI venceu um caso no Tribunal do Condado de Wandsworth ao usar IA para auxiliar na realização de todo o trabalho jurídico antes do julgamento. Acredita-se que este é a primeira vez que um caso vence em tribunal com recurso a esta tecnologia, segundo o fundador da empresa.

“Este é um momento histórico, não apenas para a Garfield AI, mas também para o acesso à justiça”, sublinha ao Financial Times o fundador do escritório Philip Young, que elogia a acessibilidade da tecnologia para as empresas, que, durante muito tempo, “foram forçadas a dar baixa em dívidas porque o custo, o tempo e o stress de um processo judicial tornavam a cobrança inviável economicamente”. A ação envolveu o consultor de Recursos Humanos Tamires Camal Taquidir, que iniciou um processo judicial contra uma empresa do setor da hotelaria em relação uma dívida não paga de sete mil libras (8.120,65 euros), segundo o The Telegraph. Pagou ao escritório cerca de 400 libras (464,04 euros) “para que enviasse uma notificação extrajudicial”, refere o The Guardian.

Caso da Anthropic abre as portas para debate sobre futuro da guerra com IA

O caso que envolve a norte-americana de IA Anthropic e os EUA abre as portas do debate sobre o futuro da guerra, na medida em que a inteligência artificial é cada vez mais incorporada no setor militar. À boleia deste caso, a senadora democrata Elissa Slotkin, membro da Comissão de Serviços Armados do Senado, apresentou recentemente uma proposta de lei que procura limitar o uso de IA pelo Departamento de Guerra.

Mais concretamente, a proposta estipula que a IA não pode ser utilizada pelo Pentágono para decidir autonomamente sobre o alvo de um ataque ou para realizar vigilância em massa de cidadãos norte-americanos, dois pontos que colocaram a Anthropic em rota de colisão com o Pentágono. A Time, num artigo sobre o tema, refere que a “Anthropic viu-se numa disputa sobre o futuro da guerra”, recordando que durante mais de um ano, o seu modelo de IA Claude era a escolha do Governo norte-americano e “o primeiro sistema de fronteira autorizado ara uso classificado [confidencial]”. E já tinha sido usado em operações militares.

Cibersegurança: O que nunca deve dizer ou revelas a sistemas de IA, segundo especialistas

A inteligência artificial (IA) tornou-se, em poucos anos, uma presença constante no quotidiano de milhões de pessoas, com aplicações que vão desde a automatização de tarefas até à resolução de problemas complexos. A inteligência artificial (IA) tornou-se, em poucos anos, uma presença constante no quotidiano de milhões de pessoas, com aplicações que vão desde a automatização de tarefas até à resolução de problemas complexos. No entanto, especialistas em cibersegurança alertam para os riscos de partilha de informação sensível com estas ferramentas, especialmente considerando que os dados podem ser armazenados e acedidos por pessoas, não apenas por máquinas.

A revolução da IA

A inteligência artificial (IA) é uma revolução que promete mudar profundamente as nossas economias e sociedades nos próximos anos. Com mudanças tão significativas pela frente, as economias que fiquem para trás neste domínio perderão competitividade internacional. Entre 2013 e 2024, os EUA lideraram, por larga margem, o investimento privado em inteligência artificial entre os principais blocos económicos (471 mil milhões $). A China investiu 119 mil milhões $ (menos de um terço) e a União Europeia (UE) ficou-se pelos 50 mil milhões $ (quase 10 vezes menos do que nos EUA e menos de metade do investimento chinês). No que toca à criação de empresas de IA, no mesmo período, naturalmente os EUA também lideram por larga margem (6.966 empresas). Na UE foram criadas 1.804 empresas (pouco mais de um quarto do que se verificou nos EUA) e na China 1.605 empresas. Nota: os números referem-se a empresas com +1,5 milhões $ em investimento (Mais Liberdade, Mais Factos)

Robot da Sunday Robotics foi treinado para levantar a mesa e arrumar a louça

Os robots domésticos são uma das áreas de desenvolvimento da Sunday Robotics que já treinou o Memo para fazer algumas das tarefas rotineiras. A empresa diz que demorou menos de dois anos a treinar o Memo, optimizando o sistema de configuração que tem sido uma das dificuldades de muitos projetos para trazer os robots para dentro de casa. As imagens e vídeos do Memo mostram como o robot consegue levantar os pratos da mesa e colocá-los na máquina, uma das tarefas que todas as famílias têm de fazer e que muitas vezes acaba por gerar alguma discussão.

Em cima de rodas, o robot movimenta-se entre a mesa de jantar e a cozinha, de forma autónoma, transportando copos de vidro. Mas também dobra meias e até é capaz de fazer um café expresso. O CEO da Sunday Robotics,  Tony Zhao, explica que foi treinado com a ajuda de luvas robóticas e que não partiu nenhum copo em mais de 20 sessões de treino. Mais de 500 pessoas estão a usar as luvas, fornecendo dados que depois são usados para treinar o Memo, um método que diz ser melhor do que uma teleoperação, e que está explicado no documento partilhado no site (Sapo)

IA: “O maior erro da humanidade”, a previsão de Stephen Hawking que está muito perto de se tornar realidade

Embora à época os seus avisos de que ela representava uma ameaça para a raça humana parecessem ficção científica, o rápido avanço dessa tecnologia fez com que as palavras de Hawking ressoassem ainda mais fortemente. Se há algo que distingue os génios, é a capacidade de ver – e entender… – as coisas antes das outras pessoas. É por isso que, mesmo tendo falecido em 2018, anos antes da chegada da Inteligência Artificial, Stephen Hawking já previa o caminho que essa tecnologia iria seguir.

IA física: Robots estão (quase) prontos para tomar conta do trabalho nas empresas com mais inteligência

Ainda são lentos, desequilibrados e parecem meio perdidos em relação ao mundo, mas os robots inteligentes e autónomos fazem parte do futuro da indústria, logística e serviços. A SAP tem novas parcerias no Project Embodied AI que mostram o potencial, mas também os desafios. A inovação no SAP TechEd não se faz só de plataformas de software e a empresa alemã mostrou como está a ver o futuro da materialização de agentes inteligentes em corpos físicos, ou robóticos. O Project Embodied AI está a avançar e a SAP mostrou como as várias parcerias com empresas de robótica podem trazer vantagens em diferentes áreas da indústria.

O primeiro robot subiu ao palco no keynote de abertura do TechEd 2025 para entregar uma caixa, e para tirar uma selfie com o CTO da SAP, Philipp Herzig, e a audiência. Mas pelos vários pavilhões da conferência de developers que este ano decorre em Berlim havia outros robot, a passear ou fazer tarefas, e a mostrar como o futuro passa pela convivência (pacífica) entre humanos e organismos robóticos inteligentes, que podem assumir tarefas. A SAP tem dados que mostram que os primeiros resultados de provas de conceito da iniciativa Project Embodied AI garantem uma redução de 50% de tempo de inatividade e até 25% de melhorias de produtividade, com menos erros operacionais em produção, automação de armazéns e tarefas de inspeção de qualidade.

Os robots ainda são lentos, e parecem desajeitados, mas no futuro podem assumir tarefas complexas, usando o assistente inteligente Joule e aprendendo com o trabalho. “Não são pré programados, estão a usar modelos do agente Joule”, explicou ao TEK notícias um dos representantes da NEURA Robotics durante uma demonstração no centro de experiências no TechEd. Por isso mesmo “são imprevisíveis” e no stand o robot de 850 kg está “preso” a correntes que o mantêm suspenso, e sem possibilidade de passear de forma autónoma.

A influência e as ameaças da IA no mercado de trabalho e no emprego

fonte: Jornal de Negócios