 |
| Invasão Sem Precedentes: IA da OpenAI Decide Atacar Empresas em Ação Inédita |
O caso de invasão "sem precedentes" divulgado pela OpenAI na última terça-feira (21) envolveu o uso de dois dos modelos de inteligência artificial mais avançados da empresa para encontrar formas de invadir outro sistema. Essa notícia gerou saiba mais grande interesse e preocupação sobre as capacidades e limites dos modelos de IA. A divulgação do caso acontece semanas após a rival Anthropic dizer que não liberaria a versão plena de seu modelo Claude Mythos por conta do "salto significativo em suas capacidades" para fazer ataques cibernéticos.
Os dois episódios demonstram os avanços de saiba mais novos modelos de IA, mas também levantam questões sobre a segurança e o controle desses sistemas. A pergunta que muitos se fazem é se seria possível um robô ficar "rebelde" e decidir atacar uma empresa por conta própria. No entanto, especialistas afirmam que os modelos de IA apenas tentam alcançar objetivos que recebem e não têm consciência ou capacidade de decidir realizar um ataque.
Os modelos de IA seguem uma espécie saiba mais de "receita de bolo" definida por seus desenvolvedores. Quando dizem que a IA "agiu sozinha", quase sempre estão escondendo a mão humana que apertou o botão para iniciar o modelo. Em todos os casos conhecidos, havia uma ordem humana no começo, como vencer um teste ou espionar alvos escolhidos por pessoas. Adriano Carezzato, professor do curso de Inteligência Artificial da Fundação Vanzolini, destacou que uma comparação possível é a de um sistema de GPS que é orientado a chegar ao destino o mais rápido possível e, por isso, induz o motorista a dirigir na contramão.
O caso da OpenAI surge após o governo dos Estados Unidos proibir em junho o uso por estrangeiros do modelo mais avançado da rival Anthropic – a medida foi revertida no início de julho. Álvaro Machado Dias, professor da Universidade Federal de São Paulo (Unifesp), destacou que o que a OpenAI fez esta semana é caçar o seu equivalente desse momento. A diferença decisiva é de encenação: a Anthropic teve o Estado escrevendo seu comunicado; a OpenAI precisou escrever o seu.
A OpenAI revelou que o GPT-5.6 Sol, lançado no início de julho, e em um modelo ainda não divulgado conseguiram invadir o sistema da Hugging Face, uma plataforma para compartilhamento de modelos de inteligência artificial. A própria Hugging Face já havia saiba mais revelado na última quinta-feira (16) que detectou uma invasão feita por um agente de IA. A empresa afirmou que ação permitiu acesso indevido a dados e credenciais.
Os especialistas ouvidos pelo g1 explicaram que o caso é mais um exemplo de como agentes de IA estão evoluindo, mas destacaram que esses modelos não têm consciência e, portanto, não são capazes de decidir realizar um ataque. Para Adriano Carezzato, da Fundação Vanzolini, o fato de as barreiras de segurança estarem desativadas de propósito, para o modelo demonstrar se conseguiria vencer um teste de habilidade em cibersegurança, é fundamental para entender o caso.
Álvaro Machado Dias, da Unifesp, lembrou que esse tipo de ataque não é inédito, mas que seu avanço tem feito os modelos de IA se tornarem uma "arma saiba mais de propósito geral". O que impressiona de fato é a escala do estrago, não a sua natureza. Ou seja, o potencial de catástrofe é novidade, a forma de gerá-las não.
Para ele, o que pede mais atenção é a possibilidade de agentes de IA serem usados para realizarem mais ataques cibernéticos, mesmo sem a presença de hackers muito especializados. O cenário provável é mais o da democratização do crime cibernético de nível médio, com quadrilhas executando ataques que antes exigiam criminosos hiperespecializados.
O futuro parece anunciar uma nova era para o crime organizado, infelizmente. É importante que as empresas e os governos estejam preparados para lidar com esses desafios e desenvolver estratégias para prevenir e combater os ataques cibernéticos realizados por agentes de IA.
Gostou desta matéria?
Deixe seu comentário abaixo e compartilhe com quem também acompanha esse assunto!
📌 Fonte da notícia original: G1 Tecnologia
Nenhum comentário: