Pesquisadores apontam falha fundamental que torna LLMs permanentemente vulneráveis a ataques

Pesquisadores apresentaram no ICML 2024 um artigo que afirma que grandes modelos de linguagem (LLMs) possuem uma vulnerabilidade fundamental em seu funcionamento, tornando impossível garantir total segurança contra ataques. A descoberta levanta sérias questões sobre a segurança dessa tecnologia, amplamente adotada.

A falha não seria corrigível com patches ou atualizações, pois está enraizada na própria arquitetura dos modelos. Isso desafia a ideia de que LLMs podem ser tornados completamente seguros, mesmo com técnicas de alinhamento.

Como LLMs são cada vez mais usados em aplicações críticas, essa vulnerabilidade inerente pode comprometer a confiança na tecnologia. O estudo reforça a necessidade de cautela na implantação desses sistemas.