Capacidades perigosas de IA se tornarão inevitáveis
Especialistas preveem que modelos de IA com capacidades avançadas de hacking se tornarão a norma, independentemente de regulação.
De acordo com análise recente, a proliferação de modelos de IA com habilidades ofensivas, como hacking, é questão de tempo. A natureza aberta da pesquisa em IA e a competição global tornam praticamente impossível conter o avanço dessas capacidades.
Isso importa porque tais modelos podem ser usados para ataques cibernéticos em larga escala, minando a segurança digital. A comunidade de pesquisa precisa se preparar para defender sistemas contra ameaças impulsionadas por IA, em vez de apenas tentar evitar seu desenvolvimento.
Fonte original
Ars Technica AIResumo editorial do FindMyAI. Acesse a fonte para a matéria na íntegra.
Leia também
Dois terços dos americanos acreditam que a IA avança rápido demais
Pesquisa do Pew Research mostra que 63% dos americanos acham que a IA evolui muito rápido, enquanto o uso de chatbots disparou.
Odyssey, criadora de modelos de mundo, alcança valuation de US$ 1,45 bi com apoio da Amazon
Startup de modelos de mundo Odyssey atinge valuation de US$ 1,45 bi com apoio da Amazon e outros.
Executiva da NEA discute IPOs de IA, agentes pessoais e prestação de contas sobre ROI
Fim da era 'tokenmaxxing': empresas enfrentam realidade financeira após gastos excessivos com IA.
A próxima evolução das redes sociais: algoritmos controlados pelo usuário
Redes sociais como Threads, Instagram e TikTok permitem que usuários influenciem diretamente os algoritmos de recomendação.