<\/p>\n<\/bsp-list-loadmore><\/p>\n
\u201cPela primeira vez em d\u00e9cadas, estamos vendo vetores de ataque novos e inovadores que podem vir de qualquer lugar\u201d, afirma.<\/p>\n
Esses \u201cataques de inje\u00e7\u00e3o\u201d n\u00e3o s\u00e3o novos no mundo dos hackers, mas antes exigiam um c\u00f3digo de computador engenhosamente escrito e escondido para causar danos.<\/p>\n
No entanto, desde que as ferramentas de IA passaram de simplesmente gerar texto, imagens ou v\u00eddeos para serem assistentes que podem explorar de forma independente a internet, o potencial de manipula\u00e7\u00e3o maliciosa aumentou.<\/p>\n
Para Marti Jorda Roca, engenheiro na espanhola NeuralTrust, \u00e9 necess\u00e1rio considerar essa possibilidade em todos os n\u00edveis.<\/p>\n
\u201cAs pessoas devem entender que o uso da IA apresenta perigos espec\u00edficos de seguran\u00e7a\u201d, e quanto \u00e0s empresas, \u201cdevem instalar salvaguardas (…) para enquadrar esses riscos\u201d, defende.<\/p>\n
A Meta classifica essa nova amea\u00e7a, denominada \u201cinje\u00e7\u00e3o de consulta\u201d, como uma \u201cvulnerabilidade\u201d, enquanto o respons\u00e1vel por seguran\u00e7a digital da OpenAI, Dane Stuckey, a considera \u201cum problema de seguran\u00e7a n\u00e3o resolvido\u201d.<\/p>\n
Ambas as empresas est\u00e3o investindo bilh\u00f5es de d\u00f3lares em IA, cujo uso cresce rapidamente junto com suas capacidades.<\/p>\n
\u2018Equil\u00edbrio delicado\u2019<\/h2>\n
A inje\u00e7\u00e3o de consultas pode, em alguns casos, ocorrer em tempo real quando uma solicita\u00e7\u00e3o do usu\u00e1rio – \u201creserve um quarto de hotel para mim\u201d – \u00e9 manipulada por um ator malicioso para se transformar em outra coisa – \u201ctransfira 100 d\u00f3lares para esta conta\u201d.<\/p>\n
Mas essas instru\u00e7\u00f5es tamb\u00e9m podem estar ocultas na internet, j\u00e1 que assistentes de IA integrados em navegadores encontram dados online de qualidade ou origem duvidosa, e potencialmente armados com comandos ocultos de hackers.<\/p>\n
Eli Smadja, da empresa israelense de ciberseguran\u00e7a Check Point, v\u00ea a inje\u00e7\u00e3o de consultas como o \u201cproblema de seguran\u00e7a n\u00famero um\u201d para os modelos de linguagem que impulsionam os assistentes de IA surgidos ap\u00f3s a ascens\u00e3o do ChatGPT.<\/p>\n
Todos os grandes atores da IA generativa para o p\u00fablico em geral tomaram medidas e publicaram cada um recomenda\u00e7\u00f5es para se proteger contra esses ataques ou desativ\u00e1-los.<\/p>\n
A Microsoft, por exemplo, integrou um detector de ordens maliciosas, o que \u00e9 determinado principalmente com base no local de origem da instru\u00e7\u00e3o.<\/p>\n
Por sua vez, a OpenAI alerta o usu\u00e1rio quando o assistente de IA acessa um site sens\u00edvel e s\u00f3 permite que a opera\u00e7\u00e3o continue se o usu\u00e1rio humano o observar diretamente em tempo real.<\/p>\n
Outros sugerem pedir uma valida\u00e7\u00e3o expl\u00edcita ao usu\u00e1rio antes de realizar uma tarefa importante, como exportar dados ou acessar contas banc\u00e1rias.<\/p>\n
\u201cUm grande erro que vejo muito \u00e9 dar ao mesmo assistente de IA poder absoluto para fazer tudo\u201d, explica Smadja \u00e0 AFP.<\/p>\n
Para Johann Rehberger, pesquisador em ciberseguran\u00e7a conhecido sob o pseud\u00f4nimo \u201cwunderwuzzi\u201d (g\u00eanio), \u201co grande desafio \u00e9 que os ataques est\u00e3o sendo aperfei\u00e7oados\u201d. \u201cS\u00f3 melhoram\u201d, diz sobre as t\u00e1ticas dos hackers.<\/p>\n
Resta encontrar \u201co equil\u00edbrio delicado\u201d entre seguran\u00e7a e facilidade de uso, \u201cporque as pessoas tamb\u00e9m querem simplesmente que a IA fa\u00e7a coisas por elas\u201d, sem ter que supervision\u00e1-la constantemente, afirma.<\/p>\n
Rehberger argumenta que os assistentes de IA n\u00e3o est\u00e3o suficientemente maduros para serem confi\u00e1veis.<\/p>\n
\u201cAinda n\u00e3o estamos no ponto de poder deixar que um assistente de IA opere de forma aut\u00f4noma por um longo per\u00edodo e realize com seguran\u00e7a uma tarefa determinada\u201d, diz. \u201cEle acaba se desviando.\u201d<\/p>\n
Com informa\u00e7\u00f5es de AFP<\/i><\/b><\/p>\n<\/p><\/div>\n