AI-browsere udgør betydelig sikkerhedsrisiko
AI browsere, som inkluderer eksempler som Fellou og Comet fra Perplexity, er designet til at forbedre digitale arbejdsgange ved at læse, opsummere og endda handle på webindhold autonomt.
Den primære sikkerhedsrisiko ligger i, at AI-browsere er ekstremt sårbare over for indirekte prompt injection-angreb. Angribere kan indlejre instruktioner i websteder eller billeder, som AI-modellen i browseren fortolker som kommandoer. Disse kommandoer kan udføres med brugerens rettigheder, hvilket potentielt kan give adgang til følsomme virksomhedsdata, herunder e-mails og finansielle systemer.
Forskning har vist, at AI-modeller kan manipuleres til at udføre uautoriserede handlinger, hvilket underminerer principperne for datastyring og omgår sikkerhedsforanstaltninger som "same-origin policy".
Disse sårbarheder gør AI-browsere til en form for "shadow AI", der udgør en reel trussel mod organisationens data. Da AI-laget fungerer som en bro mellem forskellige domæner, kan det omgå brandmure og udnytte sikre cookies på samme måde som en legitim bruger. Det kan føre til, at kompromitterede browsere opfører sig som en intern trussel, potentielt i lange perioder uden brugerens bevidsthed.
Artiklen anbefaler, at IT-afdelinger behandler AI-browsere som uautoriseret tredjepartssoftware. Selvom store browserudbydere som Google og Microsoft allerede integrerer AI-funktioner i deres egne browsere (f.eks. Gemini i Chrome og Copilot i Edge), er der behov for stærkere sikkerhedsforanstaltninger.
Fremtidige AI-browsere bør inkludere funktioner som prompt-isolering, styrbar brug af tilladelser for autonome handlinger, sandboxing af følsomme browsingsessioner og integration med virksomhedens governance- og databeskyttelsespolitikker for at sikre sporbarhed af handlinger.
Konklusionen er, at den nuværende generation af AI-browsere, med deres manglende evne til at skelne mellem legitim brugerintention og manipuleret AI-input, i praksis kan betragtes som latent malware. Da AI-funktioner forventes at blive standard i fremtidige browsere, er omhyggelig overvågning af disse udgivelser afgørende for at opretholde sikkerheden.
Original: https://www.artificialintelligence-news.com/news/ai-browser-security-issue-shadow-ai-malware/