Sužinokite, kodėl plačiai naudojant gen AI antrąjį pilotą neišvengiamai padaugės duomenų pažeidimų
Šis scenarijus tampa vis dažnesnis AI eroje: konkurentas tam tikru būdu gauna prieigą prie slaptos paskyros informacijos ir naudoja tuos duomenis, kad nukreiptų organizacijos klientus su reklamos kampanijomis.
Organizacija neįsivaizdavo, kaip buvo gauti duomenys. Tai buvo saugumo košmaras, galintis pakenkti klientų pasitikėjimui ir pasitikėjimui.
Bendrovė nustatė duomenų pažeidimo šaltinį: buvęs darbuotojas naudojo gen AI antrąjį pilotą, kad pasiektų vidinę duomenų bazę, kurioje yra paskyros duomenų. Jie nukopijavo neskelbtiną informaciją, pvz., klientų išlaidas ir įsigytus produktus, ir perdavė juos konkurentui.
Šis pavyzdys pabrėžia didėjančią problemą: platus gen AI antrųjų pilotų naudojimas neišvengiamai padidins duomenų pažeidimų skaičių.
Remiantis naujausia „Gartner“ apklausa, dažniausiai dirbtinio intelekto naudojimo atvejai apima generatyviąsias dirbtinio intelekto programas, tokias kaip „Microsoft 365 Copilot“ ir „Salesforce“ Einstein Copilot. Nors šie įrankiai yra puikus būdas organizacijoms padidinti produktyvumą, jie taip pat kelia didelių duomenų saugumo iššūkių.
Šiame straipsnyje išnagrinėsime šiuos iššūkius ir parodysime, kaip apsaugoti savo duomenis AI eroje.
Gen AI duomenų rizika
Beveik 99 % leidimų nenaudojami, o daugiau nei pusė tų leidimų yra labai rizikingi. Nenaudojama ir pernelyg leistina prieiga prie duomenų visada yra duomenų saugumo problema, tačiau „gen AI“ pila kuro į ugnį.
Kai vartotojas užduoda klausimą gen AI antrajam pilotui, įrankis suformuluoja atsakymą natūralia kalba, pagrįstą interneto ir verslo turiniu, naudodamas grafikų technologiją.
Kadangi vartotojai dažnai turi per daug leistiną prieigą prie duomenų, antrasis pilotas gali lengvai atskleisti neskelbtinus duomenis, net jei vartotojas nesuvokė, kad gali juos pasiekti.
Daugelis organizacijų iš pradžių nežino, kokius neskelbtinus duomenis jos turi, o tinkamo dydžio prieigos beveik neįmanoma padaryti rankiniu būdu.
Gen AI sumažina duomenų pažeidimų kartelę
Grėsmės veikėjams nebereikia žinoti, kaip įsilaužti į sistemą ar suprasti jūsų aplinkos subtilybes. Jie gali tiesiog paprašyti antrojo piloto neskelbtinos informacijos arba kredencialų, leidžiančių jiems judėti į šoną.
Saugumo iššūkiai, kylantys įgalinant gen AI įrankius, apima:
- Darbuotojai turi prieigą prie per daug duomenų
- Skelbtini duomenys dažnai nepaženklinami arba klaidingai pažymėti
- Viešai neatskleista informacija gali greitai rasti ir išfiltruoti duomenis naudodami natūralią kalbą
- Užpuolikai gali atrasti privilegijų eskalavimo ir judėjimo į šoną paslaptis
- Tinkamo dydžio prieigos neįmanoma padaryti rankiniu būdu
- Generatyvus AI gali greitai sukurti naujus jautrius duomenis
Šie duomenų saugumo iššūkiai nėra nauji, tačiau juos galima puikiai išnaudoti, atsižvelgiant į tai, kad gen AI greitai ir lengvai pateikia informaciją.
Kaip sustabdyti pirmąjį AI pažeidimą
Pirmas žingsnis siekiant pašalinti su gen AI susijusią riziką – užtikrinti, kad jūsų namai būtų tvarkingi.
Netinkama savo organizacijoje paleisti antruosius pilotus, jei nesate tikri, kad žinote, kur turite neskelbtinų duomenų, kas yra tie neskelbtini duomenys, negalite analizuoti poveikio ir rizikos, taip pat negalite veiksmingai pašalinti saugumo spragų ir ištaisyti netinkamas konfigūracijas.
Supratę duomenų saugumą savo aplinkoje ir atlikę tinkamus procesus, būsite pasirengę įdiegti antrąjį pilotą.
Šiuo metu turėtumėte sutelkti dėmesį į leidimus, etiketes ir žmogaus veiklą.
- Leidimai: Įsitikinkite, kad jūsų naudotojų leidimai yra tinkamo dydžio ir kad antrinio piloto prieiga atitinka tuos leidimus.
- Etiketės: Kai suprasite, kokius neskelbtinus duomenis turite ir kas tie neskelbtini duomenys, galite jiems pritaikyti etiketes, kad užtikrintumėte DLP.
- Žmogaus veikla: Labai svarbu stebėti, kaip darbuotojai naudoja antrąjį pilotą, ir peržiūrėti bet kokį aptiktą įtartiną elgesį. Stebėti raginimus ir failus, prie kurių vartotojai gali pasiekti, yra labai svarbu, kad būtų išvengta išnaudojamų kopilotų.
Įtraukti šias tris duomenų saugos sritis nėra lengva ir to negalima padaryti vien rankomis. Tik nedaugelis organizacijų gali saugiai pritaikyti AI antruosius pilotus be holistinio požiūrio į duomenų saugumą ir konkrečių pačių antrųjų pilotų kontrolės priemonių.
Užkirsti kelią AI pažeidimams su Varonis
Varonis padeda klientams visame pasaulyje apsaugoti tai, kas svarbiausia – savo duomenis. Pritaikėme savo gilias žinias siekdami apsaugoti organizacijas, planuojančias diegti generacinį AI.
Jei dar tik pradedate savo DI kelionę, geriausias būdas pradėti yra mūsų nemokamas duomenų rizikos įvertinimas. Mažiau nei per 24 valandas realiuoju laiku matysite savo jautrių duomenų riziką, kad nustatytumėte, ar galite saugiai pritaikyti gen AI antrąjį pilotą.
Norėdami sužinoti daugiau, peržiūrėkite mūsų AI saugos išteklius.
Rėmė ir parašė Varonis.
