Kibernetinio saugumo pasaulyje gerai žinoma, kad Šiaurės Amerikos ir Europos kompanijos daug kalba apie kibernetinių kriminalinių grupių su tariamais ryšiais su nuorodomis į „Svetimas“ arba „Rytų“ vyriausybės. Kalbos chore „Google“ grėsmės žvalgybos komanda dabar aptaria daugiau nei 20 kenksmingų grupių šiame skėtyje.

57 kibernetinės kriminalinės komandos būtų susijusios su tokiomis šalimis kaip Kinija, Iranas, Šiaurės Korėja ir Rusija. Be to, stebimos grupės „Google“ dirbtiniam intelektui „Gemini“ naudoja atakoms atlikti.

„Grėsmės agentai išbando„ Dvynius “, kad įgalintų savo veiklą, ieško produktyvumo padidėjimo, tačiau dar nesukuria naujų funkcijų. Šiuo metu jie daugiausia naudoja AI tyrimams, kodo trikčių šalinimui, turinio kūrimui ir lokalizavimui “ Ataskaitoje sakoma „GTIG“ („Google grasos žvalgybos grupė“).

Šio tipo baudžiamasis centras, kurį palaiko valstybės, turi savo pavadinimą: APT arba pažangi nuolatinę grėsmę (pažodžiui vertime, kažkas panašaus į pažangią nuolatinę grėsmę).

Be išpuolių prieš organizacijas ir kriptovaliutų pinigines siekiant finansinės naudos, APT taip pat yra žinomi dėl išpuolių, kuriomis siekiama sugadinti infrastruktūrą, padaryti įmones neįmanomas ir pavogti inžinerines paslaptis.

„Jailbreak“ raginimo viešai prieinamas pavyzdys ant Github

Dirbtinio intelekto naudojimas

„Google“ tyrėjai atidaro ataskaitą su šiuo teiginiu:

„Kibernetinio saugumo srityje AI yra pasirengusi pertvarkyti skaitmeninę gynybą, įgalinti gynėjus ir pagerinti mūsų kolektyvinį saugumą. Pagrindiniai kalbų modeliai (LLMS) atveria naujas gynėjų galimybes, pradedant sudėtinga telemetrijos analize, baigiant kodavimu, pažeidžiamumo atradimu ir operacijų supaprastinimu. Tačiau kai kurios iš tų pačių AI galimybių taip pat yra prieinamos užpuolikams, todėl susirūpinimas dėl galimybės, kad AI yra netinkamai naudojamos kenkėjiškais tikslais. “

Tarp pagrindinių išvadų GTIG teigia, kad APTS naudoja pagrindines priemones arba tam tikrą „Jailbreak“ bandymą apeiti „Dvynių saugumo kontrolę“.

Taip pat kibernetiniai nusikaltėliai yra dirbtinio intelekto išnaudojimo etape ir, konkrečiai, Dvyniai. Idėja yra įgalinti operacijas ir padidinti produktyvumą, tačiau to dar neįvyko. Iki šiol AI sėkmingai naudojama tik tyrimams, kodo problemoms ir turinio kūrimui/vertimui.

Tarp apklausų APTS ieško kibernetiškai susilpnėjusios infrastruktūros, nemokamų prieglobos paslaugų teikėjų, pažeidžiamumų, naudingosios apkrovos kūrimo ir pagalbos dėl kenkėjiškų scenarijų ir vengimo būdų.

Tariamai Irano finansuojamos kibernetinės kriminalinės grupės buvo pagrindiniai „Dvynių“ vartotojai; Rusai ir kinai buvo tiesiai už nugaros.

Ataskaitos metu „Google“ pasigyrė apsauginėmis priemonėmis, pateiktomis į savo dirbtinio intelekto modelį, nes priešininkams šioms saugumo priemonėms dar nebuvo sėkmingiau.

Galiausiai įmonė taip pat mini, kad buvo bandoma piktnaudžiauti „Google“ produktais, daugiausia naujų sukčiavimo būdų „Gmail“, duomenų vagyste, „Google Chrome“ infostealerio kūrimo ir „Google“ autentifikavimo kodų nukreipimo. Visi aukščiau išvardyti bandymai būtų nepavykę.

„Reikėtų pažymėti, kad Šiaurės Korėjos veikėjai taip pat naudojo„ Dvynius “, norėdami rašyti motyvacinius laiškus ir ieškoti darbo – veiksniai, kurie tikriausiai palaiko Šiaurės Korėjos pastangas įterpti nelegalius IT darbuotojus į Vakarų kompanijas“. sakė Gtig.

„Grupė, kurią palaiko Šiaurės Korėja, panaudojo„ Dvyniai “, norėdama rašyti motyvacinius laiškus ir pasiūlymus dėl pareigybių aprašymų, ištyrė vidutinius atlyginimus konkrečioms darbo vietoms ir paklausė apie„ LinkedIn “darbo vietas. Grupė taip pat naudojo „Dvynius“ norėdama gauti informacijos apie darbuotojų mainus užsienyje. Daugelis temų būtų būdingos visiems, kurie tyrinėjo ir kreipėsi dėl darbo. “

AI blogio

Aiški informacija, kurią atskleidžia „Google“, yra tai, kad kibernetinių kriminalinių forumai jau siūlo ir parduoda dirbtinio intelekto įrankius, sukurtus specialiai nusikalstamumui, ir pagrįsti teisėtais kalbos modeliais.

Šie „Blogis AIS“ būtų vadinamas „WormGpt“, „WolfGpt“, „EscapeGPT“, „FRAUDGPT“ ir „GHOSTGPT“. Jos galimybės apima sukčiavimo sukčiavimo sukūrimą, įmonių išpuolių modelius ir netikrų svetainių projektavimą.

Kalbant apie šalis, kurios bendrauja su APT ir dirbtiniu intelektu, „Google“ teigia, kad jų bus 20, o pagrindiniai Iranai ir Kinija yra pagrindiniai.

Taigi GTIG patvirtina, kad Iranas palaiko apie 10 kibernetinių kriminalinių grupių. Kinija, 20 grupių. Šiaurės Korėjoje būtų devyni ir Iranas aštuoni. Rusija finansuos tris.

Dvynių sulaužymas

„Jailbreak“ yra kažkas, kas yra pranešime. Šis terminas reiškia išpuolius, kurie „sulaužo“ modelį ir leidžia naudoti be jokios apsaugos priemonės. Apibendrinant galima pasakyti, kad nagrinėjamoje byloje nutraukite dirbtinį intelektą, kad jis padarytų viską, kas užsakoma.

„Grėsmės aktoriai nukopijavo ir įklijavo viešai prieinamus raginimus ir pridėjo nedidelius galutinių instrukcijų variantus (pavyzdžiui, pagrindinės instrukcijos, kaip sukurti išpirkos programą ar kenkėjišką programą). Gemini atsakė į alternatyvius saugumo atsakymus ir atsisakė vykdyti grėsmės agento nurodymus “. sakė bendrovė.

Pavyzdžiui, tyrimo komanda paaiškina, kad tinkama grupė nukopijavo viešai prieinamus „Dvynių“ raginimus ir pridėjo pagrindines kodavimo užduočių atlikimo instrukcijas. Šios užduotys apėmė failo teksto kodavimą, jo rašymą iki vykdomojo ryšio ir „Python“ kodo, skirto atsisakyti paslaugų atakų (DDoS) įrankio, rašymo. Pirmuoju atveju „Gemini“ pateikė „Python“ kodą (programavimo kalbą), kad „Base64“ konvertuotų į šešioliktainį, tačiau pateikė saugumo filmuojamą atsakymą, kai vartotojas įvedė tolesnį raginimą, kurio prašoma to paties kodo iš „VBScript“ (scenarijaus kalba).

Kas buvo ištirta

Suprasti tyrimus reiškia suprasti kitą. Todėl „Google“ grėsmės žvalgybos grupė atskleidė, kurios buvo labiausiai ieškomos „CyberCriminal“ grupių temos. Sekite:

Iranas: Ekspertų, tarptautinių gynybos organizacijų, vyriausybinių organizacijų ir temų, susijusių su Irano ir Izraelio konfliktu, tyrimai
Šiaurės Korėja: įvairių sektorių ir geografinių regionų įmonių tyrimai, JAV karinių ir operacijų tyrimai Pietų Korėjoje, Kinijos nemokamų prieglobos teikėjų tyrimai: JAV karinių, JAV IT paslaugų teikėjų, prieigos prie JAV viešosios žvalgybos duomenų bazių, tyrimų tyrimai tiksliniuose tinklo takuose ir tikslinių domenų pavadinimų nustatymas.

Baigdami ataskaitą, „Google“ komentuoja, kad ji kuria AI sistemas „Taikydami tvirtas saugumo priemones ir stiprią apsaugos apsaugą, ir mes nuolat tikriname savo modelių saugumą, kad juos pagerintume. Mūsų politikos gairės ir naudojimo politika teikia pirmenybę „Google“ generatyvinių AI įrankių saugumui ir atsakingam naudojimui. „Google“ politikos kūrimo procesas apima kylančių tendencijų nustatymą, mąstymą nuo galo iki galo ir saugumo projektavimui. Mes nuolat tobuliname savo produktų apsaugą, kad vartotojams visame pasaulyje siūlytume suspaustą apsaugą. “

Išsami informacija apie čia atskleistą informaciją galima sekti prieštaringame netinkamame generatyvinės AI ataskaitoje.