„Meta“ išbando veido atpažinimą, kad nustatytų „įžymybių masalo“ skelbimų sukčiavimą ir lengvesnį paskyros atkūrimą
„Meta“ plečia veido atpažinimo testus, kaip kovos su sukčiavimu priemonę, siekdama kovoti su įžymybių sukčių skelbimais ir plačiau, pirmadienį paskelbė „Facebook“ savininkas.
Monika Bickert, „Meta“ turinio politikos viceprezidentė, savo tinklaraščio įraše rašė, kad kai kuriais bandymais siekiama sustiprinti esamas kovos su sukčiavimu priemones, pvz., automatinį nuskaitymą (naudojant mašininio mokymosi klasifikatorius), kurie vykdomi kaip skelbimų peržiūros sistemos dalis. sukčiams sunkiau patekti į jos radarą, o „Facebook“ ir „Instagram“ vartotojus spustelėti netikrus skelbimus.
„Sukčiai dažnai bando naudoti viešų asmenų, pavyzdžiui, turinio kūrėjų ar įžymybių, atvaizdus, kad priviliotų žmones, kad jie įsitrauktų į skelbimus, nukreipiančius į sukčių svetaines, kuriose jų prašoma pasidalinti asmenine informacija arba siųsti pinigus. Ši schema, paprastai vadinama „įžymybių masalu“, pažeidžia mūsų politiką ir kenkia žmonėms, kurie naudojasi mūsų produktais“, – rašė ji.
„Žinoma, įžymybės rodomos daugelyje teisėtų skelbimų. Tačiau kadangi garsenybių masalo reklamos dažnai kuriamos taip, kad atrodytų tikroviškos, jas aptikti ne visada lengva.
Atrodo, kad atliekant bandymus naudojamas veido atpažinimas kaip atsarginė priemonė tikrinant skelbimų vėliavėles kaip įtariamas esamose Meta sistemose, kai jose yra viešo asmens, kuriam gresia vadinamasis „įžymybių masalas“, atvaizdas.
„Bandysime naudoti veido atpažinimo technologiją, kad palygintume reklamoje esančius veidus su viešo asmens Facebook ir Instagram profilių nuotraukomis“, – rašė Bickertas. „Jei patvirtinsime atitiktį ir kad skelbimas yra sukčiavimas, jį užblokuosime.
„Meta“ tvirtina, kad ši funkcija nenaudojama jokiais kitais tikslais, kaip tik kovojant su sukčiavimo skelbimais. „Nedelsdami ištriname visus veido duomenis, sugeneruotus iš skelbimų, kad galėtume atlikti šį vienkartinį palyginimą, neatsižvelgiant į tai, ar mūsų sistema randa atitiktį, ir nenaudojame jų jokiam kitam tikslui“, – sakė ji.
Bendrovė teigė, kad ankstyvieji šio metodo bandymai su „nedidele įžymybių ir visuomenės veikėjų grupe“ (nenurodė, kas) parodė „daug žadančius“ rezultatus, pagerinančius tokio tipo sukčiavimo aptikimo ir vykdymo užtikrinimo greitį ir veiksmingumą.
Meta taip pat sakė „TechCrunch“, mananti, kad veido atpažinimo naudojimas būtų veiksmingas norint aptikti netikrus sukčiavimo skelbimus, kur generatyvus AI buvo naudojamas garsių žmonių vaizdams kurti.
Socialinių tinklų milžinas daug metų kaltinamas nesugebėjęs sustabdyti sukčių, pasisavinančių žinomų žmonių veidus, siekdami panaudoti jos skelbimų platformą, kad neįtariantiems vartotojams būtų atmesti aferos, pavyzdžiui, abejotinos kriptovaliutos investicijos. Taigi įdomus metas, kai „Meta“ imasi veido atpažinimo pagrindu sukurtų kovos su sukčiavimu priemonių šiai problemai spręsti dabar, kai įmonė vienu metu bando paimti kuo daugiau vartotojų duomenų, kad galėtų apmokyti savo komercinius AI modelius (kaip dalį platesnė visos pramonės šaka kuriant generatyvius AI įrankius).
Artimiausiomis savaitėmis „Meta“ pranešė, kad programoje pradės rodyti pranešimus didesnei grupei viešųjų asmenų, kuriuos nukentėjo nuo įžymybių masalo, pranešdama jiems, kad jie yra įtraukti į sistemą.
„Visuomenės asmenys, įtraukti į šią apsaugą, gali bet kada atsisakyti savo paskyrų centre“, – pažymėjo Bickertas.
„Meta“ taip pat bando naudoti veido atpažinimo funkciją, kad aptiktų įžymybių apgavikų paskyras – pavyzdžiui, kai sukčiai platformoje siekia apsimesti viešais asmenimis, kad padidintų savo galimybes sukčiauti – vėlgi naudodama dirbtinį intelektą, kad palygintų įtartinos paskyros profilio nuotraukas su visuomenės veikėjo Facebook ir Instagram profilių nuotraukos.
„Tikimės netrukus išbandyti šį ir kitus naujus metodus“, – pridūrė Bickertas.
Vaizdo įrašų asmenukės ir AI paskyrai atrakinti
Be to, „Meta“ paskelbė, kad išbando veido atpažinimo funkciją, taikomą vaizdo asmenukėms, kad būtų galima greičiau atrakinti paskyras žmonėms, kurie buvo užblokuoti savo „Facebook“ / „Instagram“ paskyroje po to, kai juos perėmė sukčiai (pavyzdžiui, jei asmuo buvo apgaule perduoti savo slaptažodžius).
Panašu, kad tai turėtų patikti naudotojams, nes reklamuoja akivaizdžią veido atpažinimo technologijos naudą tapatybės patvirtinimui – Meta reiškia, kad tai bus greitesnis ir lengvesnis būdas atgauti prieigą prie paskyros nei įkeliant valdžios išduoto asmens tapatybės dokumento vaizdą (tai įprasta prieigos atrakinimo maršrutas dabar).
„Vaizdo asmenukės patvirtinimas išplečia žmonių galimybes atgauti prieigą prie paskyros, užtrunka tik minutę ir yra lengviausias būdas žmonėms patvirtinti savo tapatybę“, – sakė Bickertas. „Nors žinome, kad įsilaužėliai ir toliau bandys išnaudoti paskyros atkūrimo įrankius, įsilaužėliams galiausiai bus sunkiau piktnaudžiauti šiuo patvirtinimo metodu nei tradiciniu dokumentais pagrįstu tapatybės patvirtinimu.
Veido atpažinimu pagrįstą vaizdo asmenukės atpažinimo metodą, kurį išbando „Meta“, vartotojas turės įkelti vaizdo asmenukę, kuri vėliau bus apdorojama naudojant veido atpažinimo technologiją, kad būtų galima palyginti vaizdo įrašą su profilio nuotraukomis paskyroje, kurią bando pasiekti.
„Meta“ tvirtina, kad šis metodas panašus į tapatybės patvirtinimą, naudojamą atrakinant telefoną arba prieiti prie kitų programų, tokių kaip „Apple FaceID“ „iPhone“. „Kai kas nors įkels vaizdo asmenukę, ji bus užšifruota ir saugiai saugoma“, – pridūrė Bickertas. „Jis niekada nebus matomas jų profilyje, draugams ar kitiems „Facebook“ ar „Instagram“ žmonėms. Nedelsdami ištriname visus veido duomenis, sugeneruotus atlikus šį palyginimą, nepaisant to, ar yra atitiktis, ar ne.
Vienas iš būdų, kaip „Meta“ išplėsti savo pasiūlą skaitmeninės tapatybės erdvėje, gali būti sudaryti sąlygas vartotojams įkelti ir saugoti vaizdo įrašą asmenukės tapatybės patvirtinimui – jei pakankamai vartotojų pasirinks įkelti savo biometrinius duomenis.
Jokių bandymų JK ar ES – kol kas
Visi šie veido atpažinimo testai yra vykdomi visame pasaulyje, „Meta“. Tačiau bendrovė gana akivaizdžiai pažymėjo, kad JK ar Europos Sąjungoje, kur taikomos išsamios duomenų apsaugos taisyklės, bandymai šiuo metu neatliekami. (Konkrečiu biometrinių duomenų, skirtų tapatybės patvirtinimui, atveju bloko duomenų apsaugos sistema reikalauja aiškaus atitinkamų asmenų sutikimo tokiu atveju.)
Atsižvelgiant į tai, atrodo, kad „Meta“ testai atitinka platesnę viešųjų ryšių strategiją, kurią pastaraisiais mėnesiais ji įdiegė Europoje, siekdama priversti vietos įstatymų leidėjus susilpninti piliečių privatumo apsaugą. Šį kartą priežastis, dėl kurios ji raginama siekti nevaržomo duomenų apdorojimo dirbtiniu intelektu, yra ne (savarankiška) duomenų įvairovės samprata ar teiginiai apie prarastą ekonomikos augimą, o aiškesnis tikslas kovoti su sukčiais.
„Mes bendradarbiaujame su JK reguliavimo institucija, politikos formuotojais ir kitais ekspertais, o bandymai juda į priekį“, – „TechCrunch“ sakė „Meta“ atstovas Andrew Devoy. „Mes ir toliau sieksime ekspertų atsiliepimų ir koreguosime, kai funkcijos vystysis.”
Tačiau nors veido atpažinimo naudojimas siauriems saugumo tikslams gali būti priimtinas, o „Meta“ gali imtis pagal galiojančias duomenų apsaugos taisykles, žmonių duomenų naudojimas lavinant komercinius dirbtinio intelekto modelius yra visiškai kitoks žuvies katilas.