Takto funguje nový systém upozornení na podvody na Facebooku, WhatsApp a Messengeri

Online sledovatelia » sociálne siete » Takto funguje nový systém upozornení na podvody na Facebooku, WhatsApp a Messengeri

Za posledných pár mesiacov Spoločnosť Meta zvolila nový prístup k ochrane pred podvodmi vo svojich hlavných službách: Facebook, WhatsApp a Messenger. Spoločnosť zavádza systém upozornení a kontrol určených na zastavenie podvodov v kritickom bode: keď používateľ dostane podozrivú žiadosť o priateľstvo, pokúsi sa prepojiť svoj účet na novom zariadení alebo začne chat s niekým, kto by mohol byť podvodník.

Tento nový prístup kombinuje umelá inteligencia, viditeľné upozornenia a prísnejšia kontrola reklamyCieľ je jasný: minimalizovať vystavenie sa podvodom, ktoré sa spoliehajú na krádež identity, klamlivé odkazy a reklamy, ktoré by sa nikdy nemali dostať na nikoho stenu, najmä na vysoko regulovaných trhoch, ako je Európska únia.

Systém upozornení: ako vás Facebook, WhatsApp a Messenger upozornia

Najviditeľnejšou zmenou pre používateľa je príchod kontextové upozornenia na všetkých troch platformáchNejde len o vymazanie obsahu, keď už existujú obete, ale o pridanie „trecích bodov“ tesne predtým, ako niekto klikne, prijme žiadosť alebo zdieľa overovací kód.

Meta vysvetľuje, že tieto upozornenia sa spúšťajú, keď ich systémy zistia známky abnormálneho správania alebo typické vzorce podvodovTúto detekciu vykonávajú modely umelej inteligencie, ktoré analyzujú okrem iného informácie o profile, typ správy, zahrnuté odkazy a miesto, z ktorého aktivita pochádza.

Facebook: Upozornenia na podozrivé žiadosti o priateľstvo

Na Facebooku spoločnosť testuje systém upozornení, ktorý sa aktivuje, keď Žiadosť o priateľstvo pochádza z účtu s rizikovými vlastnosťamiMedzi tieto indikátory patria profily s veľmi malým počtom spoločných priateľov, poloha v inej krajine ako používateľ alebo účty, ktoré sa zdajú byť novovytvorené.

Keď systém zistí tieto typy signálov, zobrazí upozornenie predtým, ako používateľ prijme požiadavkuSpráva pripomína príjemcovi, že účet by mohol používať podvodné metódy a ponúka jasné možnosti: ponechať žiadosť, ignorovať ju, zablokovať odosielateľa alebo ju nahlásiť. Cieľom je poskytnúť viac kontextu pre gesto, ktoré často vykonávame takmer automaticky.

WhatsApp: Upozornenia, keď sa niekto pokúsi prepojiť váš účet s iným zariadením

Keď sa niekto pokúsi prepojiť účet WhatsApp s novým zariadením a systém to zistí nezvyčajné správanie alebo podozrivá požiadavkaAplikácia zobrazí na obrazovke upozornenie. Táto správa označuje miesto, z ktorého pochádza žiadosť o prepojenie, a výslovne varuje, že môže ísť o pokus o podvod, čím vyzve používateľa, aby proces zastavil. chráňte svoj smartfón.

Toto posilnenie je navrhnuté tak, aby obmedzilo rozšírené taktiky, ako sú falošné súťaže, pracovné ponuky alebo údajná technická podpora, ktorá od používateľa žiada zdieľanie odkazovacieho kódu alebo naskenovanie QR kódu. Zámerom je dať používateľovi druhú šancu byť podozrievavý. pred odovzdaním kľúčov k vášmu účtu.

Messenger: Pokročilá detekcia podvodných konverzácií

V Messengeri rozširuje Meta systém do ďalších krajín pokročilá detekcia podvodov v samotných chatochV tomto prípade sa pozornosť zameriava na rozhovory s novými kontaktmi, kde pokusy o podvod zvyčajne začínajú prostredníctvom nerealistických pracovných ponúk, údajných zázračných investícií alebo naliehavých žiadostí o peniaze.

Ak systém zistí vzory, ktoré zodpovedajú bežným podvodom, V konverzácii sa zobrazí upozornenieV tom momente sa Messenger môže používateľa opýtať, či chce zdieľať časť chatu, aby ju nástroj umelej inteligencie mohol podrobnejšie analyzovať. Ak sa po tejto kontrole zistí vysoké riziko podvodu, zobrazia sa vysvetlenia o type zisteného podvodu a navrhnú sa akcie, ako napríklad zablokovanie alebo nahlásenie účtu.

Táto funkcia sa spolieha na hybridný model: Časť analýzy sa vykonáva na samotnom zariadení, aby sa zachovalo súkromie.Iba ak to používateľ autorizuje, fragmenty sa odošlú na servery spoločnosti Meta na ďalšie preskúmanie. Spoločnosť zdôrazňuje, že toto dodatočné preskúmanie je voliteľné a vzťahuje sa na konkrétne správy, nie na celú históriu.

Umelá inteligencia ako základ systému varovania pred podvodmi

Za týmito novými funkciami sa skrýva oveľa menej viditeľné zavádzanie: modely umelej inteligencie Meta tvrdí, že tieto systémy sú vyškolené na identifikáciu zložitých vzorcov podvodov vo veľkých objemoch obsahu a sú schopné súčasne analyzovať text, obrázky, odkazy a kontext, v ktorom sa zobrazujú.

Jedným z prioritných cieľov je boj proti tzv. Celebná návnada, používanie obrázkov celebrít alebo verejne známych osôb bez ich povolenia na zvýšenie dôveryhodnosti klamstievV tomto prípade je umelá inteligencia zodpovedná za odhaľovanie podozrivých biografií, falošných spojení so známymi osobnosťami alebo údajných svedectiev, ktoré nezodpovedajú realite; to všetko súvisí s možnými phishing a zneužívanie osobných údajov.

Ďalší front je v Odkazy vedúce na podvodné stránky kopírujúce vzhľad legitímnych webových stránokako sú banky, stránky elektronického obchodu alebo vládne služby. Systémy spoločnosti Meta sa zameriavajú na identifikáciu týchto domén, rozpoznanie opakujúcich sa dizajnových vzorov a proaktívne zníženie ich šírenia v publikáciách aj reklamách.

Podľa údajov poskytnutých spoločnosťou viac ako 159 miliónov podvodných reklám na celom svetea približne 92 % bolo odstránených skôr, ako ich ktorýkoľvek používateľ nahlásil. V prípade Meta toto číslo naznačuje, že Automatická detekcia funguje už vo veľmi skorom štádiuzníženie potenciálneho rozsahu podvodov.

Masívne prehľadávanie účtov a spolupráca s bezpečnostnými zložkami

Nástroje na upozornenie sú súčasťou širšej stratégie, ktorá zahŕňa operácie proti rozsiahlym podvodným sieťamLen v minulom roku spoločnosť Meta deaktivovala 10,9 milióna účtov na Facebooku a Instagrame spojených s organizovanými podvodnými centrami a okrem toho spolupracovala na medzinárodných iniciatívach na rozloženie zločineckých infraštruktúr.

V jednej z týchto operácií, koordinovanej s policajnými silami z niekoľkých krajín, Viac ako 150 000 účtov prepojených s podvodnými centrami v juhovýchodnej Ázii bolo deaktivovaných. a zatknutia boli vykonané v Thajsku. Spoločnosť zdôrazňuje, že tieto typy spoločných akcií sa spoliehajú na výmenu informácií s orgánmi činnými v trestnom konaní a inými technologickými spoločnosťami; v Španielsku a Európe organizácie ako INCIBE Posilnili svoju úlohu zoči-voči nárastu kybernetických útokov.

Počas týchto vyšetrovaní boli odhalené obzvlášť agresívne formy podvodov, ako napríklad podvody, ktoré sa vydávajú za orgány činné v trestnom konaní alebo verejné orgány zastrašovať obete alebo tzv. „digitálne zatýkania“, pri ktorých sa fingované zatýkania reprodukujú prostredníctvom videohovoru s cieľom vynútiť si okamžité platby.

Meta tvrdí, že súčasné podvodné siete sú Sú vysoko mobilní, rýchlo menia taktiku a preskakujú medzi rôznymi platformami.Reakcia preto kombinuje technické opatrenia v rámci svojich služieb s právnymi požiadavkami, policajnými operáciami a informačnými kampaňami zameranými na používateľov.

Reklama pod dohľadom: Overenie inzerenta a čistenie inventára

Ďalším pilierom plánu je reklama. Meta uznáva, že Významná časť podvodov sa k používateľom dostáva maskovaná ako reklama.Spoločnosť, ktorá je často prezentovaná profesionálne a zameraná na veľmi špecifické publikum, sama pripustila, že reklama súvisiaca s podvodmi a zakázanými produktmi mohla v poslednom fiškálnom roku tvoriť približne 10 % jej príjmov, čo vyvoláva vážne obavy.

Aby spoločnosť napravila túto situáciu, rozširuje svoj program overenie inzerentaV závislosti od krajiny, v ktorej sú reklamy zverejnené, histórie dodržiavania pravidiel a typu propagovaného produktu, môže byť inzerent povinný potvrdiť svoju totožnosť a poskytnúť dodatočnú dokumentáciu.

Uvedeným cieľom je, aby 90 % príjmov z reklamy pochádza od overených inzerentovobmedzenie zostávajúcich 10 % na podniky považované za nízkorizikové. Spoločnosť tvrdí, že tento pridaný filter by mal sťažiť vstup na trh aktérom, ktorí sa snažia utajiť, kto skutočne stojí za kampaňou.

Z pohľadu európskeho používateľa sú tieto opatrenia v súlade s požiadavky nariadenia Európskej únie o digitálnych službáchčo vyžaduje, aby hlavné platformy prísnejšie dohliadali na reklamu, znižovali systémové riziko spojené s nezákonným obsahom a ponúkali väčšiu transparentnosť v tom, kto inzeruje a na aký účel.

Viac než len technológia: vzdelávanie a spoločná zodpovednosť

Meta pripúšťa, že ani umelá inteligencia, ani výstražné systémy samy o sebe nestačia. Preto tieto zmeny sprevádza... kampane na zvyšovanie povedomia v rôznych krajináchv spolupráci s verejnými orgánmi, združeniami finančného sektora a agentúrami na ochranu spotrebiteľa.

Tieto iniciatívy často pozostávajú z Informatívne správy v samotných aplikáciách, vzdelávací obsah na sociálnych sieťach alebo praktické príručky identifikovať bežné podvody. Dôraz sa kladie na obzvlášť zraniteľné skupiny, ako sú starší ľudia, používatelia s menšími digitálnymi skúsenosťami alebo tí, ktorí často dostávajú správy týkajúce sa investícií a zamestnania; mnohé z týchto príručiek obsahujú kroky, ako blokovať spamové hovory a správy.

Spoločnosť trvá na tom, že Bezpečnosť je spoločným úsilímPlatformy musia minimalizovať priestor pre konanie podvodníkov, ale používatelia musia tiež prijať určité preventívne opatrenia. Medzi základné odporúčania patrí opatrnosť pri neočakávaných kontaktoch, starostlivé preverovanie akýchkoľvek žiadostí o osobné údaje alebo kódy a vyhýbanie sa klikaniu na odkazy v nevyžiadaných správach. Okrem toho sa odporúča venovať pozornosť zastaraným zariadeniam, pretože zastarané mobilné telefóny Môžu uľahčiť krádež účtu.

V tejto súvislosti nové upozornenia na Facebooku, WhatsApp a Messengeri fungujú ako ďalšia vrstva ochrany, ktorá pri správnom používaní môže zabrániť viacerým nepríjemným prekvapeniam. Kombinácia umelej inteligencie, overovania inzerentov, policajnej spolupráce a upozornení v reálnom čase Poukazuje na scenár, v ktorom naletieť na podvod nezávisí len od neopatrnosti, ale aj od prekonania niekoľkých prekážok, ktoré majú sťažiť prácu kyberzločincom.