Den konstante stigning i digitale svindelnumre og bedrageri Cyberkriminalitet på sociale medier og i beskedapps har tvunget store tech-virksomheder til at forbedre deres sikkerhedsforanstaltninger betydeligt. Det bliver mere og mere almindeligt, at cyberkriminelle forsøger at stjæle konti, bankoplysninger eller udgiver sig for at være kendte brands gennem beskeder, annoncer og kontakter, der ved første øjekast virker harmløse.
I denne sammenhæng Meta styrker sin sikkerhedsstrategi med en ny generation af AI mod svindel anvendt på Facebook, WhatsApp og MessengerTilgangen er klar: advar brugeren, før de falder i fælden, minimer eksponering for ondsindet indhold, og gør livet så svært som muligt for svindlere, der opererer på deres platforme.
En anti-svindel AI til at holde sig foran svindel på Meta
Meta implementerer et sæt funktioner, der kombinerer kunstig intelligens på selve enheden og analyse på eksterne servereDenne arkitektur muliggør på den ene side respekt for end-to-end-kryptering i tjenester som WhatsApp og Messenger, og på den anden side tilbyder den et ekstra lag af avanceret detektion, når brugeren beslutter sig for at sende bestemt mistænkeligt indhold til gennemgang.
Værktøjerne er baseret på modeller, der er i stand til at analysere tekst, billeder, links og adfærdsmønstreMålet er at identificere alt fra falske annoncer, der bruger kendissers ansigter uden tilladelse, til "teknisk support"-beskeder, der forsøger at indhente bekræftelseskoder, samt venneanmodninger fra falske konti, der søger at vinde offerets tillid.
Ifølge data delt af virksomheden er problemet ikke ubetydeligt: ​​Meta hævder at have forstyrrede millioner af konti og annoncer forbundet med organiserede svindelnetværk på Facebook, Instagram og WhatsApp, i nogle tilfælde knyttet til rigtige svindelcentre spredt over flere lande.
Denne teknologiske offensiv er også afhængig af menneskelige evalueringsteams, der arbejder side om side med AI, så modellerne trænes med virkelige eksempler, og fejlmarginen i klassificeringen af ​​tvivlsomt indhold reduceres.
WhatsApp: Firewall mod kontokapring og mistænkelige grupper
I tilfælde af WhatsAppMetas anti-svindel AI fokuserer på flere særligt almindelige angrebsvektorer: kontokapring via enhedslinkning, teknisk support-svindel og bedrag i ukendte grupper.
En af de vigtigste nye funktioner er et system af Giver besked, når nogen forsøger at forbinde kontoen til en ukendt enhed.Hvis der registreres en mistænkelig anmodning, viser appen oplysninger såsom den placering, hvorfra forsøget stammer, sammen med en eksplicit advarsel om, at det kan være svindel. Dette giver brugeren mulighed for at stoppe processen, før en tredjepart får fuld adgang til deres samtaler.
AI griber også ind i situationer med Skærmdeling under videoopkald med ukendte kontakterNår dette risikomønster registreres, udsender systemet en automatisk advarsel, da mange "teknisk support"-svindelnumre er afhængige af at se brugerens skærm live for at indsamle bankoplysninger, engangskoder eller andre særligt følsomme oplysninger.
Derudover viser grupper, som brugere deltager i uden at vide meget om deres medlemmer, nu en forebyggende sikkerhedspanelDette panel tilbyder oplysninger om gruppen, tips til at opdage svindelforsøg og muligheden for at forlade gruppen uden at interagere, og slå notifikationer fra, indtil brugeren bekræfter, at de ønsker at blive.
Meta tester også Kontekstuelle alarmer ved start af chats med numre, der ikke findes i adressebogenHvis systemet identificerer typiske tegn på phishing, falske investeringer eller uklare pengeanmodninger, anbefaler det at udvise ekstrem forsigtighed og tilbyder muligheden for at blokere eller rapportere med et par tryk.
Facebook: Undersøgelse af venneanmodninger og falske "support"-sider
En FacebookAI-bekæmpelse af svindel har to hovedfronter: mistænkelige venneanmodninger og websteder, der udgiver sig for at være kundeserviceafdelinger eller etablerede brands.
Når platformen modtager en venneanmodning, kan den vise en advarsel, hvis den registrerer risikofaktorer: konti med meget få fælles venner, nyligt oprettede profiler, geografisk oprindelse, der ikke matcher brugerens netværk, eller adfærd, der matcher mønstre forbundet med botnetværk. På denne måde kan brugeren bedre vurdere, om anmodningen skal accepteres, ignoreres eller blokeres før de åbner døren for en potentiel svindler.
Et andet relevant fokuspunkt er falske supportsider og konti der forsøger at snyde brugere, der søger hjælp til at gendanne en konto eller løse et problem. Meta hævder at have taget skridt mod titusindvis af disse websteder, som typisk anmodede om loginoplysninger, identitetsdokumenter eller betalinger for at "fremskynde" angivelige gendannelsesprocesser.
Virksomheden styrker også sine mekanismer til Annoncørverifikation og detektion af svigagtige annoncerDette inkluderer dem, der bruger billeder af berømtheder, forretningsfolk eller offentlige personer uden tilladelse. AI'en sammenligner ansigter og identificerer tilbagevendende manipulationer, der bruges til at legitimere falske investeringer, ikke-eksisterende kampagner eller produkter, der aldrig ankommer.
Dette punkt er særligt følsomt for virksomheder og indholdsskabere i Spanien og resten af ​​Europa, hvor annoncer bruger brug af billedet af iværksættere eller kendte lokale personligheder til at tiltrække ofreskaber forvirring og omdømmeskade, der er vanskelig at reparere.
Messenger: Brugerkonfigurerbar svindeldetektion
Beskedappen, der er knyttet til Facebook, budbringer, inkorporerer en specifik funktion kaldet "Svindelopdagelse"Denne funktion, som er tilgængelig via privatlivs- og sikkerhedsindstillinger, analyserer samtaler initieret af ukendte kontakter mere detaljeret. Når den er aktiveret, giver denne funktion en mere dybdegående analyse af samtaler.
AI fokuserer på karakteristiske mønstre for falske tilbudDisse omfatter: tilbud om fjernarbejde med krav om forudbetalinger, investeringer med garanteret afkast, hastebeskeder med anmodning om penge eller forsøg på at udgive sig for at være supportpersonale fra kendte virksomheder. Hvis den registrerer noget usædvanligt, viser den en advarsel, der angiver den tilstedeværende risikotype, og foreslår at blokere eller rapportere afsenderen.
NÃ¥r brugeren udtrykkeligt har givet tilladelse til det, kan de markerede beskeder sendes fra sag til sag til Metaservere til dybere AI-analyseDette trin afbryder midlertidigt end-to-end-kryptering kun for det specifikke indhold, en beslutning som hver person skal overveje i henhold til deres risikotolerance og bekymringer om privatlivets fred.
Parallelt har Messenger forbedret sit system med linkbeskyttelseFunktionen Sikker browsing, som allerede analyserede URL'er på selve enheden, er nu afhængig af et ekstra lag kaldet avanceret beskyttelse, der er forbundet med løbende opdaterede lister fra farlige websteder. Designet har til formål at blokere adgang til phishing-sider eller malware-downloads uden at afsløre brugerens identitet eller fulde browserhistorik.
For support-, salgs- eller kundeserviceteams, der bruger Messenger som deres almindelige kanal, repræsenterer disse forbedringer både en En yderligere barriere mod svindel rettet mod dit eget brand som et noget mere sikkert miljø for de brugere, de interagerer med dagligt.
Den kunstige intelligens under motorhjelmen
Metas nye sikkerhedsfunktioner er baseret på en hybridarkitektur, der kombinerer to komplementære tilgange. Den første er analyse på enhedenDen fungerer direkte på brugerens mobiltelefon eller computer og respekterer end-to-end-kryptering, da den ikke behøver at sende indhold til eksterne servere for at registrere risikomønstre.
Denne lokale analyse fokuserer på signaler såsom det faktum, at modtage beskeder fra ikke-gemte numreDisse omfatter forsøg på at dele skærmen med fremmede, pludselige ændringer i kontoens adfærd eller tilstedeværelsen af ​​links, der matcher tidligere svindelrapporter. Ved at betjene selve enheden reduceres mængden af ​​data, der sendes eksternt, hvilket giver en øjeblikkelig første forsvarslinje.
Det andet lag aktiveres, når brugeren vælger at Send indhold til gennemgang ved hjælp af AI i skyenI dette tilfælde behandles de markerede beskeder eller elementer af Metas systemer, som bruger mere komplekse modeller til at vurdere, om det, der sker, passer til en kendt type svindel. Hvis analysen konkluderer, at der er en risiko, viser platformen forklaringer om det potentielle svindelnummer og anbefaler specifikke handlinger.
Virksomheden understreger, at der udover AI også er Menneskelige moderationsteams, der gennemgår millioner af indhold om dagenDette menneskelige element er blandt andet det, der gør det muligt at forfine modeller, håndtere de mest delikate sager og afvikle storstilede koordinerede kampagner, der går ud over simple isolerede budskaber.
Hele denne mekanisme suppleres af aftaler med sikkerhedsstyrker og andre aktører i teknologisektoren med henblik på at dele efterretninger om ondsindede domæner, falske kontonetværk og nye taktikker, der anvendes af kriminelle organisationer.
De vigtigste typer af svindelnumre, som Metas AI forsøger at stoppe
Metaplatforme er grobund for en bred vifte af digitale svindelnumreDe nye værktøjer er designet til at opdage og stoppe blandt andet følgende typer af almindelige svindelnumre rettet mod brugere i Spanien og Europa:
- Falske tekniske supportsvindelnumre: Folk, der udgiver sig for at være banksupporttjenester, operatører eller endda Meta selv for at anmode om bekræftelseskoder, adgangskoder eller fjernadgang til enheden.
- Svindel med skærmdeling: videoopkald, hvor svindleren overtaler offeret til at vise sin skærm for at få fat i bankoplysninger, SMS'er med engangskoder eller loginoplysninger til tjenester såsom netbank eller betalingsgateways.
- Ikke-eksisterende jobtilbud og stipendier: Reklamer eller private beskeder, der lover nemme eller velbetalte job til gengæld for en indledende betaling for "procedurer" eller for at give følsomme personlige oplysninger.
- Investeringsordninger og kryptovalutaer: kampagner, der lover hurtige og garanterede afkast, ofte understøttet af uautoriseret brug af berømte personer eller velkendte forretningsmænd.
- Phishing og ondsindede links: URL'er, der efterligner legitime portaler – banker, e-handelsplatforme, offentlige tjenester – med det formål at stjæle loginoplysninger eller installere malware på enheden.
Kombinationen af ​​automatiseret overvågning, sortlister over farlige websteder og brugerrapporteringsmekanismer gør det muligt Systemet tilpasser sig hurtigt til nye variationer af disse svindelnumre.som ofte muterer for lettere at undgå at blive opdaget.
Indvirkning på brugere, virksomheder og grundlæggere, der er afhængige af Meta
Ud over at beskytte den gennemsnitlige bruger har de nye AI-bekæmpelsesfunktioner direkte virkninger på Virksomheder, der bruger Facebook, WhatsApp og Messenger som deres grundlæggende infrastruktur til salg, kundeservice eller opbygning af fællesskab.
På den ene side, hvis en virksomhed bruger WhatsApp Business eller Messenger til at kommunikere med kunder, Deres beskeder kan udløse advarsler, hvis systemet opfatter dem som mistænkelige.For eksempel ved at inkludere mange links eller anmode om følsomme data. Dette kræver gennemgang af manuskripter, tone og hyppighed for at minimere falske positiver og opretholde publikums tillid.
På den anden side, startups i særligt følsomme sektorer – som f.eks. fintech, digital sundhed eller juridiske tjenester— de finder et tydeligt tegn i disse værktøjer: AI-baseret sikkerhed er ikke længere en "ekstra" og er nu en del af minimumsforventningerne i ethvert produkt eller enhver tjeneste, der håndterer kritiske data.
Metas voksende samarbejde med andre teknologiaktører og offentlige organer åbner også døren for Nye muligheder for virksomheder med speciale i cybersikkerhed, som kan integrere deres løsninger med trusselsdetekteringsøkosystemer på store platforme eller levere konsulenttjenester til mindre virksomheder.
I sidste ende vil effektiviteten af ​​disse foranstaltninger afhænge af, at både brugere og organisationer indfører god praksis: aktivering af tilgængelige anti-svindelfunktioner, vedligeholdelse af apps, forsigtighed over for uopfordrede beskeder og rapportering af enhver mistænkelig adfærd til feeddetektionssystemer.
Med implementeringen af ​​dens nye AI mod svindel på Facebook, WhatsApp og MessengerMeta tager et vigtigt skridt i retning af et digitalt miljø, der er noget vanskeligere for svindlere og lidt sikrere for dem, der bruger deres tjenester dagligt, fra individuelle brugere til virksomheder, der er afhængige af disse platforme for en væsentlig del af deres aktivitet.
