Facebook infatti ha introdotto un nuovo algoritmo che elimina in modo automatico tutti gli account fake e troll di vario tipo, ma come funziona?
Il metodo è estremamente complesso e viene chiamato “Deep Entity Classification” (DEC), i cui risultati, secondo Facebook, hanno portato alla chiusura di 6,6 miliardi di profili fake solo nel 2019.
Sono numeri strabilianti, ai quali si aggiungono milioni di tentativi "bloccati sul nascere" di creare profili fake ogni giorno, sempre grazie a DEC, e, che, indirettamente, indicano anche quanto possa essere abnorme l’industria dei profili fake all'interno dei social network, tra cui Facebook vanta ancora il primato.
Tuttavia a fronte di una sfida così grande, Facebook ha risposto con la creazione di un algoritmo di pari impatto.
All’interno del DEC infatti, vengono considerati oltre 20 mila parametri sottoposti ad analisi per ogni profilo, al fine di renderlo puntuale unicamente nella cancellazione di profilo illegittimo e, allo stesso tempo, per rendere l’algoritmo molto più difficile da raggirare.
I primi algoritmi “anti fake” di Facebook prendevano in considerazione pochi parametri, come la quantità di richieste di amicizia inviate in un determinato lasso di tempo dal profilo sospetto.
La prima cosa che si fa con un profilo fake, infatti, è inviare richieste a raffica verso utenti di ogni parte del mondo, al fine di redere "credibile" l'account appena creato, tuttavia, tali limitazioni sono state semplici da superare, suddividendo le richieste di amicizia in modo da bypassare il filtro, circostanza in cui la stessa industria del "fake" ha visto un espansione abnorme.
Con DEC, per converso, Facebook prende in considerazione non solo la stretta rete di amici di un profilo nonchè le richieste di amicizia inviate, ma anche che gli stessi parametri di analisi vengano applicati in direzione dei contatti amicali del profilo analizzato.
DEC, inoltre scandaglia le conversazioni e le componenti dei gruppi, l’attività quotidiana delle interazioni del profilo, nonchè eventuali messaggi privati, od altre parametrizzazioni necessarie a valutare che il profilo interessato sia realmente falso.
Secondo alcune stime, Facebook afferma che all'interno della propria piattaforma non siano presenti oltre il 5% di utenti fake, che rappresentano un valore definito "fisiologico " e motivato dall'evenienza che porterebbe alla chiusura di molti dei profili reali se l'algoritmo venisse reso maggiormente performante, specialmente per via del comportamento o dal numero delle interazione che hanno alcuni utenti.
Applicare il DEC anche a pagine e gruppi: sempre nel 2019, inoltre, ha reso possibile l'eliminazione di oltre 900 tra pagine, gruppi e profili falsi che si adoperavano in progettualità molto sofisticate per diffondere le varie propagande a favore di Trump.
Questi account erano stati creati ad hoc per l'evenienze, anche attraverso l'utilizzo di foto profilo generate da algoritmi di intelligenza artificiale, di complessi network di relazioni, interazioni, like, condivisioni, artatamente simulate, e, soprattutto, gestitite da un centro di comando in Vietnam.
Comportamenti del genere, che potrebbero essere indirizzati verso qualsivoglia campagna per eleggere o screditare eventuali profili avversari o di parte, sono di allarmante rischiosità, specialmente in uno scenario planerario sempre più interconnesso e dipendendente, direttamente o indirettamente, per piccole, medio o grandi aziende, professionisti e cittadini, al "world wide web", o mondo della rete.
Questa è solo una delle tante pericolosità che si celano dietro al fenomeno della "Fake Industries", nonchè motivo della sempre più frequente richiesta di poter disporre, da parte di privati e aziende, di investigazioni poste a presidio delle differenti criticità generate da eventuali "burattinai" che manovrano le fila dell'esercito di milioni di false identità che popolano il mondo digitale nella rete internet.
Basti pensare a competitor artatamente camuffati in false identità di clienti, oppure account fittizzi che prendono le sembianze di aziende fornitrici, sia per trafugare dati o informazioni che eventualmente per apprendere "da vicino" le strategie, le proposte o peggio ancora, eventuali business plan aziendali o clientela strategica.
Nondimeno può capitare che sofisticate opere di ingegneria sociale permettano addirittura di "infiltrarsi" all'interno di differenti procedimenti contabili e amministrativi aziendali e riuscire, persino, ad indurre o facilitare, pagamenti per forniture inesistenti, linee di credito, etc.
Altro aspetto ritenuto di enorme importanza è la diffusione di eventuali fake news, propalate, sempre più frequentemente da ex dipendenti, collaboratori, o personale interno all'azienda, a seguito delle più svariate motivazioni di interruzione del rapporto lavorativo o della fiducia fra le parte, che, dopo dopo aver creato appositi account anonimi, generati con le più sofisticate tecniche di anonimato (sempre più accessibili anche alle mani meno esperte), e confezionate sulle basi di una conoscenza molto approfondita delle vulnerabilità aziendali, rappresentano una delle più diffise motivazioni di pesanti danneggiamenti alla reputazione ed all'immagine del brand societario, spesso consolidata in anni di strategie aziendali, dalle relative catastrofiche conseguenze.