Risparmio e AI: attenzione alle nuove trappole della finanza fake che minacciano i vostri soldi
Quest’estate ha mostrato che l’intelligenza artificiale ha un suo lato oscuro: il maggior rischio arriva dai deepfake, falsi audio e video che rubano facce e voci alle persone Ma per difendere il risparmio dalle minacce le tecnologie più avanzate non bastano
È stata l’estate dei deepfake, video e audio falsi generati dall'intelligenza artificiale (AI da Artificial Intelligence) che stanno diventando sempre più diffusi, convincenti e quindi pericolosi anche per il risparmio. Per il portafoglio l’intelligenza artificiale può trasformarsi in un nemico più subdolo dell’inflazione. Perché l’AI si potrebbe assimilare a un Dottor Jekyll e Mister Hyde dei tempi moderni: è un’alleata con molte virtù, la maggior parte delle quali peraltro ancora tutte da scoprire, perché oggi si vede solo la punta dell’iceberg dei vantaggi che può portare all’industria, alla finanza o alla vita di tutti i giorni. Ma, come rovescio della medaglia, nasconde anche il suo lato oscuro che, come in ogni grande rivoluzione, è molto dannoso se non viene riconosciuto e arginato subito. E in questi mesi si è avuto soltanto un assaggio di uno scenario che potrebbe diventare molto più inquietante di quello che si può prevedere perché l’AI ha il potere di accelerare i cyber-attacchi, ovvero gli attacchi informatici e le frodi digitali mettendo nel mirino ciò che, nel caso dell’Italia, c’è di più prezioso, cioè il risparmio, che è il petrolio del Paese.
Chi suona i campanelli di allarme
Un campanello di allarme su questo fronte arriva non a caso dal mondo assicurativo, industria che per mestiere è abituata a prevenire i rischi: l’adozione dell’intelligenza artificiale, sintetizza l’Allianz Risk Barometer 2024, offre opportunità e vantaggi, ma anche pericoli. Secondo il report gli autori delle minacce stanno già utilizzando modelli linguistici come ChatGPT e l’AI può aiutare gli hacker meno esperti a elaborare nuovi ceppi di programmi digitali esistenti, aumentando il numero di frodi che possono eseguire. «I criminali informatici stanno esplorando modi per utilizzare nuove tecnologie come l’intelligenza artificiale generativa per automatizzare gli attacchi, creando software dannosi e truffe nella rete Internet sempre più efficaci», avverte Scott Sayce, global head of Cyber di Allianz Commercial.
È prevedibile, delinea lo studio di Allianz, un maggiore utilizzo dell’intelligenza artificiale da parte di malintenzionati, e ciò richiederà misure di sicurezza ancora più forti, in particolare sul fronte del deepfake. La parola deepfake è un neologismo nato dalla fusione dei termini fake (falso) e deep learning, una particolare tecnologia AI con la quale è possibile generare contenuti audiovisivi con una elevata precisione. Le tecniche usate dai deepfake, spiega il Garante italiano per la privacy, sono simili a quelle delle varie app con cui ci si può divertire a modificare la morfologia del volto, a invecchiarlo, a fargli cambiare sesso. La materia di partenza sono sempre i veri corpi e le vere voci delle persone, trasformati però in falsi digitali.
L’evoluzione del deepfake
Originariamente sviluppate nel mondo dell’intrattenimento, come ausilio agli effetti speciali cinematografici, le tecnologie deepfake erano inizialmente molto costose e quindi poco diffuse, ricorda il Garante per la privacy, ma negli ultimi tempi hanno iniziato a diffondersi applicazioni che rendono possibile realizzare deepfake, anche molto ben elaborati e sofisticati, utilizzando un comune smartphone: la manipolazione delle immagini non è sicuramente una novità, ma se un tempo solo i più esperti potevano ingannare l’occhio umano oggi è molto più semplice, basta scaricare software che circolano su Internet. Allianz afferma che è possibile comprare anche online a prezzi bassi, a partire da 20 dollari al minuto, la tecnologia video del deepfake. La loro diffusione è di conseguenza aumentata, e con essa i rischi. Il problema sorge quando il volto e il timbro vocale di una persona vengono manipolati per farle dire o fare cose che non ha mai detto o fatto. Il deepfake difatti ha trovato terreno fertile ed è sempre più utilizzato in contesti fraudolenti, come la creazione di fake news. La sua capacità di creare false realtà rende difficili da distinguere dai contenuti autentici. «I deepfake vengono creati addestrando un modello di apprendimento automatico su un ampio set di immagini o video di una persona, per esempio un candidato politico. In totale, in un solo anno, tra il 2019 e il 2020, la quantità di contenuti online deepfake è aumentata del 900%. Entro il 2026 la maggioranza dei contenuti online potrebbe essere generata in modo artificiale, rendendo ancora più difficoltoso distinguere quelli autentici da quelli fraudolenti generati con il supporto dell’AI. Più dati sono disponibili, infatti, più il falso è realistico e quindi il pericolo cresce», afferma Yves Kramer, gestore del Thematic Equities di Pictet Asset Management. Un’analisi di SumSub fotografa i Paesi con il maggior aumento di casi di frode tramite deepfake dal 2022 al 2023: in testa ci sono le Filippine (+4.500%), poi Vietnam (+3.050), Usa (3.000%) e Belgio (+2.950%).
Le previsioni di crescita
Dopo la crescita esponenziale di quest’ultimo anno degli attacchi basati sui video falsi, Deloitte stima che le perdite finanziarie provocate dai deepfake avranno un’accelerazione: saliranno da 12,3 miliardi di dollari nel 2023 a 40 miliardi di dollari entro il 2027 soltanto negli Usa. Un tasso di crescita annuo del 32%. Le proiezioni indicano che questi attacchi aumenteranno ulteriormente nei prossimi anni. Si prevede un incremento tra il 50% e il 60% entro il 2024, con una stima di 140 mila-150 mila incidenti deepfake su scala globale. Mentre all'inizio il pericolo sembrava riguardare solo personaggi famosi dello spettacolo o politici (come per i video fake su Barak Obama, Nicolas Cage, la regina Elisabetta, tanto per citarne alcuni e l’ultimo caso di Tom Hanks), oggi non è più così: i deepfake sono diventati un pericolo per tutti. A gennaio 2024 una dipendente di un'azienda con sede a Hong Kong ha inviato 25 milioni di dollari a dei truffatori dopo essere stata istruita in tal senso dal suo direttore finanziario durante una videochiamata a cui partecipavano anche altri colleghi. Si è scoperto, tuttavia, che non era impegnata in una chiamata con nessuna di queste persone: i pirati hanno creato un deepfake che replicava le loro somiglianze per indurla a inviare il denaro.
La consulenza finanziaria sarà dominata dall’AI
Il settore tecnologico fatica a tenere il passo, soprattutto nell'identificazione dei deepfake audio. Ne è rimasto vittima a luglio scorso anche il governatore di Bankitalia, Fabio Panetta. Deloitte mette in luce come il settore finanziario sia diventato uno dei bersagli principali di questa ondata di frodi basati sull’AI perché, a differenza dei video falsi sui personaggi famosi, in tema di risparmio consentono di estorcere denaro molto più facilmente. Intanto, sempre secondo Deloitte, le applicazioni basate sull’intelligenza artificiale generativa diventeranno la principale fonte di consulenza sugli investimenti per gli investitori Usa, passando da meno del 10% nel 2024 al 78% nel 2028. Alcune società finanziarie sono in procinto di portare le capacità di AI generativa nei servizi rivolti ai clienti, mentre i nuovi operatori come le aziende tecnologiche potrebbero avventurarsi nell’offrire consulenza sugli investimenti basata sulle loro capacità di AI.
Le tecnologie che combattono il deepfake
Man mano che il mercato dell’intelligenza artificiale generativa cresce, le istituzioni finanziarie e altri fornitori offriranno ai singoli investitori un mix di consulenza, virtuale e tramite un banker in carne e ossa. Diventerà quindi sempre più difficile separare la realtà creata dall’Ai per scopi leciti da quella, realizzata con le stesse tecnologie, dai pirati informatici. «È interessante notare che la stessa intelligenza artificiale generativa può essere parte della soluzione, in quanto il settore della sicurezza informatica adatta modelli linguistici di grandi dimensioni per rilevare gli attacchi e contrastare le minacce provenienti da un codice pericoloso generato da altre macchine», prosegue il gestore di Pictet. In questa fase, sempre secondo il money manager, i protagonisti dei deepfake restano un passo avanti, poiché la quantità di risorse dedicate allo sviluppo di nuove forme di contenuti generativi è ben superiore a quella investita nello sviluppo di tecniche di rilevamento avanzate.
«Molti strumenti di rilevamento dei deepfake ad oggi mirano ad individuare piccoli difetti in audio e video per identificarli come contenuti manipolati. Mentre una delle tecniche più efficaci finora impiegate adotta l'approccio opposto, ricavando qualità uniche dei filmati reali che i deepfake non possono cogliere», afferma Kramer che cita FakeCatcher di Intel, «uno strumento che identifica le immagini false di persone utilizzando la foto-pletismografia, una tecnica che rileva i cambiamenti del flusso sanguigno nel viso». Un’altra iniziativa promettente, aggiunge Kramer, «è quella proposta dalla Coalition for Content Provenance and Authenticity: utilizzando una firma digitale crittografata si potrebbe garantire maggiore trasparenza sulla creazione di un contenuto multimediale». E anche l’Italia è in prima fila nello sviluppo di sistemi anti-deepfake. In ogni caso, «la tecnologia da sola non potrà mai risolvere il problema dei deepfake, ma è necessario che i consumatori imparino a osservare e valutare in maniera più critica i contenuti che consultano, invece di fidarsi di tutto ciò che si vede senza verificarne origine e credibilità», conclude Kramer. (riproduzione riservata)
