Con l’avvento e la diffusione della AI generativa (GenAI), la convergenza tra intelligenza artificiale e edge computing si fa sempre più profonda. Il perché naturalmente si spiega con i benefici di business e i casi d’uso che questa convergenza può generare in ogni singola industria.
All’interno delle organizzazioni, il tema sta del resto acquisendo sempre maggiore rilevanza nell’agenda dei chief information officer: più AI e GenAI vengono integrate in un numero crescente di settori, applicazioni, dispositivi, più aumentano i casi di utilizzo in cui il processo decisionale della AI e la risposta del sistema, per soddisfare requisiti di elaborazione dati real-time e di riduzione dei costi, ha necessità di slegarsi dalla costante dipendenza dal cloud. Per gestire questi workload si ricorre all’edge computing, un’architettura che permette di elaborare i dati alla periferia della rete (edge), il più vicino possibile alla fonte che li origina.
Cresce il peso della GenAI nel mercato totale AI
Nel mercato globale della AI, la AI generativa acquista sempre più importanza. La spesa mondiale per l’intelligenza artificiale, incluse le applicazioni AI-enabled, l’infrastruttura e i relativi servizi IT e aziendali, stando a quanto prevede la società di ricerche e consulenza IDC, sarà più che raddoppiata entro il 2028, raggiungendo 632 miliardi di dollari. La rapida integrazione della AI, e della AI generativa in particolare, in un’ampia gamma di prodotti genererà un un tasso di crescita annuale composto (CAGR) del 29% nel periodo della previsione (2024-2028).
Nonostante la GenAI abbia catturato l’attenzione del mondo negli ultimi 18 mesi, precisa IDC, la spesa per le soluzioni GenAI sarà inferiore al totale di tutte le altre applicazioni di AI, come l’apprendimento automatico (machine learning), l’apprendimento profondo (deep learning), il riconoscimento vocale automatico (ASR) e l’elaborazione del linguaggio naturale (NLP). Tuttavia, la rapida crescita degli investimenti in GenAI consentirà a questa tecnologia di superare il mercato complessivo della AI, con un CAGR che nei cinque anni sarà pari al 59,2%. Entro la fine della previsione, IDC prevede che la spesa GenAI raggiungerà i 202 miliardi di dollari, pari al 32% della spesa complessiva per la AI.
Edge computing e edge AI
Parallelamente, la domanda di automazione ed elaborazione dati in tempo reale sta guidando l’incremento della spesa globale nel comparto edge computing. Quest’ultima, sempre sulla base delle stime di IDC, è prevista raggiungere 228 miliardi di dollari nel 2024, con un aumento del 14% rispetto al 2023, calcolando la spesa combinata di imprese e service provider per hardware, software, servizi professionali e servizi di provisioning per le soluzioni edge. La crescita sarà forte e sostenuta fino al 2028, con una spesa stimata di circa 378 miliardi di dollari.
L’edge computing diventa cruciale quando l’esigenza è portare le funzionalità AI il più vicino possibile a dove sono i dati. Si parla, allora, di edge AI: è il caso, ad esempio, dei sistemi di visione artificiale per l’ispezione industriale e il controllo qualità basati su AI, che devono identificare in tempo reale i difetti dei prodotti sulle linee di produzione. Qui, nell’hardware embedded locale, acceleratori AI come il chip Metis AIPU (AI processing unit), o gli AI e GenAI accelerator della famiglia Hailo, consentono di eseguire algoritmi di inferenza direttamente nell’edge.
“Con lo spostamento della focalizzazione della AI dal training all’inferenza, l’edge computing sarà necessario per soddisfare la necessità di ridurre la latenza e migliorare la privacy” ha dichiarato Dave McCarthy, research vice president per la practice Cloud and Edge Services di IDC. “Questo trend” ha aggiunto McCarthy “non solo ottimizza l’efficienza delle operazioni, ma favorisce anche nuovi modelli di business che in precedenza non erano possibili con l’infrastruttura centralizzata. La distribuzione di applicazioni e dati verso le infrastrutture edge consente di prendere decisioni più rapide e di ridurre la congestione della rete”.
Il settore manifatturiero, dice IDC, rappresenta la fetta più consistente della spesa per edge computing: negli impianti di produzione, l’infrastruttura edge consente il monitoraggio in tempo reale di attrezzature e processi, riducendo i fermi macchina (downtime) e migliorando l’efficienza operativa. Il caso d’uso della manutenzione predittiva, alimentata dall’intelligenza artificiale implementata a livello edge (edge AI), aiuta le aziende a evitare guasti costosi, identificando i problemi prima che si aggravino.
GenAI “at-the-edge”
La edge AI è integrabile in dispositivi edge equipaggiati con adeguate risorse di calcolo, memoria, storage per l’acquisizione ed elaborazione dati locale in tempo reale o near-real-time (NRT), o anche in sensori e dispositivi IoT (Internet of Things) e IIoT (Industrial IoT) dedicati alla raccolta di dati sul campo, in uffici, stabilimenti, ambienti di fabbrica. Nell’infrastuttura IoT edge, l’implementazione di AI e GenAI nei device consente la creazione di una IoT cognitiva (cognitive IoT). Un esempio è il progetto VEDLIoT (Very Efficient Deep Learning in IoT), finanziato dall’Ue, che trova applicazioni nella IoT industriale, o nei settori automotive e smart home.
La rapida crescita degli investimenti in GenAI porta di conseguenza all’aumento dei casi d’uso in cui la AI generativa richiede una implementazione a livello edge. In maniera analoga ai più tradizionali progetti di edge AI, la GenAI integrata nell’edge permette alle organizzazioni di ottenere benefici chiave. La GenAI può aiutare un operatore a dialogare in linguaggio naturale con una macchina o con un robot, o a ottenere risposte da un sistema di manutenzione predittiva sul perché c’è stato un calo di produzione, o quando si verificherà un downtime su un impianto, senza dover analizzare complessi fogli elettronici o eseguire interrogazioni complesse nei database.
In questi casi d’uso, la GenAI implementata nell’edge può funzionare utilizzando LLM (large language model) personalizzati in base a dataset ricavati localmente dai dispositivi IIoT connessi alle infrastrutture di produzione, minimizzando la latenza nei tempi di risposta del sistema. Oltre al vantaggio di interagire e ottenere risposte dalla GenAI in tempo reale, la AI generativa integrata nell’edge fornisce benefici di affidabilità e risparmio di banda, in quanto è possibile ridurre il volume di dati trasferiti verso i server del cloud centralizzato. L’elaborazione a livello locale consente poi di minimizzare i rischi di violazioni dei dati, mantenendo le informazioni sensibili sui dispositivi edge, rafforzando la sicurezza e la conformità con regolamenti e normative di protezione dei dati.
