Qualcomm, fornitore leader di comunicazioni e processori wireless, ha fatto passi da gigante nel campo dell’intelligenza artificiale (AI) al Mobile World Congress di Barcellona. L’obiettivo principale dell’azienda è eseguire l’intelligenza artificiale su larga scala su dispositivi edge come telefoni, computer e altri dispositivi.
Qualcomm ha eseguito con successo il primo Large Language (LLM) e il primo modello multimodale di grandi dimensioni al mondo su un telefono Android, consentendo una conversazione in più fasi simile a una chat tra l’utente e il suo dispositivo. Inoltre, la società ha annunciato piani per accelerare l’intelligenza artificiale su un’ampia gamma di dispositivi edge, inclusi computer, veicoli, telefoni, dispositivi IoT industriali, punti di accesso Wi-Fi e infrastrutture cellulari di prossima generazione.
Hub AI Qualcomm facile da usare
Per facilitare lo sviluppo di applicazioni IA, Qualcomm ha creato AI Hub, che fornisce agli sviluppatori una vasta libreria di modelli AI ottimizzati per prestazioni elevate su Snapdragon e altre piattaforme Qualcomm. La piattaforma offre molte funzionalità, come il rendering di immagini e testo e un’inferenza fino a quattro volte più veloce su dispositivi basati su Snapdragon o altre piattaforme Qualcomm.
L’AI Hub offre un’esperienza user-friendly, consentendo agli sviluppatori di scegliere tra più di 75 modelli di intelligenza artificiale e selezionare tra gli ambienti di lavoro TensorFlow, PyTorch o Onyx. I modelli sono disponibili anche su Hugging Face e GitHub, consentendo agli sviluppatori di integrare facilmente l’intelligenza artificiale nelle loro applicazioni.
Cos’è LoRA?
Qualcomm ha inoltre raggiunto un altro risultato tecnico eseguendo la sua prima implementazione di ordine basso (LoRA) su un telefono Android. Sviluppato da Microsoft, LoRA mira a ridurre la complessità dell’addestramento del modello in termini di latenza, costi e requisiti hardware. LoRA offre un nuovo approccio alla generazione di immagini che è diverso dagli strumenti di intelligenza artificiale generativa come DALL-E. Riducendo la complessità del modello, LoRA riduce i requisiti di memoria, migliora l’efficienza e consente di personalizzare versioni leggere senza richiedere il download o la messa a punto dell’intero modello.
LoRA adotta un approccio diverso rispetto ai tradizionali modelli di rendering AI. Questi modelli apprendono uno schema di pixel per creare l’immagine. LoRA utilizza un elenco di vettori per creare l’immagine. I vettori rappresentano le caratteristiche di base dell’immagine (forma, colore, trama, ecc.).
L’approccio vettoriale di LoRA riduce significativamente la complessità e le dimensioni del modello. Ciò consente di addestrare il modello più velocemente, richiedendo meno hardware e consumando meno energia.
Snapdragon X Elite: progettato per applicazioni AI
Progettato per eseguire l’intelligenza artificiale, Snapdragon X Elite presenta un’architettura SoC da 4 nm, una CPU Qualcomm Oryon a 12 core con supporto dual-core e una GPU Qualcomm Adreno integrata. Offre giorni di utilizzo con una singola carica, eliminando la necessità di una ricarica costante. Una delle sue caratteristiche più importanti è che può anche eseguire modelli AI LLM generativi con 13 miliardi di parametri.
Per dimostrare le capacità del SoC, Qualcomm ha eseguito un benchmark delle prestazioni tra lo Snapdragon X Elite e un processore x86 concorrente con la configurazione GPU, CPU e NPU più efficiente. Il benchmark ha utilizzato GIMP, un potente editor di grafica raster open source dotato del plugin Stable Diffusion per la generazione di immagini GAI. I risultati hanno mostrato che Snapdragon X Elite con una NPU “45 TOPS” può eseguire il rendering delle immagini tre volte più velocemente del suo concorrente x86. Per comprendere meglio quanto sia potente la potenza di elaborazione di 45 TOPS, possiamo guardare l’esempio seguente:
- Un cervello umano può eseguire circa 100 trilioni di operazioni al secondo.
- Un computer desktop può eseguire circa 10 trilioni di operazioni al secondo.
- Uno smartphone può eseguire circa 1 trilione di operazioni al secondo.
Come si può vedere, la potenza di elaborazione di 45 TOPS è 45 volte superiore a quella di uno smartphone e 4,5 volte superiore a quella di un computer desktop. Ciò dimostra che la piattaforma Snapdragon X Elite è una piattaforma molto potente per le applicazioni AI.
NPU, di cui abbiamo iniziato a sentire il nome
NPU sta per Neural Processing Unit, un processore specializzato per applicazioni di intelligenza artificiale e apprendimento automatico. Le NPU forniscono prestazioni superiori, soprattutto nel calcolo delle operazioni matematiche utilizzate dalle reti neurali artificiali (ANN). Queste operazioni matematiche includono la moltiplicazione di matrici, la convoluzione e le funzioni di attivazione.
Le NPU sono progettate per funzionare in modo più efficiente con dati a bassa precisione, rendendole ideali per i carichi di lavoro AI. Sono anche molto più efficienti dal punto di vista energetico rispetto a CPU e GPU per l’elaborazione AI.
Le innovazioni di Qualcomm nell’intelligenza artificiale
L’atteggiamento ottimista dell’azienda sull’argomento mira a garantire che l’intelligenza artificiale venga utilizzata in modo efficiente su molte piattaforme diverse. Il processore telefonico Snapdragon 8 Gen 3 dell’azienda e le piattaforme PC Snapdragon X Elite possono svolgere funzioni importanti in aree quali l’intelligenza artificiale generativa, la visione artificiale e l’elaborazione del linguaggio naturale.
Qualcomm offre inoltre funzionalità IA avanzate agli sviluppatori attraverso Qualcomm AI Hub. L’hub fornisce agli sviluppatori risorse, inclusi oltre 75 modelli di intelligenza artificiale ottimizzati per prestazioni elevate su Snapdragon e altre piattaforme Qualcomm.
L’uso dell’intelligenza artificiale negli smartphone è limitato, ma se l’azienda mantiene la parola data e sviluppa queste tecnologie come vuole, potremo usare l’intelligenza artificiale sui nostri telefoni come la usiamo sui nostri computer. L’intelligenza artificiale apporta inoltre una dimensione completamente nuova all’esperienza di gioco, consentendo agli assistenti di gioco virtuali di generare nuovi contenuti di gioco e adattare dinamicamente le regole del gioco e il gameplay in base alle conoscenze del giocatore o al desiderio di un’esperienza più stimolante.
La commercializzazione scalabile dell’intelligenza artificiale on-device da parte di Qualcomm rappresenta un importante contributo alla democratizzazione dell’intelligenza artificiale. Questi passi visionari rendono Qualcomm un attore chiave nel campo dell’intelligenza artificiale e l’azienda può accelerare ulteriormente l’adozione dell’intelligenza artificiale su larga scala.
Gli sviluppi nell’intelligenza artificiale continuano. Di questo passo, l’intelligenza artificiale, entrata per prima nei nostri computer, raggiungerà in modo efficiente i nostri telefoni. Penso che dimostri anche quanto questo settore crescerà in futuro, con processori costruiti solo per essere compresi dall’intelligenza artificiale. Anche se la sua etica e moralità sono attualmente in discussione, nei prossimi giorni l’uso di questa tecnologia sarà in qualche modo accettato da tutti gli utenti. Con i progressi di Qualcomm, possiamo aspettarci di vedere dispositivi basati sull’intelligenza artificiale in grado di eseguire attività complesse con facilità, rendendo la nostra vita più comoda ed efficiente.
Credito immagine in primo piano: Qualcomm
Source: I sogni di intelligenza artificiale di Qualcomm non hanno eguali