Qualcomm e Meta collaborano per ottimizzare i modelli linguistici di grandi dimensioni Meta Llama 3 per l’esecuzione su dispositivo sulle prossime piattaforme di punta Snapdragon.
Qualcomm Technologies e Meta hanno annunciato una collaborazione per ottimizzare l’esecuzione dei modelli LLM (Large Language Model) di Meta Llama 3 direttamente su smartphone, PC, visori VR/AR, veicoli e altro ancora.
La possibilità di eseguire Llama 3 sui dispositivi offre vantaggi significativi, tra cui reattività superiore, maggiore privacy, maggiore affidabilità ed esperienze più personalizzate per gli utenti.
“Celebriamo l’approccio aperto di Meta con Meta Llama 3 e condividiamo il loro impegno nel potenziare gli sviluppatori e stimolare l’innovazione dell’intelligenza artificiale“, ha affermato Durga Malladi, senior vice president and general manager of technology, planning and edge solutions, Qualcomm Technologies, Inc. “La nostra leadership nell’intelligenza artificiale on-device, unita alla nostra vasta presenza su vari dispositivi edge, ci consente di espandere i vantaggi dell’ecosistema Llama in tutto il mondo per consentire a clienti, partner e sviluppatori di creare nuove rivoluzionare esperienze AI”.
La collaborazione mira a democratizzare l’accesso alle funzionalità di intelligenza artificiale generativa consentendo agli OEM e agli sviluppatori di rendere Llama 3 accessibile su dispositivi basati sulle prossime piattaforme di punta Snapdragon. L’utilizzo della potente architettura informatica eterogenea di Qualcomm Technologies, che sfrutta perfettamente CPU, GPU e NPU leader del settore, insieme a un’architettura di memoria all’avanguardia, consente a clienti, partner e sviluppatori di massimizzare le prestazioni delle applicazioni, l’efficienza termica, e la durata della batteria.
Gli sviluppatori potranno accedere alle risorse e agli strumenti per eseguire Llama 3 in modo ottimale sulle piattaforme Snapdragon tramite Qualcomm AI Hub, che attualmente offre circa 100 modelli AI ottimizzati. Qualcomm AI Hub riduce il time-to-market per gli sviluppatori e sblocca i vantaggi dell’intelligenza artificiale sul dispositivo per le loro app.
