Ben ritrovati per il nostro appuntamento mensile, ideato da Daniele Grandini, Chief Innovation Officer di 4wardPRO , su quanto muove il mercato dell’AI. Anche questo mese abbiamo diversi temi da toccare. Buona lettura.

Top of the month

Apple Intelligence è sicuramente la notizia del mese: sarà lanciata con iOS 18, iPadOS 18 e MacOS Sequoia e integrerà funzionalità di AI generativa nell'ecosistema Apple. Questo include la ricerca semantica, possibilità di generare nuovi contenuti multimediali e un Siri aggiornato che può elaborare input di testo e integrare modelli di linguaggio di terze parti come ChatGPT. Apple enfatizza privacy e sicurezza, bilanciando edge e cloud computing, e utilizza LoRA per il fine-tuning specifico per i task. Inizialmente disponibile in beta per gli utenti di lingua inglese negli Stati Uniti, si prevede un lancio più ampio entro la fine del 2024, escludendo l'Europa a causa delle restrizioni legali.

Gli aggiornamenti chiave di Siri includono la nuova funzione Memories per creare storie personalizzate, capacità estese per azioni multi-app, Writing Tools a livello di sistema e registrazione e trascrizione audio. Questi miglioramenti sono progettati per migliorare la produttività e la gestione delle attività quotidiane, anche se possono sollevare preoccupazioni sulla privacy.

Il nuovo modello di Anthropic, Claude 3.5 Sonnet, supera GPT-4o in velocità, efficienza dei costi e benchmark per il ragionamento, la codifica, la matematica e la conoscenza. Si tratta comunque di miglioramenti che seppur significativi, non sono rivoluzionari. Il modello include funzionalità di editing in tempo reale chiamate 'Artifacts' e promette futuri avanzamenti con le versioni in arrivo come 3.5 Haiku e Opus. Sonnet non include però le funzionalità di generazione immagine, ricerca di contenuti live, live audio e analytics sui dati.

A giugno, importanti chatbot, tra cui ChatGPT, Perplexity e Claude, hanno sperimentato interruzioni simultanee, evidenziando la dipendenza diffusa da questi sistemi per le attività lavorative quotidiane. Questo incidente sottolinea la crescente base di utenti e la dipendenza dagli strumenti di AI negli ambienti professionali.

Microsoft

Microsoft è stata riconosciuta come leader nelle tecnologie AI e di machine learning da Gartner nel 2024, ottenendo lo status di Leader sia nel Magic Quadrant for Data Science and Machine Learning Platforms che nel Magic Quadrant for Cloud AI Developer Services per il quinto anno consecutivo. La piattaforma Azure AI di Microsoft è nota per i suoi strumenti potenti e flessibili, che accelerano l'innovazione garantendo al contempo governance e privacy dei dati a livello aziendale.

Secondo alcune fonti, Microsoft sta creando il proprio LLM esclusivo dopo aver assunto Mustafa Suleyman (ex Inflection.ai e ex DeepMind) per dirigere una nuova squadra AI. Questa mossa indica che Microsoft vuole aumentare il proprio vantaggio competitivo combinando possibilmente sia i propri modelli AI esclusivi che la tecnologia di OpenAI, seguendo l'obiettivo del CEO Satya Nadella di usare strategicamente l'AI.

New trends

Gli avatar AI stanno diventando una commodity e a breve non saranno più un differenziatore significativo. Il recente annuncio di TikTok al riguardo e l’inclusione di funzionalità AI in tutti i maggiori social renderanno i nostri digital twin la norma… fino a quando non ce ne stancheremo. A questo proposito, l'aggiornamento della piattaforma di Synthesia include avatar AI a figura intera, AI Video Assistant e traduzione avanzata. I 'Personal AI Avatars' permettono agli utenti di creare gemelli digitali realistici con sincronizzazione labiale, e gli avatar a figura intera promettono un maggiore controllo. L'AI Video Assistant può generare librerie video da basi di conoscenza con elementi specifici del brand. Synthesia sta anche sviluppando un video player per esperienze personalizzate e interattive, adattandosi alle lingue degli spettatori.

Tutti sappiamo che il training dei large language models richiede una grande quantità di dati e possibilmente dati di qualità. È oramai chiaro che sarà l’AI a generare sinteticamente i dati per stessa. Nvidia si posiziona in questo senso come riferimento con i modelli Nemotron-4 340B (base, instruct e reward) pensati per generare dati sintetici di alta qualità per l'addestramento AI, superando i concorrenti nei benchmark.

Sempre in tema di modelli e nuovi approcci agli stessi, l'algoritmo MCT Self-Refine del Shanghai AI Laboratory consente a un modello da 8 miliardi di parametri di raggiungere prestazioni a livello GPT-4 in matematica complessa, suggerendo che modelli efficienti possono eguagliare quelli più grandi.

In ultimo la prossima frontiera, ovvero i robot umanoidi. Ex-Robots, una startup cinese, sta sviluppando robot umanoidi realistici che imitano le espressioni umane utilizzando piccoli motori in volti in silicone. Questi robot, alimentati da AI multimodale, sono inizialmente destinati a esposizioni museali, ma hanno potenziali applicazioni in sanità e terapia. I costi di produzione sono fino a $275.000 per unità.

Market News

Google ha rilasciato NotebookLLM, un assistente di ricerca e scrittura alimentato da AI, ora disponibile in oltre 200 paesi, con nuove migliorie Gemini 1.5 Pro. Tuttavia, Google affronta la concorrenza di startup AI come Perplexity, che offre risultati di ricerca diretti e visibili senza link esterni, e Genspark, che ha ottenuto $60 milioni per sviluppare "Sparkpages" dettagliati e integrati utilizzando LLM. Un nuovo modo di cercare informazioni è già qui, si tratta di rifinirlo e capire quale potrà essere il business model che dia ritorno anche a chi produce contenuti.

Samsung è entrata nel mercato dei chip AI, migliorando il suo processo di produzione e prevedendo una crescita significativa entro il 2028. La piattaforma 'Samsung AI Solutions' mira a offrire servizi completi di produzione di chip AI, guidata dall'ex dirigente Apple Murat Akbacak.

Contributi significativi nel panorama dei modelli AI open-source includono la famiglia di modelli di linguaggio Qwen2 di Alibaba, con il modello più grande, Qwen2-72B, che supera i concorrenti e disponibile sotto una licenza commerciale-friendly. Stability AI ha lanciato Stable Diffusion 3 Medium, un modello di testo-immagine da 2 miliardi di parametri per hardware consumer-grade, con licenze accessibili per piccole imprese.

Il rapporto GPS di Citigroup sull'AI in finanza prevede cambiamenti significativi, in particolare nel settore bancario, con il 54% dei ruoli ad alto rischio di automazione. Nonostante le potenziali perdite di posti di lavoro, l'AI dovrebbe creare nuovi ruoli e contribuire con $170 miliardi ai profitti del settore bancario globale entro il 2028.

La Summer '24 Edition di Shopify introduce funzionalità potenziate dall'AI per migliorare l'e-commerce, come la creazione di prodotti AI, risposte intelligenti al supporto clienti, un Media Editor per la generazione di immagini AI e Sidekick, un assistente commerciale abilitato all'AI. Questa tendenza suggerisce che i principali fornitori di soluzioni digitali integreranno direttamente l'AI nei loro prodotti, spostando l'attenzione sulla costruzione di soluzioni AI-powered per casi d'uso verticali specifici.

Upwork ha rilasciato un interessante studio sull’impatto dell’AI su specifici ruoli professionali. L’impatto sul mercato del lavoro e sulle retribuzioni merita certamente attenzione.

Legal & Compliance

All'inizio del 21° secolo, l'Europa aveva 41 delle 100 aziende più capitalizzate al mondo; secondo The Economist a Giugno 2021 il numero era sceso a 19 con solo Novo Nordisk nelle prime 20. Dopo la rivoluzione AI quel numero è sceso a 12, o 16 includendo il Regno Unito. Al riguardo ho una forte opinione. L’EU continua a regolamentare, imporre multe, imbarcarsi in lunghi processi, ma non ha un vero respiro di sviluppo e innovazione. Il tentativo fatto con NextGen EU, rimane un tentativo che non ha cambiato un’attitudine di stato mamma che vuole regolamentare tutto anche i tappi delle bottiglie di plastica. All’interno dell’Unione solo la Francia ha investito nell'AI, altri paesi dell'UE si sono principalmente concentrati sull’applicazione della regolamentazione, rendendo difficile per i cittadini utilizzare le tecnologie AI. Italia e Irlanda hanno imposto restrizioni su strumenti AI come ChatGPT e l'uso dei dati di Meta per rendere i modelli più vicini ai cittadini europei, rispettivamente, e Apple ha rimandato indefinitamente le sue funzionalità Apple Intelligence per il mercato dell’Unione Europea a causa del Digital Markets Act. L’AI è un asset strategico, così come per le aziende anche per le nazioni non adottarla significa essere posti ai margini.

Anche negli Stati Uniti, seppur con gradi e impatti diversi, i regolatori antitrust stanno indagando su Nvidia, Microsoft e OpenAI per potenziali pratiche monopolistiche. Il DOJ esaminerà il dominio di Nvidia nel mercato dei chip AI, mentre la FTC indagherà sul controllo del mercato da parte di Microsoft e OpenAI. Simili esami sono in corso a livello globale, con l'UE e il Regno Unito che indagano sulle partnership delle principali aziende AI. Queste indagini potrebbero rimodellare l'industria AI, influenzando investimenti e dinamiche di mercato. Mentre la regolamentazione antitrust è necessaria per una concorrenza equa, c'è preoccupazione che un'applicazione eccessiva possa soffocare l'innovazione e la crescita delle startup. È necessario un approccio equilibrato per mantenere un ecosistema AI competitivo e innovativo. Anche perché i competitor globali, in primis la Cina, non stanno di certo a guardare.

Uno degli argomenti rilevanti nell'ultimo incontro del G7 in Italia era l'AI. Anche Papa Francesco è stato invitato a condividere la sua visione sull'argomento. I seguenti sono i punti salienti sull'AI nel documento di chiusura:

• Safe, Secure, and Trustworthy AI: Enfatizza l'importanza di un'AI centrata sull'uomo che supporti la crescita economica e lo sviluppo sostenibile, gestendo i rischi e rispettando i diritti umani.
• AI Governance: Promuove approcci di governance inclusivi che favoriscano l'innovazione, garantiscano l'interoperabilità tra gli stati membri e promuovano trasparenza e responsabilità. Questo include la cooperazione con enti globali come il GPAI e l'OECD.
• Coordination and Best Practices: I paesi del G7 miglioreranno il coordinamento, condivideranno le migliori pratiche e svilupperanno standard internazionali per l'AI per garantire un approccio unificato alla regolamentazione e gestione dei rischi dell'AI.
• AI in the Workforce: Sottolinea la necessità che l'AI migliori la produttività, crei lavori di qualità e supporti i diritti dei lavoratori. Sarà sviluppato un piano d'azione per affrontare le necessità di reskilling e upskilling, garantendo che l'AI benefichi i lavoratori e promuova il lavoro dignitoso.
• Emerging Technologies and Economic Growth: Supporta l'adozione dell'AI da parte delle piccole e medie imprese per stimolare una crescita economica inclusiva, monitorando al contempo lo sviluppo del settore AI per prevenire problemi di concorrenza.
• Digital Inclusion: Mira a colmare i divari digitali, incluso il divario digitale di genere, garantendo un accesso equo ai benefici dell'AI. Supporta iniziative come l'AI Hub for Sustainable Development per potenziare gli ecosistemi AI locali.
• Global Semiconductor Supply Chains: Enfatizza la necessità di catene di approvvigionamento di semiconduttori resilienti e connettività sicura dei cavi sottomarini per supportare l'infrastruttura digitale globale.
• Quantum Technology and Biotechnology: Promuove l'innovazione responsabile nelle tecnologie quantistiche e biotecnologiche, riconoscendo la loro convergenza con l'AI.
• Research Security and Integrity: Promuove la scienza aperta, l'integrità della ricerca e la mobilità internazionale dei talenti, enfatizzando la cooperazione con i paesi a basso e medio reddito.
• AI in the Military Domain: Supporta framework per l'uso responsabile dell'AI militare, garantendo la conformità con il diritto internazionale e migliorando la sicurezza globale.
• Space Debris Mitigation: Incoraggia gli sforzi per mitigare e recuperare i detriti spaziali, promuovendo standard di sostenibilità spaziale.
• Justice Sector: Riconosce l'impatto dell'AI nel settore della giustizia, sottolineando che l'AI non deve interferire con l'indipendenza giudiziaria.

L'impegno del G7 si concentra sull'avanzamento dell'AI in modo allineato ai valori democratici, favorendo la crescita economica e affrontando le sfide globali attraverso la cooperazione internazionale e politiche inclusive.

Military and Defense

Uno dei settori in cui l’AI è già utilizzata e che sta vedendo i maggiori sviluppi è sicuramente quello della difesa. Per questo, da questo mese, apro una sezione specifica cercando di riportare le notizie che diventano di dominio pubblico per il settore.

La Marina degli Stati Uniti sta avanzando nell'uso di droni subacquei alimentati da AI per migliorare la sicurezza marittima e l'efficienza operativa. Gli sviluppi chiave includono:

• Improved Threat Detection: Gli algoritmi AI hanno raddoppiato la velocità di identificazione delle mine subacquee rispetto ai metodi tradizionali.
• AI and Drone Integration: I modelli AI combinati con i droni possono ora distinguere tra oggetti innocui e esplosivi pericolosi, accelerando la bonifica delle zone di navigazione commerciale e delle acque nemiche.
• Operational Efficiency: L'uso di droni alimentati da AI ha ridotto i requisiti di personale a 10 o meno marinai per missione e ridotto la durata delle missioni di circa due giorni.
• Current Deployment: Questi droni sono attivamente utilizzati nella regione indo-pacifica. Chissà come mai…
• Ongoing Challenges: È necessario un addestramento continuo e rapido per adattare la tecnologia ai vari ambienti oceanici, terreni, condizioni e tattiche nemiche in evoluzione.

Questo sviluppo mostra miglioramenti significativi nella rilevazione delle minacce e nell'efficienza operativa, indicando una forte tendenza verso l'integrazione dell'AI nelle strategie di difesa.

Scientific

Il nuovo documento di OpenAI, "Scaling and Evaluating Sparse Autoencoders," introduce un metodo per reverse engineer concetti appresi dai modelli AI come GPT-4. I punti chiave includono:

• Sparse Autoencoders: Identificano i pattern di attivazione nelle reti neurali corrispondenti a concetti comprensibili dall'uomo.
• Visualization Tools: Estraggono e visualizzano milioni di caratteristiche in GPT-4, con codice open-source per ulteriori esplorazioni.
• Research Team: Condotto dall'ex team di superalignment di OpenAI, tra cui Ilya Sutskever e Jan Leike.

Questa ricerca mira a migliorare l'interpretabilità dei modelli AI, potenzialmente migliorando sicurezza, fine-tuning e controllabilità. Si allinea con le tendenze del settore verso la trasparenza dell'AI, come la ricerca "Golden Gate Claude" di Anthropic.

È ormai assodato che l’AI non è “green”. Queste tecnologie hanno fame di energia. I data center potrebbero triplicare la loro quota di utilizzo di elettricità negli Stati Uniti all'8% entro il 2030. Le ricerche online alimentate da AI consumano quasi 10 volte più elettricità rispetto alle ricerche standard (Google o Bing). Per questo motivo aziende come Microsoft stanno esplorando la fusione atomica e piccoli reattori nucleari per alimentare i propri datacenter. Al tempo stesso però alcune utility stanno ritardando il ritiro delle centrali a carbone e aumentando l'uso del gas naturale. Occorre trovare alternative. Proprio sul tema i ricercatori Microsoft hanno migliorato l'efficienza dei LLM eliminando la moltiplicazione delle matrici e riprogettando la funzionalità delle reti neurali. Il loro modello da 1,3 miliardi di parametri elabora 23,8 token al secondo utilizzando solo 13 watt di potenza, segnando un aumento dell'efficienza di 50 volte. Questa innovazione potrebbe rivoluzionare l'accessibilità, l'efficienza e la sostenibilità dei LLM.

Questi progressi enfatizzano la relazione critica tra sviluppo dell'AI e sostenibilità energetica, evidenziando la necessità di soluzioni innovative per bilanciare il progresso tecnologico con la responsabilità ambientale.

Healthcare

La sanità sta rapidamente evolvendo con l'AI, offrendo scoperte nel campo delle diagnosi, della cura dei pazienti, della previsione dell'ansia, degli esami gastrointestinali, della scoperta di antibiotici e dell'analisi dei dati sulla salute grazie a dispositivi wearable.

AMIE di Google, un chatbot AI, supera i medici umani nelle diagnosi e nella cura dei pazienti. Affinato con dati medici, AMIE ha incluso la diagnosi corretta nel 90% dei casi, rispetto al 77% dei medici umani. Ha anche eccelso nell'interazione con i pazienti. Si tratta di un primo approccio che non è ovviamente validato su studi clinici completi, ma il trend appare ben delineato.

Il Comp Cog AI dell'Università di Cincinnati prevede i livelli di ansia utilizzando valutazioni delle immagini e dati demografici, raggiungendo fino all'81% di precisione. Questo sistema unisce principi psicologici con il machine learning per valutare i modelli decisionali legati all'ansia.

Il PillBot di Endiatx, un robot ingeribile, consente esami gastrointestinali in tempo reale e meno invasivi da casa. Nei trial clinici e con un obiettivo di rilascio nel 2026, le future versioni integreranno l'autonomia guidata dall'AI, migliorando le diagnosi non invasive.

L'AI ha identificato quasi un milione di potenziali nuovi antibiotici dai genomi microbici. Uno studio pubblicato su Cell e riportato da The Guardian ha trovato 79 candidati promettenti, evidenziando il ruolo dell'AI nell'accelerare la scoperta di farmaci per combattere i batteri resistenti agli antibiotici.

I modelli PH-LLM e PHIA di Google analizzano i dati sulla salute ritornati da dispositivi wearable, fornendo informazioni su sonno e fitness comparabili a quelle degli esperti umani. PHIA ha raggiunto l'84% di precisione sugli approfondimenti sulla salute, dimostrando il potenziale dell'AI nella gestione della salute personalizzata.

Queste innovazioni evidenziano l'impatto trasformativo dell'AI sulla sanità, migliorando diagnosi, cura dei pazienti, valutazione della salute mentale e supporto alla salute personalizzato attraverso la tecnologia avanzata.

Varie

Una nuova alba per le auto a guida autonoma. Waymo, la divisione di auto a guida autonoma di Alphabet, ha esteso il suo servizio di robotaxi a tutti i residenti di San Francisco, segnando una pietra miliare importante quattro anni dopo il suo lancio iniziale a Phoenix. Contemporaneamente, Uber Freight ha collaborato con Aurora per introdurre camion a guida autonoma sulla rotta Dallas-Houston, con operazioni previste per iniziare entro la fine di quest'anno. Questi sviluppi sottolineano l'integrazione crescente dei veicoli autonomi nel trasporto urbano e nella logistica a lungo raggio, potenzialmente rimodellando il futuro della mobilità e del trasporto merci.

Meta ha introdotto il Meta Large Language Model (LLM) Compiler, una suite open-source di modelli mirata a migliorare l'ottimizzazione del codice e il design del compilatore. Addestrato su un vasto dataset di 546 miliardi di token di LLVM-IR e codice assembly, questa innovazione affronta l'area precedentemente inesplorata dell'applicazione degli LLM all’ottimizzazione del codice generato dai compilatori.