Gen AI 2.0, sanità, sicurezza, NPU e...

Una puntata un po’ particolare di #Techy, anche perché mi stava a cuore raccontare una serie di cose.

Perché stiamo entrando nella GenAI 2.0 (e non ce ne stiamo accorgendo)

Le nuove versioni dei sistemi di intelligenza artificiale generativa sono più simili a noi nelle risposte. Un passo in avanti.

Ma non basta.

Provo a lasciarvi qualche suggestione di quanto sta accadendo.

L'infrastruttura per l'Intelligenza Artificiale sta accelerando, annunciati investimenti enormi in data center che, giova ricordarlo sempre, sono sistemi estremamente energivori. La “battaglia” per i processori sta facendo bene alla ricerca, ma probabilmente male ai budget delle aziende e dei consumatori.

Il concetto di Open Source e Open data è destinato a cambiare, come la gestione dei dati stessi all’interno delle aziende, tanto che grazie alla grande velocità di trasferimento dei dati, molto spesso si predilige averli “in locale” piuttosto che sul cloud, cambiando di fatto la data strategy per l’ennesima volta.

La rivoluzione della Gen AI è dovuta alla diffusione dei transformer, ma anche questi si stanno ottimizzando e potrebbe nascere qualcosa di nuovo e più efficiente.

I sistemi di Gen AI stanno specializzandosi in determinati compiti, diventano più piccoli e compatti, quindi più efficienti (anche a livello di energia) e reattivi.

Non sono cambiamenti rapidi, ma sappiamo che la velocità continua a crescere…

Perché la tecnologia può essere un problema

Io vengo inserito nella categoria dei tecno-entusiasti, ma in realtà non è esattamente così, ma solo chi mi conosce lo sa.
Per esempio, non so quanti abbiano letto questo articolo estremamente allarmante sui dispositivi medici che non funzionano!
Avete letto bene: che non funzionano o funzionano male a causa del software!

Lo stato attuale dei richiami di dispositivi medici è sconcertante. Una volta che un produttore emette un richiamo, possono trascorrere in media due mesi prima che la Food and Drug Administration (FDA) pubblichi l'avviso di richiamo sul suo sito web. Può addirittura volerci più tempo perché i prodotti vengano ritirati dagli scaffali. Nel frattempo, questi prodotti potrebbero ancora essere utilizzati, con conseguenze potenzialmente letali. Secondo i calcoli di Guillermo Ramas, CEO e fondatore di NotiSphere, un'azienda che vuole facilitare richiami più rapidi, circa 600.000 articoli ritirati sono ancora attualmente sugli scaffali dei fornitori, alcuni dei quali richiamati oltre due anni fa. Ramas ha deciso di affrontare questa problematica dopo aver compreso le numerose inefficienze del processo attuale, che comporta ritardi, confusione e mancanza di visibilità. La sua visione è quella di una piattaforma elettronica centralizzata che colleghi produttori e fornitori, riducendo i tempi di allerta del 99% e migliorando drasticamente l'intero sistema di richiamo.
In qualsiasi caso la trasparenza ci può salvare e Ramas usa la tecnologia per scandagliare i dati di rivenditori, ospedali e laboratori.
Ho paura a pensare al nostro Paese…

AI a supporto dei programmatori (e parla europeo)

Mistral, l'azienda francese di intelligenza artificiale supportata da Microsoft e valutata 6 miliardi di dollari, ha lanciato di recente Codestral, il suo primo modello AI dedicato alla programmazione. Questo strumento mira ad ottimizzare e accelerare significativamente il processo di sviluppo software, fornendo suggerimenti di codice, completamento automatico, correzione di bug e altre funzionalità utili durante le attività di coding. Addestrato su oltre 80 linguaggi di programmazione, Codestral dimostra una notevole versatilità e può rispondere a domande in inglese su una base di codice, facilitando la comprensione e la risoluzione dei problemi. Nonostante le sue prestazioni sembrano superare la concorrenza, l'utilità pratica di Codestral potrebbe essere limitata dalla necessità di hardware potente per sfruttare appieno i suoi 22 miliardi di parametri. Mistral ha reso disponibile una versione hosted e un'API a pagamento di Codestral, e sta lavorando per integrarlo in framework e ambienti di sviluppo come LlamaIndex, LangChain, Continue.dev e Tabnine.

E se l’AI producesse come Netflix, ma personalizzando?

Showrunner ha lanciato una piattaforma che permette agli utenti di creare serie TV utilizzando l'AI, generando scene, dialoghi, voci e animazioni coerenti con un semplice prompt testuale. La piattaforma offre già dieci serie web in stili diversi, dall'anime alla satira in stile South Park. Tra queste, "Exit Valley" è una commedia animata che prende in giro la Silicon Valley, con una prima stagione di 22 episodi realizzati sia da Showrunner che dagli utenti stessi. L'obiettivo dichiarato è rendere la creazione di contenuti televisivi accessibile a chiunque, proprio come lo streaming su Netflix.
Ma siamo sicuri che vogliamo vedere solo ciò che ci piace? La creatività e “l’arte” sono destinate a morire?

Gli Italiani e l'AI": Samsung Trend Radar

La ricerca di Samsung evidenzia un clima di fiducia generale degli italiani verso l'intelligenza artificiale (AI), vista come un'alleata che semplifica la vita quotidiana e migliora la qualità della vita, sebbene persista una certa mancanza di chiarezza su cosa sia effettivamente l'AI. Gli smartphone e i laptop sono considerati i dispositivi su cui l'AI ha il maggiore impatto, seguito dagli elettrodomestici come robot per le pulizie, lavatrici e frigoriferi. Il risparmio di tempo e la riduzione dei consumi energetici sono visti come i principali vantaggi dell'AI. Mentre solo un quarto degli italiani non utilizza l'AI nella produttività quotidiana, il suo utilizzo varia tra le generazioni: la GenZ la sfrutta principalmente per cercare informazioni e gestire contenuti, mentre i Boomer la vedono come utile per ridurre i consumi energetici e migliorare la sicurezza domestica. Applicazioni specifiche dell'AI apprezzate includono suggerimenti su ricette in cucina per la GenZ e riduzione dei consumi energetici e sicurezza domestica per i Boomer.

E se ChatGPT venisse usato nell’istruzione?

Domanda retorica e uso del condizionale improprio: è già così!

OpenAI sta portando ChatGPT nel mondo accademico con il lancio di ChatGPT Edu, una versione personalizzata del popolare chatbot pensata specificamente per studenti, docenti e ricercatori universitari. Questa nuova piattaforma offre accesso al modello linguistico avanzato GPT-4, limiti di messaggi più alti rispetto alla versione gratuita e la possibilità per le università di creare e condividere versioni personalizzate di ChatGPT addestrate sui propri dati. Sebbene inizialmente ci fossero preoccupazioni sull'impatto dell'AI generativa nell'istruzione, sempre più atenei stanno sperimentando l'utilizzo di questi strumenti per migliorare l'insegnamento e la ricerca. OpenAI ha sviluppato ChatGPT Edu dopo aver osservato l'adozione di ChatGPT Enterprise in università come Wharton e Arizona State, dove è stato utilizzato per esami, conversazioni linguistiche e altro ancora. Nel frattempo, una nuova partnership con Reddit consentirà a ChatGPT di comprendere meglio i contenuti delle discussioni online.

Perché le NPU sono diventate così popolari e così importanti?

L'unità di elaborazione neurale (NPU) di un dispositivo ha un'architettura che simula la rete neurale del cervello umano, abbinandosi all'intelligenza artificiale per offrire potenti vantaggi in questa nuova era.

Per questo ne sentiremo sempre più parlare quando andremo ad acquistre un computer, un tablet o uno smartphone, perché abilita l’intelligenza artificiale senza usare internet.

La NPU è in grado di elaborare enormi quantità di dati in parallelo, eseguendo trilioni di operazioni al secondo con un consumo energetico ridotto ed un'efficienza nettamente superiore rispetto a CPU o GPU per i compiti di AI. Eccellendo nei task di intelligenza artificiale, l'NPU libera CPU e GPU per altre attività, creando una potente combinazione con l'apprendimento automatico. Fornisce AI in tempo reale ad altissima larghezza di banda, un grande vantaggio per l'utilizzo di comandi vocali, la creazione rapida di immagini e altro ancora. Questo aiuta a lavorare più velocemente ed essere più creativi, sfruttando appieno le potenzialità dell'era dell'intelligenza artificiale.

IEO e Monzino per i dati clinici con Google

L'Istituto Europeo di Oncologia (IEO) e il Centro Cardiologico Monzino hanno sviluppato modelli di Elaborazione del Linguaggio Naturale (NLP) e di Intelligenza Artificiale (AI) su Google Cloud per convertire i dati clinici non strutturati, come referti medici ed esami, in dati strutturati e standardizzati. Questo consente di rendere tali informazioni facilmente analizzabili per la ricerca scientifica e le pratiche cliniche. I modelli NLP hanno permesso di elaborare 76.000 referti medici in soli due mesi, con una velocità 300 volte superiore rispetto alle attività manuali precedenti. Inoltre, sono stati creati dashboard interattivi su Looker Studio per consentire anche agli utenti non tecnici di accedere e analizzare i dati in modo semplice e intuitivo. L'obiettivo è estendere questi strumenti a tutti i reparti per accelerare la ricerca, migliorare la gestione interna e l'assistenza ai pazienti, garantendo al contempo la privacy e la sicurezza dei dati sensibili.

Apple trasforma l’iPhone in un POS (gratis)

Apple ha introdotto in Italia la funzionalità "Tap to Pay" che permette alle attività commerciali di accettare pagamenti contactless direttamente tramite iPhone, senza la necessità di dispositivi hardware aggiuntivi o terminali di pagamento dedicati. Questa innovativa soluzione offre una modalità semplice e pratica per i commercianti di ricevere pagamenti dai clienti, i quali potranno avvicinare la loro carta di credito o dispositivo abilitato al pagamento contactless direttamente all'iPhone del negoziante. Un'opzione comoda che semplifica le transazioni, eliminando la necessità di costosi investimenti in apparecchiature specifiche e promuovendo al contempo l'adozione di metodi di pagamento digitali e sicuri nel mercato italiano.

Quando mi chiedete del Cloud e del Cloud “sovrano”…

Siccome mi capita sempre più spesso che mi chiedete cosa penso del cloud sovrano, vi ripropongo brevemente le osservazioni dell'ultimo rapporto IDC. La spesa complessiva per il cloud sovrano dovrebbe espandersi con un tasso di crescita annuale composto (CAGR) del 26,6% nel periodo di previsione 2022-2027. Un cloud sovrano è un'infrastruttura cloud progettata per conformarsi ai requisiti di sovranità digitale di un paese specifico, rispettando le normative locali su privacy, sicurezza e residenza dei dati.

Soluzioni cloud sovrane mirano ad enti governativi, organizzazioni pubbliche e industrie che gestiscono dati critici, garantendo la conformità agli standard nazionali.

• La ricerca IDC mostra che la sovranità digitale è ora una questione importante per tutte le aziende, non solo quelle regolamentate.

• La sovranità digitale comprende la sovranità dei dati e il cloud sovrano, dando il pieno controllo su come e dove i dati vengono gestiti, archiviati ed elaborati.

• IDC prevede che la spesa per la sovranità dei dati, la sovranità tecnica (infrastruttura digitale interna) e la sovranità operativa (operazioni cloud trasparenti) raggiungerà oltre 103 miliardi di dollari entro fine 2023.

• Le soluzioni di sovranità dei dati rappresenteranno una grande parte della spesa, ma si prevede una crescita costante anche per la sovranità tecnica e operativa man mano che il cloud computing si diffonde.

Spegnete il vostro dispositivo almeno una volta alla settimana!

PC, smartphone, ma anche assistenti virtuali o TV: vanno spenti ogni tanto.

A dirlo è l'Agenzia di Sicurezza Nazionale americana (NSA), questo semplice gesto può difenderci dagli exploit zero-day, ovvero le vulnerabilità sconosciute ai produttori ma già sfruttate dai criminali informatici.

L'NSA suggerisce di non lasciare il telefono acceso per più di 168 ore consecutive, sia che si utilizzi Windows, Android o iOS. Il riavvio periodico interrompe eventuali flussi di dati indesiderati, bloccando gli attacchi in corso.

Sempre per la sicurezza dei dispositivi, ci sono altre buone pratiche suggerite, come “scegliere password forti” (magari con un password manager), utilizzare sistemi di riconoscimento biometrico, oppure non connettersi mai a WiFi pubblici senza VPN, ma anche disattivare Bluetooth, NFC e GPS quando non in uso. Poteva non mancare “non cliccare sui link da mittenti non attendibili e installare un software antivirus"?

E se Suno cambiasse la musica? O i diritti? o uccidesse gli autori?

L'investimento di 125 milioni di dollari in Suno ha scatenato l'allarme nella comunità degli autori. Le preoccupazioni riguardano l'utilizzo non autorizzato di materiale protetto da copyright per l'addestramento dei modelli di intelligenza artificiale di Suno e l'impatto che l'ascesa della piattaforma potrebbe avere sui diritti degli autori indipendenti. La valutazione esagerata di Suno, in assenza di ricavi reali, alimenta il timore di una nuova bolla speculativa nel settore della musica tech. Gli autori si chiedono se Suno rappresenti una minaccia per la loro arte e per il loro futuro.

Gli AR laptop

Nel mentre che stanno arrivando sul mercato gli AI PC, computer con intelligenza artificiale integrata, si stanno moltiplicando gli esempio di AR computer, ossia senza schermo e con occhiali.
Qui un progetto di SpaceTop, dal design che non mi convince, ma altri stanno arrivando, anche puntando su soluzioni Chromebook e schermi Quest.

Insomma, i computer non saranno più quello di una volta.

Un po’ di satira per capire l’AI

Se la colla sulla pizza era stata la “vignetta” di qualche settimana fa, questa settimana avrei potuto parlare della dieta rock, non di ascoltare Springsteen (che non sta benissimo) o U2 o i Rolling Stones, ma del consiglio di mangiare le rocce da parte di Google Overview. Il tema non è che queste AI prendono delle allucinazioni, io personalmente lo dico da dicembre 2022 che è necessario avere delle competenze per farsi aiutare dall’AI generativa, quanto dovremmo essere preoccupati dai piccoli errori, messi qua e la nelle risposte e che se non siamo “competenti” ci inducono ad errori.
Sotto un esempio lampante, in fondo che cosa vuoi che ti facciano due o tre sigarette potrebbe essere una frase estrapolata, da lì a dire che è una raccomandazione dei medici ce ne passa.

Facciamo attenzione.

La puntata del Late Tech Show di questa settimana

In questo episodio si parla di Metaverso, di Made in Italy per l’eCommerce e dell’innovazione inespressa delle pompe di calore ,con Fabio Santini di Hevolus Innovation, Ilaria Zanelotti di Amazon.it e Mats Ulriksson di Aira

In alternativa su Youtube con i capitoli e su tutte le principali piattaforme social

Vita da Ufficio (dagli #SmartBreak)

Il podcast che prende spunto dagli #SmartBreak quotidiani sui miei profili social e su quelli di alcune associazioni manageriali è ripartito. Lo trovate qui.

I miei libri

Vi lascio un link per i miei libri, caso mai vi venisse voglia di leggere, vi ricordo che Phyrtual è giunto alla seconda edizione, con nuove interviste.

Ti sta piacendo Techy?

Se ti è piaciuta questa newsletter, e non sei ancora iscritto non capisco cosa stai aspettando: iscriviti!

Iscritto

Più persone la leggono, meglio è, quindi, per favore, condividilo con la tua famiglia, amici e colleghi per far sì che gli effetti di rete si diffondano.

Assicurati di aggiungere gigibeltrame@substack.com ai tuoi contatti. In Gmail, trascina questa newsletter nella tua scheda principale.

Grazie per aver letto questa newsletter, le trovi tutte a questo link.

💻sito del Late Tech Show

💁‍♂️ La Bio

📚 Scopri i miei libri

Newsletter #Techy

👍 Seguimi su:
Magazine • LinkedIn • Instagram • Facebook • Youtube