Ciao! Questa è ARE WE HUMAN or are we prompters? la newsletter che ti aiuta a capire il vero impatto dell’AI e delle nuove tecnologie digitali sulla società, tirando un po’ le fila di cosa è successo nel mondo tech nell’ultimo mese.
Questa newsletter segna la mia collaborazione con The Bunker Magazine, la rivista digitale che indaga e racconta l’innovazione attraverso cultura e pensiero critico. Sono contentissimo di farla partire perché questo magazine ed io condividiamo un interesse per il digitale critico e curioso, e la voglia di porci domande insieme.
Ma chi sono io? Martino Wong, in arte @oradecima. Sui miei profili social mi occupo di raccontare l’impatto dell’AI e delle tecnologie digitali sull’attualità. Ho anche un sito, oradecima.com, nel caso voleste darci un’occhiata. Se non ci conosciamo ancora, impareremo a farlo!
Per quello che dicevamo prima, non sarà una listona di notizie assortite casualmente, ma cercheremo di tracciare delle linee per navigare la realtà insieme. Per ogni uscita vi raccontiamo notizie, ve ne spieghiamo il contesto, e cerchiamo di trarne insieme delle conclusioni.
Prima di iniziare, sappiate che scrollando fino in fondo a questa newsletter troverete me che parlo, in una sorta di messaggio vocale che vi ho registrato per recap.
Se non avete il tempo di leggermi, almeno potete ascoltarmi!
Il tema che ci accompagna per questa terza lettera sono i miti e le leggende. But first…
Il mondo tech è pieno di speranze fantascientifiche per il futuro, ma è anche pieno di idee così bislacche che non sai se siano vere o ti prendono in giro.
Allora vi propongo questo: vi do due notizie diverse e provate a indovinare qual è reale e quale mi sono inventato. Ci state?
A Varsavia, in Polonia, c’è un robot umanoide che si aggira per le strade della città e che è stato ripreso a inseguire dei cinghiali per scacciarli via.
META inizierà a monitorare ogni quanto i suoi dipendenti fanno una pausa, così da sapere quando attivare agenti AI che lavorino al posto loro.
Saranno vere o false? (La soluzione la trovate nel recappino vocale in fondo)
Anthropic ha finalmente annunciato Claude Mythos, il suo nuovo modello AI più potente di sempre, così tanto potente da non poter essere rilasciato al pubblico. Ma è davvero così? ...parliamone.
Prima di rispondere vorrei però esplicitare che quel *finalmente* non si riferiva a una generica attesa del tipo “*finalmente* la mia band preferita ha fatto uscire un nuovo album”. Mi riferivo piuttosto al fatto che Anthropic ha subito un grosso leak il mese scorso, che mostrava l’imminente arrivo di questo nuovo potentissimo modello, poi confermato dal CEO Dario Amodei.
Ci sono due aspetti importanti da considerare su Mythos: il primo è cosa è, e il secondo è come viene raccontato.
Nell’articolo di Anthropic, infatti, Mythos viene descritto come un modello così potente che rilasciarlo al pubblico sarebbe troppo pericoloso, e quindi Anthropic ha deciso di concederne l’uso solo ad alcune aziende e realtà selezionate. Il mito su Mythos è quello di Anthropic che mantiene il controllo sul coperchio del vaso di Pandora.
A supporto di questa fantomatica pericolosità del nuovo modello hanno pubblicato un documento a testimonianza della loro operazione di redteaming, cioè la pratica di cercare di bucare un sistema per sistemarne le vulnerabilità. Nel documento fanno vedere che Mythos ha trovato una serie di vulnerabilità su software importanti rimaste nascoste addirittura per decenni, e la conclusione nella narrazione di Anthropic è che se un hacker avesse accesso a uno strumento di questo tipo potrebbe trovare vulnerabilità da sfruttare per attacchi.
Questo problema non è nuovo per Anthropic, che qualche mese fa aveva pubblicato un report sulla cybersicurezza proprio perché erano stati scoperti degli hacker, plausibilmente finanziati da governi stranieri, che avevano usato Claude in modo improprio per degli attacchi realizzati quasi totalmente in autonomia con l’AI.
L’allarme lanciato dall’azienda sui possibili rischi di modelli AI di questa potenza è stato tale che il segretario del tesoro USA Besset ha convocato una riunione d’urgenza con i CEO delle principali banche statunitensi per discutere i rischi della cybersicurezza del prossimo periodo.
Ma a questo mito dobbiamo credere o no? Secondo me solo in parte. Le capacità di Mythos, che ripetiamo non è possibile testare pubblicamente in modo indipendente, sono ragionevolmente un passo in avanti rispetto ai modelli precedenti; non possiamo però dimenticare che nella nostra epoca tutto ciò che le aziende tech comunicano è anche marketing.
Quello che intendo è che le aziende tech di oggi sono aziende che si posizionano anche per la loro visione culturale sul futuro e sul presente. Assorbono e dispensano l’immaginario collettivo sul futuro della società e non sono più solo aziende che cercano un profitto: si narrano come aziende che direzionano il nostro avvenire.
Il mese scorso parlavamo ad esempio di Meta e del metaverso, che racchiudeva in sé necessariamente una visione sul mondo: quella di una società di persone che si connettono al di là della loro distanza fisica, ma in modo più incarnato rispetto a quello del web tradizionale.
In questi giorni si è parlato anche di Palantir, l’azienda che fa analisi dati spesso nell’ambito della difesa, fondata da Peter Thiel. Palantir ha pubblicato su Twitter un “manifesto”, un riassunto in 22 punti del libro del CEO Alex Karp, “The Technological Republic”, che è perfettamente esemplificativo della ricerca di un impatto culturale. Uno dei punti dice per esempio che è inevitabile che arriveranno le armi autonome con AI, e l’unica domanda è dunque chi le costruirà e per chi. O ancora, “se uno US Marine chiede un fucile migliore, dobbiamo costruirlo, e lo stesso vale per il software”, e così via. Il manifesto narra una precisa visione del futuro, e come scrive su Bluesky Eliot Higgins, founder di Bellingcat, “questa è l’ideologia di un’azienda i cui ricavi dipendono dalle politiche che sta promuovendo”.
Per Anthropic ciò è vero all’ennesima potenza, perché nasce letteralmente da una costola di OpenAI: dei dipendenti che erano insoddisfatti delle posizioni di OpenAI sulla sicurezza decidono di staccarsi, e dunque il cuore pulsante di Anthropic è basato su una cultura comune su come sviluppare l’AI nel modo che secondo loro è il più sicuro e giusto. Questo identifica in modo chiaro l’azienda.
(non ironicamente a sua volta OpenAI si proponeva come alternativa “sicura”, “aperta” e “più benefica per la società” rispetto al possibile monopolio di Google nell’ambito AI, ma questa è una storia per un’altra volta).
Tutto questo lungo ragionamento lo potremmo riassumere con: non chiedere all’oste se il vino è buono. Per fortuna ci sono anche osti più oggettivi, come l’agenzia UK per la sicurezza AI, che ha pubblicato un’analisi di Claude Mythos che trovo più ragionevole.
Le conclusioni dell’agenzia sono che Claude Mythos sia sì un progresso, e che quindi costituisca un rischio per la cybersicurezza, ma nello specifico per sistemi poco difesi. In generale il testing fatto da Anthropic e non solo è per forza parzialmente simulato, e va valutato poi sul campo, in cui i veri sistemi critici hanno, si spera, delle difese. Quindi la riunione delle banche era inutile, no?
Il vero problema sulla questione Mythos, in conclusione, è che anche se le sue capacità non sono superiori a quello che un umano con abbastanza risorse poteva fare già prima, non vuol dire non ci sia niente su cui stare all’erta, perché cosa succede quando i costi e la difficoltà di fare degli attacchi diminuiscono? Siamo sicuri che tutte le nostre infrastrutture digitali siano gestite e difese adeguatamente? Se la risposta è no, forse avevamo un problema da prima di Mythos. E magari lo spauracchio ci può essere utile a migliorarci. Servono anche a questo i miti no?
Passiamo all’acerrimo nemico di Dario Amodei. Questo mese è uscito sul New Yorker un lungo profilo di Sam Altman, il CEO di OpenAI, scritto da Ronan Farrow e Andrew Marantz.
Se non ve lo ricordate, Sam Altman nel 2023 fu licenziato da OpenAI all’improvviso, con un comunicato stampa del board dell’azienda che diceva che Altman “non era stato sincero”.
Dopo un weekend estremamente turbolento, in cui letteralmente sembra che OpenAI possa crollare, Altman viene ripristinato come CEO, facendo rimuovere dal board i membri che lo avevano cacciato. Sono stati i giorni più ricchi di drama per l’industria tech forse da decenni. Nell’articolo trovate un racconto dettagliato, e prossimamente uscirà anche un film diretto da Luca Guadagnino che racconta le magiche avventure di OpenAI. Poi quando esce ci possiamo vedere tutti al cinema, e se siamo fortunati ci sarà anche una sorpresa.
Al di là di questo specifico avvenimento, la domanda che ci si pone nell’articolo è se Altman sia una persona di cui ci si può fidare. Non vi faccio spoiler sugli intrighi di cui Altman è accusato, ma evidenzio un tema che trovo interessante: nella situazione globale attuale, chi è ai vertici delle aziende tech ha un’influenza enorme sulla società e sulla politica.
È un’influenza, anche qui, creata con un mito; non perché sia falsa la potenzialità di queste tecnologie, ma perché il sistema di potere e di influenza che ci si crea intorno è costruito culturalmente e non solo con la tecnica. Il ruolo che si è preso Altman non è semplicemente quello di ingegnere che dirige lo sviluppo scientifico, ma è anche quello di leader che promuove una visione del mondo. Come dicevamo per Anthropic sopra, si sovrappongono marketing e visione politica.
Non è un caso che Sam Altman sia anche founder di World, startup che si propone di “verificare gli umani” in vista di un’era in cui non riusciremo più a distinguere tra umani e robot. World, per inciso, lo fa scansionando gli occhi degli umani e dandogli un identificativo univoco che attesta la loro umanità. A cosa serva tutto ciò non è ancora esattamente definito, ma l’idea è potenzialmente quella di usare l’identificativo di World per dare un reddito di base agli umani reali. La proposta è sicuramente bislacca, ma è in ogni caso una proposta politica che esprime una visione del mondo.
La domanda che viene posta nell’articolo è, per chiudere: qual è il tipo di persona che in questo momento cerca di essere a capo di un’azienda con questo tipo di influenza sul mondo? E quel tipo di persona, che ha queste ambizioni, è la persona che vogliamo sia responsabile di come vengono sviluppati i sistemi AI?
La mia risposta è che vorrei un potere più distribuito, più partecipato. Ma per farlo temo che dovremmo cambiare le regole del gioco.
OpenAI lancia ChatGPT Images 2.0
OpenAI ha lanciato un modello di generazione immagini che sembra aver superato Nano Banana Pro, il modello di Google che finora era davanti a tutti. ChatGPT Images 2.0 mi ha davvero impressionato, in senso buono e non. È un modello decisamente potente, che quindi potrebbe essere interessante a livello creativo, ma prosegue la tendenza delle aziende a dare sempre meno dettagli tecnici su come funzionano i sistemi che lanciano nel mondo.
Verifica dell’età in UE
È pronta l’app europea per la verifica dell’età. L’UE, come tanti altri, si sta muovendo per creare sistemi di age verification per limitare l’accesso a siti o piattaforme che reputa inappropriati per i minori, un po’ come ha iniziato a provare l’Italia con il decreto Caivano che voleva bloccare i siti per adulti. In Italia però la procedura si è arenata per quei siti con sede in UE, perché l’idea dell’Unione è quella di muoversi in modo più uniforme possibile tra i vari stati per evitare troppe frammentazioni. Tuttavia l’app di cui sopra, che è open source, sembra già avere una serie di falle e problemi, e come scrive Tech Policy Press, sembra una pezza tecnica a un problema sociale che sarebbe da gestire in modo più ampio e approfondito.
Modelli piccoli con sogni grandi
Questo mese ci sono anche stati il lancio di Gemma 4, modello di Google liberamente scaricabile e di dimensioni ridotte rispetto a Gemini, e il lancio di Qwen 3.6 della cinese Alibaba. Sono modelli AI che in certe versioni possono funzionare direttamente sui nostri computer, senza dover comunicare con server esterni. Questo tipo di modelli esiste da anni, ma con gli ultimi rilasci le performance iniziano davvero a essere interessanti. Consiglio di provarli a chi vuole usare degli LLM in modo più privato e controllato.
Addio a Wired Italia
Condé Nast ha annunciato la chiusura di Wired Italia, arrivata come un fulmine a ciel sereno. Penso che il lavoro di Wired in Italia fosse assolutamente prezioso; quando qualche tempo fa facevo un riassunto della questione di Piracy Shield in Italia, una storia più che frustrante, gli articoli di Wired Italia sono stati una manna dal cielo, perché era una questione trattata all’intersezione tra tech e politica che trovava spazio quasi solo in Wired. Abbiamo tanto bisogno di parlare bene di tecnologia, e Wired lascia un vuoto gigante. Speriamo di riuscire a riempirlo il prima possibile.
Come promesso in partenza, ecco qui il vostro…
