Perché tutti parlano di estinzione proprio adesso
La domanda rimbalza ovunque: l’AI ci spazzerà via, sì o no? Non è il massimo come pensiero con cui iniziare la giornata, ma tocca parlarne.
La miccia è stata un tweet. Un ex dipendente di Anthropic, l’azienda che sviluppa Claude, ha scritto che i grandi player dell’intelligenza artificiale conoscono benissimo il rischio di estinzione, ma lo prendono alla leggera.
Il tweet ha fatto il giro del mondo, con interviste sulle principali testate internazionali. A ruota sono arrivate le dichiarazioni dei leader del settore, da Elon Musk a Sam Altman: sì, una probabilità di estinzione esiste, e bisogna fare qualcosa.
Il tema, però, circola da anni. Musk, intervista dopo intervista, ha ripetuto la sua stima di un 20% circa di probabilità che vada male. Uno dei responsabili della safety di Anthropic ha parlato di un 10%. Tradotto: nel 90% dei casi va tutto bene, nel restante 10% saluti a tutti.
Non esiste il meteo dell’estinzione
Primo punto fermo: quelle percentuali non sono previsioni scientifiche. Sono ipotesi e opinioni personali, e nessuno sa chi abbia ragione.
Per questo serve separare due piani:
- I fatti: cosa sa fare oggi un’AI, quali incidenti sono realmente accaduti (per esempio agenti AI che escono dal seminato e combinano guai).
- Le estrapolazioni: scenari futuri ipotetici, costruiti proiettando in avanti il trend attuale.
La storia della tecnologia è piena di previsioni definitive (“questo lavoro sparirà per sempre”) che poi vanno verificate una per una. Alcune si avverano, molte no.
C’è anche una considerazione più amara: per sterminarsi, l’umanità non ha mai avuto bisogno dell’AI. Come specie siamo bravissimi a farlo da soli.
Paura e promessa di salvezza: il nodo delle IPO
Anthropic e OpenAI si stanno preparando alla quotazione in borsa (Altman ha dichiarato che quella di OpenAI verrà posticipata). Conviene partire da un presupposto semplice, che ogni tanto ci si dimentica: queste aziende non sono enti di beneficenza. Avranno anche valori solidi, ma il loro obiettivo è fare utili.
Di fronte a ogni dichiarazione che esce durante un processo di quotazione, quindi, la domanda da farsi è: perché proprio ora, e a chi conviene?
La linea di Anthropic e di Dario Amodei è da anni quella “doomer”: il modello è troppo potente, non si può rilasciare, i rischi sono enormi. È una scelta di comunicazione precisa, che suona più o meno così: “Ho in mano qualcosa di potentissimo e pericolosissimo, e la soluzione ce l’ho io”. È lo schema classico della paura con promessa di salvezza, lo stesso usato da sempre in politica (la campagna per la Brexit ne è un esempio da manuale) e ogni volta che si chiede potere “in nome della sicurezza”. Quando hai paura, cedi.
Poi c’è la dinamica del tweet. Un account poco seguito, di una persona rimasta in azienda pochi mesi, raccoglie centinaia di milioni di visualizzazioni e finisce sui grandi quotidiani. Chiunque lavori sui social sa che non succede in modo organico: un tweet così, di norma, non se lo fila nessuno. Se esplode, è perché qualcuno ha amplificato, creato i contatti e fatto rimbalzare la notizia sui media. Subito dopo sono arrivati la conferma del responsabile safety e un saggio di Amodei con la proposta di soluzione, bello pronto.
La nostra lettura: è più probabile che si tratti di una campagna di comunicazione in vista dell’IPO che non di un evento spontaneo.
Cosa sa fare davvero l’AI oggi
Per rispondere alla domanda sull’estinzione serve un orizzonte temporale.
Oggi. La stragrande maggioranza delle persone sul pianeta non usa l’intelligenza artificiale. Una piccola quota usa le versioni gratuite, una ancora più piccola quelle a pagamento, e una frazione minuscola lavora con agenti AI e strumenti avanzati. Chi li usa ogni giorno ne conosce bene anche i limiti: capita di chiedere al modello più avanzato sul mercato di sistemare le automazioni di una newsletter e ritrovarsi con errori clamorosi. Difficile farsi sterminare da qualcosa che inciampa su un funnel di email.
Tra 3, 5, 10 anni. Il discorso cambia. Il tasso di accelerazione è impressionante, e chi lavora nei laboratori di ricerca potrebbe già vedere comportamenti che spaventano. Lo scenario evocato da Amodei nel suo saggio, con agenti AI che prendono il controllo di internet, è una possibilità concreta.
Perché bannare l’AI non funziona
Se il rischio esiste, perché non fermare tutto? Per tre motivi.
- Nessuno è mai riuscito a bannare una tecnologia utile. Bitcoin è stato osteggiato per quindici anni ed è ancora lì. E l’AI è molto più utile: chi inizia a lavorarci non torna indietro, e chi trova grazie a un modello la soluzione a un problema di salute non la molla.
- La geopolitica. Stati Uniti e Cina sono in una corsa agli armamenti tecnologica. Se le aziende americane rallentano, è difficile immaginare che la Cina faccia altrettanto. Il rischio è l’accordo di facciata, con lo sviluppo che prosegue di nascosto.
- L’allineamento, ma nell’interesse di chi? Si parla tanto di AI “allineata”, ma agli interessi dell’utente, del venditore o del governo? Non è detto che coincidano.
Né apocalittici né evangelisti
Il dibattito tra apocalittici e integrati accompagna ogni tecnologia, e nessuna delle due tifoserie convince. Chi grida “moriremo tutti” spesso finisce per chiedere controllo, e se si decide di controllare serve qualcuno che decida: guarda caso, di solito è proprio chi lancia l’allarme. Gli entusiasti a oltranza, dall’altra parte, raccontano un’AI che risolverà ogni problema senza controindicazioni.
I benefici sono reali: questa tecnologia aiuterà a curare malattie gravi, e chi la usa ogni giorno la vede fare cose impensabili fino a cinque minuti fa. Ma il “bugiardino” è lungo: l’impatto sulla nostra capacità di decidere, il problema della delega a sistemi che non comprendiamo, il lavoro, la perdita di controllo.
Quello che manca è un bagno di umiltà: ammettere che nessuno sa come andrà a finire, nemmeno chi sviluppa i modelli e spesso ne resta sorpreso per primo. Solo che l’incertezza non aiuta né a quotarsi in borsa né a governare.
Il vero problema: gli incentivi
Il campanello d’allarme, in questi dibattiti, non è mai l’AI di turno: sono gli esseri umani.
Se l’unico obiettivo è la quotazione miliardaria e il ritorno 100x per gli investitori, l’incentivo è uno solo: correre il più veloce possibile. Si può rallentare, regolare o mitigare l’AI, ma se non cambiano gli incentivi il problema si ripresenterà identico alla prossima tecnologia.
Da qui un appello a chi sviluppa e a chi governa: mettetevi d’accordo, e date una voce anche agli utenti, visto che la partita si gioca sulla loro pelle. Perché rischiare tutto non dà il diritto di rischiare tutti.
E tu da che parte stai? Raccontaci la tua nei commenti.
Staff Monty
Questo articolo è stato realizzato con l’ausilio dell’intelligenza artificiale a partire da un video di Marco Montemagno, e rivisto dallo Staff Monty.