Benvenuto su Hackerpunk — notizie e analisi su intelligenza artificiale, LLM, automazione offensiva e difensiva. Copriamo ricerca, policy e impatto reale dell'AI sulla sicurezza digitale.
In un pomeriggio di marzo del 2016 a Seul, ho visto un programma che avevo contribuito a sviluppare posizionare una pietra sulla quinta linea di una tavola da Go, in quella che sembrava una mossa di favore nei confronti del suo avversario umano. La mossa numero 37 della seconda partita di un incontro di cinque partite sembrava talmente assurda che alcuni commentatori pensarono si trattasse di un errore di programmazione.
Non era così. AlphaGo vinse la partita, trionfando alla fine per 4 a 1 su Lee Sedol, uno dei più grandi giocatori professionisti di Go di tutti i tempi. «Pensavo che AlphaGo si basasse sul calcolo delle probabilità e che fosse semplicemente una macchina», disse Lee in seguito. «Ma quando ho visto questa mossa, ho cambiato idea. Senza dubbio, AlphaGo è creativo».
Quando Deep Blue sconfisse l’allora campione mondiale in carica di scacchi Garry Kasparov nel 1997, lo fece anticipando da sei a otto mosse per giocatore e valutando 200 milioni di posizioni scacchistiche al secondo, utilizzando regole programmate dall’uomo. Il Go è un gioco di gran lunga più complesso. Il valore di una pietra dipende da come i gruppi e il territorio si sviluppano nel corso di decine di mosse. Calcolare anche solo una frazione dei possibili esiti richiederebbe a un supercomputer miliardi di anni.
Per vincere, AlphaGo doveva intuire a colpo d’occhio chi fosse in vantaggio e persino inventare mosse a cui nessun essere umano aveva pensato di giocare.
Ecco perché molti resoconti della partita di AlphaGo contro Lee descrivono la mossa 37 come un lampo di pura intuizione della macchina. Ma si tratta di un malinteso. In realtà sono state le capacità di ragionamento di AlphaGo a determinare questa scelta creativa — e si tratta di capacità che l’IA odierna non possiede.
Se vogliamo che i futuri sistemi di IA producano risultati affidabili e intuizioni davvero innovative in campi come la scienza e la medicina, dobbiamo dotarli di autentiche capacità di ragionamento di questo tipo.
AlphaGo è composto da due sistemi. Il primo, la sua rete di policy, è stato addestrato a indovinare quale mossa avrebbe giocato un forte giocatore umano. Questa parte «intuitiva» considerava la mossa 37 come nulla di speciale: una giocata che aveva una probabilità di circa una su 10. 000 di essere effettuata da un giocatore umano esperto.
Ciò che ha spinto AlphaGo a sceglierla è stato il meccanismo di ricerca del programma, che è andato oltre la plausibilità immediata e ha valutato le conseguenze future delle mosse proposte. Ha costruito e analizzato esplicitamente un albero di gioco con migliaia di rami, ciascuno dei quali rappresentava un diverso futuro possibile.
Una teoria ben nota nelle scienze comportamentali, resa popolare da Daniel Kahneman, distingue tra due modalità di pensiero umano: il Sistema 1 è veloce, istintivo, spontaneo; il Sistema 2 è lento, graduale e deliberativo. AlphaGo offriva un sorprendente analogo meccanico di tale divisione.
Le sue reti fornivano le intuizioni — questa mossa sembra promettente, questa posizione sembra vincente — e il suo sistema di ricerca forniva la riflessione, verificando tali intuizioni alla luce delle mosse e delle contromosse che sarebbero seguite. Come nella cognizione umana, nessuna delle due parti opera da sola. L’intuizione da sola non avrebbe mai optato per la mossa 37, mentre la ricerca a forza bruta avrebbe faticato a vagliare tutte le numerose mosse possibili.
Questo è nettamente diverso dal modo in cui funzionano i modelli di IA odierni. Un grande modello linguistico sceglie il token successivo, più e più volte. Ciò equivale al sistema 1 in azione: veloce, associativo e sorprendentemente efficace nel completare schemi su quasi ogni argomento di cui le persone scrivono.
Poco dopo il debutto di ChatGPT, il settore si è reso conto che la sola fluidità linguistica non è sufficiente per garantire una reale utilità. La soluzione apparente è stata quella di creare modelli in grado di ragionare: invece di rispondere immediatamente, ora possono generare passaggi intermedi che scompongono un problema, riportano risultati parziali e influenzano il ragionamento successivo — un processo noto come catena di pensiero.
I vantaggi si sono dimostrati reali, soprattutto in matematica e nella programmazione. Ma a differenza della ricerca di AlphaGo, ciò non introduce un meccanismo di ragionamento realmente distinto: il ragionamento intermedio è ancora prodotto dallo stesso processo di previsione del token successivo, ripetuto più a lungo prima che il modello si impegni a fornire una risposta.
Tre carenze impediscono che ciò che fanno i chatbot possa essere qualificato come ragionamento (nel senso in cui lo riconoscerebbe uno scienziato). In primo luogo, questi modelli in genere non mantengono uno stato epistemico esplicito, persistente e verificabile.
Non esiste un registro aperto che esponga le ipotesi che un modello sta prendendo in considerazione, la fiducia che ripone nelle varie spiegazioni, le prove che sta valutando e le questioni irrisolte su cui si sta soffermando — tutti elementi che dovrebbero essere sistematicamente rivisti man mano che arrivano nuove informazioni.
In secondo luogo, manca una netta separazione tra ciò che il sistema sa e il modo in cui manipola tale conoscenza. Conoscenza e ragionamento sono indissolubilmente intrecciati nei pesi della rete neurale: non esiste un insieme di credenze indipendente ed esplicitamente rappresentato.
In terzo luogo, sebbene le catene di pensiero prodotte dai chatbot sembrino frutto di una deliberazione, la ricerca ha dimostrato che spesso i bot le inventano a posteriori, giungendo a una risposta seguendo un percorso ma riportandone un altro.
Questo è un problema perché nelle applicazioni ad alto rischio che stanno a cuore a tutti noi, come la medicina, l’ingegneria e la ricerca scientifica, non conta solo ciò che un sistema conclude, ma anche come giunge a tale conclusione. Quando si verificano errori — ad esempio, nella diagnosi e nel trattamento medico — dobbiamo essere in grado di individuare con precisione cosa è andato storto: è stato il ragionamento del sistema a fallire, ha attinto a prove non valide o ha formulato ipotesi errate?
