Negli ultimi tempi ho letto e ascoltato molte discussioni sull’intelligenza artificiale. Alcune entusiaste, altre decisamente preoccupate.
C’è chi sostiene che cambierà il mondo. Chi pensa che ci ruberà il lavoro. Chi la considera poco più di un giocattolo. Chi è convinto che ormai possa fare praticamente tutto.
E, naturalmente, chi dice che scrivere con l’AI non è scrivere.
Mi sono accorto però che in molte di queste discussioni manca un passaggio preliminare piuttosto importante.
Di che cosa stiamo parlando?
Non sono un informatico e questo articolo non vuole spiegare l’intelligenza artificiale. Sarebbe un’ambizione un po’ eccessiva.
Vorrei fare qualcosa di molto più modesto: provare a capire che cosa succede, almeno a grandi linee, quando scriviamo una domanda in una finestrella e, pochi secondi dopo, qualcosa ci risponde.
Perché è proprio quel qualcosa a trarci in inganno.
Qual è la parola successiva?
Facciamo un gioco.
Provate a completare questa frase:
Il gatto beve il…
Probabilmente molti avranno pensato latte.
Non tutti, naturalmente. Il gatto potrebbe bere acqua, potrebbe bere da una pozzanghera e, in un romanzo particolarmente fantasioso, persino whisky.
Ma latte è una continuazione che ci viene facilmente in mente.
Proviamo ancora:
Era una notte buia e…
Qui probabilmente qualcuno avrà già pensato tempestosa.
Perché?
Perché abbiamo incontrato quelle parole insieme moltissime volte. Nei libri, nei film, nelle conversazioni, nelle battute. Abbiamo imparato che alcune parole hanno una probabilità maggiore di seguirne altre.
Semplificando enormemente, un modello linguistico fa qualcosa che parte da un principio non così lontano: davanti a una sequenza di elementi linguistici calcola quale potrebbe essere la continuazione più probabile.
Solo che lo fa su una scala che noi facciamo fatica persino a immaginare.
Non ha incontrato cento frasi. Ne ha elaborate quantità immense. Ha individuato relazioni, strutture, ricorrenze e associazioni all’interno del linguaggio.
E soprattutto non sceglie necessariamente ogni volta la parola più probabile. Se lo facesse, probabilmente produrrebbe testi terribilmente prevedibili.
Il meccanismo è molto più complesso.
Ma per cominciare a capire possiamo fermarci qui.
E allora perché sembra capire?
Qui le cose diventano interessanti.
Se chiedo a un sistema di AI:
«Perché Don Abbondio ha paura dei bravi?»
non mi risponde:
paura, paura, paura, paura…
Costruisce invece una risposta nella quale può parlare del carattere di Don Abbondio, della sua posizione sociale, del rapporto con il potere, del contesto del romanzo.
Se poi gli dico:
«Non sono d’accordo. Secondo me Don Abbondio è semplicemente prudente»
può persino controbattere.
Ed è difficile, mentre leggiamo la risposta, non avere una sensazione precisa:
ha capito quello che gli ho detto.
È qui che cominciamo spontaneamente a umanizzare la macchina.
Diciamo che sa, pensa, capisce, si ricorda, vuole dire qualcosa.
Lo faccio anch’io continuamente.
È quasi inevitabile, perché il linguaggio è sempre stato, per noi esseri umani, una delle manifestazioni più evidenti dell’intelligenza.
Se qualcuno risponde in maniera pertinente a una domanda, siamo abituati a pensare che abbia compreso la domanda.
Con l’intelligenza artificiale questa equivalenza diventa molto meno scontata.
Ma allora è soltanto un pappagallo?
Qui nasce l’equivoco opposto.
Una volta scoperto che alla base c’è un meccanismo di previsione, qualcuno conclude:
«Ah, allora non fa altro che indovinare la parola successiva.»
Tecnicamente la frase contiene un pezzo importante di verità.
Ma quel “non fa altro” rischia di nascondere quasi tutto il problema.
Per riuscire a prevedere bene che cosa dovrebbe venire dopo, un modello deve aver costruito rappresentazioni estremamente complesse delle relazioni presenti nei dati con cui ha imparato.
Se scrivo:
«Mario mise il gelato sul tavolo e uscì di casa. Tornò due ore dopo.»
e poi chiedo che cosa probabilmente sia successo al gelato, il sistema può rispondere che si è sciolto.
Nel testo non c’è scritto.
Da qualche parte, nelle relazioni che il modello ha appreso, sono però finite insieme idee come gelato, temperatura, tempo, sciogliersi.
Ha capito che il gelato si scioglie?
Dipende soprattutto da che cosa intendiamo con la parola capire.
Ed ecco che una domanda apparentemente tecnica diventa quasi filosofica.
Non c’è un omino dentro ChatGPT
Forse questo è il punto più utile da ricordare.
Dietro lo schermo non c’è qualcuno che legge la nostra domanda, riflette e decide che cosa risponderci.
Non c’è neppure un gigantesco archivio nel quale il sistema cerca una risposta già scritta per poi copiarla.
Il testo viene generato.
Un elemento dopo l’altro.
Tenendo conto di ciò che abbiamo scritto, di ciò che è già stato prodotto nella conversazione e delle strutture apprese durante l’addestramento.
Ed è proprio questa caratteristica a spiegare anche uno dei suoi difetti più sorprendenti.
L’AI può dire una cosa falsa con la stessa apparente sicurezza con cui ne dice una vera.
Perché il suo obiettivo non è necessariamente quello che immaginiamo noi quando facciamo una domanda: conoscere la verità.
Sta producendo una continuazione linguisticamente plausibile sulla base del suo funzionamento e delle informazioni disponibili.
Per questo può essere straordinariamente utile.
E per questo può anche sbagliare.
La bacchetta magica funziona male
Forse molti equivoci sull’intelligenza artificiale nascono proprio qui.
La trattiamo come una bacchetta magica.
«Scrivimi un romanzo.»
«Fammi una campagna pubblicitaria.»
«Analizza la mia azienda.»
«Dimmi che malattia ho.»
Poi giudichiamo l’intelligenza artificiale dal risultato.
Ma usare uno strumento senza sapere minimamente come funziona è sempre pericoloso.
Non occorre conoscere il funzionamento di un motore a combustione per guidare un’automobile. È però utile sapere almeno che cosa fanno il freno e l’acceleratore.
Con l’AI siamo forse ancora in quella fase.
Stiamo imparando dove sono i pedali.
E la scrittura?
Ed eccoci al punto che mi interessa di più.
Se un’intelligenza artificiale può produrre un racconto, correggere una frase, individuare una ripetizione, suggerire un dialogo o analizzare la coerenza di una storia, la domanda interessante non è soltanto:
«L’ha scritto una persona o l’ha scritto l’AI?»
Ce ne sono molte altre.
Chi ha avuto l’idea?
Chi ha scelto che cosa raccontare?
Chi ha giudicato il risultato?
Chi ha scartato una proposta?
Chi ne ha modificata un’altra?
Chi ha deciso che quella frase esprimeva esattamente ciò che voleva dire?
E soprattutto: quanto deve conoscere lo strumento chi lo sta usando?
Perché probabilmente c’è una differenza enorme tra chiedere a una macchina «scrivimi un romanzo» e utilizzarla per lavorare consapevolmente su un romanzo che abbiamo immaginato, costruito e scritto.
Ma questa è un’altra discussione.
E temo che ci torneremo.
Forse dovremmo conoscerla prima di averne paura
Non credo sia necessario diventare informatici per usare l’intelligenza artificiale.
Così come non abbiamo dovuto diventare ingegneri elettronici per usare un computer o conoscere i protocolli di Internet per mandare un’email.
Credo però che sia utile conoscere almeno i principi fondamentali dello strumento che stiamo usando — o che stiamo criticando.
Per chi volesse andare un po’ più in profondità, senza necessariamente trasformarsi in uno specialista, gli scritti di Nello Cristianini sono un ottimo punto di partenza: affrontano l’intelligenza artificiale cercando di capire non soltanto come funzionano queste macchine, ma anche che cosa significhi convivere con sistemi capaci di produrre comportamenti che interpretiamo come intelligenti.
Perché forse la domanda più interessante non è:
«L’intelligenza artificiale pensa?»
Potrebbe essere un’altra:
che cosa deve fare una macchina perché noi cominciamo a pensare che stia pensando?