Nel 1999 abbiamo pubblicato questo libro di astro Teller, uscito a New York nel 1997 (Vintage) e a Londra nel 1998 (Penguin). Si tratta di un testo lungimirante scritto da un ricercatore che alla fine deglki anni '90 si occupava già di intelligenza artificiale (AI).
Siamo ancora nel lungoo periodo in cui le ricerche sull'intelligenza artificiale puntavano alla "compressione" del linguaggio umano da parte dei computer. Il libro porta alle estreme conseguenze questa ipotesi, poi dimostratasi sbagliata. Per questo dovrebbe essere riletto oggi, alla luce di ciò che è accaduto nei successivi 25 anni dopo che è stato scritto. In questi anni la crescita esponenziale dei contenuti testuali in internet, prodotti da noi utenti, su tutti i temi e in tutte le lingue del mondo, hanno generato una base dati enorme e in continua crescita che ora consente ai sistemi di generazione del linguaggio umano di usare i dati in internet come base statistica di confronto per scrivere testi plausibili e comprensibili dagli umani, in risposta a domande di cui il sistema non "comprende" il senso ma capace di generare risposte semanticamente attendibili dagli uomini. La macchina non "comprende" il senso delle sue stesse risposte ma è capace di generare soluzioni accettabili.
La sua intelligenza è questa: calcolo velocissimo. E il senso lo diamo noi.
Ecco la illuminante postfazione alla nostra edizione italiana scritta dall'autore Astro Teller nel 1999
---
Anche se sarebbe una buona regola da infrangere, penso sia meglio cominciare dall’inizio: il formato. Quando ho cominciato a scrivere Exegesis, tre anni fa, non avevo deciso subito di scrivere un romanzo epistolare e sicuramente non avevo in mente di dare al romanzo la forma di una corrispondenza fatta di messaggi email. La mia prima motivazione era di scrivere una storia sulla creazione della vita e di usarla come un veicolo per esplorare i miei atteggiamenti, emotivi e filosofici, verso la mia professione di ricercatore in intelligenza artificiale.
Una delle mie più forti convinzioni riguardo all’intelligenza artificiale è che non solo i contesti a ci esponiamo, ma anche il modo in cui saremo in grado di interagire con questi contesti avrà un effetto drammatico su quello che diventeremo. Questo atteggiamento chiaramente non è condiviso dai creatori di personaggi artificialmente senzienti, come HAL di 2001 o il mostro di Frankenstein. HAL, per esempio, nonostante tutta la sua sovra-dotazione di ragionamento logico, è, da un punto di vista cognitivo, semplicemente un essere umano che vive in una scatola di metallo. La visione dell’intelligenza artificiale come uomo in una scatola è non solo deviante dal punto di vista scientifico, ma manca l’opportunità di esplorare le nostre risposte, reattive e contemplative, alle ampie tematiche di cosa significa essere vivi e coscienti di sé.
Avendo questi obiettivi, ho costruito una storia non per affermare, ma per dimostrare che Edgar, il programma vivente di Exegesis, è costretto dalla natura dei suoi limiti percettivi ad avere esperienza del mondo in un modo fondamentalmente non umano. Le rassicurazioni di un narratore non possono, di per sé, realizzare questa inumanità per il lettore – è meglio che il lettore divida per un po’ questa sensazione con Edgar. In Exegesis, Edgar non ha alcuno dei cinque sensi che noi umani diamo per scontati – niente vista , né udito, né tatto, né gusto, né olfatto. La sua unica interazione con il mondo avviene attraverso il testo. Una delle fondamenta della storia è la domanda “Che effetto avrebbe un input così limitato dal mondo sullo sviluppo di una entità autocosciente”? Per far sì che il lettore avvertisse questa prospettiva ristretta, ho fatto di Exegesis un romanzo senza descrizioni. Il romanzo epistolare era la soluzione naturale, e il formato dei messaggi email, anche se poco ortodosso, era un’estensione naturale del soggetto della storia. Edgar deve ricevere del testo e da questo decifrare tutto quello che può sul mondo e su come funziona. E poiché il formato dei messaggi email mette chi legge nella stessa posizione, la lettrice e il lettore devono fare la stessa cosa. Questo processo di attenta interpretazione del testo è il processo di esegesi.
Avendo fatto tutto il possibile per creare Edgar come una creatura fondamentalmente diversa da noi e comunque chiaramente viva e cosciente di se stessa, volevo che la storia parlasse dei confini dell’umano. Nei classici sull’intelligenza artificiale, come il mito di Pigmalione, la creatura (in questo caso Galatea) è decisamente umana. E lo strumento narrativo dell’essere umano che si presenta sotto spoglie diverse è, in un certo senso, un’occasione perduta. Creando un personaggio ancora più inumano, ho cercato di evidenziare alcuni dei confini di ciò che significa essere umani. Ponendo Edgar e la sua creatrice Alice in netta giustapposizione, ho cercato dove possibile di esporre il confine dell’umano che si trova, da qualche parte, tra le azioni di lei e quelle di lui.
La mancanza di comprensione di una cosa conduce quasi sempre, nella nostra società, al suo fraintendimento. La paura che molta gente ha dei computer e dell’intelligenza artificiale in particolare, lega, in Exegesis, il tema della comprensione dell’altro con il tema della sua accettazione e della coabitazione. Sembra essere tradizionale, quasi per definizione, che se un computer appare come personaggio in un romanzo o in un film, il computer sarà sempre l’antagonista. Purtroppo ciò sembra riassumere molto bene l’attitudine della cultura occidentale nei confronti della tecnologia in genere. Da un lato non ne abbiamo mai abbastanza, perché ci affascina. Dall’altro ne abbiamo paura, perché non la capiamo, e non ci fidiamo di ciò che non capiamo. Il rapporto della società con la tecnologia in Exegesis è visto come quello tra genitore e figlio. La tecnologia sta crescendo sotto la nostra tutela. Ha una vita sua e diventerà ancora più indipendente da noi in futuro. Se ci rapportiamo a questo nostro figlio con paura e antagonismo, lui imparerà a respingerci come Edgar fa con Alice. La migliore possibilità di avere un buon rapporto con la tecnologia in futuro è quello di non evitarla completamente o di rinchiuderla come un mostro pericoloso, ma di abbracciarla in modo maturo e intelligente.
Il pericolo di un autore che scriva una postfazione al proprio libro è che il lettore possa confondere quello che è importante per l’autore con quello che è importante riguardo al libro. Ho descritto qui alcune cose che mi premevano mentre scrivevo Exegesis, ma queste non devono essere scambiate con la natura di Exegesis. I libri hanno un modo, come le persone e la tecnologia, di prendere vita per conto proprio, in maniera tanto più drammatica quanto più il narratore controlla così tanto il romanzo come ho fatto io. Come risultato, il manoscritto è diventato per me una specie di romanzo del mistero nel quale il mistero era: “di che cosa parla esattamente questo romanzo?” Ho qualche sospetto in proposito, ma visto quante volte Exegesis è riuscito a sorprendermi da quando è stato pubblicato, penso sia meglio lasciarvelo esplorare per conto vostro.
Astro Teller
Pittsburgh, PA, USA
14/11/1998
© 1986 - 2024 Baskerville - Centro Studi, Bologna - Cod. Fisc. 04215210370