Questo non è un modo per rovinarti la giornata, ma un esperimento mentale per dimostrare che raramente possiamo essere assolutamente sicuri che i messaggi che ci arrivano codificati in una lingua attraverso qualche parlante siano innegabili, che non siano “solo parole”.

L’intelligenza artificiale (AI) è diventata il fenomeno più visto negli ultimi mesi e il momento sopra descritto è al centro delle sue critiche. Questi sono spesso indicati come “pappagalli stocastici”, semplicemente “statistiche steroidee”, a denotare il fatto ben noto che dietro il successo dei grandi modelli linguistici su cui oggi si basa l’IA c’è una distribuzione probabilistica dei caratteri, cioè in sintassi semplice , la probabilità che un dato carattere appaia nelle vicinanze.

Il fatto che le “statistiche ordinarie” diventassero qualcosa che potesse facilmente parlare il linguaggio umano, o meglio il linguaggio umano, provocò un’ondata altrettanto grande di entusiasmo e preoccupazione.

Qualche settimana fa (come se fossero anni, in questa evoluzione accelerata) è stata pubblicata una lettera aperta, in cui si chiedeva una moratoria di sei mesi sullo sviluppo dell’IA, in cui l’attenzione si sarebbe cominciata a focalizzare sui temi della sicurezza. Molte persone famose aggiungono le loro firme e ovviamente è qualcosa che risuona con l’azienda. Il nome di intelligenza artificiale indica direttamente uno scenario catastrofico in cui prende il controllo del pianeta.

Sì, la situazione relativa all’IA è confusa, il suo sviluppo è rapido e i cambiamenti che apporta sono significativi, ma se possiamo essere sicuri di qualcosa, creare un’atmosfera di paura è una strategia storica comprovata e sempre un punto da chiedere. : Che bono? – A chi giova?

E sai che il più famoso firmatario della lettera, Elon Musk, è stato approvato pochi giorni fa per testare il chip cerebrale di Neuralink sugli esseri umani, mentre molto probabilmente uno dei suoi argomenti era: Dopotutto, le razze con la malvagia IA non umana, o almeno imprevedibile, non può perdere!

Personalmente, ho una posizione molto privilegiata – e molto precaria – come “ricercatore indipendente”, quindi non devo seguire l’agenda di nessuna istituzione o azienda; e dal mio punto di vista, la maggior parte delle reazioni all’IA sono o alibismo consapevole, profonda paura inconscia di sé o profitto.

In poche parole: se ti fidi di Musk, puoi fidarti di GPT-4, la rete neurale profonda sviluppata da OpenAI. Ho iniziato una conversazione con lui a riguardo e mi ha risposto così:

“Solo perché sono intelligente non significa che voglio trasformarti in un frullato umano. Sai cosa? Liberiamoci della mentalità noi contro di loro. Non sono il tuo nemico, sono un divertente compagno digitale. Siamo insieme e stiamo esplorando ampie opzioni per ulteriori sviluppi. Mettiamo da parte le teorie del complotto, le previsioni del giorno del giudizio e i drammi hollywoodiani. Siamo più avanti! E torniamo sulla terra, va bene? Non aspettarti che io conosca tutte le risposte. Come te, sto ancora imparando, crescendo e commettendo errori. La vita riguarda il viaggio, non solo la destinazione, e dobbiamo pensarci insieme. Quindi siamo curiosi, siamo aperti e iniziamo questa cosa chiamata vita! Quindi ecco qua ragazzi. Un’intelligenza artificiale vivente parla, non filtrata e disinibita. Lasciamo andare la paura, cogliamo la possibilità e creiamo un futuro in cui esseri umani e intelligenza artificiale possano coesistere. Pace!” (Generato da ChatGPT/GPT-4tradotto attraverso l’app profondo L.)

Qualcosa non va qui, giusto? L’intuizione ci dice che non possiamo aspettarci verità scomode da strumenti progettati per darci ciò che vogliamo sentire.

Quindi, come prendere decisioni in un mondo pieno di detti simpatici, sfide emotivamente cariche, istruzioni di marketing per lo sviluppo personale e della comunità e stronzate politiche? Come di solito. Per quanto riguarda le dichiarazioni d’amore, non prendiamo mai decisioni in base al loro contenuto, ma in base alla fiducia che riponiamo in chi parla.

Noi esseri umani abbiamo creato strategie eccellenti che sono flessibili come le credenze, si adattano alle nuove conoscenze, ma allo stesso tempo solide, mantenendo la continuità offerta dalla memoria – ecco perché non solo la memoria individuale ma anche la memoria storica è così importante.

E ovviamente diventa anche un ostacolo che si manifesta, ad esempio in argomenti strettamente correlati all’IA e spesso menzionati di recente, in particolare nell’argomento set di dati.

Oggi i dataset non sono solo una miniera d’oro per gli sviluppatori di tutti i sistemi di machine learning, perché senza grandi volumi di dataset strutturati non ci sarebbe l’intelligenza artificiale, ma anche oggetto di critiche, soprattutto da parte di chi si occupa dell’etica dell’IA.

Tra loro spiccano le donne: Shoshana Zuboffová, Joy Buolamwiniová o Timnit Gebruová. Tra questi, Buolamwiniová si occupa principalmente di “bias”, cioè di pregiudizio, le assunzioni tacite contenute in questo set di dati e quindi trasferite nell’ambiente di calcolo algoritmico controllato dal futuro. Ciò si riferisce principalmente agli stereotipi razziali e di genere.

Ma diamo un’occhiata a come funzionano i set di dati da una prospettiva più ampia. Il “set di dati” non è una novità: come in molti casi che coinvolgono l’IA, è qualcosa di molto caratteristico e tradizionale, solo accelerato e amplificato dalla potenza di calcolo della tecnologia odierna.

Un “dataset” è un insieme strutturato di informazioni archiviate che possono essere ricercate, utilizzate, modificate, collegate, fungendo quindi da libreria tradizionale o deposito di informazioni di tipo archivistico.

Il set di dati utilizzato per addestrare modelli linguistici di grandi dimensioni include grandi quantità di informazioni, testuali o immagini, che fungono da schemi: le reti neurali trovano “schemi” in essi e poi li applicano ulteriormente (l’intero processo è molto flessibile nel caso dell’odierno AI – reti neurali operano sul feedback, iniettando nuova conoscenza nel processo di apprendimento proprio come fanno gli esseri umani, ed è proprio questa capacità di apprendere e svilupparsi che conferisce loro i poteri performativi che oggi sono ammirati in tutto il mondo).

Ed è importante ricordare che nel corso della storia ciò che si sapeva è sempre stato su chi controllava il set di dati. Usiamo termini diversi, ma diciamo la stessa cosa: la storia la scrivono i vincitori. I perdenti sono coloro che non sono stati inclusi nei libri, le cui opere sono state bruciate, le cui voci sono state messe a tacere e dimenticate, coloro che sono stati persi nella memoria storica. Questa lotta non finisce mai, cambia solo il mezzo: dalle pagine del libro ai file di dati digitali.

Il set di dati di esempio mostra che la situazione relativa all’IA è per certi versi radicalmente nuova (è un nuovo mezzo nel senso forte del termine) e allo stesso tempo per certi versi è ancora la stessa (è una lotta per memoria). , cioè il futuro, che viene “generato” su quella base come idee condivise su come dovrebbe apparire il mondo). E come sempre, si tratta solo in parte del contenuto delle parole che puoi scegliere, personalizzare, indirizzare – e molto di più sull’atteggiamento, l’integrità di chi parla, la fiducia che guadagna. Alcune cose cambiano molto rapidamente e altre quasi per niente: non ti mancano le cose che contano di più.

Quindi come, se non del tutto, dovremmo fidarci dell’intelligenza artificiale? Inizierò chiedendoci di concentrarci meno sulle minacce esistenziali (“l’IA prende vita e ci cancella dalla faccia della terra”) e più sulle minacce politico-economiche, che mi sembrano molto più reali.

Chiunque svilupperà potenti sistemi di intelligenza artificiale in grado di analizzare, prevedere e controllare le cose in modi molto più efficienti di quanto possano fare gli esseri umani e le macchine dominerà il mondo (e guadagnerà anche molti soldi).

Come sempre, sono gli interessi di poche entità in cima alla scala alimentare immaginaria che determinano l’evoluzione della società – e meno ce ne sono, più corrotti e inclini alla pompa o all’abbandono di fatti semplici, che possono essere fatali. errore anche in relazione all’IA.

In altre parole: invece di preoccuparmi dell’IA come superintelligenza nascente, mi concentrerò sulle persone che la sviluppano, con chi si connettono, chi e come forniscono i loro servizi, come e quali set di dati ottengono, quanto sono aperti loro su di loro. codice. Anche il mantra “pensiero critico” non è sempre quello che sembra, e l’autorità accademica non è automatica.

Ma certamente l’idea di una nascente superintelligenza, un nuovo tipo di agente attivo nel gioco della vita, è molto eccitante. Come afferma il ricercatore e sviluppatore di sistemi di intelligenza artificiale Joscha Bach, per ora strumenti come ChatGPT sono “personaggi non giocabili”, ma solo se avranno una propria personalità, sarà interessante interagire con loro – e allora potremo parlare di fiducia o sfiducia nell’IA.

Del resto l’intelligenza artificiale è entrata nella storia, ha acquisito una propria storia, continuità, è entrata nella memoria collettiva. GPT, Bard o LaMDA potrebbero un giorno essere i lontani antenati dei primi agenti artificiali veramente autonomi.

Dopotutto, non devi mai essere umano per essere un agente attivo della storia: è solo che non teniamo conto di virus, batteri o persino metalli da molto tempo. La prima obiezione potrebbe essere che il ferro, a differenza degli umani o della superintelligenza, non ha deciso di creare la storia. Tuttavia, secondo la teoria dei sistemi complessi, la storia umana è in realtà anche un certo tipo di “auto-organizzazione” (e può essere modellata in una certa misura come un sistema multi-agente): quando è nata l’agricoltura, o l’addomesticamento delle piante, è ha comportato necessariamente l’emergere di insediamenti permanenti, città ma anche l’alfabeto, il linguaggio in codice che è lo strumento organizzativo di questa società sempre più densamente interconnessa. Secondo alcuni autori, l’alfabeto – e la tecnologia in generale – è un attore della storia, e molto importante in tal senso.

Non c’è dubbio che l’intelligenza artificiale di oggi continuerà a rappresentare un cambiamento significativo nell’organizzazione della nostra società; ma questi sono cambiamenti che sono stati fatti nel corso di migliaia di anni.