L’intelligenza artificiale è poi così intelligente? Gli influenzatori dell’intelligenza artificiale si preoccupano dei desideri

Cosa ottieni quando metti insieme nella stessa aula due delle 100 persone più influenti nel campo dell'intelligenza artificiale secondo la rivista Time? Se i due influencer fossero lo scrittore di fantascienza Ted Chiang e Emily Bender, professoressa di linguistica all'Università di Washington, si otterrebbe molto scetticismo sul futuro degli strumenti di intelligenza artificiale generativa come ChatGPT.
"Non lo uso, e non lo userò, e non voglio leggere cosa fanno gli altri usandolo", ha detto Bender venerdì sera in un forum del municipio di Seattle presentato da Clarion West Chiang, che scrive saggi sull'intelligenza artificiale e inserisce macchine intelligenti in alcuni dei suoi racconti di fantasia, afferma che sta diventando troppo facile pensare che gli agenti dell'intelligenza artificiale stiano pensando.
"Sono fiducioso che non stanno pensando", ha detto.
“Non capiscono nulla, ma abbiamo bisogno di un altro modo per dare un senso a ciò che stanno facendo”.
Qual è il danno? Una delle paure principali di Chiang è che gli esseri umani pensanti e respiranti che maneggiano l'intelligenza artificiale la usino come mezzo per controllare altri umani.
In una recente intervista a Vanity Fair, ha paragonato la nostra economia sempre più guidata dall'intelligenza artificiale a "un gigantesco tapis roulant da cui non riusciamo a scendere" – e durante il forum di venerdì, Chiang temeva che l'apparente umanità degli assistenti di intelligenza artificiale potesse svolgere un ruolo nel mantenerci sul tapis roulant.
"Se la gente inizia a pensare che Alexa, o qualcosa del genere, merita qualsiasi tipo di rispetto, ciò va a vantaggio di Amazon", ha detto.
“Questo è qualcosa che Amazon cercherebbe di amplificare.
Qualsiasi azienda cercherà di farti pensare che un prodotto sia una persona, perché interagirai con una persona in un certo modo, e loro ne traggono beneficio.
Quindi, questa è una vulnerabilità della psicologia umana che le aziende stanno davvero cercando di sfruttare”.
Gli strumenti di intelligenza artificiale, tra cui ChatGPT e DALL-E, in genere producono testo o immagini scomponendo enormi database di opere esistenti e mettendo insieme gli elementi in prodotti che sembrano creati da esseri umani.
La genuinità artificiale è la ragione principale per cui Bender si tiene il più lontano possibile dall’intelligenza artificiale generativa.
“Il linguaggio di cartapesta che esce da questi sistemi non rappresenta l'esperienza di nessuna entità, di nessuna persona.
E quindi non penso che possa essere scrittura creativa", ha detto.
"Penso davvero che ci sia il rischio che sarà più difficile guadagnarsi da vivere come scrittore, poiché le aziende cercano di dire: 'Bene, possiamo procurarci la copia…' o, in modo simile, nel campo dell'arte, 'Possiamo realizzare le illustrazioni".
molto più economico prendendo il risultato del sistema che è stato costruito con arte rubata, visiva o linguistica, e semplicemente riproponendolo.'” Bender ha espresso il suo apprezzamento agli scrittori e agli attori di Hollywood per aver ottenuto protezione dall'invasione dell'intelligenza artificiale durante le trattative contrattuali di quest'anno con gli studi.
Ma ha criticato i giornalisti che inseriscono di nascosto i contenuti prodotti dall’intelligenza artificiale nel proprio lavoro.
(Divulgazione completa: nella stesura di questo rapporto non sono stati utilizzati strumenti di intelligenza artificiale.) "Ho impostato Google Alert sulla frase 'linguistica computazionale', per esempio", ha detto.
“L’ho impostato anni fa come un modo per trovare opportunità di lavoro per i miei studenti.
A partire da novembre 2022, ha continuato a inviarmi questi articoli di notizie in cui le persone scrivevano su ChatGPT, e un numero notevole di loro iniziava con qualche paragrafo generato da ChatGPT, senza contrassegni e poi sotto la piega, "Oh, ahah, quello è stato scritto da una macchina.' E ho pensato, che tipo di giornalista sacrificherebbe la propria integrità in questo modo? E inoltre, come osi ingannarmi facendomi leggere un testo falso?" Si potrebbe sostenere che Bender sia stata assimilata nell’ecosistema dell’intelligenza artificiale semplicemente in virtù del fatto che utilizza Google Alert, ma fa una distinzione tra intelligenza artificiale generativa e tecnologie per scopi speciali come la traduzione automatica e la trascrizione automatica del parlato in testo.
"Apprezzo molto avere un correttore ortografico", ha detto.
“Quindi, la tecnologia linguistica può certamente essere preziosa”.
Anche l’intelligenza artificiale generativa potrebbe avere il suo posto, ha detto Chiang.
"Molte volte, il mondo ci chiede di generare un sacco di testo di cazzate, e se avessi uno strumento in grado di gestirlo, sarebbe fantastico", ha detto.
“Oppure, voglio dire, non è eccezionale.
Il problema è che il mondo insiste affinché generiamo tutto questo tipo di testi di merda.
Quindi avere uno strumento che fa questo per te…
è probabilmente di una certa utilità." Chiang e Bender hanno convenuto che l’IA generativa avrà bisogno di guardrail normativi.
"I guardrail che mi piacerebbe vedere riguardano la trasparenza", ha detto Bender.
“Penso che dovremmo tutti sapere che ogni volta che ci imbattiamo in mezzi sintetici, dovrebbe essere immediatamente evidente all'occhio umano.
Dovrebbe anche essere codificato meccanicamente in modo da poterlo filtrare e non vederlo affatto.
Penso che abbiamo bisogno di trasparenza sui dati di addestramento.
Penso che abbiamo bisogno di trasparenza sull’uso dell’energia.
E oltre a ciò, mi piacerebbe vedere la responsabilità.
Mi piacerebbe vivere in un mondo in cui OpenAI è effettivamente responsabile di tutto ciò che ChatGPT produce." "Non ho nulla da aggiungere a questo", ha detto Chiang.
Altre gemme generate dall'uomo dalla chat del municipio di Seattle: Chiang ha detto che il testo generato dall'intelligenza artificiale sarà un vantaggio per i truffatori su Internet: "Questo è, penso, un esempio di questo problema più ampio, di prezioso testo generato dall'uomo che viene soffocato in un mare di sciocchezze generate dall’intelligenza artificiale”.
I programmi di intelligenza artificiale hanno imparato a padroneggiare giochi complessi come gli scacchi e il Go, ma Chiang ha notato che ci sono volute milioni di prove per acquisire quella padronanza.
Ha poi indicato un esperimento in cui i ratti hanno imparato a guidare automobili in miniatura dopo appena 24 prove.
Sulla base di tale misurazione, i programmi di intelligenza artificiale “non sono così bravi nell’acquisizione di competenze come lo sono i topi”, ha detto Chiang.
"Ci vorrà molto tempo prima che diventino bravi nell'acquisizione di abilità quanto lo sono gli esseri umani." Chiang ha riconosciuto che l’intelligenza artificiale renderà più difficile distinguere tra saggi scritti dagli studenti e testo generato da una macchina.
“È un problema gigantesco che potrebbe essere insolubile”, ha detto.
"Potrebbe darsi che la scrittura di saggi abbia perso la sua utilità come strumento pedagogico." L’intelligenza artificiale metterà fuori mercato autori come Chiang? "Non mi è affatto chiaro che il testo generato dall'intelligenza artificiale sia un punto di svolta per il mercato della narrativa in prosa", ha affermato.
“In termini di costo di pubblicazione di un libro, l’importo che paghi all’autore è solo una piccola frazione di quello.
Quindi in realtà non stai risparmiando così tanto.
Ha detto che l’intelligenza artificiale generativa potrebbe essere utile come strumento di brainstorming – e ha notato che l’autore di fantascienza Philip K.
Dick ha usato le monete divinatorie dell’I Ching per uno scopo simile quando ha scritto “L’uomo nell’alto castello”.
Chiang è probabilmente meglio conosciuto come l'autore del racconto che ha ispirato il film del 2016 "Arrival", che ha come personaggio principale un professore di linguistica.
“Arrivo” riflette anche un concetto controverso in linguistica noto come Ipotesi Sapir-Whorf.
Allora cosa pensano i linguisti della storia di Chiang? "Tutti i miei amici linguisti sono gelosi del fatto che io possa incontrare Ted", ha detto Bender.
"Parlerò alla Linguistic Society of America a gennaio e sto già organizzando il mio discorso in modo da potermene vantare."