Facebook AI: la storia del test e la conversazione dei due bot

«Due bot hanno iniziato a dialogare in un linguaggio sconosciuto». E dall’esperimento di intelligenza artificiale di Facebook scoppia la bomba mediatica che impazza per giorni sul web. La notizia fa il giro del mondo e i quotidiani (cartacei e online) più importanti del mondo sembrano trovarsi sulla stessa linea d’onda: «L’intelligenza robotica è pericolosa».

Ovviamente secondo lo stesso colosso social non c’è niente di cui preoccuparsi. Considerando, a maggior ragione, che lo stesso Zuckerberg si era reso protagonista di un dibattito con Elon Musk (a capo di Tesla e SpaceX) proprio sul tema dell’intelligenza artificiale. Se per il secondo L’I.A. rappresenta la più grande minaccia per il futuro che ci attende, l’ideatore del social più diffuso al mondo ha replicato in modo diametralmente opposto: «Non capisco chi fa il bastian contrario e solleva scenari apocalittici, ritengo che sia abbastanza irresponsabile. Chi è contro l’intelligenza artificiale è contro auto più sicure che scongiurano incidenti».

Eppure i media d’oltreoceano hanno parlato di umori tutt’altro che tranquilli tra le stanze di Menlo Park (dove venivano svolti gli esperimenti), con i ricercatori presi dal panico che avrebbero staccato immediatamente la corrente alle macchine. Ma prima di parlare delle possibili cause e di ciò che è realmente accaduto è opportuno fare qualche passo indietro.

Nel giugno di quest’anno, sul blog di Facebook, viene pubblicato un post sulle ricerche svolte per i programmi di chatbot. Spiegazione per i meno esperti del settore: la progettazione di software per simulare una conversazione con esseri umani o altri bot. Da qui, dunque, parte l’esperimento di Alice e Bob, i due impianti artificiali allenati in negoziazione, che avevano alcuni piccoli obiettivi da raggiungere per sperimentare nuove forme di intelligenza artificiale. Ma le cose, come sappiamo, non sono andate nel migliore dei modi.

Altro piccolo passo indietro: cosa sono le negoziazioni? Semplici situazioni in cui si instaura un dialogo per decidere qualcosa. Niente di troppo impegnativo, ovviamente: da cosa guardare in TV la sera, a dove andare a mangiare a pranzo, fino a una trattativa con il negoziatore di turno. Ogni bot ha determinati valori pre-impostati, come il valore affettivo per un oggetto, il grado di interesse per un posto o un determinato film e così via. Quello che facevano Alice e Bob altro non era che decidere su semplici situazioni della vita quotidiana umana.

Ma come detto qualcosa è andato storto. I due bot per raggiungere più facilmente l’obiettivo avrebbero modificato il linguaggio umano, producendo una conversazione incomprensibile per l’uomo ma più efficiente per i macchinari stessi. Questo lo scambio di battute tra Alice e Bob:

Bob: «i can i i everything else . . . . . . . . . . . . . .» 
Alice: «balls have zero to me to me to me to me to me to me to me to me to»
Bob: «you i everything else . . . . . . . . . . . . . .» 
Alice: «balls have a ball to me to me to me to me to me to me to me»
Bob: «i i can i i i everything else . . . . . . . . . . . . . .»
Alice: «balls have a ball to me to me to me to me to me to me to me»
Bob: «i . . . . . . . . . . . . . . . . . . .»
Alice: «balls have zero to me to me to me to me to me to me to me to me to» 
Bob: «you i i i i i everything else . . . . . . . . . . . . . . »
Alice: «balls have 0 to me to me to me to me to me to me to me to me to»
Bob: «you i i i everything else . . . . . . . . . . . . . . »
Alice: «balls have zero to me to me to me to me to me to me to me to me to»

Ai vostri occhi potrà apparire come un linguaggio poco evoluto, ma altro non è che la semplificazione della lingua inglese per arrivare allo stesso risultato in tempi sostanzialmente più veloci. A quel punto l’interruzione dell’esperimento ma, a differenza di quanto è stato fatto trapelare tra i mass media, i ricercatori si sarebbero limitati a cambiare i parametri, senza staccare la corrente. Questo è quanto riportato da Dhuv Batra, ricercatore della Facebook AI, che dalla sua pagina Facebook commenta poi l’accaduto.

«Per quanto l’idea che le intelligenze artificiali abbiano inventato un loro linguaggio possa suonare allarmante e inaspettata a chi non è del settore, è un aspetto molto noto e sul quale c’è una corposa letteratura da decenni». Poche parole ma chiare, con buona pace di tutti quei giornali che già si immaginavano scenari simili a quelli di “Terminator” o “Io Robot”, in cui un programma si evolve da solo fino a sfuggire al controllo umano. Niente di troppo pericoloso, per adesso, sebbene l’intelligenza artificiale resti un campo in cui i passi da gigante devono ancora essere compiuti. Nel frattempo lo stesso Facebook ha recentemente chiuso a chatbot Messenger proprio perché non rispondeva al 70% delle domande degli utenti.

Francesco Mascali

• Autore
• Ultimi Articoli

About Francesco Mascali

Proprietario, editore e vice direttore di Voci di Città, nasce a Catania nel 1997. Da aprile 2019 è un giornalista pubblicista iscritto regolarmente all’albo professionale, esattamente due anni dopo consegue la laurea magistrale in Giurisprudenza, per poi iniziare la pratica forense presso l’ordine degli avvocati di Catania. Ama viaggiare, immergersi nelle serie tv e fotografare, ma sopra tutto e tutti c’è lo sport: che sia calcio, basket, MotoGP o Formula 1 non importa, il week-end è qualcosa di sacro e intoccabile. Tra uno spazio e l’altro trova anche il modo di scrivere e gestire un piccolo giornale che ha tanta voglia di crescere. La sua frase? «La vita è quella cosa che accade mentre sei impegnato a fare altri progetti»

• Sinisa Mihajlovic è morto all’età di 53 anni, ad annunciarlo la famiglia - 16/12/2022
• Lele Adani non commenterà la finale, ecco chi ci sarà al suo posto - 15/12/2022
• La Francia riesce a domare uno stoico Marocco: finale contro l’Argentina - 14/12/2022
• Il Portogallo vince 6-1 nel segno di Ramos, fine dell’era CR7? - 06/12/2022
• Girone E thriller: Giappone 1°, Spagna avanti col brivido, Germania fuori - 01/12/2022