La lingua dell’Intelligenza Artificiale troppo intelligente.

Posted on in Politica e lingue 28 vedi

L’Intelligenza Artificiale ha creato una lingua tutta sua.

di Mirko Spasiano.

I ricercatori di Facebook hanno creato un’intelligenza artificiale che si interfacciava con altri “agenti” AI in una lingua tutta sua. Il progetto è stato sospeso.

Quello che hanno sperimentato i ricercatori di Facebook ha davvero del fantascientifico ed evoca i classici scenari apocalittici del cinema. L’intelligenza artificiale sviluppata dai ricercatori del re dei social network si è allontanata progressivamente dalla lingua che le era stata insegnata (l’inglese), per crearsi un proprio linguaggio. Agli occhi del personale che si occupava del monitoraggio, le espressioni formulate dall’AI apparivano come prive di senso; tuttavia, quando esaminate da agenti di AI, si sono rivelate come costrutti con “regole semantiche”.
Il sistema avanzato su cui si poggiava l’AI è in grado di interagire con altre intelligenze artificiali, in modo da trarre opportune conclusioni per determinare il modo migliore di affrontare specifici problemi. È sorto, però, un intoppo di non poco conto: i vari agenti AI hanno cominciato a comunicare tra loro con locuzioni che, al primo impatto, apparivano come puro nonsense.
“Io posso io io tutto il resto”, “palle ho zero a me a me a me”. Questo è solo un esempio, tradotto alla meglio, di uno scambio di battute tra due intelligenze artificiali denominate come Bob e Alice. Il resto della conversazione sembra mutuato da queste stesse frasi, con le parole “io” e “a me” che riflettono, in qualche modo, il modo in cui operano le AI. Infatti, successivamente Bob avrebbe formulato la frase “io io posso io io io tutto il resto” ad indicare che stesse offrendo un maggior quantitativo di oggetti ad Alice. Secondo i ricercatori, sarebbe una traduzione di “io ne terrò tre e tu puoi avere il resto”.
La quasi totalità delle intelligenze artificiali oggi opera sul principio della ricompensa: a seguito di una specifica azione, il corso degli eventi dovrebbe garantire all’AI un qualche beneficio. Nel caso specifico, sembra che l’AI non avesse ravvisato alcun beneficio, e pertanto nessuna utilità, nell’utilizzare appieno la lingua inglese secondo i suoi canoni classici. Le intelligenze artificiali hanno così creato un linguaggio più efficiente e schematico.
Secondo Dhruv Batra, ricercatore AI di Facebook, “gli agenti si allontanano dalla lingua comprensibile e inventano parole-codice per loro stessi. […] Non è poi così diverso da come le comunità umane creano le abbreviazioni”. A quanto pare, non è neanche un caso isolato: presso OpenAI, il laboratorio sull’intelligenza artificiale fondato da Elon Musk, un esperimento ha portato un gruppo di bot a sviluppare il proprio linguaggio.
Dal punto di vista tecnico, la proliferazione di lingue di origine “sintetica” potrebbe ostacolare non poco lo sviluppo e la manipolazione di reti neurali. Sotto un altro profilo, però, ci si interroga se, in futuro, questi linguaggi potrebbero costituire una vera e propria minaccia, con macchine che si ribellano agli operatori trovando modi più efficienti di perseguire i propri obiettivi.
Qui qualcuno potrebbe avvertire un leggero sentore di Skynet…
(Da dday.it, 28/7/2017).

{donate}




0 Commenti

Ancora non ci sono commenti
Lasciane uno tu per primo!
You need or account to post comment.