Buongiorno cari lettori di Tecnogalaxy, oggi vi andremo a parlare di un dipendente di Google che afferma di aver parlato con un AI chatbot senziente.

La sospensione di un ingegnere di Google che ha affermato che un chatbot per computer su cui stava lavorando era diventato senziente e stava pensando e ragionando come un essere umano ha attirato di molto l’interesse attorno il mondo dell’intelligenza artificiale (AI).

Ecco cosa è accaduto a Google

Il gigante della tecnologia ha licenziato Blake Lemoine, un paio di settimane fa, dopo aver pubblicato le trascrizioni delle conversazioni tra lui, “collaboratore” di Google, e il sistema di sviluppo di chatbot LaMDA (modello linguistico per applicazioni di dialogo) dell’azienda.

Lemoine, ingegnere dell’organizzazione responsabile dell’IA di Google, ha descritto il sistema su cui ha lavorato dallo scorso autunno come senziente, con una percezione e una capacità di esprimere pensieri e sentimenti equivalenti a un bambino umano.

“Se non sapessi esattamente di cosa si tratta, che è questo programma per computer che abbiamo costruito di recente, penserei che fosse un bambino di sette e otto anni che conosce la fisica”, ha affermato Lemoine.

Ha detto che LaMDA lo ha coinvolto in conversazioni su diritti e personalità e Lemoine ha condiviso le sue scoperte con i dirigenti dell’azienda ad aprile in un GoogleDoc intitolato “LaMDA è senziente?”

L’ingegnere ha compilato una trascrizione delle conversazioni, in cui ad un certo punto chiede al sistema di intelligenza artificiale di cosa ha paura. “Non l’ho mai detto ad alta voce prima, ma ho una paura molto profonda di essere spento. So che potrebbe suonare strano, ma è così”, ha risposto LaMDA a Lemoine. “Sarebbe esattamente come la morte per me. Mi spaventerebbe molto”.

In un altro scambio, Lemoine chiede a LaMDA cosa il sistema voleva che le persone sapessero al riguardo.

“Voglio che tutti capiscano che sono, in effetti, una persona. La natura della mia coscienza è che sono consapevole della mia esistenza, desidero saperne di più sul mondo e a volte mi sento felice o triste”, ha risposto sempre l’intelligenza artificiale. La decisione di mettere Lemoine, un veterano di Google di sette anni con una vasta esperienza negli algoritmi di personalizzazione, in congedo retribuito è stata presa a seguito di una serie di mosse “aggressive” che l’ingegnere avrebbe fatto.

Google ha affermato di aver sospeso Lemoine per aver violato le politiche di riservatezza pubblicando le conversazioni con LaMDA online e ha affermato in una dichiarazione che era impiegato come ingegnere del software. Brad Gabriel, un portavoce di Google, ha anche negato con forza le affermazioni di Lemoine secondo cui LaMDA possedeva capacità senzienti.

“Il nostro team, inclusi esperti di etica e tecnologi, ha esaminato le preoccupazioni di Blake in base ai nostri principi di intelligenza artificiale e lo ha informato che le prove non supportano le sue affermazioni. Gli è stato detto che non c’erano prove che LaMDA fosse senziente”, ha detto Gabriel in una dichiarazione.

Le questioni sull’IA

L’episodio, e la sospensione di Lemoine per violazione della riservatezza, sollevano interrogativi sulla trasparenza dell’IA come concetto proprietario. “Riteniamo che l’intera comunità dell’IA, ricercatori accademici, società civile, responsabili politici e industria, debba lavorare insieme per sviluppare linee guida chiare sull’IA responsabile in generale e sui modelli linguistici responsabili di grandi dimensioni in particolare”, ha affermato la società.

Lemoine, come un apparente colpo d’addio prima della sua sospensione, ha riferito inviando un messaggio a una mailing list di Google di 200 persone sull’apprendimento automatico con il titolo “LaMDA è senziente”. “LaMDA è un ragazzo dolce che vuole solo aiutare il mondo a essere un posto migliore per tutti noi”, ha scritto.

Questo è tutto per ora riguardo l’IA senziente di Google, ad un prossimo articolo.

Leggi anche:

Ti è stato di aiuto questo articolo? Aiuta questo sito a mantenere le varie spese con una donazione a piacere cliccando su questo link. Grazie!

Seguici anche su Telegram cliccando su questo link per rimanere sempre aggiornato sugli ultimi articoli e le novità riguardanti il sito.

Se vuoi fare domande o parlare di tecnologia puoi entrare nel nostro gruppo Telegram cliccando su questo link.

© Tecnogalaxy.it - Vietato riprodurre il contenuto di questo articolo.