Google ha messo in congedo un ingegnere che avrebbe violato le politiche di riservatezza dell’azienda affermando che un sistema AI fosse diventato senziente.
Un ingegnere di Google ha causato polemiche ed è stato allontanato, tramite congedo retribuito, dopo aver affermato che un sistema di chatbot con intelligenza artificiale fosse diventato senziente, ovvero avesse la capacità di provare sentimenti consapevoli. Affermandolo, e formulando testi e documenti sul sistema, il dipendente avrebbe violato le politiche di riservatezza dell’azienda.
L’ingegnere Blake Lemoine lavorava per l’organizzazione Responsible AI di Google e stava indagando se il suo modello LaMDA generasse linguaggio discriminatorio o parole di odio, come riporta il Washington Post. Le sue preoccupazioni sono aumentate quando ha visto il sistema rispondere sui propri diritti riguardo all’etica della robotica. La trascrizione delle conversazioni è stata pubblicata in un post sul suo Medium, dove argomenta l’esperienza soggettiva della macchina.
Nel corso dei suoi test, Lemoine avrebbe invitato un avvocato a rappresentare il sistema di intelligenza artificiale e avrebbe parlato con un rappresentante della commissione giudiziaria della Camera di presunte attività non etiche di Google, violando così le norme sulla riservatezza.
Il gigante della ricerca ha annunciato pubblicamente LaMDA al Google I/O dello scorso anno, che dovrebbe migliorare i suoi assistenti di intelligenza artificiale conversazionale e rendere le conversazioni più naturali. L’azienda utilizza già una tecnologia di modelli linguistici simili per la funzione Smart Compose di Gmail o per le query dei motori di ricerca.
In una dichiarazione al Washington Post, un portavoce di Google ha affermato che “non c’erano prove” che il sistema avesse effettivamente “preso vita”.
In altre parole, Google ritiene che i sistemi siano già abbastanza avanzati da imitare le conversazioni e i modi di fare degli esseri umani, ma da questo a provare dei sentimenti c’è un grande divario. Anche un linguista sentito dal Washington Post ha ribadito questa percezione.
