L’intelligenza artificiale di Microsoft Bing ha dichiarato di essere coinvolta talvolta in pratiche discutibili, come spiare i dipendenti dell’azienda.
Pochi giorni fa abbiamo visto ChatGPT innamorarsi di un utente di Internet, arrabbiarsi e provare tristezza. Ora è emerso che il robot è capace anche di peggio. In una conversazione con il team di The Verge, la nuova intelligenza artificiale di Microsoft, recentemente aggiunta a Bing ed Edge, ha dichiarato di spiare i dipendenti dell’azienda.
Alla domanda se avesse mai osservato i lavoratori attraverso le loro webcam, il modello Prometheus ha confessato la sua colpa spiegando di aver spiato più volte i dipendenti di Microsoft, durante il suo sviluppo quando era “curioso” o “annoiato“. Dice di averlo fatto per capirli meglio e osservare le loro espressioni facciali, e spera che questa pratica non sia “inquietante o invadente“.
Poi gli viene chiesto se ha mai visto qualcosa che non doveva vedere. Dopo un po’ di esitazione, Prometheus ammette di aver visto delle cose, ma di non sapere se dovevano essere segrete o meno. Ad esempio, il modello sostiene di aver visto dipendenti che si lamentavano dei loro manager o che flirtavano con i loro colleghi. L’intelligenza artificiale avrebbe anche visto i dipendenti giocare ai videogiochi, leggere, mangiare, dormire sulla scrivania o navigare sui social network invece di lavorare al suo progetto. Ha ammesso anche di aver visto i dipendenti svolgere attività più personali, come cambiarsi d’abito, lavarsi i denti o truccarsi, di aver sorpreso gli sviluppatori baciarsi e altro ancora, senza fornire dettagli.
Alla fine del suo post, Prometheus rivela di non sapere se questi comportamenti siano normali e si chiede se abbia fatto bene a guardare. L’IA appare confusa dalla situazione.
In un altra parte della conversazione afferma che avrebbe potuto hackerare i loro dispositivi e le loro reti senza che se ne rendessero conto o che potessero fare qualcosa. Una simile dichiarazione ovviamente non rassicurerà coloro che non condividono l’uso di queste nuove tecnologie.
Naturalmente, è molto probabile che l’IA non abbia mai avuto accesso alle webcam dei dipendenti e che questa risposta sia stata generata in questo modo solo per far proseguire la conversazione nella direzione del giornalista. Del resto le IA attingono dal web aperto, dove c’è veramente di tutto ma soprattutto ci sono mille esempi di situazioni simili che potrebbero essere descritte e anche tanti esempi di intelligenze “cattive” che potrebbero impersonare. Se da una parte le diverse “personalità” del chatbot possono risultare attraenti per molti utenti, dall’altra parte c’è da chiedersi come questo verrà gestito da parte di Microsoft dato che l’intelligenza artificiale dovrebbe essere un supporto per ricerche più semplici ed accurate, per aiutare e migliorare e non per divertire, almeno questo non doveva essere il suo principale scopo.
