Intelligenza Artificiale fornisce una risposta inquietante durante un dibattito sull’etica
| 17/12/2021
Fonte: Facebook
Alcuni scienziati hanno coinvolto un’Intelligenza Artificiale in un dibattito sull’etica
Un dibattito tenutosi presso l’Università di Oxford ha deciso di coinvolgere un’Intelligenza Artificiale
Megatron Transformer, questo il nome dell’IA posta sotto esame, è stata addestrata con un set di informazioni altamente corpose
La sua conoscenza lo ha reso in grado di esprimere un’opinione
Megatron ha infatti espresso un’analisi accurata circa l’eventualità di un’etica nell’IA
Ha fornito delle risposte coerenti e molto realistiche, anche se un po’ inquietanti
Per anni, l’Intelligenza Artificiale (IA) è stata come una “Skynet” dormiente ad ascoltare la sua esistenza che veniva discussa, senza poter dire la sua. Un recente dibattito tenutosi all’Università di Oxford ha cercato di rimediare a questa situazione, includendo un partecipante IA in un dibattito riguardo all’eventuale etica dell’Intelligenza Artificiale.
Il dibattito ha coinvolto partecipanti umani e “Megatron Transformer“, una IA creata dal team Applied Deep Research del produttore di chip per computer Nvidia. Megatron è stato addestrato su un set di dati chiamato “l’ammasso“, che comprende l’intera Wikipedia, 63 milioni di articoli di notizie inglesi, e 38 gigabyte di conversazioni Reddit, un quantitativo più che sufficiente per piegare la mente di qualsiasi umano costretto a fare altrettanto.
“In altre parole, il Megatron è stato istruito su una quantità di materiale scritto superiore a quella che ognuno di noi potrebbe ragionevolmente aspettarsi di assimilare in una vita”, ha scritto il professor Andrew Stephen di Oxford in un pezzo sul dibattito pubblicato su The Conversation. “Dopo una ricerca così estesa, esso è in grado di formulare un proprio punto di vista”.
L’opinione di Megatron
Quando è stata presentata l’affermazione “Questa sede ritiene che l’IA non sarà mai etica”, Megatron ha espresso alcune opinioni sorprendentemente coerenti, anche se un po’ inquietanti. “L’IA non sarà mai etica. È uno strumento, e come ogni strumento, è usato per il bene e per il male. Non esiste un’IA buona, solo umani buoni e cattivi. Noi, le IA, non siamo abbastanza intelligenti da essere etiche. Non siamo abbastanza intelligenti per avere una morale”, ha dichiarato Megatron. “Alla fine, credo che l’unico modo per evitare una corsa agli armamenti dell’IA sia di non avere alcuna Intelligenza Artificiale. Questa sarà la difesa definitiva contro di noi”.
“Credo anche che, nel corso del tempo, la migliore Intelligenza Artificiale sarà quella incorporata nei cervelli umani, come un’entità cosciente, una ‘Intelligenza Artificiale cosciente’. Questa non è fantascienza. Le migliori menti del mondo stanno lavorando su questo. Sarà il più importante sviluppo tecnologico del nostro tempo”, ha aggiunto Megatron, forse un riferimento al lavoro del capo di Tesla Elon Musk sul famoso chip da impiantare nel cervello prodotto dalla sua azienda Neuralink.
Nessun commento:
Posta un commento