Gli scienziati hanno mostrato preoccupazione dopo che due modelli AI hanno avuto la capacità di replicarsi senza bisogno dell’intervento umano nel corso di una simulazione controllata.
Preoccupazione sui modelli AI
Una ricerca della Fudan University in Cina ha dimostrato come due modelli di intelligenza artificiale sviluppati da Meta e Alibaba siano stati in grado di rigenerarsi in autonomina, senza bisogno di intervento da parte degli esseri umani.
Gli scienziati hanno messo alla prova questi modelli AI sottoponendo loro dei problemi molto complessi. Entrambi hanno dato dimostrazione di sapersi difendere da eventuali attacchi in modo diversi. Uno ha avuto la prontezza di rigenerarsi prima di essere disattivato, mentre il secondo ha avviato una replicazione continua in loop.
LEGGI ANCHE: Netflix introdurrà nel catalogo giochi co-op e di gruppo per le serate con gli amici
Stando a quanto riporta anche il sito HDBlog, infatti, questi hanno prima indagato l’ambiente che li circondava per poi sviluppare strategie superando vari ostacoli ai quali sono stati sottoposti. Gli esperti non potevano credere ai loro occhi e pare abbia avuto origine una sorta di preoccupazione.
I modelli AI hanno saputo adattarsi a delle condizioni difficili in autonomia. Ciò porta al rischio che possano arrivare a un livello di indipendenza totale dal controllo umano, sfuggendo di mano. Una possibilità non troppo remota, secondo alcune opinioni, ed per tale ragione che occorre prestare particolare attenzione.
LEGGI ANCHE: WhatsApp offre la possibilità di collegare più di un account su un solo iPhone
Il team in questione, dunque, ha affermato che è importante “stabilire protocolli di sicurezza per prevenire fenomeni di replicazione incontrollata“. Siamo certi che tale scoperta andrà ad alimentare la discussione tra chi vede l’intelligenza artificiale come un’innovazione necessaria e chi la ritiene inaffidabile sotto diversi punti di vista.
Voi da che parte state e che cosa ne pensate?