Un gioco sulle civiltà potrebbe aiutarvi a comprendere la minaccia esistenziale dell'IA

摘要

Un gruppo di ricercatori dell'Università di Cambridge ha creato una mod del videogioco Civilization che permette ai giocatori di allevare - e addomesticare - una superintelligenza in grado di superare gli esseri umani. Il gioco: Shahar Avin, del Centre for the Study of Existential Risk, spiega come il gioco consente ai giocatori di sviluppare capacità di R&D in IA all'interno del loro mondo virtuale. In caso di successo, il risultato è una IA in grado di superare l'essere umano; allo stesso tempo, il rischio che questa IA si ribelli al suo creatore aumenta e i giocatori possono solo condurre ricerche di sicurezza per limitare questa probabilità e i suoi effetti.