Vitalik Buterin, co-fondatore di Ethereum, ha espresso preoccupazioni sui rischi dell'IA superintelligente, proponendo una regolamentazione più forte e meccanismi di difesa. Parla di 'accelerazione difensiva' e dell'importanza che l'IA rimanga uno strumento umano.
Buterin prevede l'esistenza di superintelligenza entro pochi anni e suggerisce la creazione di sistemi decentralizzati di IA per minimizzare i rischi. Sottolinea che i militari potrebbero interpretare un ruolo centrale in scenari di 'doom dell'IA'.
Per ridurre i rischi, propone regole di responsabilità e introduce l'idea di 'pulsanti di pausa morbida'. Propone anche il controllo dell'hardware dell'IA con firme settimanali da organi internazionali. Buterin ammette che le sue soluzioni sono temporanee e con lacune.
