Vitalik Buterin : L’IA pourrait surpasser et détruire l’humanité si nous n’agissons pas

Vitalik Buterin, le cofondateur d’Ethereum, n’a pas manqué de dégainer son arme favorite, une intelligence acérée, pour s’attaquer aux bouleversements que l’intelligence artificielle générale (AGI) pourrait provoquer. Des menaces bien concrètes, loin d’être des abstractions, le préoccupent. Parmi elles, la capacité des AGI à manipuler les humains ou à infiltrer les infrastructures critiques. Mais la crypto, selon lui, ne serait qu’un élément d’un tableau bien plus vaste.

Le cofondateur d’Ethereum sonne l’alarme sur l’AGI

Vitalik Buterin refuse de traiter l’AGI comme une force mystérieuse et invincible. Dans ses récentes déclarations, il décortique les cinq menaces principales posées par ces intelligences surpuissantes. 

Parmi elles : les cyberattaques capables d’exploiter les failles logicielles, la désinformation massive manipulant l’opinion publique, et même des agents biologiques numériques susceptibles de déclencher des pandémies artificielles.

That depends on the vector of AGI attack you're worried about!

It hacks you -> cyberdefense
It convinces you -> infodefense
It super-plagues you -> biodefense
It skynets you -> physical resilience (but also, cyberdefense so it doesn't take over skynet in the first place)

— vitalik.eth (@VitalikButerin) December 25, 2024

« Ce n’est pas un jeu d’échecs contre un joueur de niveau 4500 ELO », ironise Buterin, rappelant qu’une analyse concrète des risques s’impose.

Quelques points clés qu’il évoque :

• Cyberdéfense : pour bloquer les intrusions numériques ;
• Infodéfense : contrer la manipulation de masse ;
• Résilience physique : prévenir la prise de contrôle d’infrastructures critiques ;
• Bioprotection : lutter contre les menaces biologiques créées par IA ;
• Interfaces cerveau-machine : un pari ambitieux pour ne pas se laisser distancer.

Pour Buterin, les blockchains et les technologies décentralisées, comme Ethereum, pourraient jouer un rôle crucial en renforçant la sécurité des données et des systèmes face à ces défis.

Une « narrative crypto » au service d’un monde hybride

Selon Vitalik, la crypto n’est qu’un chapitre d’une histoire bien plus vaste mêlant le monde physique (« les atomes ») au numérique (« les bits »). Dans cette perspective, les innovations comme les interfaces cerveau-machine et la construction à faible coût pourraient transformer nos sociétés, tout comme la blockchain a révolutionné la finance.

Les technologies décentralisées offrent, selon lui, des outils puissants pour renforcer la transparence et limiter les abus. 

Everything that we are doing in crypto is only one part of a larger story. pic.twitter.com/dTlnCHQUDd

— vitalik.eth (@VitalikButerin) December 25, 2024

« Tout ce que nous faisons dans la crypto s’intègre dans un récit plus large », déclare-t-il, accompagnant ses propos d’un schéma complexe illustrant les interactions entre cybersécurité, biotechnologie et innovation numérique.

Pour bâtir ce futur hybride :

• La biotechnologie promet des soins améliorés et une longévité accrue ;
• La crypto garantit des échanges sécurisés et transparents ;
• Les infrastructures connectées créent des environnements intelligents, mais vulnérables.

La vision de Buterin montre une convergence des technologies où l’ETH, loin de n’être qu’une monnaie, pourrait devenir un pilier de la résilience sociétale.

Pour conclure, n’oublions pas que même les acteurs les plus visionnaires, comme OpenAI, peuvent abandonner leurs valeurs fondatrices, transformant une noble cause en entreprise lucrative. Un rappel que les valeurs fondatrices doivent toujours guider les grandes ambitions.