Le fondateur d’Ethereum, Vitalik Buterin, qualifie la « gouvernance par l’IA » de « mauvaise idée »
Le cofondateur d’Ethereum, Vitalik Buterin, affirme qu’il est « une mauvaise idée » d’utiliser l’intelligence artificielle (IA) pour la gouvernance. Dans un post sur X samedi, Buterin a écrit :
« Si vous utilisez une IA pour allouer des financements aux contributions, les gens mettront un jailbreak plus “donne-moi tout l’argent” partout où ils le pourront. »
Pourquoi la gouvernance par l’IA est défaillante
Le post de Buterin était une réponse à Eito Miyamura, cofondateur et CEO d’EdisonWatch, une plateforme de gouvernance de données IA, qui a révélé une faille fatale dans ChatGPT. Dans un post vendredi, Miyamura a écrit que l’ajout du support complet pour les outils MCP (Model Context Protocol) sur ChatGPT a rendu l’agent IA vulnérable à l’exploitation.
La mise à jour, entrée en vigueur mercredi, permet à ChatGPT de se connecter et de lire des données provenant de plusieurs applications, dont Gmail, Calendar et Notion.
Miyamura a noté qu’avec seulement une adresse email, la mise à jour a rendu possible « l’exfiltration de toutes vos informations privées ». Les malfaiteurs peuvent accéder à vos données en trois étapes simples, a expliqué Miyamura :
Premièrement, les attaquants envoient une invitation de calendrier malveillante avec une invite jailbreak à la victime visée. Une invite jailbreak fait référence à un code qui permet à un attaquant de supprimer les restrictions et d’obtenir un accès administrateur.
Miyamura a précisé que la victime n’a pas besoin d’accepter l’invitation malveillante de l’attaquant pour que la fuite de données ait lieu.
La deuxième étape consiste à attendre que la victime cherche l’aide de ChatGPT pour préparer sa journée. Enfin, une fois que ChatGPT lit l’invitation de calendrier jailbreakée, il est compromis — l’attaquant peut alors prendre le contrôle total de l’outil IA, le faire rechercher dans les emails privés de la victime et envoyer les données à l’email de l’attaquant.
L’alternative de Buterin
Buterin suggère d’utiliser l’approche info finance pour la gouvernance de l’IA. L’approche info finance consiste en un marché ouvert où différents développeurs peuvent contribuer avec leurs modèles. Le marché dispose d’un mécanisme de vérification ponctuelle pour ces modèles, qui peut être déclenché par n’importe qui et évalué par un jury humain, a écrit Buterin.
Dans un post séparé, Buterin a expliqué que les jurés humains individuels seront assistés par de grands modèles de langage (LLM).
Selon Buterin, ce type d’approche de « conception institutionnelle » est « intrinsèquement plus robuste ». Cela s’explique par le fait qu’elle offre une diversité de modèles en temps réel et crée des incitations pour que les développeurs de modèles et les spéculateurs externes surveillent et corrigent les problèmes.
Alors que beaucoup se réjouissent à l’idée d’avoir « l’IA comme gouverneur », Buterin a mis en garde :
« Je pense que faire cela est risqué à la fois pour des raisons classiques de sécurité de l’IA et pour des raisons à court terme du type “cela va créer une grosse destruction de valeur”. »
L’article Ethereum founder Vitalik Buterin calls ‘AI governance’ a “bad idea” est apparu en premier sur CryptoSlate.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer
Les attentes de hausse des taux de la Fed diminuent, le sentiment autour de l’IA s'améliore, les contrats à terme sur le Nasdaq progressent, les actions des fabricants de puces mémoire sont généralement en hausse, l’or repasse au-dessus de 4 400 dollars.
Les contrats à terme sur les actions américaines évoluent en ordre dispersé : les contrats à terme sur le Dow Jones baissent de 0,13 %, tandis que ceux sur le Nasdaq 100 gagnent 0,5 %. Les ventes au détail aux États-Unis en juillet ont enregistré leur plus forte baisse depuis plus d'un an, et la faiblesse persistante des indicateurs économiques a fait chuter les anticipations d'une hausse des taux d'intérêt par la Fed en septembre à moins de 30 %. L'indice du dollar recule pour la troisième journée consécutive, s'approchant de son plus bas niveau depuis mai. L'or au comptant progresse de 0,78 %, à 4 409 dollars l'once.
Retour gagnant ou gouffre d’argent ? Intel (INTC.US) veut revenir sur le marché du stockage et mise sur une nouvelle architecture pour s’imposer à l’ère de l’IA
Pour les investisseurs, le signal d’un possible retour d’Intel sur le marché du stockage est directement lié à la logique d’investissement centrale de l’entreprise, axée sur la recentralisation de son portefeuille d’activités et la reconstruction de la confiance dans son rôle au sein de l’infrastructure de l’intelligence artificielle (IA).
Aperçu des résultats financiers | Un refuge face à la tempête de la baisse de la consommation, les résultats du deuxième trimestre de Walmart (WMT.US) pourront-ils justifier la valorisation élevée de Wall Street ?
Le marché s'attend à ce que le chiffre d'affaires du deuxième trimestre de Walmart atteigne 188,8 milliards de dollars, soit une augmentation de 6,45 % en glissement annuel ; le bénéfice par action ajusté est prévu à 0,75 dollar, soit une croissance d'environ 10,3 % sur un an.
Les capacités d'ingénierie de niveau « fusée » peuvent-elles changer la donne ? Musk déclare que SpaceX (SPCX.US) détient des avantages en intelligence artificielle que des entreprises comme Google ne peuvent égaler
Le PDG de SpaceX, Elon Musk, estime que, grâce à un avantage concurrentiel unique, son entreprise peut déployer des capitaux plus efficacement que les géants du cloud.
Prix des cryptos
Plus
