Buterin encourage Info Finance à stopper les exploits dans la gouvernance de l’IA
- Vitalik avertit que la gouvernance naïve de l’IA est vulnérable à la manipulation et aux exploits.
- L’info finance crée une diversité de modèles et des corrections rapides, rendant la gouvernance de l’IA plus sûre.
- Les marchés de prédiction et les contrôles ponctuels contribuent à sécuriser la prise de décision et le financement de l’IA.
Le cofondateur d’Ethereum, Vitalik Buterin, a averti que les modèles de gouvernance naïfs de l’IA présentent de sérieux risques et a mis en garde contre les cadres qui reposent sur l’IA pour le financement ou la prise de décision, car ils restent vulnérables à la manipulation et aux exploits. Selon lui, de tels systèmes permettent à des acteurs malveillants de détourner des ressources ; cependant, il préconise une approche appelée « info finance », conçue pour instaurer la responsabilité et prévenir les abus grâce aux marchés, à la supervision humaine et aux contrôles.
Les arguments contre la gouvernance naïve de l’IA
Buterin a souligné que la gouvernance naïve de l’IA est risquée et a ajouté que si l’IA est utilisée pour allouer des fonds, les gens pourraient la manipuler avec des instructions de leur choix et obtenir un surplus d’argent. Il a également expliqué que si les modèles fonctionnaient sans aucune restriction ou directive, ils pourraient être mal utilisés, encourageant ainsi les hackers à utiliser des instructions pour tromper l’IA et libérer des ressources de manière incorrecte.
De telles vulnérabilités placent l’IA dans une boucle potentiellement dangereuse. De plus, Buterin a révélé des faiblesses systémiques qui, si elles ne sont pas contrôlées, pourraient être exploitées. Les attaques invisibles et les injections de prompts sont des exemples de la facilité avec laquelle les attaquants peuvent en profiter.
L’info finance comme alternative
Buterin opte pour l’information finance à la place de la gouvernance naïve, la décrivant comme une approche de « conception institutionnelle », mêlant la concurrence du marché ouvert à la vérification humaine. Il a déclaré :
En alternative, je soutiens l’approche info finance, où vous avez un marché ouvert où chacun peut contribuer avec ses modèles, qui sont soumis à un mécanisme de contrôle ponctuel pouvant être déclenché par n’importe qui et évalué par un jury humain.
Il a précisé que l’Info Finance permet à des contributeurs externes d’intégrer des modèles de langage de grande taille (LLM) sans coder en dur un seul système. Cela permettra une diversité de modèles, réduisant ainsi le risque d’échec généralisé. Cela crée également des incitations pour les développeurs et les spéculateurs à surveiller de près les défauts et à agir rapidement en cas de problème.
Un mécanisme proposé implique des marchés de prédiction ou des marchés de décision. Plusieurs modèles seraient en concurrence, et les participants pourraient miser sur les résultats, signalant ainsi quels modèles semblent les plus fiables. Des jurys ou auditeurs humains effectueraient périodiquement des contrôles ponctuels des résultats, en particulier dans les cas à fort enjeu.
À lire aussi : Les trésoreries ETH grimpent à 12 milliards de dollars alors que Vitalik met en garde contre les risques d’effet de levier
Implications pour la crypto et les marchés
L’info finance repose sur une responsabilité à plusieurs niveaux, et elle se distingue par la concurrence ouverte, qui permet de contester ou de remplacer les modèles défaillants. Une supervision humaine est ajoutée via des jurys et des audits. Les incitations économiques empêchent la manipulation, tandis que la transparence rend les comportements malveillants visibles.
En liant la gouvernance de l’IA à la blockchain et au trading, Buterin suggère que les failles de l’IA centralisée pourraient accroître l’intérêt pour des solutions décentralisées, principalement construites sur Ethereum. De plus, des tokens comme RNDR de Render Network et GRT de The Graph fournissent l’infrastructure pour les calculs IA, en tirant ainsi profit du développement. Par ailleurs, les traders pourraient également utiliser ETH et ces tokens pour l’arbitrage en période de volatilité du marché.
Les données on-chain indiquent qu’il y a davantage de transactions ETH associées à des smart contracts liés à l’IA, et les problèmes de gouvernance de l’IA peuvent aussi impacter les actions technologiques, avec des entreprises comme NVIDIA et Microsoft impliquées dans les investissements IA. Globalement, Buterin a souligné que l’Info Finance permet des corrections plus rapides, remplaçant ainsi les modèles défaillants et sanctionnant les fauteurs de troubles. Il a également ajouté que les contrôles par jury et les contrôles ponctuels empêcheront la propagation des exploitations.
L’article Buterin Pushes Info Finance to Stop Exploits in AI Governance est apparu en premier sur Cryptotale.
Avertissement : le contenu de cet article reflète uniquement le point de vue de l'auteur et ne représente en aucun cas la plateforme. Cet article n'est pas destiné à servir de référence pour prendre des décisions d'investissement.
Vous pourriez également aimer
Musk parle de la production de puces : la capacité de fabrication à grande échelle de la Chine dépasse souvent celle du reste du monde combiné
Après que Changxin Storage a annoncé une avancée majeure dans la mémoire serveur DDR5, l'indice Philadelphia Semiconductor des marchés américains a chuté de 2,7 % pendant la nuit, entraînant la baisse collective de Micron, SK Hynix ADR et d'autres valeurs. Elon Musk a commenté cette tendance en déclarant que, lorsqu'une méthode de fabrication d'un produit est maîtrisée par la Chine, sa capacité de mise à l'échelle dépasse souvent celle du reste du monde, ajoutant que "la Chine semble progresser rapidement" sur des normes universelles telles que LP5 et LP6.
La nouvelle vague d’IA : combinant les caractéristiques des bulles “technologiques” et “immobilières”, elle rappelle le grand cycle international de capitaux de 2008.
La vague actuelle d'IA présente une dualité : au niveau micro, la nature à forte intensité d'actifs des centres de données IA pousse le secteur vers des financements par dette de type immobilier, tels que les obligations d'entreprise, les prêts privés et les ABS de puissance de calcul ; au niveau macro, près de 2 000 milliards de dollars d’épargne excédentaire étrangère affluent dans les principaux actifs IA du marché boursier américain via des institutions privées, recréant un cycle de capital transnational similaire à celui observé à la veille des subprimes en 2008. Avec près de 3 000 milliards de dollars de dettes hors bilan et une montée des taux d'intérêt, le secteur devra bientôt affronter une épreuve majeure de liquidité.
Le trading par IA connaît un "moment fragile" ! Les marchés boursiers japonais et coréens subissent un "mardi noir", SK Hynix, Samsung et SoftBank plongent ensemble
Mardi, les actions technologiques asiatiques ont subi une nouvelle vague de ventes systématiques. La faiblesse du secteur américain des semi-conducteurs durant la nuit s’est propagée sur les marchés Asie-Pacifique. Les inquiétudes concernant la concurrence accrue due à l’avancée technologique de ChangXin Memory dans les puces de stockage chinoises, ainsi que les retours sur les investissements du capital dans l’IA et l’environnement de financement, se sont intensifiées.
SpaceX (SPCX.US) : 80 % de potentiel de hausse caché dans Starship ? Morgan Stanley : le 15e vol d'essai sera un catalyseur majeur
Morgan Stanley indique que le prochain vol du Starship de SpaceX, prévu pour sa quinzième mission, pourrait représenter une étape clé vers la réutilisation complète de sa fusée de nouvelle génération, ouvrant la voie à de nouvelles opportunités pour l’entreprise dans les domaines des communications par satellite et de l’intelligence artificielle (IA).
Prix des cryptos
Plus
