L’initiative de Vitalik Buterin en faveur de l’IA locale : votre ordinateur portable peut-il remplacer ChatGPT ?

Le cofondateur d’Ethereum, Vitalik Buterin, affirme que l’intelligence artificielle (IA) locale est sur le point de prendre en charge une grande partie des tâches quotidiennes. Il a exécuté Qwen3.8-Flash-Next d’Alibaba sur son propre ordinateur portable et a publié les résultats de vitesse.

Contrairement à ChatGPT, cette configuration ne contacte jamais de serveur distant. Le modèle se trouve sur l’ordinateur, qui traite lui-même la demande.

Le test d’IA locale de Vitalik Buterin révèle une vitesse tout à fait exploitable

Son ordinateur portable est équipé de la puce Strix Halo d’AMD. La plupart des ordinateurs répartissent le travail entre un processeur et une carte graphique distincte, chacun disposant de sa propre mémoire. Strix Halo regroupe les deux sur une seule puce et leur permet de partager la même mémoire.

Cette conception est importante, car un modèle d’IA doit tenir en mémoire pour pouvoir fonctionner. Une carte graphique classique offre de 8 à 24 gigaoctets, bien trop peu pour un modèle de cette taille. Les ordinateurs équipés de Strix Halo disposent de jusqu’à 128 gigaoctets, accessibles aux deux parties de la puce. Un seul ordinateur portable peut donc héberger un modèle qui, jusqu’à récemment, nécessitait du matériel de serveur.

Les vitesses qu’il a publiées sont suffisantes pour les tâches courantes. Les réponses aux requêtes courtes s’affichaient à un rythme agréable à lire. La génération ralentissait lorsque les requêtes atteignaient plusieurs dizaines de milliers de mots : les très longs documents restent donc le point faible.

Alibaba a publié les poids du modèle en libre accès le 26 août. L’équipe indique que le modèle compte 125 milliards de paramètres, mais qu’il n’en active que six milliards à la fois, ce qui limite les besoins en mémoire.

Buterin l’a baptisé Qwen3.8-Flash, même si Alibaba propose la version téléchargeable sous le nom Qwen3.8-Flash-Next. Son grand frère, Qwen3.8-Max, a obtenu d’excellents résultats aux tests de performance en août.

Pourquoi la confidentialité change la donne

Buterin voit un deuxième avantage, au-delà de la simple rapidité. Un modèle local répond sur l’appareil, de sorte qu’aucun fournisseur ne reçoit jamais la requête.

Pour les tâches plus exigeantes, il propose une approche hybride. Le modèle local ferait ce qu’il peut, puis retirerait les détails sensibles de tout ce qu’il transmet à un système hébergé plus puissant.

« utiliser votre modèle local pour orchestrer des requêtes à des modèles puissants afin que vos requêtes ne révèlent pas vos informations personnelles »

En pratique, le modèle local retirerait d’une requête les noms, les adresses de portefeuille ou le code privé, puis ne transmettrait que la question restante. Ce filtrage réduirait les données qui quittent l’appareil. Il ne garantirait pas qu’aucune information sensible ne passe entre les mailles du filet.

Cette proposition s’inscrit dans la continuité de ses prises de position. Il a mis en garde contre la surveillance lors du débat européen sur le contrôle des conversations, et les utilisateurs de cryptomonnaies ont réclamé des limites plus strictes pour les agents pour des raisons similaires.

Une action collective intentée en mai accuse OpenAI d’avoir partagé avec Meta et Google les requêtes des utilisateurs de ChatGPT.

Les fournisseurs de services cloud restent les maîtres de la frontière technologique. Pourtant, chaque progrès des performances locales déplace davantage de tâches courantes hors de leurs serveurs, et le matériel abordable à mémoire partagée se répand de plus en plus.

La question reste de savoir quelle part de leurs capacités les gens accepteront de sacrifier pour garder le contrôle.

Source : BeInCrypto