Faire tourner un modèle de 70 milliards de paramètres sur votre PC : la magie de la quantification
Le rêve (presque) accessible du 70B dans votre salon Il y a encore trois ans, l’idée de faire tourner un modèle de langage de 70 milliards de paramètres sur une machine domestique relevait de la science-fiction. Pourtant, en 2026, des milliers d’utilisateurs exécutent des modèles de cette taille depuis leur bureau, sur du matériel acheté … Lire la suite

