Design Docs Are All You Need : quand la doc remplace le code

Elvis (@omarsar0) a relayé un papier étrange et stimulant : une équipe Google DeepMind / MIT / Google / Stanford décrit SMART, une bibliothèque de performance modeling pour systèmes ML… dont la branche principale ne contient presque pas de code.

L’idée en une phrase

Au lieu de patcher un gros framework qui vieillit à chaque génération de modèles et de hardware, ils gardent un graphe de documents de design en langage naturel. Des agents de code régénèrent toute l’implémentation à chaque version.

Chaque modification humaine = une édition de doc. Pas de dérive doc ↔ code : le code n’est plus l’artefact durable.

Pourquoi ça a du sens en ML systems

La modélisation de perf ML est un terrain hostile pour un logiciel longévité : les abstractions d’aujourd’hui sont invalidées par les modèles et puces de demain. Résultat : refactor permanent.

Or les agents de coding sont devenus assez bons (et assez bon marché) pour qu’il soit moins cher de régénérer une lib que de rembourser la dette d’un patch incrémental.

Ce qui rend la régénération fiable

Deux ingrédients, d’après le papier (et le résumé d’Elvis) :

1. Des design docs construits autour d’exemples pas à pas — des démonstrations in-context pour les agents qui génèrent.
2. Une IR d’opérateurs minimale, définie récursivement, avec des coûts symboliques en SymPy : un mode analytique rapide pour les grands balayages, un mode modulo-scheduling plus lent pour le détail des schedules.

Les implémentations régénérées reproduisent des modèles de référence audités à la main à la précision d’arrondi — y compris le serving DeepSeek-V3 sur une tranche de pod TPU.

Ce que ça change (pour un lecteur Neurone21)

• Le document de design devient le produit : versionné, revu, édité.
• Le code devient un artefact jetable, rejouable.
• Ça inverse le workflow classique (code d’abord, doc après) — utile dès que le domaine change plus vite que le temps de maintenir une codebase.

Ce n’est pas magique : les docs doivent rester assez précis pour régénérer deux fois la même chose. Mais pour les outils de co-design ML systems, le papier suggère que la doc, pas le code, peut être l’artefact durable.

Références

• Elvis (@omarsar0), post X du 7 sept. 2026 : https://x.com/omarsar0/status/2096983084956852537
• Paper Design Docs Are All You Need: An AI-native Machine-Learning Performance Tool (DAIR) : https://academy.dair.ai/papers/design-docs-are-all-you-need-an-ai-native-machine-learning-performance-tool-2609.05364