Hardware Timeline (Complément)
🔗 Complément de History of Hardware et Hardware — La Révolution du Calcul.
| Technologie | Année | Spécificité |
|---|---|---|
| TPUv1 | 2015 | INT8, inference only, 92 TOPS |
| TPUv2 | 2017 | BF16 training, 45 TFLOPS |
| TPUv3 | 2018 | 2× v2, 128 TFLOPS, pods 1024 |
| TPUv4 | 2021 | 4096 per pod, utilisé pour PaLM |
| TPUv5 (Trillium) | 2024 | 2× v4 |
| Intel Gaudi 2 | 2022 | Entraînement LLM, 1.8× A100 (estimation) |
| Intel Gaudi 3 | 2024 | Compétiteur H100 |
| Cerebras WSE-3 | 2024 | Wafer-Scale, 4 trillion transistors, 900k cores |
| Groq LPU | 2023 | Inférence LLM, SOT (deterministic) |
| Apple M1 Ultra | 2022 | 64-core GPU, unified memory 128GB — DL sur laptop |
| Apple M4 Ultra | 2024 | 256GB unified memory — entraînement local de 70B en QLoRA |
| NVIDIA DGX GB200 | 2024 | Grace Hopper superchip, 20 PFLOPS, refroidissement liquide |
← Formal Verification & AI Safety • 44 • Liens avec la Thèse →