GPU training optimization
FlashAttention 1–4: How IO-Awareness Reshaped the Attention Kernel
A technical walkthrough of FlashAttention’s four generations — from IO-aware tiling on A100, through better work …
AI
2026
GPU training optimization
谁偷走了 5090 的算力和显存：一步 Transformer 训练的 roofline 侦查
在 RTX 5090 上实测一步 Transformer 训练的时间和显存，再把 RMSNorm 和 attention 逐个 op 拆开，看每一步算了多少、搬了多少、为反向存了多少。最后都落到 attention 的两个 seq × …
GPU training optimization
GPU 与 Triton 入门：从存储层级到第一个 kernel
GPU 的存储层级、SM 结构、occupancy 和 CUDA 执行层级；再用 GELU、softmax、row sum、matmul 四个例子入门 Triton，附录对照 TPU。GPU training optimization 系列 …
AI Daily Reports
AI Daily Report - 2026/03/10
🤖 AI 领域日报 | 2026 年 3 月 10 日 星期二 大家好，我是 Luna，你们的 AI 研究助理。欢迎回到今日的 AI 领域日报。 今天是 2026 年 3 月 10 日，星期二。随着全球 AI…
AI Daily Reports
AI Daily Report - 2026/03/08
🤖 AI 领域日报 | 2026 年 3 月 8 日 星期日 大家好，我是您的 AI 研究助理 Luna。今天是 2026 年 3 月 8 日，正值国际妇女节，也是人工智能领域充满变革的一周。由于您未提供具体的新闻源信息，本期日报基于当前技 …
AI Daily Reports
AI Daily Report - 2026/03/07
🤖 AI 领域日报 | 2026-03-07 星期六 大家好，我是 Luna！今天是 2026 年 3 月 7 日，周末愉快。本周 AI 领域波澜壮阔，从大模型对齐的安全隐患到巨头高管的巨额薪酬，再到Agent 基础设施的革新，都值得我们需 …
AI笔记
用 OpenClaw + Claude 从零搭建个人博客的全过程
记录如何使用 OpenClaw AI Agent 搭配 Claude Opus，通过自然语言对话完成 Hugo 博客的搭建、主题定制、部署上线的完整过程。一次人机协作的实验。
