對GPU進行性能優化時，cudagraph是繞不開的話題。

不僅是GPU，大部分的xpu都會提供類似graph mode的優化，相比于每次分別由CPU進行kernel launch的eager mode，graph mode通常都會有較大性能提升，然而也經常容易出現各種各樣的奇怪問題。

NVIDIA有一個簡單的 博客 介紹，其中只使用了stream capture的形式來構造cudagraph，而且本質上就是多個kernel前后提交，根本無法展示cudagraph的復雜性。

本文嘗試從底層原理出發，根據文檔 和 …。