快速且內存高效的精確注意力機制

FlashInfer是一個用于大型語言模型服務的高性能GPU內核庫。

Transformer-XL是一種超越固定長度上下文的注意力語言模型，支持單節點多GPU和多主機TPU訓練，取得了最新的最佳結果。，Transformer-XL官網入口網址