lite_boost

LiteBoost是MindSpore Lite面向昇腾硬件的推理加速工具包，提供高性能自定义算子、多卡并行推理、量化稀疏等推理加速能力。

并行

lite_boost.parallel.initialize_usp	初始化并行推理所需的HCCL分布式环境。
lite_boost.BoostManager	对支持的模型进行原地修改，使其支持分布式并行推理。

层

lite_boost.layers.rms_norm	对 x 的最后一维执行逐行RMS归一化。
lite_boost.layers.nearest_exact_upsample	对 x 执行最近邻精确插值上采样。
lite_boost.layers.rope_apply	对 x 应用旋转位置编码（RoPE）。
lite_boost.layers.flash_attention	对 q、k、v 计算Flash注意力，按可用性自动选择FA3、FA2或NPU（npu_prompt_flash_attention）后端。

算子

lite_boost.ops.rain_fusion_attention	块稀疏融合注意力前向计算。
lite_boost.ops.sparse_attention	高层稀疏注意力入口。
lite_boost.ops.recurrent_gated_delta_rule	基于CANN aclnn后端的递推式线性注意力decode算子。
lite_boost.ops.chunk_gated_delta_rule	分块（prefill）Gated Delta Rule算子（A2）。