Skip to content

fix: add dtype include for domestic platforms - #55

Merged
wooway777 merged 1 commit into
masterfrom
fix/add-dtype-include
Nov 16, 2026
Merged

wooway777 merged 1 commit into
masterfrom
fix/add-dtype-include

Conversation

@wooway777

Copy link
Copy Markdown
Contributor

天数上没这个include好像缺类型

@wooway777
wooway777 requested a review from voltjia November 13, 2026 12:19
@wooway777
wooway777 merged commit 9e2e985 into master Nov 16, 2026
4 checks passed
@wooway777
wooway777 deleted the fix/add-dtype-include branch November 16, 2026 02:28
@wooway777

Copy link
Copy Markdown
Contributor Author

针对考虑在无直接依赖时回退此pr给出补充说明

对“ATen Argmax 完成推理”这个工作流来说,`generated.h` 包含 data_type_.h 不是必要条件;但这个修改本身仍有独立价值,不建议回退。

我做了严格 A/B 验证:

  • InfiniRT old:`cd1d482`,即 9e2e985^,没有把 data_type_.h 加进 generated.h
  • InfiniRT new:`9e2e985`,即已合入 origin/master 的修复
  • InfiniOps base:`a4b11fb`,即 feat/iluvatar-argmax 的父提交,没有新增 Iluvatar Argmax
  • 配置:`WITH_TORCH=ON`、`WITH_LINKED=ON`、`WITH_ILUVATAR=ON`、`argmax=[8]`、`ivcore11`、ABI0

结果:

ATen argmax build against old InfiniRT: PASS
ATen argmax tests on Iluvatar/TG150: 4 passed

所以,ATen Argmax 不依赖这个 InfiniRT 修改。

但另一个公共 API 测试显示:

#include <infini/rt.h>
static_assert(std::is_same_v<
    infini::rt::TypeMapType<
        infini::rt::Device::Type::kIluvatar,
        infini::rt::DataType::kBFloat16>,
    __nv_bfloat16>);

结果:

old InfiniRT: FAIL,TypeMap<kIluvatar, kBFloat16> incomplete
new InfiniRT: PASS

因此该修改修复的是更一般的问题:`rt.h` 暴露了 TypeMapType,但没有暴露 backend 的 TypeMap 特化,公共头不自洽。

平台影响评估

平台 | 影响评估 -- | -- NVIDIA | rt.h 额外包含 cuda_fp16.h/cuda_bf16.h;原本 runtime_.h 已包含 CUDA runtime,下游本就需要 CUDA include。风险低。 Hygon | 与 NVIDIA 类似,额外暴露 DTK 的 fp16/bf16 头;原公共 runtime 头已依赖 DTK CUDA runtime。风险低。 MetaX | 额外包含 common/maca_fp16.h、`common/maca_bfloat16.h`;原本已包含 mcr/mc_runtime.h,CMake package 也导出 MACA SDK include。风险低。 Moore | 额外包含 musa_fp16.h、`musa_bf16.h`;原本已包含 musa_runtime.h。风险低。 Cambricon | data_type_.h 不引入新的 vendor 头,只补 Float16/BFloat16 TypeMap。基本无额外依赖风险。 Ascend | data_type_.h 使用 acl/acl.h,但 runtime_.h 原本也包含 acl/acl.h。无新增 SDK 依赖。

主要风险不是单平台编译,而是多 accelerator backend 同时启用时:NVIDIA/Iluvatar/Hygon/MetaX/Moore 都会定义 infini::rt::cuda_bfloat16,且映射到不同类型,可能发生 alias 重定义或类型冲突。不过 InfiniRT 文档和构建规则明确“一次只能启用一个 accelerator backend,CPU 可以和该 backend 一起启用”,所以这不是当前支持场景。

是否回退

不建议回退。理由:

  1. ATen Argmax 路线已经证明不需要它作为 Argmax 前置条件。
  2. 它修复了 <infini/rt.h> 公共 TypeMap API 的真实缺口。
  3. 对单 backend 构建,基本没有新增外部 SDK 依赖;相关 vendor 头原本就在公共 runtime 头依赖面内。
  4. 回退会把一个公共 API 自洽性问题重新暴露给下游 generic operator/template 代码。

更合适的后续是补一个 test_install_consumer 用例:对每个启用 backend,通过 <infini/rt.h> 实例化 fp16/bf16 TypeMapType,防止以后再出现公共头不完整的问题。

.58 当前工作区未修改;验证前后 tracked diff 和 status 均完全一致。A/B 证据保存在:

/home/wuwei/infini58-workspace-backups/aten-argmax-20261116024823/dtype-ab/

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants