InternVL3-38B-AWQ 模型加载卡住

[Hello-Worldd]

transformers 4.52.2
ms-swift 3.7.0.dev0

infer_main(InferArguments(
infer_backend='pt',
val_dataset='/',
model='InternVL3-38B-AWQ',
)
执行上述代码卡主，训练测试都卡主，目前我感觉是卡在下面的代码的位置

ms-swift/swift/llm/model/register.py

Line 283 in 3f0f132

model = automodel_class.from_pretrained(

infer_backend 用 lmdeploy 可以运行，但是训练不能用lmdeploy 吧，请问怎么解决呢，我希望lora微调InternVL3-38B-AWQ

[Jintao-Huang]

可以debug一下卡在哪里了，估计在初始化权重，这个ms-swift无法进行优化

你可以使用internvl3提供的加载代码测试