Skip to content

上下文长度。我没有在说明中找到关于long writer的上下文长度,是否是沿用的glm4-128k的输入上下文长度。 #31

@mhzn-yn

Description

@mhzn-yn

System Info / 系統信息

我想知道long writer 的输入上下文长度,在整篇文章中,只写了输出的长度。麻烦作者告知,万分感谢。
第二个问题:微调训练,是否可以在windows 上使用LLaMA-Factory。
LLaMA-Factory上有标注支持glm4微调。如果不支持,还请给点相关信息。

Who can help? / 谁可以帮助到您?

No response

Information / 问题信息

  • The official example scripts / 官方的示例脚本
  • My own modified scripts / 我自己修改的脚本和任务

Reproduction / 复现过程

我想知道long writer 的输入上下文长度,在整篇文章中,只写了输出的长度。麻烦作者告知,万分感谢。
第二个问题:微调训练,是否可以在windows 上使用LLaMA-Factory。
LLaMA-Factory上有标注支持glm4微调。

Expected behavior / 期待表现

期待回复,万分感谢。

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type
    No fields configured for issues without a type.

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions