这是indexloc提供的服务,不要输入任何密码
Skip to content

TypeError #146

@ZCzzzzzz

Description

@ZCzzzzzz

我在使用vllm0.5.0测试chatglm-6b的性能,一开始运行vllm时出现“AttributeError: ‘ChatGLMTokenizer‘ object has no attribute ‘tokenizer‘”的错误,把chatglm-6b中的tokenization_chatglm.py替换了之后运行vllm的benchmark_throughput.py时又出现如下错误,请问怎么解决?
Uploading chatglm报错.png…

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions