[Usage]: 请问0.5.0rc1支持双节点部署吗？

[ppzze]

Your current environment

ucm0.5.0rc1 \  
 vllm-ascend 0.17.0  \
GLM4.7 

How would you like to use ucm.

双节点的时候存储需要共享吗？
config的配置应该是
ucm_connectors:
ucm_connector_name: "UcmNfsStore"
ucm_connector_config:storage_backends:"/mnt/test"
io_direct: false
还是
Ucm_connector_name:"UcmPipelineStore"
ucm_connector_config:
store_pipeline: "Cache|Posix"storage_backends:"/mnt/test"
io_direct: false
呢

我用的UcmNfsStore 但是没有看到在/mnt/test下面生成对应文件

[yuanzhg078]

建议直接使用UcmPipelineStore进行测试。

[ppzze]

建议直接使用UcmPipelineStore进行测试。

使用UcmPipelineStore后可以正常运行 压测完80000序列后 但是/mnt/test里面的都是空文件 ，/workspace/log 下面的ucm.log也是空的 如何验证ucm是否启用成功呢

[ppzze]

里面文件为空 没有/mnt/test下面没有data文件夹，是因为dump未命中吗

[ppzze]

这个是我run的命令 谢谢

[sumingZero]

你起服务的时候多加一个参数：--no-enable-prefix-caching，如果从ucm命中你会看到这样的日志：
request_id: chatcmpl-a609979aa22703e5-9886ac7b, total_blocks_num: 47, hit hbm: 0, hit external: 47
如果你是第一次发请求，这条请求还没被ucm存过，那么你会看到这样的日志：
request_id: chatcmpl-84ac254c7dbad905-a9b7c011, total_blocks_num: 47, hit hbm: 0, hit external: 0
total_blocks_num表示请求有几个block，hit hbm表示几个block在hbm命中，hit external表示几个block通过ucm在外存命中。由于设置了--no-enable-prefix-caching，这等于关闭了HBM prefix cache，因此hit hbm将一直是0