Skip to content

tnn内存占用大于onnxruntime,同时内存占用没有波动,一直稳定在30M #1991

@coreeey

Description

@coreeey

1. 环境(environment)

  • Build OS and Version: Ubuntu
  • RunTime OS Version: Linux
  • RunTime DEVICE: METAL

2. Github版本

  • branch:mian
  • commit(optional):

3. 编译方式(compile method)
CMake完整编译参数(full cmake arguments)为默认参数

5. 详细描述bug 情况 (Describe the bug)
在进行文本分类任务时,我这里将onnxruntime推理后端修改为了TNN,希望可以减少一些内存占用。但是将onnxruntime修改为TNN后,内存占用不降反增了。我这里模型大小约为3M,使用onnxruntime时,内存占用均值为22M,峰值为28M,但是切换为TNN后,内存占用稳定在30M,几乎看不到波动,请问这可能是什么原因导致的呢?能提供一些意见吗?

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions