Ascend NPU

2025-02-14 约 1642 字 预计阅读 4 分钟

如何查看版本号

CANN

1
2
3
4
5
6
7
8

❯ cat /usr/local/Ascend/ascend-toolkit/latest/arm64-linux/ascend_toolkit_install.info
package_name=Ascend-cann-toolkit
version=8.0.RC3
innerversion=V100R001C19SPC001B155
compatible_version=[V100R001C13,V100R001C19],[V100R001C30]
arch=aarch64
os=linux
path=/usr/local/Ascend/ascend-toolkit/8.0.RC3/aarch64-linux

npu-smi info使用

  1. npu-smi info 类似 nvidia-smi 命令，打印 NPU 调用情况
  2. 需要使用 root / sudo 权限来使用

  3. 在docker 中需要添加 --privileged

阅读更多

Ollama

2025-02-11 约 66 字 预计阅读 1 分钟

windows 设置

1
2
3
4
5

# 设置模型存储位置
sudo setx OLLAMA_MODELS  "e:\data\.ollama\models" /M

# 设置服务地址，端口号
sudo setx OLLAMA_HOST  "0.0.0.0:11434" /M

使用

  1. 启动服务

    1

    ollama serve

  2. 调用模型

    1
2

    ollama run deepseek-r1:1.5b
ollama run deepseek-r1:7b

  3. 模型列表

    1

    ollama list
阅读更多

SMAC

2024-12-31 约 6460 字 预计阅读 13 分钟

入口类

  1. Facade
  2. 文档最完善的入口类： smac.facade.smac_ac_facade.SMAC4AC

程序入口

  1. Facade.optimize() –> SMBO.run() (Facade.solver().run())

  2. SMBO.run() 迭代循环

    1. Intensifier.get_next_run() (SMBO.run()–> SMBO.intensifier.get_next_run()) –> AbstractRacer._next_challenger()

      • AbstractRacer 是 Intensifier 的基类
      • 选择下一个 challenger (候选配置config)

      • 方法：

阅读更多

SMAC

2024-12-31 约 331 字 预计阅读 1 分钟

multi-objectives

runhistory 转换成 单个cost 的工具

RunHistoryLogScaledEncoder 基类： AbstractRunHistoryEncoder

通过重载 _build_matrix() 方法实现

数据收集用来做模型训练的方法

ConfigSelector

  • 通过 self._collect_data() 实现收集
  • 通过 self._get_x_best() 实现选取最优点 (X,y) 单目标 cost 数据

多目标代理模型类

MultiObjectiveModel

阅读更多

SMAC

2024-12-31 约 327 字 预计阅读 1 分钟

multi-objectives

runhistory 转换成 单个cost 的工具

RunHistoryLogScaledEncoder 基类： AbstractRunHistoryEncoder

通过重载 _build_matrix() 方法实现

数据收集用来做模型训练的方法

ConfigSelector

  • 通过 self._collect_data() 实现收集
  • 通过 self._get_x_best() 实现选取最优点 (X,y) 单目标 cost 数据

多目标代理模型类

MultiObjectiveModel

阅读更多