自动化实验追踪

Fully Automated MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

机器学习具有实验性质

可试验的"杠杆"很多:

  • 数据变换
    • 使用的特征
  • 训练算法
    • 超参数调优
  • 评估指标
    • 精确率、召回率等
Fully Automated MLOps

广阔的可能空间!

$$

多台天线指向繁星满天的天空的照片。旨在说明难以完全探索的巨大空间。

Fully Automated MLOps

手工机器学习流程的问题

缺乏自动化 = 手工ML流程的问题

  • 难以追踪实验与结果
  • 浪费时间和资源
  • 难以复现/共享结果

一位数据科学家在笔记本电脑前非常沮丧的图片。

Fully Automated MLOps

ML中的自动化日志记录

应记录的关键信息:

  • 代码
  • 环境
  • 数据
  • 参数
  • 指标
Fully Automated MLOps

日志记录的重要性

日志对于以下方面至关重要:

  • 保障ML实验的可复现性。
  • 追踪系统性能并做出明智决策。
  • 发现改进空间与潜在问题。

$$

可复现性提升透明度,是系统可信的关键。

Fully Automated MLOps

自动化实验追踪系统

$$

按运行或实验组织日志,以便:

  • 查看模型训练元数据
  • 比较模型训练运行
  • 复现实验训练运行

$$

一张IT架构图。实验追踪系统由两个组件组成:仪表板用户界面和编程访问接口。用户可访问仪表板UI。其他架构组件通过编程接口访问。实验追踪系统向负责存储日志的组件写入并读取日志。

Fully Automated MLOps

自动化实验追踪——当今市场

常见的实验追踪工具:

  • TensorBoard

$$

  • MLflow

$$

  • Weights & Biases

$$

  • Neptune

$$

TensorFlow 标志。

$$

MLflow 标志。

$$ Weights & Biases 标志。

Neptune.AI 标志。

Fully Automated MLOps

Passons à la pratique !

Fully Automated MLOps

Preparing Video For Download...