| 项目 | 内容 |
|---|---|
| 课程 | 人工智能实战2019 |
| 作业要求 | 第7次作业 |
| 课程目标 | 学习人工智能基础知识 |
| 本次作业对我的帮助 | 学习使用OpenPAI和NNI |
| 参考文献 | Train models on OpenPAI，Neural Network Intelligence |
OpenPAI
简介
为了解决基础架构模块的构建、部署、管理和优化，让人工智能领域的研发人员把研究和开发的重心放在创新上，微软亚洲研究院创建OpenPAI — 深度定制和优化的人工智能集群管理平台。通过Docker容器和现有的深度学习框架融合，可作为VScode插件，提供网页客户端。
使用过程
依照参考教程完成一遍基本使用流程，过程截图如下。
- 配置
{
"jobName": "wangshihong_test_couplet",
"image": "tobeyqin/pai.build.cu80:my",
"codeDir": "$PAI_DEFAULT_FS_URI/$PAI_USER_NAME/$PAI_JOB_NAME",
"dataDir": "$PAI_DEFAULT_FS_URI/Data/$PAI_JOB_NAME",
"outputDir": "$PAI_DEFAULT_FS_URI/Output/$PAI_JOB_NAME",
"taskRoles": [
{
"name": "test_001",
"taskNumber": 1,
"cpuNumber": 2,
"gpuNumber": 1,
"memoryMB": 8192,
"command": "pip3 --quiet install future && cd $PAI_JOB_NAME && chmod +x train.sh && python3 run_samples.py"
}
]
}
- 运行结果
心得体会
- 结合VScode客户端，配置简单，对于第一次使用此类机器学习平台的新手友好
- Web的UI界面简洁，管理Job方式清晰
- 云部署算力强劲，为用户提供高效的服务
- 由于笔者没有使用过其他机器学习平台，故不做出对比评测
NNI
简介
NNI（Neural Network Intelligence）是自动机器学习（AutoML）的工具包。它通过多种调优算法来搜索最好的神经网络结构和超参，并支持单机、本地多机、云等不同运行环境。
- 友好的交互界面：NNI提供命令行工具和图形化的控制界面
- 全面的框架支持：支持多种Python语言的深度学习框架（Pytorch、TensorFlow等）
- 丰富的调优算法：NNI集成多种Tuner（调参器）和Assessor（评估器），用户可以自由选择
- 多样的训练模式：NNI支持本地、远程、分布式等多种方式进行模型的参数调优
使用过程
- 通过配置参数搜索空间的json文件完成NNI设置，借助yml文件运行代码
{
"dropout_rate":{"_type":"uniform","_value":[0.1,0.5]},
"conv_size":{"_type":"choice","_value":[2,3,5,7]},
"hidden_size":{"_type":"choice","_value":[124, 512, 1024]},
"batch_size":{"_type":"choice","_value":[50, 250, 500]},
"learning_rate":{"_type":"uniform","_value":[0.0001, 0.1]}
}
- 修改运行平台为OpenPAI即可实现在线训练
心得体会
- 配置环境较为繁琐，参考教程的某些细节写得不清楚
- 在参数较多的情况下，不需要写多重循环，并提供可视化记录，便于调优超参
- 由于笔者没有使用过其他机器学习平台，故不做出对比评测