微软 NNI

https://nni.readthedocs.io/zh/latest/Tuner/BohbAdvisor.html

超参调优

穷举搜索
• Random Search（随机搜索）
• Grid Search（遍历搜索）
• Batch（批处理）
启发式搜索
• Naïve Evolution（朴素进化）
• Anneal（退火算法）
• Hyperband
贝叶斯优化
• BOHB
• TPE
• SMAC
• Metis Tuner
• GP Tuner
基于强化学习
• PPO Tuner

神经网络架构搜索

• ENAS
• DARTS
• P-DARTS
• CDARTS
• Network Morphism

模型压缩

剪枝
• AGP Pruner
• Slim Pruner
• FPGM Pruner
量化
• QAT Quantizer
• DoReFa Quantizer

特征工程（测试版）

• GradientFeatureSelector
• GBDTSelector

提前终止算法

• Median Stop（中位数终止）
• Curve Fitting（曲线拟合）