Optuna: 一个超参数优化框架

Optuna 是一个自动超参数优化软件框架，特别为机器学习设计。它具有命令式、*define-by-run*（定义即运行）风格的用户 API。由于我们的 *define-by-run* API，使用 Optuna 编写的代码具有高度模块化，用户可以动态构建超参数的搜索空间。

主要特点

Optuna 具有以下现代功能

轻量级、通用且与平台无关的架构
- 安装简单，依赖少，可处理各种任务。
Python 风格的搜索空间
- 使用熟悉的 Python 语法（包括条件语句和循环）定义搜索空间。
高效的优化算法
- 采用最先进的算法进行超参数采样，并有效剪枝无前景的试验。
易于并行化
- 几乎无需修改代码即可将研究扩展到数十或数百个 worker。
快速可视化
- 通过多种绘图函数检查优化历史。

基本概念

我们对 *研究*（study）和 *试验*（trial）使用以下术语

研究 (Study): 基于目标函数的优化
试验 (Trial): 目标函数的单次执行

请参考下面的示例代码。*研究*（study）的目标是通过多次*试验*（trial）（例如 n_trials=100）找出最优的超参数值集（例如 classifier 和 svm_c）。Optuna 是一个为自动化和加速优化*研究*而设计的框架。

import ...

# Define an objective function to be minimized.
def objective(trial):

    # Invoke suggest methods of a Trial object to generate hyperparameters.
    regressor_name = trial.suggest_categorical('classifier', ['SVR', 'RandomForest'])
    if regressor_name == 'SVR':
        svr_c = trial.suggest_float('svr_c', 1e-10, 1e10, log=True)
        regressor_obj = sklearn.svm.SVR(C=svr_c)
    else:
        rf_max_depth = trial.suggest_int('rf_max_depth', 2, 32)
        regressor_obj = sklearn.ensemble.RandomForestRegressor(max_depth=rf_max_depth)

    X, y = sklearn.datasets.fetch_california_housing(return_X_y=True)
    X_train, X_val, y_train, y_val = sklearn.model_selection.train_test_split(X, y, random_state=0)

    regressor_obj.fit(X_train, y_train)
    y_pred = regressor_obj.predict(X_val)

    error = sklearn.metrics.mean_squared_error(y_val, y_pred)

    return error  # An objective value linked with the Trial object.

study = optuna.create_study()  # Create a new study.
study.optimize(objective, n_trials=100)  # Invoke optimization of the objective function.

Web 控制面板

Optuna Dashboard 是一个用于 Optuna 的实时 Web 控制面板。您可以在图表和表格中查看优化历史、超参数重要性等。您无需创建 Python 脚本来调用 Optuna 的可视化函数。欢迎提交功能请求和 Bug 报告！

https://user-images.githubusercontent.com/5564044/204975098-95c2cb8c-0fb5-4388-abc4-da32f56cb4e5.gif

optuna-dashboard 可以通过 pip 安装

$ pip install optuna-dashboard

提示

请查看 Optuna Dashboard 官方文档中的入门部分。

交流

提问请前往GitHub Discussions。
提交 Bug 报告和功能请求请前往GitHub Issues。

贡献

欢迎对 Optuna 做出任何贡献！提交拉取请求时，请遵循贡献指南。

许可证

MIT 许可证（参见LICENSE）。

Optuna 使用了 SciPy 和 fdlibm 项目的代码（参见第三方许可证）。

参考文献

Takuya Akiba, Shotaro Sano, Toshihiko Yanase, Takeru Ohta, and Masanori Koyama. 2019. Optuna: A Next-generation Hyperparameter Optimization Framework. In KDD (arXiv)。