optuna.pruners.MedianPruner

class optuna.pruners.MedianPruner(n_startup_trials=5, n_warmup_steps=0, interval_steps=1, *, n_min_trials=1)[源码]

使用中位数停止规则的剪枝器。

如果试验的最佳中间结果比同一阶段之前试验中间结果的中位数差,则进行剪枝。

示例

我们使用中位数停止规则最小化一个目标函数。

import numpy as np
from sklearn.datasets import load_iris
from sklearn.linear_model import SGDClassifier
from sklearn.model_selection import train_test_split

import optuna

X, y = load_iris(return_X_y=True)
X_train, X_valid, y_train, y_valid = train_test_split(X, y)
classes = np.unique(y)


def objective(trial):
    alpha = trial.suggest_float("alpha", 0.0, 1.0)
    clf = SGDClassifier(alpha=alpha)
    n_train_iter = 100

    for step in range(n_train_iter):
        clf.partial_fit(X_train, y_train, classes=classes)

        intermediate_value = clf.score(X_valid, y_valid)
        trial.report(intermediate_value, step)

        if trial.should_prune():
            raise optuna.TrialPruned()

    return clf.score(X_valid, y_valid)


study = optuna.create_study(
    direction="maximize",
    pruner=optuna.pruners.MedianPruner(
        n_startup_trials=5, n_warmup_steps=30, interval_steps=10
    ),
)
study.optimize(objective, n_trials=20)
参数:
  • n_startup_trials (int) – 在同一研究中指定数量的试验完成后,剪枝才会被启用。

  • n_warmup_steps (int) – 在试验超过指定步数之前,剪枝会被禁用。请注意,此功能假设 step 从零开始。

  • interval_steps (int) – 剪枝检查之间的步数间隔,从热身步数后开始计算。如果在进行剪枝检查时没有报告任何值,该特定检查将推迟到报告值之后进行。

  • n_min_trials (int) – 在某个步骤中报告的试验结果的最小数量,用于判断是否剪枝。如果在当前步骤中所有试验报告的中间值数量少于 n_min_trials,则不会对该试验进行剪枝。这可以用来确保至少有指定数量的试验完整运行而不被剪枝。

方法

prune(study, trial)

根据报告的值判断是否应剪枝试验。

prune(study, trial)

根据报告的值判断是否应剪枝试验。

请注意,此方法不应由库用户调用。相反,optuna.trial.Trial.report()optuna.trial.Trial.should_prune() 提供了用户接口,用于在目标函数中实现剪枝机制。

参数:
  • study (Study) – 目标研究的 Study 对象。

  • trial (FrozenTrial) – 目标试验的 FrozenTrial 对象。在修改此对象之前请获取一份副本。

返回:

一个布尔值,表示是否应剪枝试验。

返回类型:

bool