optuna.samplers.BaseSampler

class optuna.samplers.BaseSampler[源码]

采样器的基类。

Optuna 结合了两种采样策略,称为相对采样独立采样

相对采样同时确定多个参数的值,以便采样算法可以使用参数之间的关系(例如,相关性)。相对采样的目标参数在相对搜索空间中描述,该空间由 infer_relative_search_space() 确定。

独立采样在不考虑参数之间任何关系的情况下确定单个参数的值。独立采样的目标参数是未在相对搜索空间中描述的参数。

更具体地说,参数通过以下过程进行采样。在试验开始时,将调用 infer_relative_search_space() 来确定试验的相对搜索空间。在目标函数执行期间,仅在首次采样属于相对搜索空间的参数时调用一次 sample_relative()sample_independent() 用于采样不属于相对搜索空间的参数。

下图描绘了试验的生命周期以及上述三个方法如何在试验中被调用。

../../../_images/sampling-sequence.png

方法

after_trial(study, trial, state, values)

试验后处理。

before_trial(study, trial)

试验预处理。

infer_relative_search_space(study, trial)

为目标试验推断将使用的搜索空间。

reseed_rng()

重新设置采样器的随机数生成器。

sample_independent(study, trial, param_name, ...)

为给定的分布采样一个参数。

sample_relative(study, trial, search_space)

在给定的搜索空间中采样参数。

after_trial(study, trial, state, values)[源码]

试验后处理。

此方法在目标函数返回后、试验完成并存储其状态之前调用。

注意

于 v2.4.0 添加为实验性功能。接口可能在新版本中更改,恕不另行通知。请参阅 https://github.com/optuna/optuna/releases/tag/v2.4.0

参数:
  • study (Study) – 目标研究对象。

  • trial (FrozenTrial) – 目标试验对象。修改此对象前请先复制。

  • state (TrialState) – 结果试验状态。

  • values (Sequence[float] | None) – 结果试验值。如果试验成功,则保证不为 None

返回类型:

before_trial(study, trial)[源码]

试验预处理。

在调用目标函数之前并且在试验实例化之后立即调用此方法。更准确地说,此方法在试验初始化期间被调用,紧接在调用 infer_relative_search_space() 之前。换句话说,它负责在推断搜索空间之前应完成的预处理。

注意

于 v3.3.0 作为实验性功能添加。界面可能会在较新版本中更改,恕不另行通知。请参阅 https://github.com/optuna/optuna/releases/tag/v3.3.0

参数:
  • study (Study) – 目标研究对象。

  • trial (FrozenTrial) – 目标试验对象。

返回类型:

abstractmethod infer_relative_search_space(study, trial)[源码]

为目标试验推断将使用的搜索空间。

此方法在调用 sample_relative() 方法之前立即调用,并且此方法返回的搜索空间将被传递给它。不包含在搜索空间中的参数将通过调用 sample_independent() 方法进行采样。

参数:
  • study (Study) – 目标研究对象。

  • trial (FrozenTrial) – 目标试验对象。修改此对象前请先复制。

返回:

包含参数名称和参数分布的字典。

返回类型:

dict[str, BaseDistribution]

另请参阅

请参阅 intersection_search_space() 作为 infer_relative_search_space() 的一个实现。

reseed_rng()[源码]

重新设置采样器的随机数生成器。

如果试验与 n_jobs>1 选项并行执行,则 Study 实例将调用此方法。在这种情况下,采样器实例将被复制,包括随机数生成器的状态,并且它们可能会建议相同的值。为防止此问题,此方法为每个随机数生成器分配不同的种子。

返回类型:

abstractmethod sample_independent(study, trial, param_name, param_distribution)[源码]

为给定的分布采样一个参数。

仅当参数不包含在 sample_relative() 方法返回的搜索空间中时,才会调用此方法。此方法适用于不使用参数之间关系的采样算法,例如随机采样和 TPE。

注意

任何内置采样器在采样新参数时都会忽略失败的试验。因此,在采样器看来,失败的试验被视为已删除。

参数:
  • study (Study) – 目标研究对象。

  • trial (FrozenTrial) – 目标试验对象。修改此对象前请先复制。

  • param_name (str) – 采样参数的名称。

  • param_distribution (BaseDistribution) – 指定采样算法先验和/或尺度的分布对象。

返回:

参数值。

返回类型:

Any

abstractmethod sample_relative(study, trial, search_space)[源码]

在给定的搜索空间中采样参数。

此方法在每次试验开始时调用一次,即在评估目标函数之前。此方法适用于使用参数之间关系的采样算法,例如高斯过程和 CMA-ES。

注意

任何内置采样器在采样新参数时都会忽略失败的试验。因此,在采样器看来,失败的试验被视为已删除。

参数:
返回:

包含参数名称和值的字典。

返回类型:

dict[str, Any]