mindscience.common

mindscience.common.AdaHessian

二阶优化器 AdaHessian,利用 Hessian 矩阵对角元信息进行二阶优化求解。

mindscience.common.batched_hessian

计算网络模型的海森矩阵。

mindscience.common.batched_jacobian

计算网络模型的雅可比矩阵。

mindscience.common.get_2d_sin_cos_pos_embed

参数:。

mindscience.common.get_loss_metric

获取对应名称的损失函数实例。

mindscience.common.get_multi_step_lr

当训练轮次达到给定 milestones 之一时,学习率按 gamma 进行衰减,生成学习率数组。

mindscience.common.get_poly_lr

生成指数衰减的学习率数组。

mindscience.common.get_warmup_cosine_annealing_lr

基于余弦函数生成衰减学习率数组。

mindscience.common.glorot_uniform

Glorot 均匀初始化。

mindscience.common.lecun_init

LeCun 初始化。

mindscience.common.MTLWeightedLoss

自动计算基于 MTL 策略的加权多任务损失。

mindscience.common.patchify

将类图像张量转换为由展平 patch 组成的序列。

mindscience.common.pixel_shuffle

对由多个输入平面组成的信号应用 pixel_shuffle 操作。

mindscience.common.pixel_unshuffle

对由多个输入平面组成的信号应用 pixel_unshuffle 操作。

mindscience.common.PixelShuffle

对由多个输入平面组成的输入信号应用 pixelshuffle 操作,该操作可用于实现步长为 \(1/r\) 的高效子像素卷积。

mindscience.common.PixelUnshuffle

对由多个输入平面组成的信号应用 pixelunshuffle 操作,详情可参考。

mindscience.common.RelativeRMSELoss

相对均方根误差(RRMSE)是对均方根误差进行归一化后的结果,其归一化因子为真实值的均方根,其中每一个残差项都相对于真实值进行缩放。

mindscience.common.SpectralNorm

对给定模块中的参数应用谱归一化。

mindscience.common.to_2tuple

将一个整数或整数元组转换为长度为 2 的元组。

mindscience.common.to_3tuple

将一个整数或整数元组转换为长度为 3 的元组。

mindscience.common.unpatchify

将一系列展平的 patch 序列还原为类图像张量。

mindscience.common.WaveletTransformLoss

多层小波变换损失函数。