调参 Parameter Tuning

调参指调整参数以获得更好的效果,其目的在于得到更好的模型:修复出现的错误、提高神经网络训练精确度。 模型的最优参数依赖于许多场景,在模型评估和选择中,除了算法的选择,还需要对其参数进行设定,调参便是完成参数设定的过程。目前普遍做法是,对参数选择一个范围和变化步长,如在 [0 , …

时间步骤 Time Step

时间步骤用于定义模拟间的时间间隔,游戏引擎中则被用于反映函数需要运行的频率。 物理学使用数学模型预测未来,这些模型输出了当前和未来之间的路径,其在计算路径时被用于预测未来的方向,方向的准确程度则取决于模型输入值(时间),测试过程中,为模型提供的时间值越低,模拟达到目标前,可采取的…

同义词集 Synset

同义词集指具有同义词条组成的集合,其起源于 WordNet 语料库,其单组存在一个或多个同义词,在某些场景中,这些词条是可以互换的,且不会改变相关的语义情况。 相关词:同义词环 参考来源 【1】https://zh.wikipedia.org/wiki/WordNet 【2】ht…

特化 Specialization

特化是从一般到特殊的实现过程,其被用于定义大型实体类型中的特定部分,特化后的实体类型不仅继承了结构、行为,而且扩展了父结构和类型,但这并非说明它小于父类型。 与特化相对应的过程是泛化,泛化是相反的工作流,即从特殊到一般的实现过程,泛化实体类型代表所有子类型的共同结构和行为,且包含…

图灵机 Turing Machine

图灵机是艾伦·图灵于 1936 年提出的抽象计算模型,其更抽象的定义为数学逻辑机,可看作等价于任何有限逻辑数学过程的逻辑机器。 图灵的基本思想是用机器模拟人们用纸、笔进行数学运算的过程,并将这种过程看做以下两种动作: 在纸上写或擦除某个符号;将注意力从纸的一处转移到另一处。 图灵…

树库 Treebank

树库是一种深加工语料库,其可被用于对句子进行分词、词性标注和句法结构关系的标注。 树库的分类 树库大体上可分为两类:短语结构树库、依存结构树库。 短语结构树库:一般用句子的结构成分描述句子;依存结构树库:根据句子的依存结构建立。 树库的作用 为自动句法分析器提供数据和平台;为句法…

T – 分布随机近邻嵌入 T-Distribution Stochastic Neighbour Embedding

T – 分布随机近邻嵌入是一种用于降维的机器学习方法,可被用于识别关联模式,其主要优势是保持局部结构。这意味着高维数据空间中,距离相近的点投影至低维中仍然相近。 T-SNE 特点 低维空间下,使用更重长尾分布的 t 分布可避免 Crowding 问题和优化问题。 T-SNE 梯…

梯度消失问题 Vanishing Gradient Problem

梯度消失问题主要出现在使用梯度下降法、反向传播训练人工神经网络中,在这类训练方法的迭代中,神经网络权重的更新值与误差函数梯度成正比,但梯度值在某些情况下几乎消失,因此权重无法得到有效更新,神经网络也因此无法继续训练。 传统激活函数中,如双曲正切函数的梯度值在 ( 0 , 1 ) …

上采样 Upsampling

上采样又称图像插值,其主要目的是通过放大原图像,进而可以在更高分辨率的设备上显示。 上采样原理 图像放大几乎都是采用内插值方法,即在原有图像像素的基础上在像素点之间采用合适的插值算法插入新的元素。 相关词:下采样

替代损失函数 Surrogate Loss Function

替代损失函数通常在损失函数不便计算时使用,若最优化代理损失函数,则同时优化了原损失函数,即校对性 Calibration 或一致性 Consistency,这个性质与原损失函数相关。 若替代损失函数是凸函数,且在 0 点可导,那么在导数小于 0 的情况下具有一致性,这也是通常选用…

替代函数 Surrogate function

替代函数同样在目标函数无法使用、效果不佳时使用。 在某些优化问题中,目标函数过于复杂,以至于无法对每个迭代步骤进行评估,此时替代函数既能模仿目标函数的大多数属性,也能进行解析分析且计算代价更小。 选择替代函数时需要注意,尽可能与原目标函数性质接近,同时可解决当下问题。

随机梯度下降 Stochastic Gradient Gescent

随机梯度下降是梯度下降算法的一种求解思路,其可以被用于解决梯度下降法的弊端,在随机梯度下降法中,每次迭代可以只用一个训练数据来更新参数。 随机梯度下降特点 优点:训练速度快缺点:准确度下降、不是全局最优、不易于并行实现 随机梯度下降会最小化所有训练样本的损失函数,是的最终解为全局…

松弛变量 Slack variables

松弛变量是支持向量机中的一个辅助量,其被用于将硬间隔转化为软间隔方法,它的引入可解决离群点对分类的影响。 松弛变量的值标示出了对应点离群有多远,值越大点越远,若松弛变量为零,则表明样本没有离群。

统计学习 Statistical learning

统计学习基于数据构建概率统计模型,并将其用于对数据的预测和分析,也被称为统计机器学习。 统计学习的前提是数据的基本假设是同类数据,且具有一定的统计规律性;基于数据,从数据出发,提取数据的特征、抽象出数据的模型、发现其中的规律、找出预测性函数并解决问题;其目的是考虑学习什么样的模型…

同步定位与地图构建 Simultaneous Localization and Mapping

同步定位与地图构建 SLAM 是机器人运动中的技术,它是指机器人在未知环境中出发,运动过程中通过观测到的地图特征进行定位,再根据自身位置去构建地图,从而达到同时定位和地图构建的目的。 SLAM 流程图 SLAM 核心问题 地图构建:如何将传感器收集到的信息整合,并将其集成至一致性…