百科

奖励函数模型 (Reward Model) 是人工智能 (AI) 中的一种方法，模型因其对给定提示的响应而获得奖励或分数。

对抗性提示是提示工程中的一个重要主题，因为它可以帮助理解 LLMs 涉及的风险和安全问题。

越狱 (Jailbreaking) 可以被定义为打破 ChatGPT 等人工智能模型道德保障的一种方式。它是借助某些特定的文字提示，可以轻松绕过内容审核准则，使人工智能程序不受任何限制。

提示词攻击 (Prompt Injection) 是一种新型的攻击方式，可能会导致模型生成不适当的内容，泄露敏感信息等。

LangChain 提供工具和抽象来提高模型生成信息的定制性、准确性和相关性。

提示工程 (Prompt Engineering) 是指导生成式人工智能 (AIGC) 解决方案生成所需输出的过程，提示是描述人工智能应执行的任务的自然语言文本。

马尔可夫决策过程是马尔可夫链的延伸，不同之处在于增加了行动（允许选择）和奖励（给予动机）。

马尔可夫链 (Markov Chain) 是一种数学系统，根据某概率规则经历从一种状态到另一种状态的转变。

在目标检测领域，锚框 (Anchor Box) 是一种用于定义目标位置和尺寸的辅助工具。

在统计学和机器学习中，偏差-方差权衡描述了模型的复杂性、预测的准确性以及它对以前未见过的未用于训练模型的数据进行预测的能力之间的关系。

特征选择是隔离最一致、非冗余和相关特征子集以用于模型构建的过程。

特征提取是指将原始数据转换为可处理的数值特征，同时保留原始数据集中的信息的过程。它比直接将机器学习应用于原始数据产生更好的结果。

数据预处理指在分析数据之前对数据进行操作、过滤或增强，通常是数据挖掘过程中的重要步骤。数据预处理的目标是提高数据的质量，使其更适合特定的数据挖掘任务。

数据挖掘是一个跨学科计算机科学分支。它是用人工智能、机器学习、统计学和数据库的交叉方法在相对较大型的数据集中发现模式的计算过程。

Q 学习是一种无模型、离策略的强化学习算法，它将在给定智能体当前状态的情况下找到最佳的行动方案。

神经网络由大量的人工神经元联结进行计算。它使用类似于人脑的分层结构中的互连节点或神经元。它可以创建自适应系统，计算机使用该系统来从错误中进行学习并不断改进。

深度学习是一种人工智能（AI）方法，用于教计算机用受人脑启发的方式处理数据。

分组查询注意力 (GQA) 是一种在大型语言模型 (LLM) 中的多查询注意力 (MQA) 和多头注意力 (MHA) 之间进行插值的方法。

在计算机科学中，基于规则的系统 (Rule-Based System) 用于存储和使用知识，以便用有用的方式解释信息。

生成式人工智能 (AIGC) 是一种人工智能系统，能够产生文字、图像或其他媒体以回应提示工程，比如包括文本、图像、视频和 3D 模型。

计算节点 (Compute node) 是一种用于计算机科学技术领域的计算机及其配套设备。

在计算机领域，高速缓冲存储器 (Cache) 是一种临时存储器，用于存放计算机程序运行时频繁访问或临时存储的数据，以提高数据的读取和访问速度。

随机存取存储器 (RAM) 也叫主存，是计算机中用于存储处理器当前使用的数据。

只读存储器 (ROM) 是计算机和其他电子设备中使用的一种非易失性存储器。