2달 전

수학 방정식 생성을 위한 표현 트리 디코딩 전략

Wenqi Zhang; Yongliang Shen; Qingpeng Nong; Zeqi Tan; Yanna Ma; Weiming Lu
수학 방정식 생성을 위한 표현 트리 디코딩 전략
초록

자연어에서 수학 방정식을 생성하기 위해서는 수학 표현 간의 관계를 정확히 이해하는 것이 필요합니다. 기존 접근 방식은 주로 토큰 단위와 표현 단위 생성으로 크게 분류될 수 있습니다. 전자는 방정식을 수학 언어로 취급하여 순차적으로 수학 토큰을 생성합니다. 후자는 각각의 표현을 하나씩 생성합니다. 그러나 각 표현은 문제 해결 단계를 나타내며, 이들 단계 사이에는 자연스럽게 병렬적 또는 종속적인 관계가 존재하는데, 이러한 관계는 현재의 순차적 방법에서 무시되고 있습니다. 따라서 우리는 표현 단위 생성에 트리 구조를 통합하고, 표현 트리 디코딩 전략을 제안합니다. 표현을 노드로 하는 트리를 생성하기 위해 층별 병렬 디코딩 전략을 사용합니다: 각 층에서 여러 독립된 표현(잎 노드)을 병렬로 디코딩하고, 층별로 병렬 디코딩을 반복하여 다른 표현에 종속된 부모 노드 표현들을 순차적으로 생성합니다. 또한, 이분 매칭 알고리즘을 사용하여 각 층에서 다중 예측 결과를 주석과 일치시키는 작업을 수행합니다. 실험 결과, 우리의 방법이 특히 복잡한 구조를 가진 방정식에 대해 다른 기준 모델들을 능가함을 보여주었습니다.科技/学术术语处理:- 自然语言(자연어)- 数学方程(수학 방정식)- 生成(생성)- 理解(이해)- 关系(관계)- 接近方法(접근 방식)- 分类(분류)- 令牌级别(토큰 단위)- 表达级别(표현 단위)- 数学语言(수학 언어)- 顺序生成(순차적으로 생성)- 表达(표현)- 解决步骤(문제 해결 단계)- 并行关系(병렬적 관계)- 依赖关系(종속적 관계)- 顺序方法(순차적 방법)- 集成(통합)- 树结构 (트리 구조)- 表达树解码策略 (표현 트리 디코딩 전략)- 层级并行解码策略 (층별 병렬 디코딩 전략)- 独立表达 (독립된 표현)- 叶节点 (잎 노드)- 并行解码 (병렬로 디코딩)- 反复进行 (반복하여 수행)- 依赖其他表达的父节点表达 (다른 표현에 종속된 부모 노드 표현)- 二分匹配算法 (이분 매칭 알고리즘)- 对齐 (일치시키는 작업)- 多重预测结果 (다중 예측 결과)- 主注释 (주석)- 实验结果 (실험 결과)- 基准模型 (기준 모델)

수학 방정식 생성을 위한 표현 트리 디코딩 전략 | 최신 연구 논문 | HyperAI초신경