9 天前

基于孪生BERT的模型在新捷克语数据集上的网页搜索相关性排序评估

Matěj Kocián, Jakub Náplava, Daniel Štancl, Vladimír Kadlec
基于孪生BERT的模型在新捷克语数据集上的网页搜索相关性排序评估
摘要

网络搜索引擎需要在数百毫秒内返回高度相关的结果,而预训练的语言转换模型(如BERT)由于计算开销较大,难以在此类场景中直接应用。为此,我们提出了一种基于BERT的孪生网络架构的实时文档排序方法。该模型已成功部署于某商业搜索引擎中,显著提升了生产环境下的性能,改进幅度超过3%。为进一步推动相关研究与评估,我们发布了DaReCzech数据集——一个包含160万条捷克语用户查询-文档配对的独家数据集,每对数据均经过人工标注的相关性等级。同时,我们还发布了Small-E-Czech,一个在大规模捷克语语料上预训练的Electra-small语言模型。我们相信,这些数据资源将有力支持搜索相关性研究以及多语言方向的研究社区。

基于孪生BERT的模型在新捷克语数据集上的网页搜索相关性排序评估 | 最新论文 | HyperAI超神经