정보 검색, 경로 계획, 전자 상거래, KDD의 전장은 어디인가요?
데이터 마이닝 분야 최고 국제 학회인 KDD 2020이 다음 주에 시작됩니다. 올해 제출된 논문 2,035편 중 338편이 채택되었습니다. 그중에서도 BAT, 디디, 화웨이 등 국내 기술 대기업들이 좋은 성과를 보였습니다.
데이터 마이닝 및 지식 발견에 관한 연례 국제 컨퍼런스 ACM SIGKDD 2020(지식 발견 및 데이터 마이닝 컨퍼런스, KDD라고도 함)이 행사는 8월 23일부터 27일까지 온라인으로 진행됩니다.
데이터베이스 기술이 발전하고 데이터가 지속적으로 축적됨에 따라 데이터 마이닝 분야는 점점 더 많은 관심을 받고 있습니다.
최근 몇 년 동안 KDD에 제출된 작품 수도 눈에 띄게 증가해 2016년 1,115건에서 올해 2,035건으로 늘어났습니다. 이들 논문에서 중국인들의 기여는 점점 더 커지고 있으며, 그 결과는 매우 인상적입니다.
KDD는 26년째를 맞이하고 있으며, 중국인들의 과학 연구 역량은 해마다 증가하고 있습니다.
KDD는 1995년에 시작되었으며 ACM 데이터 마이닝 및 지식 발견 특별 위원회(SIGKDD)가 매년 개최합니다.CCF(중국컴퓨터연맹)에서 A등급 국제학회로 추천되었습니다.데이터 마이닝 분야에서는 이를 "월드컵"이라고 부릅니다.
KDD는 전 세계 데이터 마이닝 분야에서 가장 높은 수준의 국제 학회로, 연간 논문 접수율이 20%를 넘지 않는 엄격한 논문 접수율로 유명하며, 올해도 예외는 아닙니다.
5월 25일, KDD 2020은 공식적으로 수락된 논문을 발표했습니다.올해 연구 트랙(연구 커뮤니티를 위한 학술 논문)에 총 1,279편의 논문이 제출되었고, 그중 216편이 채택되어, 채택률은 16.8%였습니다.
응용 데이터 과학 트랙(업계 실무 트랙)에는 756편의 논문이 제출되었습니다.121편의 논문이 채택되었고, 채택률은 16%였습니다.
올해는 26회 KDD입니다. 논문 발표 수와 수상 내역에 대한 통계에 따르면, 최근 몇 년 동안 중국인의 KDD 참여가 해마다 증가하고 있으며, 그들의 성과는 점점 더 강력해지고 있으며, 점점 더 많은 논문이 선정되었고, 많은 상을 수상했습니다.
최근 몇 년 동안 국내 주요 기술 기업들의 KDD 분야 성과는 점점 더 눈부시게 발전해 왔습니다.
통계에 따르면, 3대 BAT 기업은 2018년에 총 12편의 논문을 발표했습니다. 올해는 알리바바만 25편, 텐센트는 10편, 바이두는 9편, 디디, 화웨이, JD.com은 각각 6편의 논문을 발표했습니다.
KDD 2020: 대기업의 전장은 어디일까?
우리는 모든 사람이 배우고 참고할 수 있도록 주요 국내 기업의 합격 논문을 응용 시나리오별로 정리했습니다. 이 논문 중 일부는 arXiv에 게시되었으므로 잠깐 엿보실 수 있습니다.
정보 검색 《타오바오 추천 상품의 특별 기능 추출》
단위: 알리바바
요약:특징은 전자상거래 예측 작업에서 중요한 역할을 합니다. 오프라인 훈련과 온라인 서비스 간의 일관성을 유지하기 위해 일반적으로 두 가지 모두에 동일한 기능을 활용합니다. 그러나 이러한 일관성은 몇 가지 독특한 특징을 무시합니다. 예를 들어, 제품 세부 정보 페이지에서 머무르는 시간과 같은 기능은 전환율(CVR)을 추산할 때 정보를 제공합니다. CVR은 사용자가 제품을 클릭한 후 구매할 가능성입니다. 하지만 CVR 예측은 클릭이 발생하기 전에 온라인에서 이루어져야 합니다.훈련에만 사용할 수 있지만 차별성이 있는 특징을 특권 특징으로 정의합니다. 본 논문에서는 학습과 추론 사이의 격차를 메우기 위한 증류 기법을 기반으로 특징 분할(PFD) 알고리즘을 제안합니다.우리는 Taobao 추천을 위한 두 가지 기본 예측 작업, 즉, 대략적인 순위를 위한 클릭률과 세부적인 순위를 위한 CVR에 대한 실험을 수행했습니다. CTR 제공 중에 금지된 상호 작용 기능을 추출하고 CVR을 위한 사후 기능을 추출함으로써 강력한 기준선에 비해 상당한 개선을 달성했습니다. 온라인 A/B 테스트 중에 Click Metrics는 CTR 작업에서 +5.0%를 개선했습니다. CVR 작업에서는 전환 지표가 2.3%만큼 향상되었습니다. 더욱이 PFD 훈련과 관련된 여러 가지 문제점을 해결함으로써, 어떠한 정제 없이도 기준으로서 비슷한 훈련 속도를 얻을 수 있습니다.
서류 주소:
https://arxiv.org/abs/1907.05171
정보 검색 《제어 가능한 다중 관심 추천 프레임워크》
단위: 알리바바
요약:최근 몇 년 동안 딥러닝 기술의 급속한 발전으로 신경망이 전자상거래 추천 시스템에 널리 활용되고 있습니다. 우리는 추천 시스템 추천 문제를 순차적 추천 문제로 공식화하여 사용자가 상호작용할 가능성이 높은 다음 항목을 예측하는 것을 목표로 합니다. 최근의 연구는 일반적으로 사용자의 행동 순서에 대한 전체적인 임베딩을 제공합니다. 그러나 통합된 사용자 임베딩은 일정 기간 동안 사용자의 다양한 관심사를 반영할 수 없습니다. 본 논문에서는 ComiRec이라 불리는 순차적 추천을 위한 새로운 제어 가능 다중 관심 프레임워크를 제안합니다. 당사의 다중 관심사 모듈은 사용자 행동 시퀀스에서 여러 관심사를 포착하고 대규모 항목 풀에서 후보 항목을 검색하는 데 사용될 수 있습니다. 그런 다음 이러한 항목을 집계 모듈에 입력하여 전반적인 추천 정보를 얻습니다. 집계 모듈은 제어 가능한 요소를 사용하여 추천의 정확성과 다양성의 균형을 맞춥니다. 우리는 Amazon과 Taobao라는 두 가지 실제 데이터 세트를 대상으로 순차적 추천 실험을 수행했습니다.실험 결과에 따르면, 본 프레임워크는 최신 모델에 비해 상당한 개선을 이룬 것으로 나타났습니다. 우리의 프레임워크는 알리바바의 오프라인 분산 클라우드 플랫폼에도 성공적으로 배포되었습니다.
서류 주소:
https://arxiv.org/abs/2005.09347
정보 검색 《베이지안 그래프 합성곱 신경망 기반 정확하고 다양한 추천 프레임워크》
회사: 화웨이
요약:추천 시스템에서 사용자와 아이템의 표현을 정확하게 학습하는 것은 매우 중요한 주제입니다. 그래프 합성 신경망에 대한 광범위한 연구와 응용으로 인해, 그래프 합성 신경망을 추천 시스템에 적용하는 것에 대한 관심이 점점 더 높아지고 있습니다. 기존의 그래프 기반 추천 모델은 모두 관찰된 사용자-항목 상호작용 그래프를 사용자와 항목 간의 기준 진실로 간주합니다. 하지만 추천 시스템의 맥락에서 이런 설정은 항상 합리적인 것은 아닙니다. 예를 들어, 이 설정은 상호작용 그래프에 에지가 없는 상호작용을 부정적인 예로 처리하고, 이러한 관찰되지 않은 상호작용은 미래에 잠재적인 상호작용이 될 수 있습니다. 반면에, 관찰된 일부 모서리는 비현실적이거나 노이즈로 인해 발생할 수 있습니다. 이 문제를 해결하려면이 연구에서 우리는 베이지안 그래프 합성 신경망(BGCN)을 사용하여 사용자-항목 상호작용 그래프의 불확실성을 모델링합니다.
우리는 훈련 과정에 대한 자세한 BPR 손실 함수를 제안하고, 또한 우리 모델에서 예측을 하는 방법에 대해서도 자세히 논의합니다. 우리는 4개의 공개 데이터세트를 사용하여 모델을 검증한 결과, BGCN 모델이 모든 평가 지표에서 기존 그래프 기반 추천 모델보다 우수한 성능을 보였다는 것을 발견했습니다. 또한 제품 데이터 세트에서도 이를 검증한 결과, BGCN 모델의 정확도도 향상되었음을 발견했습니다.또한, BGCN 모델의 추천 결과는 정확도와 다양성을 모두 고려하며, "콜드 스타트" 사용자에 대한 추천 효과가 더 크다는 것을 발견했습니다.
관련 링크:
https://zhuanlan.zhihu.com/p/142812078
경로 계획 《폴스타: 스마트하고 효율적인 전국 대중교통 경로 엔진》
단위: 바이두
요약:대중교통은 사람들의 일상생활에서 중요한 역할을 합니다. 대중교통은 다른 어떤 교통수단보다 더 녹색하고, 효율적이며, 경제적이라는 것이 입증되었습니다. 그러나 교통망이 점점 더 커지고 여행 상황이 더 복잡해짐에 따라 사람들은 대중교통 시스템을 통해 한 장소에서 다른 장소로 가는 가장 좋은 경로를 효율적으로 찾는 것이 어려워졌습니다. 이러한 목적을 위해 본 논문에서는 스마트하고 효율적인 대중교통 경로 안내를 위한 데이터 기반 엔진인 Polestar를 제안합니다. 구체적으로, 우리는 먼저 시간이나 거리 등 다양한 여행 비용이 있는 대중교통 시스템을 위한 새로운 대중교통 그래프(PTG) 모델을 제안합니다. 그런 다음 우리는 일반적인 것을 도입했습니다.후보 경로를 효율적으로 생성하기 위한 경로 검색 알고리즘과 효율적인 사이트 바인딩 방식입니다. 이를 바탕으로 우리는 역동적인 여행 상황에서 사용자 선호도를 파악하기 위해 이중 경로 후보 순위 모델을 제안합니다. 마지막으로, 두 가지 실제 데이터 세트에 대한 실험은 효율성과 효과성 측면에서 NorthStar의 장점을 보여줍니다.사실, 2019년 초에 Polestar는 이미 세계 최대 규모의 지도 서비스 중 하나인 Baidu Maps에 배포되었습니다. 지금까지 Polaris는 330개 이상의 도시에 서비스를 제공했고, 하루 1억 건 이상의 질의에 답했으며, 사용자 클릭률이 크게 증가했습니다.
서류 주소:
https://arxiv.org/abs/2007.07195
경로 계획 하이브리드 시공간 그래프 합성 신경망: 내비게이션 데이터를 활용한 교통 예측 개선
단위: 알리바바
요약:최근 온라인 내비게이션 서비스, 승차 공유, 스마트 시티 프로젝트가 인기를 끌면서 교통 예측에 대한 관심이 높아지고 있습니다. 도로 교통의 불안정한 특성으로 인해 상황에 맞는 정보가 부족하면 예측 정확도가 근본적으로 제한됩니다. 이 문제를 해결하기 위해, 우리는 다가올 교통량 데이터를 활용하여 미래의 이동 시간을 "추론"할 수 있는 하이브리드 시공간 그래프 합성 네트워크(H-STGCN)를 제안합니다. 구체적으로, 우리는 온라인 탐색 엔진에서 다가오는 교통 상황을 얻기 위한 알고리즘을 제안합니다. 조각별 선형 흐름-밀도 관계를 활용하여, 새로운 변압기 구조는 유입량을 동등한 이동 시간으로 변환합니다. 이 신호를 일반적으로 사용되는 이동 시간 신호와 결합한 다음 그래프 합성법을 적용하여 공간적 종속성을 파악합니다.특히, 우리는 타고난 수송의 근접성을 반영하는 복합 인접 행렬을 구성합니다. 우리는 실제 데이터세트에 대해 광범위한 실험을 수행합니다. 결과에 따르면 H-STGCN은 다양한 측정 기준, 특히 비반복적 혼잡을 예측하는 측면에서 최첨단 방법보다 상당히 우수한 성능을 보였습니다.
서류 주소:
https://arxiv.org/abs/2006.12715
경로 계획 《공유 자전거 경제 하의 대규모 팀 경쟁에서의 개인 처리 효과 예측》
유닛: 디디
요약:순차적 추천에서 누적 사용자 참여도(예: 누적 클릭 수)를 극대화하려면 일반적으로 잠재적으로 상충되는 두 가지 목표, 즉 더 높은 즉각적인 사용자 참여도(예: 클릭률)를 추구하는 것과 사용자가 탐색하도록 장려하는 것(예: 더 많은 항목)의 균형을 맞춰야 합니다.기존의 연구에서는 이 두 가지 작업을 별도로 연구하는 경우가 많아 최적이 아닌 결과가 도출되는 경우가 많습니다.본 논문에서는 온라인 최적화 관점에서 이 문제를 연구하고, 더 길어진 사용자 검색 시간과 더 높은 즉각적인 사용자 참여를 명확히 균형 잡는 유연하고 실용적인 프레임워크를 제안합니다. 구체적으로, 항목을 동작으로, 사용자의 요청을 상태로, 사용자의 이탈을 흡수 상태로 간주함으로써 각 사용자의 동작을 개인화된 마르코프 결정 과정(MDP)으로 공식화하고, 이를 통해 누적 사용자 참여를 극대화하는 문제를 확률적 최단 경로(SSP) 문제로 축소합니다. 한편, 사용자 참여와 종료 확률을 즉각적으로 추정함으로써 SSP 문제가 동적 프로그래밍으로 효과적으로 해결될 수 있음을 보여줍니다.실제 데이터세트에 대한 실험은 이 방법의 효과를 보여줍니다. 또한, 이 방법을 대규모 전자상거래 플랫폼에 적용한 결과, 누적 클릭 수가 7% 이상 증가했습니다.
서류 주소:
소비자 서비스 지속적인 추천에서 누적 사용자 참여 극대화: 온라인 최적화 관점
단위: 알리바바
요약:순차적 추천에서 누적 사용자 참여도(예: 누적 클릭 수)를 극대화하려면 일반적으로 잠재적으로 상충되는 두 가지 목표, 즉 더 높은 즉각적인 사용자 참여도(예: 클릭률) 추구와 사용자 탐색 장려(예: 더 많은 항목 노출)의 균형을 맞춰야 합니다. 기존 연구에서는 이 두 가지 작업을 별도로 연구하는 경우가 많아 최적이 아닌 결과가 나오는 경우가 많습니다.
본 논문에서는 온라인 최적화 관점에서 이 문제를 연구하고, 더 길어진 사용자 검색 시간과 더 높은 즉각적인 사용자 참여를 명확히 균형 잡는 유연하고 실용적인 프레임워크를 제안합니다. 구체적으로, 항목을 동작으로, 사용자의 요청을 상태로, 사용자의 이탈을 흡수 상태로 간주하여 각 사용자의 동작을 개인화된 마르코프 결정 과정(MDP)으로 공식화하고 사용자 누적 참여 극대화 문제를 확률적 최단 경로(SSP) 문제로 단순화합니다. 동시에, 순간적인 사용자 참여와 종료 확률을 추정함으로써 동적 프로그래밍이 SSP 문제를 효과적으로 해결할 수 있음이 증명되었습니다.실제 데이터세트에 대한 실험은 우리 접근 방식의 효과를 보여줍니다. 또한, 이 방법을 대규모 전자상거래 플랫폼에 적용한 결과, 누적 클릭 수가 7% 이상 증가했습니다.
서류 주소:
소비자 서비스 "고객 서비스를 위한 지능형 챗봇 구축: 시기적절한 대응 방법 학습"
유닛: 디디
요약:
최근 몇 년 동안 지능형 챗봇이 고객 서비스 분야에서 널리 활용되고 있습니다. 채팅봇이 고객과 원활하게 대화하기 위해 해결해야 할 주요 과제 중 하나는 적절한 시기에 응답하는 것입니다. 하지만 대부분의 고급 챗봇은 상호작용을 통한 접근 방식을 따릅니다.이러한 채팅봇은 고객이 말을 할 때마다 응답하는데, 어떤 경우에는 부적절한 응답으로 이어지고 대화 과정이 오도될 수 있습니다.
본 논문에서는 이 문제를 해결하기 위해 다중 라운드 응답 트리거 모델(MRTM)을 제안합니다. MRTM은 자체 감독 학습 방식을 통해 고객과 상담원 간의 대규모 인간-기계 대화로부터 학습합니다.문맥과 응답 간의 의미적 일치 관계를 활용하여 의미적 일치 모델을 훈련하고, 비대칭적 자기 주의 메커니즘을 통해 문맥에서 동시에 발생하는 발화의 가중치를 얻습니다. 그런 다음 가중치를 사용하여 주어진 맥락에 응답해야 할지 여부를 결정합니다.
우리는 실제 온라인 고객 서비스 시스템에서 수집한 두 가지 대화 데이터세트에 대해 광범위한 실험을 수행했습니다. 결과는 MRTM이 기준선보다 상당히 우수한 성능을 보인다는 것을 보여줍니다. 또한, MRTM을 Didi의 고객 서비스 챗봇에 통합했습니다. 챗봇은 적절한 응답 시간을 식별하는 능력을 바탕으로 여러 차례의 대화에서 얻은 정보를 점진적으로 집계하고 적절한 시기에 더욱 지능적인 응답을 할 수 있습니다.
서류 주소:
https://dl.acm.org/doi/10.1145/3394486.3403390
전자상거래 "전자상거래에서 매장 검색의 롱테일 성능 향상을 위한 이중 이기종 그래프 주의 네트워크"
단위: 알리바바
요약:
전자상거래에서 매장 검색의 롱테일 성능을 개선하기 위한 이중 이기종 그래프 주의 네트워크
타오바오 사용자와 매장의 폭발적인 성장으로 매장 검색은 여러 가지 고유한 과제에 직면하게 됩니다.
1) 많은 매장 이름이 판매하는 상품을 완벽하게 표현할 수 없습니다. 즉, 사용자 쿼리와 매장 이름 사이에 의미적 차이가 있습니다.
2) 사용자 상호작용이 부족하기 때문에 롱테일 쿼리에 대한 좋은 검색 결과를 제공하기 어렵고, 쿼리와 관련성이 높은 롱테일 스토어를 검색하는 것도 어렵습니다. 이 두 가지 핵심 과제를 해결하기 위해 우리는 그래프 신경망(GNN)을 활용합니다. 구체적으로,매장 검색과 제품 검색에서 얻은 사용자 상호작용 데이터를 활용하여 2개의 타워 아키텍처와 통합된 이중 이기종 그래프 주의 네트워크(DHGAT)를 제안합니다.먼저, 사용자 검색 행동, 사용자 클릭 행동, 사용자 구매 기록의 1차 및 2차 근접성을 활용하여 매장 검색 맥락에서 이질 그래프를 구성합니다. DHGAT는 질의와 저장소의 이기종 및 동종 이웃을 채택하여 자체 표현을 강화하는 데 중점을 두고 설계되었으며, 이는 롱테일 현상을 완화하는 데 도움이 됩니다.더욱이 DHGAT는 관련 항목의 제목을 결합하여 의미적 격차를 해소하고, 이를 통해 쿼리 텍스트와 매장 이름의 의미를 풍부하게 합니다.
서류 주소:
https://dl.acm.org/doi/10.1145/3394486.3403393
전자상거래: 요청 수준 보장 배달을 통한 광고 계획: 예측 및 할당》
회사: 텐센트
요약:온라인 광고 전달에 대한 기존 연구는 일반적으로 서비스를 그룹 수준이나 사용자 수준의 공급 할당 문제로 모델링하고, 검색 결과가 있고 계약이 체결되었다고 가정하여 온라인 제공을 위한 최적의 할당을 찾는 데 중점을 둡니다. 그러나 이러한 기술만으로는 오늘날 산업 동향의 요구를 충족시키기에 충분하지 않습니다.
1) 광고주는 더욱 정밀한 타겟팅을 추구하는데, 이를 위해서는 사용자 수준 속성뿐만 아니라 요청 수준 속성도 필요합니다.
2) 사용자들은 보다 친화적인 광고 서비스를 선호하는데, 이는 광고에 대한 보다 많은 제한을 가져올 것입니다.
3) 퍼블리셔의 매출 성장에 대한 병목 현상은 광고 서비스뿐만 아니라 예측 정확도와 판매 전략에도 존재합니다.
요청 수준 모델의 규모는 인구 수준이나 사용자 수준 모델보다 몇 배나 크기 때문에 이러한 문제를 해결하는 것은 쉬운 일이 아닙니다.
이러한 과제에 직면하여, 우리는 전체적으로 설계된 요청 수준의 보장된 전달 광고 일정 시스템을 제안하고, 노출 예측, 판매, 서비스 등 세 가지 핵심 요소를 신중하게 최적화했습니다.저희 시스템은 텐센트의 온라인 보장 배송 광고 시스템에 구축되어 거의 1년 동안 수십억 명의 사용자에게 서비스를 제공했습니다. 대규모 실제 데이터에 대한 평가와 배포된 시스템의 성능은 본 설계가 요청 수준 인상 예측의 정확도와 전달 속도를 크게 향상시킬 수 있음을 보여줍니다.
논문 주소 : 아직 공개되지 않음
INPREM: 설명 가능하고 신뢰할 수 있는 의료 예측 모델
회사: 텐센트
요약:
과거 전자 건강 기록을 기반으로 개인 맞춤형 의료를 위한 예측 모델을 구축하는 것이 활발한 연구 분야가 되었습니다. 강력한 기능 추출 기능 덕분에 딥 러닝 방법은 많은 임상 예측 작업에서 좋은 성과를 거두었습니다. 그러나 해석 가능성과 신뢰성이 부족하여 실제 임상적 의사결정 사례에 적용하기 어렵습니다.
이러한 문제를 해결하기 위해 본 논문에서는 의료를 위한 해석 가능하고 신뢰할 수 있는 예측 모델(INPREM)을 제안합니다. 첫째, INPREM은 해석 가능성을 달성하기 위해 해석 가능한 선형 모델로 설계되었습니다. 동시에 비선형 관계는 학습된 가중치에 인코딩되어 각 방문 간 및 각 방문 내부의 종속성을 모델링합니다.이를 통해 입력 변수의 기여 행렬을 얻을 수 있습니다.예측된 결과에 대한 증거로서, 의사는 모델이 왜 그런 예측을 하는지 이해하는 데 도움이 되며, 모델을 더 해석하기 쉽게 만듭니다.두 번째로, 신뢰성을 위해 모델의 각 가중치에 베르누이 분포에 따라 켜지거나 꺼지는 난수 게이트를 배치하고, 데이터 노이즈를 추정하기 위한 추가 분기를 배치했습니다. 이 모델은 몬테카를로 샘플링과 데이터 노이즈를 고려하는 목적 함수를 사용하여 각 예측의 불확실성을 포착합니다. 그러면 포착된 불확실성은 의사에게 모델의 신뢰 수준을 알려주어 모델의 신뢰성을 높여줍니다. 우리는 제안된 INPREM이 기존 방법보다 상당한 이점을 가지고 있음을 경험적으로 증명했습니다.
서류 주소:
https://dl.acm.org/doi/abs/10.1145/3394486.3403087
KDD 2020 온라인 컨퍼런스 등록이 시작되었습니다.
KDD 2020이 진행 중이며, 컨퍼런스 등록이 시작되었습니다.
https://www.kdd.org/kdd2020/#!
전체 일정이 발표되었습니다. 관심 있는 학생은 Zoom을 통해 원격으로 회의에 참석할 수 있습니다. 학생 티켓은 50달러입니다. 가장 기대되는 세션 중 하나인 개막식과 시상식은 현지 시간 8월 25일 오전 8시부터 10시까지 개최됩니다. 계속 지켜봐 주시기 바랍니다.
전체 일정은 다음을 참조하세요.
https://www.kdd.org/kdd2020/schedule
출처:
https://www.kdd.org/kdd2020/accepted-papers#ads-papers
https://www.aminer.cn/conf/kdd2020/papers
-- 위에--