Reddit 사용자들이 2018년 최고의 논문을 투표했습니다(읽기 팁 포함)

Super Neuro의

특정 분야의 기술과 문제에 대한 더 깊은 이해를 얻으려면 논문을 읽는 것이 중요하다는 것은 의심의 여지가 없습니다.

2018년에는 주요 학술대회에서 수상 논문을 발표하는 등 수준 높은 논문이 많이 발표되었습니다. 오늘은 Reddit 사용자들이 2018년에 도움이 되었다고 생각하는 논문을 살펴보겠습니다.

Reddit 사용자: 이 논문에 투표합니다

@beezlebub33 추천 논문:
호기심 기반 학습에 대한 대규모 연구
규모에 따른 호기심 기반 학습 연구
https://pathak22.github.io/large-scale-curiosity/

추천 이유:
이 논문의 중요성은 좋은 보상 메커니즘이 필요 없이도 많은 게임에서 뛰어난 성과를 달성한다는 사실에 있습니다. 중요한 것은 예측을 통해 게임을 하는 법을 배우고, 기대에 어긋나는 부분을 식별하고, 알려지지 않은 영역을 탐험할 수 있다는 것입니다. AI의 미래 발전 방향은 자기 감독, 분류되지 않은 데이터, 예측, 호기심, 내재적 동기 부여 등이 될 수 있습니다.

사람들은 지도 학습 세트를 만들고 이 데이터 세트에 대한 행렬을 정의할 시간이 충분하지 않았습니다. 하지만 AI에 원시 데이터를 제공하고 해당 시스템의 시공간적 진화에 대한 내부적 표현을 학습할 수 있다면 목표를 정의하고 궁극적으로 AI를 통해 이를 달성할 수 있습니다.

@YBuzzinGA 추천 논문:
"비지도 학습 규칙 학습"
비지도 학습 규칙 학습
https://arxiv.org/abs/1804.00222.

추천 이유:
이 글은 일부 작업을 수행하기 위해 비지도 학습을 사용하는 것에 관한 것으로, 모델이 스스로 학습하는 방법을 학습한다는 특징이 있습니다.

메타러닝은 AI가 스스로를 이해하고 개선할 수 있도록 하는 학습 규칙을 배우는 핵심 영역입니다. 만약 컴퓨터에게 자기 자신에 대해 학습하는 방법을 가르칠 수 있다면, 우리는 잠재적으로 양자 도약을 이룰 수 있을 것입니다.

@breadwithlice가 추천하는 논문:
"구문 기반 및 신경망 비지도
기계 번역》
구문 기반 및 비지도 신경망 기계 번역
https://arxiv.org/abs/1810.04805v1

추천 이유:
이 논문에서는 매핑이나 사전, 병렬 데이터가 필요 없이 단일 코퍼스만을 사용하여 번역을 완료합니다.
이 논문은 역번역 기법을 사용하는데, A에서 B로 변환할 때는 먼저 B를 A로 변환하여 번역기를 크게 개선하고, 그런 다음 A와 B를 바꾸면 놀라운 결과가 나옵니다!

@kartayyar 추천 논문:
《딥 양방향 변압기 사전 학습
언어 이해를 위해》
언어 이해를 위한 심층적 양방향 방법의 사전 훈련
https://arxiv.org/abs/1809.10756

추천 이유:
제가 좋아하는 점:
정말 혁신적인 아이디어예요. 마스킹 방법도 참 창의적이에요.

그들은 핵심 아이디어를 명확하게 표현하기 위해 매우 간단한 문장을 사용했습니다.
Github에는 결과를 재현하는 코드가 있습니다.
다양한 업무를 처리할 수 있습니다.

@ndha1995 추천 논문:
"확률론적 프로그래밍 소개"
확률적 프로그래밍 소개
https://arxiv.org/abs/1809.10756

추천 이유:
이 논문은 2018년 제가 가장 좋아했던 논문입니다.

저자는 확률적 프로그래밍에 대한 포괄적이고 엄격한 소개를 제공하고, 마지막 장에서는 딥 신경망과 확률적 프로그래밍을 결합한 최근 연구를 소개합니다.

논문 읽기에 대한 핵심 조언

아무리 좋은 논문에 대해 알고 있다 하더라도, '와우, 정말 대단하다'고 말하는 것 외에는 어떻게 이해할 수 있겠습니까?

우선, 당신의 동기를 명확하게 생각해보세요. 작업을 적극적으로 탐색하고 싶어하는지, 아니면 수동적으로 완료하고 싶어하는지에 따라 결과와 경험이 완전히 달라집니다. 우리는 몇 가지 핵심적인 조언을 찾았고, 글쎄요, 그게 전부입니다.

비판적으로 읽어라

이것은 매우 중요한 태도입니다. 저자의 의견을 맹목적으로 따르지 마십시오. 대신, 의심하고 확인하세요.

비판적 독서란 무엇인가? 질문을 해보세요. 저자가 문제를 해결하려고 시도했다면, 올바르게 해결했을까요? 저자가 고려하지 않은 간단한 해결책이 있나요? 해당 솔루션의 한계점은 무엇인가(저자가 언급하지 않았거나 명시적으로 인정하지 않은 한계점 포함)?

저자의 가정은 합리적인가? 이러한 가정을 감안할 때, 논문의 논리는 명확하고 타당한가, 아니면 추론에 결함이 있는가?

저자가 데이터를 제공하는 경우, 해당 데이터가 저자의 주장을 뒷받침하는가? 그리고 데이터를 수집하기 위해 취한 경로가 합리적인가? 그들은 데이터를 해석하는 방법은 어떤가요? 대신 다른 데이터를 사용하는 것이 더 나을까요?

창의적으로 읽어라

논문을 비판적으로 읽는 것은 그렇게 어려운 일이 아니다. 왜냐하면 논문은 만드는 것보다 파괴하는 것이 더 쉽기 때문이다. 창의적인 독서는 더 열심히, 더 적극적으로 생각하는 것을 필요로 합니다.

예를 들어: 이 기사에는 어떤 좋은 아이디어가 있나요? 이러한 아이디어를 다른 용도로 활용하거나 확장할 수 있는 방법이 있나요? 더 확장될 수 있나요? 상당한 변화를 가져올 수 있는 개선사항이 있을까요? 만약 당신이 직접 관련 연구를 수행한다면, 다음에 무엇을 하시겠습니까?

논문을 읽는 동안 메모를 하세요

많은 사람들이 신문을 읽으면서 메모를 합니다. 이 방법은 매우 좋습니다. 마음에 떠오르는 질문이나 의견을 원하는 대로 적어보세요. 저자의 주요 요점을 찾아보세요.

가장 중요하거나 문제가 있는 것으로 보이는 데이터를 표시하세요. 이런 표시는 논문을 이해하는 데 도움이 되며, 나중에 검토하는 데도 도움이 됩니다.

첫 번째 독서 후, 한두 문장으로 논문을 요약해 보세요.

거의 모든 좋은 논문은 특정 질문에 대한 답을 제시합니다. 논문을 간결하게 설명할 수 있다면 저자가 무엇을 했는지, 즉 그들이 답하고자 했던 질문과 궁극적으로 도출한 답을 이미 알고 있을 것입니다. 주요 아이디어에 집중한 후, 다시 돌아가 논문의 개요를 작성하여 구체적인 세부 사항을 더 깊이 파고드세요.

사실, 논문을 한두 문장으로 요약하는 것이 쉬운 편이라면, 다른 방법을 시도해 보고 주요 아이디어를 요약하는 3~4개의 요점으로 구성된 개요를 작성해 보세요.

가능하다면 논문을 다른 작품과 비교해 보세요.

논문을 요약하는 것은 논문의 과학적 기여를 파악하는 한 가지 방법입니다. 하지만 과학적 가치를 실제로 파악하려면 해당 논문을 해당 분야의 다른 연구 결과와 비교해야 합니다. 이런 아이디어가 새로운 것인지, 아니면 이미 등장한 적이 있는지 알아보세요.
 
과학적 연구를 발표하는 데에는 다양한 방법이 있다는 점을 언급할 가치가 있습니다. 예를 들어, 일부 논문은 단순히 새로운 아이디어를 제안하는 반면, 다른 논문은 이를 구현하고 검증하여 작동 방식을 보여줍니다. 다른 사람들은 이전의 아이디어를 결합하고 이를 새로운 프레임워크로 통합합니다. 해당 분야의 다른 연구를 이해하면 논문의 가치를 더 잘 이해하는 데 도움이 될 수 있습니다.