非教師付き視覚表現学習は、コンピュータビジョン研究において未解決の問題である。最近提案された非教師付き視覚表現学習の手法の中で、自己監督型技術が多くの困難なベンチマークで優れた性能を達成している。自己監督型学習のための前処理タスク（pretext tasks）は多数研究されているが、他の重要な側面、例えば畳み込みニューラルネットワーク（CNN）の選択については同等の注目を集めていない。そこで、我々はこれまでに提案された多くの自己監督型モデルを見直し、大規模な詳細な研究を行い、その結果複数の重要な洞察を得た。我々は非教師付き視覚表現学習における一般的な実践方法に挑戦し、CNN設計の標準的なレシピが必ずしも自己監督型表現学習には適用されないことを観察した。本研究の一環として、我々は以前に提案された技術の性能を大幅に向上させ、既存の最先端結果を大きく上回った。