我们提出了一种仅使用语言模型的无监督句子摘要方法。该方法采用了两个语言模型，其中一个为通用型（即预训练）模型，另一个则针对目标领域进行了专门训练。研究表明，通过采用专家组合（product-of-experts）准则，这两个模型足以在保持连续上下文匹配的同时维持输出的流畅性。在抽象式和抽取式句子摘要数据集上的实验表明，我们的方法在未接触任何配对数据的情况下仍取得了令人鼓舞的结果。