SimCSE: Simple Contrastive Learning of Sentence Embeddings

• 来源：Princeton University.Danqi Chen group.
• 任务：设计了一个简单的对比学习的方式得到更好的句子表示，主要在无监督对比学习任务，同时根据两个评估指标Alignment and uniformity以及一些消融分析等实验论证了通过SimCSE得到的句子表示确实好一些。
• 参考：个人感觉讲的挺不错的
  • Tianyu Gao.Xingcheng Yao.Danqi Chen.SimCSE: Simple Contrastive Learning of Sentence Embeddings.EMNLP 2021.
  • Contrastive Learning（对比学习详解）_哔哩哔哩_bilibili.
  • Understanding Contrastive Loss（对比损失函数的理解）_哔哩哔哩_bilibili.