Contrastive learning commonly employs a contrastive loss to enforce representations to be similar for positive pairs and dissimilar for negative pairs [1]}. Previous contrastive learning methods are mainly proposed as a self-supervised pre-training strategy to train a powerful and representational feature extractor that can be fine-tuned for down-stream tasks [2]}, [3]}.

Контрастное обучение обычно использует контрастную функцию потерь для создания сходства между положительными парами и различия между отрицательными парами [1]. Предыдущие методы контрастного обучения в основном были предложены как стратегия предварительного обучения без учителя для тренировки мощного и представительного выделителя признаков, который может быть настроен для решения последующих задач [2], [3].