В публикации Self-Supervised Representation Learning на сайте Lil'Log (Lilian Weng) есть раздел с обновлениями, где перечислены изменения и добавленные части материала. Например, 2020-01-09 туда внесли новый раздел о Contrastive Predictive Coding.
13 апреля 2020 года в тексте появился раздел «Momentum Contrast», где упоминаются MoCo, SimCLR и CURL. Позже, 2020-07-08, добавили раздел «Bisimulation», посвящённый DeepMDP и DBC.
Следующая правка отмечена датой 2020-09-12: в разделе «Momentum Contrast» появились MoCo V2 и BYOL. Затем, в обновлении от 2021-05-31, этот раздел удалили и вместо него оставили ссылку на отдельный материал «Contrastive Representation Learning».
Ключевые факты
09.01.2020 в материал добавлен раздел о Contrastive Predictive Coding.
13.04.2020 добавлен раздел «Momentum Contrast», включающий MoCo, SimCLR и CURL.
08.07.2020 добавлен раздел «Bisimulation», посвящённый DeepMDP и DBC.
31.05.2021 раздел «Momentum Contrast» удалён и добавлен указатель на отдельный пост «Contrastive Representation Learning».