2021-05-27发表2022-10-08更新基础能力 / pytorch16 分钟读完 (大约2369个字)pytorch 实现 transformerattention 是一种我们常用到的注意力机制。 阅读更多
2021-05-20发表2022-10-30更新任务类型 / 对比学习11 分钟读完 (大约1691个字)Supervised Contrastive Learning背景Paper: NeurIPS 2020 阅读更多
2021-04-12发表2022-10-08更新内容模态 / 多模态5 分钟读完 (大约754个字)ViLBERT:Pretraining Task-Agnostic Visiolinguistic Representations for Vision-and-Language Tasks背景Paper: NeurIPS 2019 Code: https://github.com/facebookresearch/vilbert-multi-task 阅读更多
2021-04-09发表2022-10-08更新内容模态 / 多模态11 分钟读完 (大约1630个字)ERNIE-ViL:Knowledge Enhanced Vision-Language Representations Through Scene Graph背景论文来自于百度在2020年AAAI上提出的知识增强视觉-语言预训练模型 《ERNIE-ViL: Knowledge Enhanced Vision-Language Representations Through Scene Graph》,在多个比赛上获得了 SOTA 的结果。阅读更多
2021-03-09发表2022-10-30更新内容模态 / 多模态11 分钟读完 (大约1639个字)CLIP :Contrastive Language-Image Pre-Training背景论文来自 opai 2021 年提出的一个成果,相关可参考信息: github 、 paper 。 之前其实并不太了解多模态预训练领域的成果,最近看到了这篇质量很高的成果。阅读更多
2019-01-06发表2022-10-08更新内容模态 / 图网络29 分钟读完 (大约4342个字)ICDE2018 ·《Inf2vec:Latent Representation Model for Social Influence Embedding》 论文来自于ICDE2018, 论文链接,关于影响力最大化的一篇文章。 阅读更多