Kullback-Leibler Divergence，即K-L散度，是一种 量化两种概率分布P和Q之间差异 的方式，又叫相对熵。
背景Paper: NeurIPS 2019 Code: https://github.com/facebookresearch/vilbert-multi-task
背景论文来自于百度在2020年AAAI上提出的知识增强视觉-语言预训练模型 《ERNIE-ViL: Knowledge Enhanced Vision-Language Representations Through Scene Graph》，在多个比赛上获得了 SOTA 的结果。
背景论文来自 opai 2021 年提出的一个成果，相关可参考信息： github 、 paper 。 之前其实并不太了解多模态预训练领域的成果，最近看到了这篇质量很高的成果。
NDCG，Normalized Discounted cumulative gain 直接翻译为归一化折损累计增益，这个指标通常是用来衡量和评价搜索结果算法。
ddl 新增列
From now on, bravely dream and run toward that dream. 陕ICP备17001447号·苏公网安备 32059002001895号
