论文阅读笔记8：RotatE
知识图谱嵌入相关的论文RotateE的阅读笔记，这次的阅读笔记尝试按照和论文叙述方式不同的逻辑顺序进行记录。
本文的Contribution
该论文是发表在2019年的ICLR上的一篇论文，提出了在复数空间中表示知识图谱中的实体和关系的方法，并且解决了已有的知识图谱嵌入算法不能完全表示对成/反对称/可逆/组合等关系模式的问题。
RotatE的提出
知识图谱的关系模式
知识图谱三元组中存在一些比较特殊的关系模式，包括对称/反对称/可逆和组合等等，用形式化的方法表示如下：
- 对称性：
- 反对称性：
- 可逆性：
- 组合性：
不同KGE算法的比较
而已有的基于Translation的方法可能对于上述一些情况的处理能力比较好，而在一些情况中有所欠缺，而RotatE采用复数嵌入表示，对于对称性/反对称性/可逆性/组合性的关系等各种情况，不同算法的对于各种关系模式的处理能力总结如下：
我们发现TransE可以处理对称关系以外的所有一对一关系，这是因为根据TransE的打分函数，具有对称关系的三元组最后计算得到的结果一定是r=0并且h=t，这样一来就会使得具有对称性的实体的嵌入表示非常接近，同时TransE在处理一对多，多对一和多对多关系的时候会碰到问题。
RotatE的核心想法
基于Translation的知识图谱嵌入方法把关系看成是向量空间中的迁移操作，而RotatE采用复数向量空间来表示知识图谱中的实体，并且将关系看成是复数空间中的实体的旋转，比如对于一个三元组
自对抗负采样和损失函数
RotatE模型依然采用基于负采样的损失函数来优化模型参数，其形式如下：
这里的k是模型选取的嵌入维度，同时每次负采样我们使用n个负样本。
自对抗负采样[Self-adversarial negative sampling]是RotatE算法中提出的一种新的负采样方式，这种负采样方式需要通过当前已经学习到的实体和关系的嵌入来生成负样本。同时这种自对抗负采样方法也是一种非常通用的方法，可以推广到很多知识图谱嵌入算法中，不仅仅是RotatE可以用。
这种方法使用目前已经学习到的实体和关系嵌入来计算负样本的分布，对于一个正确的三元组
这里的
