别躲了,机械知道你们的关连

别躲了,机器知道你们的关系

新万博投注平台

别躲了,机械知道你们的关连

 · 
2017-07-07
宛如在生活中同样,在社交网络上,咱们也表演着差别的脚色,与他人维系着差别的关连。那么,机械怎样能分辨出表演差别脚色的你?又怎样知道你们之间差别的关连呢?

论文作者 | 涂存超、刘晗、刘知远、孙茂松(清华大学&东北大学)

特约记者 | 张诗悦(北京邮电大学)

每天人们都在和形形色色的社交网站打交道,微信,微博,知乎等等。在差别的社交网站上,人们经由过程加好友,关注,互粉等功能树立了联络,形成了一张张伟大的社交网络。而在这些联络背地,常常
包含着差别的含意。比方,很多缘由可能使得咱们成为社交网络上的好友:亲人关连,伴侣关连,同事关连,或者仅仅是有着相同的兴趣爱好。宛如在生活中同样,在社交网络上,咱们也表演着差别的脚色,与他人维系着差别的关连。那么,机械怎样能分辨出表演差别脚色的你?又怎样知道你们之间差别的关连呢?今天,ACL2017 上清华大学涂存超博士等人的事情将为你逐个解惑。

首先,介绍“网络默示深造(Network Embedding)”的概念。网络数据方式可以自然地表达物体和物体间的联络。“网络默示深造”目的是将网络中的节点用一个低维的实值向量举行默示,每一个节点的默示向量包含了该节点的网络布局等信息。传统的网络默示深造常常
将网络中的节点默示成一个固定不变的向量。但是
,真实世界中的网络节点在与其他节点举行交互时,常常
会展示出差别方面的特性。比方,一个研讨者与差别的研讨者发生配合关连常常
由于差别的研讨主题;社交媒体中的用户会由于差别的缘由与其他用户树立联络。如图 1 所示,中间的学者在与右边作者发表论文时,很显然会发表 machine translation 相关的事情,而在和右边作者配合时则会是 syntactic parsing 相关的论文。考虑到网络节点的这类动态性,仅仅用一个固定的向量作为节点的默示,很显然是不合适的。此外,这些方法也不能对节点之间的关连举行有效的建模和说明。因而,怎样对节点按照其邻人的差别深造动态的默示,和
怎样对节点之间的关连举行说明,是网络默示深造面临的应战。

别躲了,机械知道你们的关连

▲ 图 1:同一用户对于差别邻人展示出差别脚色

因而,在涂博士等人的事情中提出了一种“上下文敏感的网络默示深造模子(Context-Aware Network Embedding)”,如图 2 所示。该模子希望借助网络节点上额定的文本信息对网络节点的默示和节点之间的关连举行动态地建模。模子假定
每一个节点的默示向量由“布局默示向量(Vs)”和“文本默示向量(Vt)”两部分形成。此中,“ 文本默示向量(Vt)”是由节点的文本信息经由过程卷积神经网络天生的。图 2 中 u, v 两个节点首先别离经由过程卷积神经网络天生了 P, Q 两个文本默示矩阵。而后,为了按照 u, v 节点之间的关连举行动态地默示深造, 采用了“相互
注意力机制”,天生了 ap, aq 两个注意力向量,别离作用于 P, Q 得到最终两节点的文本默示向量 Ut(v), Vt(u)。

别躲了,机械知道你们的关连

▲ 图 2:哄骗相互
注意力机制天生节点的文本默示向量

由于节点的文本默示向量的天生过程是跟邻人相关的,因而将其称之为“上下文敏感的默示向量”。同时,注意力的了局可以

呐喊反映出节点对于邻人节点文本信息的关注点,从而可以

呐喊对关连举行说明。如图 3 所示,经由过程上下文敏感的默示深造,节点A和差别的节点 B, C 之间呈现出差别的“注意力”,因而也说明了 AB, AC 之间差别的关连。同时,该论文经由过程实行验证了“上下文敏感的默示向量”的有效性,在三个网络数据集上的链接预测义务中均取得了最好的效果,并在节点分类义务上与前人事情可比。

别躲了,机械知道你们的关连别躲了,机械知道你们的关连

▲ 图 3:哄骗相互
注意力了局对节点之间关连举行说明

提及这个事情的应用场景,作者说“可以应用
到许多社交网络分析义务中,比方网络节点分类、聚类,链接预测,社区发觉等等。在真实的社交网络中,一般会对应着用户画像、好友推荐等义务。”关于这个事情现在的不足之处和未来的方向,作者默示“这篇论文经由过程 mutual attention 的了局对节点之间的关连举行说明,这类关连仍然是一种隐式的关连,怎么样可以

呐喊对显示的关连的做出说明,比如说家人、伴侣、同事、师生等,是咱们之后关注的问题。” 让咱们共同期待他们的未来事情!

欢迎点击查看论文原文:

关于PaperWeekly

PaperWeekly是一个推荐、解读、会商、报道人工智能前沿论文成果的学术平台。如果你研讨或处置AI领域,欢迎在公众号后盾点击「交换
群」,小助手将把你带入PaperWeekly的交换
群里。

微信公众号:PaperWeekly

新浪微博:@PaperWeekly