今日头条李磊：机器写作与 AI 辅助创作

近日，第七届吴文俊人工智能科学技术奖颁奖盛典在苏州举行。今日头条与北京大学共同完成的「互联网信息摘要与机器写稿关键技术及应用」项目荣获吴文俊人工智能技术发明奖。本年度获得该奖项的机构还包括清华大学、中科院以及北京航空航天大学等国内顶尖高校。

「吴文俊人工智能科学技术奖(以下简称『吴文俊奖』)」被外界誉为「中国智能科学科技最高奖」，代表中国人工智能学界的重大突破与最高荣誉。今日头条是今年「吴文俊奖」获奖项目中唯一以企业载体获得专业类奖项的机构，过去该奖通常只授予顶尖高校、重点实验室和科研机构。今日头条人工智能实验室技术总监李磊作为获奖团队代表在大会现场做了题为「机器写作与 AI 辅助创作」的获奖演讲。演讲全文如下：

大家好，非常高兴有机会在冬天来到苏州，和大家在此分享今日头条人工智能实验室近期在人工智能机器写稿与 AI 辅助创作方面做的一些工作。我是李磊，在今日头条人工智能实验室做自然语言理解方面的研究。

大家知道，人类的三大需求是食物、水、信息。信息被认为是人类的重大需求。在过去 3000 年，每一次技术的发展都为信息的交流以及人类表达和交互的方式带来了巨大变化，并促进了交流的效率和质量。最早没有科技的情况下，大家只能通过口口相传获得信息，所以传播范围很有限;后来印刷术和造纸术的出现，让文字可以用纸张来承载保存并且广泛传播;再到上个世纪电子通讯、无线电、互联网的出现，让全世界各个角落的人都可以很方便地接收到最新的信息。

过去 10 年信息的传播方式又发生了重大变化，移动互联网技术的革新，让每个人随时随地都可以接收到最新的信息，并且可以随时随地创作内容。

我们认为，在未来的 10 年，新的技术尤其是人工智能技术将更多促进创作和交流，会去连接内容的创作者与消费者。这些创作者可以是专业的媒体，也可以是个人。内容的形式也更为多样，图文、短视频或者像抖音上围绕音乐做一些表演的小视频。每个人都可以拍身边的故事，利用计算机视觉的技术去创作更漂亮、更有趣的内容，然后通过内容分发的平台很方便地分享出去。同时，像社区问答——让专家来回答问题——也会成为内容的一种形式。

当然，我们要把内容创作和交流的效果提高，为每个人推荐他最喜欢的内容，这涉及到三个最核心的技术：

第一，理解人。我们要用机器学习技术去理解用户的兴趣爱好，他的年龄、性别，他过去读了哪些文章等等，把这些组合起来刻画出他的兴趣方面完整的画像。

第二，理解内容。内容不单单是图文，也可以是视频，内容的主题是什么?关键词是什么?热度是什么?这些会决定推荐质量的好坏。

第三，环境特征。在北京还是在上海还是在苏州，白天还是晚上，要因地制宜推荐不同的内容。

将这三方面结合，再利用机器学习的算法，就可以给每一位用户推荐他真正喜欢的内容。今日头条拥有海量的用户群体，为每个人都推荐他真正喜欢的内容，这离不开强大的计算能力。每天，我们的服务器会收到百亿次的请求，我们有 6 万余台服务器每时每刻都在计算每一位用户的每一次点击，我们每天处理的数据量超过 7.8PB，这些帮助我们更好地理解用户真正喜欢什么。

做好内容引擎有四个环节，包括内容的创作、内容的推荐以及围绕内容的讨论还有内容的审核。今天我会重点介绍内容的创作，我们如何应用 AI 技术帮助作者用户创作更好的内容。

首先是机器写作。为什么要研发写作机器人呢?这里有一幅图表，它画的是在我们的平台上发的文章被阅读的频次，以及不同频次所对应的文章数量。可以看到在双对数图上它是一条直线——这种规律被称为Power Law。大部分的文章阅读次数比较少，少量的文章被阅读的次数非常非常多。这是在社会学、自然科学和工程领域都非常常见的一个现象。

为什么要说这张图呢?我们发现文章创作需要投入不小的精力，但很多内容，阅读量非常少可能不会超过 1000 次，这样的内容投入产出效率可能比较低。我们认为如果这部分内容可以用机器创作的话，成本就会小很多。

我们从去年 6 月开始做了一个机器人 Xiaomingbot。一开始是做奥运会的赛事文章撰写。它包含三方面的输入——实时比分、实时图片数据，以及热门比赛的文字直播。我们的机器人将这三方面融合起来，最后生成对应的文章。

奥运会之后 Xiaomingbot 陆续创作了一系列体育方面的文章，包括 NBA、CBA、欧洲五大联赛、中超，以及国庆期间的中网等等。所有文章从协作到配图，再到分发推荐给读者全部都是自动完成，中间不需要任何人工参与，这个效率就大大提高了。

现在 Xiaomingbot 不仅能写体育文章，还有财经、房产等等。财经新闻有「小明看财经」这个头条号，房产是「房产情报站」，世界各领域热点有「小明看世界」，一系列内容都由这些头条号自动放出。

写作机器人的优势明显。首先速度快，其次篇幅长短灵活，另外从质量上看，从去年 8 月份到现在，Xiaomingbot 一共写了 2 万多篇文章。我们对比了同一领域记者撰写文章的阅读率，和 Xiaomingbot 的阅读率差不多。也就是说机器人写的文章质量和人是接近的。这四个头条号现在也积累了非常多的粉丝，这项技术是我们和北京大学合作的，很荣幸获得了今年的吴文俊奖。

Xiaomingbot 主要涉及的技术包括以下方面：

一是关于比赛的实时比分的数据通过文法结构和模板生成。第二，关于图片，我们通过计算机视觉分析图片内容，将它和文字结合匹配出来。第三方面是知识库的建立，像比赛球队的历史、球员信息，作为额外信息补充进去。第四，是网上有一些直播文字抓取过来的信息，通过机器学习里排序学习的技术去挑选最重要的内容，融合进文章中。网上的直播文字信息其实非常复杂，有不重要的信息，甚至会夹杂网友的评论。我们在生成新闻的时候希望把比赛最重要的环节，像进球、判罚等等给找出来;另外，需要考虑挑选出来的句子相互之间相似度要尽量小，但涵盖信息量又尽量大。通过 DPP 算法可以有效找出直播中的重点信息且涵盖最大的信息量。

我们还利用神经网络来做摘要。「小明看世界」这个头条号会通过摘要的方法把不同领域中一天最核心的信息摘出来，最后合成一篇文章。

这部分工作我们通过层次化的 LSTM 模型对文章做建模。第一层是句子层面，通过循环神经网络 LSTM 对句子建模，学句子里面的语义信息，并且结合传统的模本特征，最后组合成一个向量，用它来代表每一个句子。使用 LSTM 的原因是他可以处理边长的文字序列，并且选择性地记忆或遗忘句子中的信息。一篇文章里有很多句子，把这些代表句子含义的向量连起来，就变成一个向量的串。最后的问题就转化成从一串向量里挑选出代表文章中心思想的重要句子，把它作为最后的摘要，我们仍然可以通过 LSTM 加上条件随机场 CRF 来进行求解。头条每天有 200 万篇的文章可以通过我们摘要的服务自动生成摘要。

除了上述的模板生成、机器学习以及摘要方法的生成，我们最后想探索的是自由语言的生成。通过做一个模型，这个模型可以学习头条上面所有创作者写的文章，去学习他们的写作风格，并且给定一个风格可以很好的模仿，把文章自由地写出来。这里用到一个技术，SAM，我们在生成过程中，还希望去控制写作风格，当然有很多方面可以去控制。比如说我们可以给定一个题目，做命题作文;或者指定模型写某一类的文章，比如说财经类、科技等不同品类的文章，有不同的写作风格。

举个例子，左边是头条号作者王晓天写的《你的样子》，右边是我们模仿好妹妹乐队的风格写了同样一个标题的词《你的样子》，可以看到读上去还是比较通的。

我们最近做的 SAM 模型，叫做 Semantic Attribute Modulated Language Modelling。这个模型有三部分：第一部分，是通过对标题建模，对语义属性建模，把所有这些都变成语义的向量，对标题建模用了前面提到的 LSTM;第二方面，这些语义信息的重要程度不同，我们通过一个机制区分这里面哪个语义标签是重要的;最后是生成，生成我们通过循环神经网。但在这个循环神经网里面，我们加入了前两步学到的语义信息去控制风格。这个方法我们在数量级上做测试发现越小越好，优于传统方法。如果大家可以感兴趣可以看这篇文章。

接下来我和大家分享一些我们在辅助创作者生产上做的一些工作。

首先是机器翻译，我们认为很多内容不需要凭空生成，可以借助翻译的技术将英文翻译成中文，或者将中文翻译成英文获得更多信息。

翻译以前是通过统计的方法做，2014 年开始，一个新的方法是通过序列到序列的学习，把原句用序列的方法即循环神经网络来建模，去编码。在生成的过程中仍然用一个序列的模型，比如说 LSTM。中间还会加上一些。生成过程中目标语言的一句话里面每一个词，针对原句每一个词有对应的不同权重，通过这个机制可以学到这个权重并且很好地对应起来。

我的一位同事最近做了一个工作叫 Modeling Past and Future，在翻译的过程中生成目标语言的句子，比如说生成到第五个字的时候，未来还有哪些信息在原句当中没有翻译出来的，我们把它称为未来的信息，将没有翻译出来的信息直接建模。我们发现把这两部分信息，也就是已翻译的信息和将要翻译的信息结合，可以做一个更好的机器翻译。

比如说源语言这里给了两句英语以及对应的翻译，我们也对比了业界做的比较好的公司，可以发现还是有一些 case 通过这个方法可以做得更好。

刚才提到我们还有图文匹配技术为文章自动配图。头条旗下的一家图片社——东方 IC 提供了很多精美图片。作者在写文章的时候，起一个标题或者写一句话，机器就可以通过自然语言理解技术去分析这句话的语义，自动地从东方 IC 图库里面挑选出比较匹配的图片，配到这个文章中。

有些作者有固定的原文配图，我们的算法可以帮助作者挑选文章的封面图。原文图片可能大小不一，为了配合封面固定大小，机器会利用人脸识别等技术去识别图片中最关键的区域，设置为封面。比如含有人脸的图片，将人脸的技术抠出来，还有一些动物，可以将它最关键的部分抠出来放在封面中。当然视频的封面也可以通过机器学习算法来挑选。

目前，今日头条人脸检测技术的速度已经达到每张图只需要 10 毫秒，可以对视频进行实时检测。也积累了很大的人脸库，可以很准确的识别人脸。

最后我将介绍计算机视觉方面的技术如何帮助创作更好的视频。

首先，可以自动做视频剪辑，比如说足球比赛最关键的片段通常只有 3-5 分钟，我们可以利用自动分析的技术做视频的摘要，把里面最关键的信息摘出来组合成一个片断自动播放。

另外，通过单一图像分析，我们可以仅凭视频里面的一帧就分析出这个视频中最主要的人体部位，以及各部位的位置。依赖这一技术，我们可以实现人体分割以及背景变换，把人物裁剪出来把背景替换成另外一个。这一技术目前已经应用到抖音小视频，可以用来假装在世界各地旅游。

这里的难点不在于身体分割，而是头发的分割。因为头发非常细，边缘部分的识别和分割非常难。我们专门针对头发做了识别优化。识别后能针对头发的颜色做一个替换。这个技术也应用到了抖音小视频，成为排名前三的特效。

我们最近也在研发人体姿态识别。我们的技术已经可以对人体关键部位比如手肘、脚踝、膝盖等位置做到手机上的实时识别。依靠这一技术，抖音两天前上线了一个新的功能叫尬舞机。这一功能让抖音在 App Store 排行榜上排名第一。

以上就是我介绍的主要内容。

最后我将提出机器写作方面我们面临的一些技术挑战。

一是深度内容自动生成有难度。算法能否自动从深度内容中学出模板以及良好的写作风格?

二是机器写作不能仅关注生成，难点更在于对数据的分析和理解，比如哪些数据重要、数据之间的因果关系。这需要更好的算法来提高计算机的推理能力以及理解自然语言。

三是目前写作还不能针对不同读者做到个性化。皇马和巴萨比赛，我是皇马球迷，你是巴萨球迷，我们关注的点可能不一样，我希望看到更多皇马的描述，你希望看到更多巴萨的细节。未来机器写作还需要做到个性化。

作者：机器之心