知乎优化AI算法建立互联网社交规则 杠精难题有救了

1评论 2018-06-25 17:43:43 来源:TechWeb.com.cn 如何判断星期六买点?

  【TechWeb报道】6月25日消息,随着网络的发达,在网络上精于抬杠的人越来越多,这群人就是所谓的“杠精”,一个20字以内的主谓宾简单句,就能让人无语凝噎,而被抬杠的人往往是受伤又无奈。知识分享平台知乎近日宣布要治治这些杠精了。

  知乎运营总监孙达云

  在知乎平台,杠精也被称为“阴阳怪气”,知乎运营总监孙达云告诉TechWeb,过去一年,知乎都在探索对阴阳怪气类评论的解决方案,其运用的是算法机器人(行情300024,诊股)“瓦力”,近期知乎还将对该技术进行产品化尝试。

  瓦力如何破解“阴阳怪气”类评论

  据孙达云介绍,知乎治理“杠精”的初衷是因为阴阳怪气类评论极大伤害了创作者和交流者的体验。这种行为通常以“不针对发言内容,而是批评对方的语气”以及“提出反对意见,但不给或给出极少数论据支持”这两类常见言论为代表。

  不过,因为网络语言的复杂性,这类评论很难解决。例如经典的“呵呵”,由于双方不同关系、说话的不同场景和时间都会带来迥然不同的表意。即便是人工判定都存在标准化难度,算法模型的训练挑战就更为艰辛。

  经过知乎团队的不懈努力,“瓦力”成为最新的阴阳怪气技术解决方案。

  知乎内容质量管理团队技术负责人刘兆来

  知乎内容质量管理团队技术负责人刘兆来解释称,针对阴阳怪气评论通常表达负面情感的特点,知乎构建了内容情感倾向性识别的算法模型和识别用户亲密度的模型,针对阴阳怪气评论的典型特征,建立了文本识别模型不断标记训练样本。

  刘兆来表示,三大模型的结合不仅摆脱了单一算法模型的局限性,也让“瓦力”的阴阳怪气识别准确率超过了大多数人工判断。具体来说,就是瓦力会首先通过知乎社区里的举报、反对等负向用户行为收集训练数据。然后通过各种同义替换、规则模版方式对训练数据进行扩展,以缓解训练数据稀疏的问题。同时,“瓦力”提取文本、句法、表情符等特征,并利用一个带attention的CNN和LSTM的融合模型进行分类,最终判断出内容是否为阴阳怪气。

  刘兆来向TechWeb等表示, 优化技术方案后,“瓦力”已能实现对“暗藏玄机夸奖”(忍不住关注答主了,你的答案很有水平!你博士快毕业了吧!)、“好为人师”(我觉得你挺惨,虽然长这么大了,还真应该回小学改造)、“强行反驳”(你开心就好、请开始你的表演)等数类阴阳怪气内容的识别。

  据TechWeb了解,有部分用户会将一些“阴阳怪气”类的评论视为神评论,甚至对这些神评论的关注超过了事件本身,如果去掉这些神评论,只剩下就事论事的评论,是否会影响用户体验?

  对此,刘兆来回应说,具体的落地会考虑一些特征,比如在用户间熟悉的情况下,一些阴阳怪气的评论可能只是开玩笑,但在陌生人间就有了嘲讽的意味。知乎的情感倾向性识别的算法模型和识别用户亲密度的模型就是针对这块设计的。此外,用户也可以自己选择要不要用这个功能。

  瓦力未来的应用方向有哪些?

  知乎在2016年推出了算法机器人瓦力,主要用于治理平台上的谩骂、答非所问、贴标签等不友善内容,如今进一步升级后,用来挑战“阴阳怪气”类评论的治理。

  在深度学习的AI大潮中,知乎的AI技术也在运用到越来越多的板块。比如现在通过站内数据做的知识图谱,识别图文相关性,以此来判断图片是否违规或含有不良信息等。

  此外,还有对视频的理解。刘兆来称,现在视频主要还是靠人工审核比较多,后面会通过算法对现在做的短视频进行识别。比如,对视频打标签,根据视频的标签或者文本,对问题或者评论的文本判断相关性。

  对于介于不同标准之间的打标签行为,刘兆来称,会结合人工进行上下文语境判断。比如用户点“踩”比较多,被举报了,但通过不友善模型识别又没有辱骂词,这种情况就需要结合人工审核来做判断。

  据介绍,目前,知乎借助AI技术,并辅以人机结合和多元的产品举措,多重手段加强对社区氛围的维护。现阶段,知乎已实现对95%以上的违法违规、广告导流和不友善等内容的主动打击、覆盖和筛查 。(周小白)

责任编辑:Robot RF13015
快来分享:
评论 已有 0 条评论
精彩推荐
国务院新闻办公室将于1月26日15时举行新闻发布会

2020-01-25 22:08:29来源:国务院新闻办公室

中央政治局聚焦武汉疫情 成立应对疫情工作领导小组!紧急扩散:这些乘客要当心

2020-01-26 06:48:00来源:券商中国

鼠年第一份大礼包!美国防部反对断供华为 华为A股小伙伴要嗨

2020-01-25 11:20:02来源:证券时报网

中共中央政治局:湖北省要把疫情防控工作作为当前头等大事 坚决防止疫情扩散

2020-01-25 20:43:14来源:新华社

潜规则?国企发债内定券商 4单项目吃下1400万回扣

2020-01-25 08:41:14来源:券商中国

宋雪涛:最后一周的几个重要增量信息

2020-01-23 09:28:07来源:金融界网站

经纪人眼中的楼市:超1/3从业者去年成交2套以下

2020-01-23 08:02:54来源:北京商报

31省份2019年房地产投资:广东近1.6万亿居首 4地负增长

2020-01-23 09:57:50来源:中新经纬

30省市自治区启动一级响应

2020-01-25 21:21:46来源:央视新闻

阿里成就于2003 线上销量又将成就谁的2020?

2020-01-23 07:43:05来源:Wind资讯

武汉籍员工不回家可享万元补贴?阿里员工:没听说过

2020-01-23 07:10:04来源:中新经纬

工信部:全力保障重点地区、医护人员防控物资需求

2020-01-24 16:57:00来源:人民网-财经频道

北向资金净流出超80亿元

2020-01-23 13:26:10来源:上海证券报·中国证券网

收费85万就可颁奖了?违规表彰鸿茅药业 民政部出手了

2020-01-23 07:57:10来源:券商中国

公司董事炒自家股票亏2600元 亏的不是钱而是良心

2020-01-22 12:37:10来源:金融界网站

这一关键指标2年首次反弹 2020楼市风向要变?

2020-01-19 07:45:05来源:证券时报网

天津下发紧急通知:全市公务人员提前结束假期 1月27日零时前返回岗位

2020-01-26 09:47:21来源:人民网

中共中央政治局:全力以赴救治感染患者 不断完善诊疗方案

2020-01-25 20:46:53来源:新华社

央行23日开展2405亿元TMLF

2020-01-23 10:04:00来源:中国证券报·中证网

6家险企去年累计赔付上千亿 医疗、重疾是大头

2020-01-23 08:12:40来源:券商中国

加载更多

更多>> 以下为您的最近访问股
全网|财经|股票|理财 24小时点击排行
实时热点