最新消息:
当前位置:逍遥网 > 科技 > 互联网

键盘侠太猖狂 谷歌用AI给网络“攻击力”打分

逍遥摘要:Facebook 机器学习小组使用机器学习技术监测所有上载到 Facebook 的图片的内容,包括广告的内容,用来过滤其中色情、暴力等内容。Google 的 SafeSearch(安全检索)功能使用了机器学习来识别色情图片,可给未成年人提供健康正常的网络浏览与检索。Twitter 收购了两家视觉媒体内容监测创业公司 Madbits 和 Whetlab,运用它们的人工神经网络技术实现色情内容监控。

键盘侠太猖狂 谷歌用AI给网络“攻击力”打分

据国外媒体报道,美国网民在最早接触网络的同时,也最先受到网络造谣诽谤之害。根据美国独立民调机构皮尤研究中心 2014 年的一份调查,每 10 个网民中就有 4 人遭遇过某种形式的网络骚扰,近五分之一互联网用户遭遇过严重的网络暴力,包括人身威胁、持续性的跟踪骚扰。

网络安全已经成为我们不得不重视的一个问题。面对互联网海量的言论和信息,人工检测网络暴力信息的确费时费力,这时候,人工智能就派上用场了。

Facebook 和 Google 等公司都开始尝试结合人工智能等技术来过滤网络不良言论。就连一向以言论自由著称的 Twitter 也开始允许用户设置一些关键词来屏蔽骚扰信息:

Facebook 机器学习小组使用机器学习技术监测所有上载到 Facebook 的图片的内容,包括广告的内容,用来过滤其中色情、暴力等内容。

Google 的 SafeSearch(安全检索)功能使用了机器学习来识别色情图片,可给未成年人提供健康正常的网络浏览与检索。

Twitter 收购了两家视觉媒体内容监测创业公司 Madbits 和 Whetlab,运用它们的人工神经网络技术实现色情内容监控。

近日,谷歌又推出了一款人工智能技术支撑的全新工具,名为“Conversation AI”。这个新软件能够帮助用户不受网络有害言论的威胁。

Conversation AI 通过机器学习技术,自动捕捉网络上的污言秽语,并给它的攻击力评分——100分是最有害的,0 分是无害的。这个工具将会首先在《纽约时报》的注释版块进行测试,维基百科也计划将会使用这款应用。不过据《有线》杂志称,该公司并没有透露测试的具体细节。

由于该技术最终将成为开源的,所以在不久的将来,全球的网站和各类社交媒体平台,都可以用它帮助用户逃过暴力言论的伤害。《有线》表示,Conversation AI 可以“自动识别出侮辱、骚扰的言论,甚至还能帮你删除它。”

虽然 Conversation AI 在测试中被发现存在一些缺陷,但是谷歌透露,它的准确度已达 92 % ,并且随着时间的推移,功能将会不断完善。

相关文章推荐

相关标签:网络Conversation言论

大家在看

换一换

精彩评论