联系我们

幸运赛车研发合作社

联系人:姜经纬

电话:0729-8755205

邮箱:desdev@vip.qq.com

地址:广西百色市芦山十一路红埠工业园72号

移动互联网下半场 内容安全已成互联网企业生命线

作者:幸运赛车 发布日期:2019-07-16 08:26

  一、大早,朋友就告诉了一个不好;的消息:最近,他网站,被网信办约谈了,需要至少关停一周,原因就是网站存在不良内&#;容。

  事实上,在最近几个!月里,内容。安全问题似乎已经成为了整个互联网行业的普遍现象。5月27。日,好奇心日报网站和App自20;19年5月28日零时起停止更新3个月,读,者评论和其他互动都将暂停、;5月30日,B站、虎牙、斗鱼等直播平台相继发布了系统技术升级通知,弹幕功能将受影响。

  仅仅只是在5月份,就有&#;B站、起点文学、晋江文,学网;、钉钉社区发布暂停更新或直接被。查处惩罚。在如今的互联网行业,!使用国内的服;务器并作出产品备案审核,哪怕你只是一个小平台,只要存在不良内容,那么你就有被约谈!的可能。

  在不断营造风清气正的互联网环境的过程中,是否配有内容安全、以及内容安&#;全风控能力怎样,开始真正影响到一家互联网、企业的发展甚&#;至命运。

  正常来说,以往出现内容安全问题的企业大多数是头部知名企。业,但伴随着互,联网行业的成熟,情况已经不一样了。从目前的市场态势来看,不仅是朋友的小网站被约谈,从、监管频率、监管力度、监管范围来看,整个互联网行业已经彻底告别简单粗暴的发展阶段,不管一个企业的融资金额、用户数据、营收数据有多好看,一旦触碰到法律法规、,纵然是几亿甚至、几十亿价值的产品,一样只能跟市场。告别。

  随着近两年营造风清气正互联!网环境的决心,正把诸多在上个阶段无序发展的互!联网公司弄得始料不及。

  大小产品均被大范围监管内容安全已成为互联网行业最大。的隐雷

  不止是5月迎来了互联网产品内容安全问题爆发季,在最近这几个月,你会&#;发现包括雪球、今日头条、知识星球、简,书在;内的诸多知名APP,全部都曝出了内容安全事件,被暂停更新、甚至下;架等。

  其中,近期最轰动的就是晋江文学网被。查处、起点中文网多个频道要,求整改的消息。作为一家成立于2003年!的老牌女性网络文学。网站,晋江文学已经衍生出大量知名的影视I,P,其中就包括了《花千骨》、《魔道祖师》、《镇魂》、《知否?知否!?应是绿肥红瘦》、《香蜜沉沉烬如霜》、《芈月传》、《;微微一笑很倾城》、《美!人心计》、《战长沙》、《何以笙箫默》、《泡沫之夏》等火热作品。

  在IP泛娱乐市场越来越大的情况下,!拥有大量I!P的,晋江文学,本来可以迎来更迅猛发展,但因为在内容安;全管!理方面存在漏洞,导致晋江文学有部分内容涉嫌传播淫秽色情信息行为被北京扫黄打非部门查处,大。大!影响了晋江文学的&#;发展。

  同时,哪怕是最大的网文平台起。点中文网,也因内容安全问题让业务受到影响。;起点中文!网问题突出的“都市”频道“异术超能”栏目、“女生网”频道“N次元”栏目暂停更新7天,很多火热的。网文作品也受、此影响不能更新甚至被封禁!,大量跪求读者们不要下架他们作品。

  这一切,归根结底还是网文平台在内容安全管理存在缺陷。包括晋江文学、起点中,文在内的诸多互联网平台,他们在激烈的市场竞争都没有倒下,没想到竟然会在内容安全问题上“折戟”,这值!得所有互联网从;业者警惕。

  同时,从去年下半年开始,包括阿里云在内的诸多域;名/主机服务商,对内容审核的要求也越来越高,网站备案的难。度显著提升。在备案资料;方面,以前阿里云的企业备案、只需要营业执照和法人身份证就行,但去年下半年开始阿里云的企业认证需要、企业手持身份证、和营业执照一起拍照,这让一个网站备案的时间也越来越长。

  很多企业千辛万苦完成阿里云网站备案之后,结果又强制要求阿里云备案、的域名就必须使用阿里云的服务器,否!则在系统检测出来之后将面临停止服务器访问甚至取消备案的后果。但如果使用阿里云服务器,你就会发现阿里云服务器端的垃圾内容过滤机&#;制开始影响到网站运营,系统总是时不时地就、停止了一些网页访问,要求修改内。容才能继续开启服&#;务器提供服务。

  这些举措看似,的阿里云的审核趋严,本质却是整个中国互联&#;网环境、在更加正&#;能量的发展过程中,网络基础服务平台需要配合监管部门必须去做好!的一些信息工作。

  与此同时,不止是中国对内容安全监管趋严。。国外也对内容。安全开始加强监管。新西兰总理Ja&#;cindaArdern之前表示&#;,科技公司应被视为“出版商,而非只是邮递员”,而澳。大利亚总!理ScottMorrison也。曾表示:“把互联网当作一个无人管理的空间是、不可接受的。”

  法律层面,国外也开始不&#;断立法。澳大利亚今年通过一项新法律,严控在社交媒体上传播暴力内容,如果社交媒体平台没有快速删除平台上暴力恐!怖内容,公司高管可能被判入狱3年,而社交媒体平台也将面!临高达其年营业额10%的罚款。而在同一个时间。段,,欧盟也通过草案:如果无法在一小时内删除恐怖主。义内容,企业将&#;面临最高达全球营业额4%的罚款。

  内容安全问题也发生在其他国家。比如抖音国际版Tik!Tok?在印度非常火热,但前段时间也因为内容;问题遭受封禁。同时,著名游戏平台Ste!am也被印尼&#;政府。封禁过,印尼甚至还要。求过Google、Fa&#;cebook对、一些违规内容进行下线删除。

  从这来看,不论是国内还是国外,内容安全已成,互联网企业标配&#;风控项,而且基本涵盖所有的互联网行业。

  !不管你是不是内容产品,哪怕你是一个服务,型产品,但你产品里有评论和展示内容,你就&#;一样有可能会遭遇内容爆雷的风险。这样一来、,内容安全就必须是标配。

  在这个具备一定门槛的市场中,创业不仅要考虑用户、资金、资源从哪里来,还必须重视监管层面的问题,。真正地承担起主体责任,;才能守住一、家互联网公司的生命线。

  。如何排除内容安全这颗雷?思维、技术、策略都需要突破

  怎么办?生活再残酷,也还得继续&#;。

  尽管互联网行业不再是可以简单粗暴获得流量然后变现的;时代,对于内容!和服务的要求也越来越高,但这某种意;义上也是一个大&#;浪淘沙的过程,是真,正将劣质的信息驱除出去的一个过程,这也是互联网创业者必经的一个过程。

  那么,面对这样所有互联网企,业都不得不去&#;重视的生命线,大家又应该怎么办?我,认为,最!核心是其!实就是要从思维、技术、策略三个层面进行再升级、再突破。

  (1)对于内容安全,认为很多人需要从思维上;进行突破。其实在很多年前,就有很多互联网企;业在做跟内容安全相关的事情,其中最简单粗暴的方式就是关键;词文字过滤。

  尤其是&#;对于媒体和社区来说,建立一个违规关键词数据库!,然后用文!字一对一地进行判断识别,然后,对带有违禁词的内容进行屏蔽,这是一个哪怕到现在还还在沿用的一种内容安全管理。方式。

  在过去,很多企业也许在内;容安全管理方面就做了!这么一件事情,然后也安稳度过了很多时间,这让很多人认为内容;安全其实就!是做关键词屏蔽,导致有一些企业对于内容安全不够,重视。

  事实上,大家要从思维上重新认识内容安全。过去很多公司觉得从监管部门或者其他渠道拿到了一些关键词列;表加入到数据库中进行屏蔽,内、容安全就搞定了,这&#;导致很多企业。一度都不舍得再升级技术和招聘内容审核人员。

  事实上,时代已经发生了变化。幸运赛车这是一个富媒;体时!代,图片、视频、音频的内容安全远比文本处理,要复杂,早已进入到了人工智能不断迭代!+,人工审核补充的时代。从最近这两年的多起内容安全事故之后,以百度、腾讯、阿里、今日头条为首的诸多公司都纷、纷加大了内容审核人员和技术的投入力度。

  从这个角度来,看,尤其是在行业处于中上地位的企业,格外要重视从思维上进!行升级。

  有些互联网。企业在内容安全上出问题,跟他们此前;的思维落后有些关系。只有首先从思维上对内容安全重视、对内容安全给予持续的投入,。才能真正从!管理执行方面解决内容安全问题。

  。(2)那么,策略方面大家应该如何做呢?巨&#;头和中小公司的策略显然不一样,并且内、容安全管理和整体的运营策略也已经关、联非常紧密,如何做好新时代的内!容安全管理,还得结合实际情况来看。

  对于有一定数据规模和数据沉、淀的大企业来说,如果本身技术实力还可以,那么人工+。自建体系+内容安全服务商三重方式去做!,是最稳妥的。如;果拥有政策法规解读能力再加上、得当的运营策略制订,,以及能,持续不断地投入算(,物)力、人力,也可以采用人工+自建体系。

  但对于大多数本身数据和公司规模都不大的中小企业来说,由于数据。沉淀不及巨头,且很难及时、正确地解读政策法规,那么自建体系这个部分或,许就只能换成寻找,靠谱的内容安全服务商。

  为什么这么说呢?一方面,自建;体系如果没有强大数据做沉淀,,!其整个体系的训练模。型也很难达到预;期效,果,导致投入了还是会出现内容安全问题;另外一方面,自建内容安全体系成本并不小,如果不能持续;的重金投入、,最后也可能达不到自用的预期。

  那么,第三方内容安全服务商应该如何选择?市场主!要也就是两类服务商,一类;是专门一直,做技术类服务商的企业,他们跟上了这个时代的技术步伐&#;,能够提供一些技术解决方案,另;一类就是不仅拥有技术&#;实力,还拥有大量数据沉淀和自身也有内容安全需求的大公司,这;一类公司的内容安全服务从效果、价格以及服务及时性、业务场、景的覆盖等维度来看综合效益最好。

  比较典型的是网、易易盾,它拥有21年专业内容!安全防护经验及大数,据积累,其次也服务了小米、花椒、VIVO、OPPO、网易、网;易云音;乐等多款用户过亿的产品。根据它的官网显示,易盾的,第三代内容安全服务提供鉴黄、涉政、暴恐、广;告等数十大类上千小类的有害内容智能识别过滤。服务,智能识别精准。率超过99.8%。最近,网易易盾、还推、出了内容安全月活动,能够通过历史数据专项策略布控、快速清洗、。全面检测,及时帮助中小企业降低内容安全隐患。

  这种服务,其实本质是源自于网易内部自身使用的技术解决方案和数据模型。网络上有公开资料显示,网,易易盾是如今已达20+“高龄”的网,易安全部在2016年,将其自身的技术沉淀和实践云化并对外提供服务的结果;。

  如果说能够!获得一个大公司自身使用的内容安全解决方案,那么这样的体系确实在实用性方面会更强。不过,选择服务商也好,自建,体系!也!罢,不容忽视的就是一定要在技术上有所突破。

  (3)!技术方面,其实最大的挑战在于数据训&#;练模型和音频、,视频处理的技术突破!——如何高效、准确地处理不良。内容,这非常考验技术体系的实力。

  比如在短视、频和直播这两年、用户激增后,很多主流平台都因不良内容被监管部门处罚,音频和视频如何有效处、理不良内容,一度成为一个难点。业内是如何。解决的?网易易盾饶晓艳此前就。在接受雷锋网采访的时候有简单分享过相关做法。

  首先,他们结合!政策法规和舆情分析;团队的策略、20多年;的数据和技术沉淀,配&#;合关键!特征提取和识别训练强化机器的训练能力,让内容安全系统能够利用人工智能技术实现视频和音频的有害信息识别与筛眩

  后来,他们,还会根据新事物、新特征不断迭代内容安全技术。比如短视频中的呻吟声或;者娇喘声,以及ASMR场景下的违规音频。这是用传统手段无&#;法识别的!,网易易盾进行了技术迭代,使用了声纹检测技术,并在内容安全类目上新增,了娇喘&#;呻吟类。

  从这个案例去看,不管是自建体系还是找!服务商,最核心的一定是技术迭代速度要快,要及时跟进违法违规团队的操作手段进行识、别和处理,,、才有可能真正符合当前的监管要求、。

  总体而言,内容安全是如今所有;互联网公司都需要迈过去的一个门槛,只要在思维上有所突破,不管采用怎样的策略&#;去完,善这块的漏洞,在持续、研究,或者选择前沿有效技术去解决问题之后,内容、安全的排雷工作自,然也。差不多完成了。

  监管更严的趋势不可逆不重视内容安全的,公司注定被淘汰

  1月份“扫黄打非”、部门开展学习类APP专项整治工作;

  3月全国“扫黄打非”办公室在全国范围内开展“净;网20&#;19”、“护苗2019”、“秋风2019”等。专项行动,持续净化社会文化环境;

  4月!份,全、国“扫黄打非”办公室又组织开展网上低俗信息专项整治活动。

  一系列的监管动作,让大量的互联网产品进入自查自纠或监管部门强制要求整改状态,这已经凸显出监管,部门要打造风清气正的互联网环境!的、决心是足够坚定;的。

  在未;来的中国、甚至国际的互联网环境中,对内容强监管的趋势,是不可逆的;,因为守住公序,良俗和道德底线,创;造青少年健康成长的互联网环境是所与人的共识。尽管这样、的;趋势。会淘汰、掉一大批互联网企业,但互联网终归就是一个充满了竞争】的商业生态。

  监管部门从规矩上为用户们提供一个良好、健康、正、能!量的环境,只有真正可以承、担起主体&#;责任的公司,才有可能在这样一个新时代更好的生存下去。现在互联网行业一切都和内容有关,在监管更;严的情况下,。如果还不!重视内容安全,也许这样的企业也只剩下被淘汰了。

  据第一财经报道,美国国会众议院、司法部和联邦贸易;委员会(FTC、)在当地时间周一分别宣布,将展开对几家大科技公司的反垄断和商业行为&#;调查。受此影响,5大科技;公司Facebook、苹果,、亚马逊、奈飞和谷歌母公司Alphabet股价齐声下跌,市值一天!蒸发了约1700亿美元。

  报&#;道称,美国国会和监管部门联手&#;发起调查,意味着特!朗普政府。向调查科技巨头公司的反竞争行为迈出了重要和实际的第一步;。

  据了解,华盛顿邮报报道,美国众议院中的民主党人计划!审查这些科技巨头,以确定它们是否已经庞大到足,以抑制竞争、损害消费者权益的程度,这标志着美国科技行业正面临着来自。国会、白宫以及20&#;20年总统&#;候选人在内、。前所未有规模的,反垄断调查威胁。

  美国众议院最高;竞争委员会主、席、众议员戴维·西克莱恩(DavidC&#;icillin;e)宣布了这项调查,预计其将产生深远影响。他表示,这项调查不会针对某一家特定的科技公司,而是聚焦于人们普遍认为的“互联网已经崩溃”现象。他同时指出科技巨头存在的问题;,比如谷歌和,Facebook,谷歌因搜索服务置于竞争对手之上而在欧洲面临制裁,Facebook靠抄、袭和收购竞争对。手,以确保其在社交网络领域的持续主导地位。

  值得一提的是,上个月美国联邦最高法;院裁定,消费者对苹果提起的诉讼可以,向前继续推进,消费者认为苹,果;公司利用其iOS的市场支配地位,向他们收取&#;更多购买App的费用。这意味着未来消费;者也能够以同样的方式。来起诉其&#;它平台巨头,比如亚马逊、Facebook和谷歌,从而打破平台借助生态系统的垄断而产生的盈利模式。

关注幸运赛车公众号

联系我们

幸运赛车

联系人:姜经纬

电话:0729-8755205

邮箱:desdev@vip.qq.com

地址:广西百色市芦山十一路红埠工业园72号