随着5G时代的发展，以5G为基础能力的各大游戏平台、音视频等平台百花齐放。与此同时，越来越多的UGC内容产生，为人们带来更丰富的玩法。但UGC内容的增加对于平台而言，也带来了不少的压力和挑战，尤其是安全与合规方面的隐患。
以游戏行业举例。对于游戏玩家而言，游戏内出现的文字、图片内容不仅与游戏体验息息相关，更重要的是游戏内出现的内容是否绿色健康、是否合规。近年来，不少游戏厂商因内容审核不及时，导致违规内容出现在玩家面前，影响玩家体验的同时造成恶劣的社会影响，甚至让游戏整改下架，给游戏厂商、发行方都带来了十分严重的利益损害。
针对这些问题，近年来，相关的监管条例不断推出，不断优化，同时也在逐渐收紧。如2021年网信部门及各涉网管理部门持续整治的“清朗”系列专项行动、《互联网用户公众账号信息服务管理规定》等，纷纷鼓励倡导优质内容的生产，和对严重影响生态的主体进行专项治理。值得一提的是，这些监管条例均强调了平台与用户双主体责任，也就是说，平台主体责任、生产运营者责任都得到进一步强化，平台有责任有义务管理、规范和治理用户所产生的内容。UGC平台在内容审核方面无疑面临着十分大的压力。
除此之外，随着游戏产业的飞速发展，许多相关黑灰产业急剧扩张。在游戏安全的战场中，除了需要重视内容风控以外，还有外挂、信息安全、ddos等平台/网站方面的安全隐患，时刻不得松懈，对于游戏厂商而言负担甚重，解决游戏安全问题刻不容缓。
针对这些问题，华为云在内容审核和网站安全方面提出了全链路的解决方案，构建了更灵活、更精准、更安全的内容审核解决机制，以及全面风险可控、业务连续可用的网站安全解决方案，守护游戏平台和用户隐私的安全与稳定，同时使资源弹性扩容，实现降本增效的目的。
确保内容安全建设，华为云助力审核“减负”
在游戏世界里，由玩家产生的UGC内容包含文本、语音、图片等内容，若审核不到位，极易出现违法犯罪、标题党、色情、暴力等大量有害身心的违规内容。即使近年来通过敏感词屏蔽、人工审核等传统方式进行对抗，也还是经常能够看到有类似问题出现。
随着内容安全审核标准关口的收紧，“内容安全审核从业者”成为了维护网络内容安全、营造清朗网络空间的绝对刚需。但面对海量的UGC内容，纯人工审核的方式并不现实，不仅时效差，且容易出现审核人员把握不到位、经验少、信息更新慢等情况，风险系数更高。且内容的产生通常都是7*24小时不间断的，人的工作时长有限，人力规模无法匹配。
为了解决这个问题，行业中出现了AI机器初筛+人工复核的“人机协同”方式。机器内容审核具有范围广、效率高、低成本等优势，但很难提升内容审核的精确度，包括有歧义的文字、模糊图片等。因此在用户上传文本、语音或图片后，机器对内容解构并提取关键信息，与数据库中的违规内容进行比对，以及清洗过滤。值得注意的是，其背后数据库的特征样本、筛选标准也是由人工完成的。内容审核专员需要夜以继日地工作，来确保筛选系统识别的标记内容在发布之前能得到及时审核和确认。
这样的组合，看似提高效率，但实际上是增加了另一项工作的工作量，成本不一定得到降低，覆盖范围有限，自研检测、校正能力不足。因此，合适的、可靠的初筛机器不仅能够大大减轻人工审核的负担，在机器足够可靠的情况下，甚至可以大幅度削减人工成本。
针对以上问题，华为云提出了一套更“稳准狠”的内容审核方案。在“机器初筛”的环节提高精准度，通过拓展审核场景覆盖范围和对审核难点专项优化等方式，确保机器在初筛阶段就能达到超出行业水平的高度，提高审核效率，降低人工复核等方面成本。
1.音频+文本+视觉多模态内容审核技术方案
华为云拥有领先的文本、视频、图像检测技术，其多模态内容审核技术方案，能够从图片、OCR违规文字识别、音频语音识别、文本理解全方位多模态检测违规信息，全方位覆盖视频、音频、图片、文本、直播场景的审核。
同时，华为云基于大量的违规图片和文本库、音频库进行训练，包括变体类型、数百种语义标签等，解决样本少、样本单一难题。深度学习检测分类+人脸识别+NLP文本分析模型，可避免单一模型的误杀和漏杀，高效识别各类场景中色情、违禁、垃圾广告等违规内容。
华为云内容审核解决方案-多模态审核流程示意图
2.审核场景更细、更全、更灵活
华为云内容审核解决方案在图像审核方面支持5大场景、51个小场景，场景覆盖率业界领先。
基于丰富的细分方案，华为云内容审核方案，提高了审核规则灵活度，避免误判、错判，能够更好地匹配不同用户和不同的业务场景。对于有特殊审核标准的用户，也提供了开放的可自定义的审核策略配置，以满足业务场景需求。提供高精度/高召回/均衡三种模式，让用户根据实际业务需求在“拦截准确率更高”和“不漏掉每一个可疑对象”间做灵活选择。
3.审核能力更精准
从声音、图像、文本、动作等多维度进行审核。
-
文本审核：基于海量词库+深度学习+GCN+文本分类等模型，可自动识别出文本中出现的涉黄、广告、辱骂、灌水内容，可应用在评论、短信、昵称、弹幕、签名等内容的审核。
-
语音审核：基于深度学习语音识别技术，结合文本审核，过滤语音环境中的娇喘、暴恐、广告、辱骂等不良信息。
-
视频审核：支持离线视频及在线直播的审核，审核内容为图片、文本、语音的集合。
4.审核难点专项优化
在当前行业中，AI机器容易被形变、模糊等方式欺骗，华为云内容审核解决方案专项专改，在敏感人物审核上，对非典型人脸识别场景进行了算法加强，审核召回率达95%以上。
基于以上能力，华为云内容审核解决方案覆盖面广，精度高，内容安审标准完全符合监管要求，既承载企业内容安全审核责任，又规避了企业自建平台的成本、技术及运营风险，灵活度高，避免了企业寻求不同服务商的烦恼。
更重要的是，华为云承诺，在内容安全审核解决方案当中，华为云不会动用户现网数据，不做任何形式保存，在内存态识别完成后立即释放，全方位保护数据安全，满足注重数据安全的用户需求。
对抗黑灰产，捍卫游戏安全势在必行！
“对内”要维护内容审核安全，“对外”更要维护网站/平台的整体安全。
在整个信息产业中，信息安全攻击中超过75%都发生在Web应用层上，可能造成的危害结果包括数据信息泄露、数据被篡改、网站被篡改、域名被劫持、大流量ddos攻击、黑客攻击导致网站无法访问，业务中断及受损等，每年都给数以万计的用户造成了巨大的损失。
对于游戏行业来说，游戏安全/平台安全问题，主要体现在外挂、打金工作室、DDoS攻击、平台和用户的信息安全以及安全合规等方面。游戏黑灰产业覆盖非常全面，单靠游戏厂商难以全方位治理黑灰产带来的损害，需要行业共同携手来建设和治理。
华为云针对网站安全提出了最新的解决方案，在网站上云后，通过Web应用防火墙、DDoS高防AAD、云证书管理服务CCM、数据安全中心DSC、企业主机安全 HSS、云堡垒机 CBH、态势感知 SA、数据库安全服务 DBSS等核心产品，帮助网站上云后从应用、数据、负载、安全态势四方面进行安全加固。
和内容安全审核一样，在平台的安全守护方面，也同样需要7*24小时安全运营团队值守，安全事件快速响应，这对于时刻运营、时刻活跃的游戏厂商而言，除了维护成本极高以外，更需要产品功能key facts来支撑+数据化指标。
华为云网站安全解决方案，从“发现-预警-处置-监测”各环节入手，提供保障访问体验、维护资产安全、规避网页篡改三大重磅能力。
1.保障访问体验
2.维护资产安全
-
数据安全中心：支持敏感数据分类、数据加密等功能，为网站数据提供全生命周期防护；
-
数据库安全：通过用户行为发现审计保障云上数据库的安全。
3.规避网页篡改
-
WAF及时识别阻断应用层攻击，HSS锁定Web文件目录文件，实现静动态双重防篡改；
-
自研RASP技术，通过驱动级文件目录锁定+篡改检测自动恢复+远端备份恢复“三保险”，自动检测与防护，无需人工修复。
以上“三大能力”有效保证访问体验及业务连续性、保证数据资产安全、维护品牌信誉与形象、满足等保合规要求，同时支持弹性扩容，方便业务升级扩展，确保资源无浪费。从里到外严防死守，更安全、更自动化、更可靠。一键部署，全方位守护。
除了以上场景，为了落实“风险全面可控，业务连续可用”的产品原则，华为云还提供了可定制的进阶版安全防护能力。无论是从安全合规方面，还是从用户隐私安全方面与用户数据方面，均可通过“定制组合”方式，进一步提升业务贴合度、数据安全性、以及用户体验。
推荐使用产品组合及客户案例
安全生态，需要行业共建
对于游戏厂商而言，游戏本身与用户是同等重要的核心资产。维护游戏安全，守护用户信息安全，打造健康合规的游戏环境，是每一个游戏厂商、甚至每一个行业相关厂商都需要肩负的责任。华为云一如既往走在捍卫安全的路上，深入行业洞察真实需求，构建更贴合当下行业痛点的解决方案，值得合作伙伴信赖。
与行业一同并肩奋战，是华为云一贯的风格。
为了让更多行业一同建设安全生态，华为云双12重磅推出多项优惠。针对各项业务需求开设多个专场，多种产品及解决方案均参与活动，扫描下方二维码，直达华为云双十二会场！
原文链接：https://blog.csdn.net/csdnnews/article/details/128411844?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522169114730916800197056715%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=169114730916800197056715&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~blog~first_rank_ecpm_v1~times_rank-8-128411844-null-null.268%5Ev1%5Ekoosearch&utm_term=cc%E9%98%B2%E6%8A%A4
原创文章，作者：优速盾-小U，如若转载，请注明出处：https://www.cdnb.net/bbs/archives/23356
