因存在色情内容，夸克被罚50万元，内容安全如何把控？

媒体经济的繁荣、自媒体、直播等各种形式的信息传播疯狂发展，但是各种形式的信息资源大规模生产时，“色情”，“暴力”的图像和视频不可控的滋生，特别是某些 APP 或浏览器。一旦打开，满屏都是“哥哥，快来啊”，甚至一些“赤果果”的图片。针对这类现象，国家正在逐渐完善立法，严厉打击非法传播色情、暴力内容，优化网络环境。

近期，“夸克浏览器”和“网易CC直播平台”被罚一事便能够看出，国家相关机构整顿、优化网络环境的决心。

10 月 30 日，国家网信办指导广东省网信办依法约谈“夸克”平台和“网易CC”直播平台相关负责人，针对其破坏网络生态问题做出指示，最终依照法规对“夸克”平台实施 50 万元罚款处罚，责令“网易CC”暂停“舞蹈”版块信息更新 7 日，同时责令 2 家平台立即全面深入整改，严肃处理相关责任人。

网信办等相关部门指出调查过程中发现，“夸克”平台未遵守相关管理要求，用户登录搜索时呈现的内容出现大量淫秽色情信息，并向用户推荐色情低俗关键词，此类行为严重违反了《网络安全法》《网络信息内容生态治理规定》《互联网信息搜索服务管理规定》等有关规定，在平台信息内容安全审核管理方面存在严重漏洞，破坏网络生态，情节特别严重。

针对“网易CC”直播平台审查时，网信办等机构人员发现该平台多个账号主播在直播过程中存在言行低俗、打色情擦边球等问题。对于这类现象，“网易CC”直播平台未对其进行有效整治，并在首屏“娱乐”频道“舞蹈”版块等重点环节呈现，这样的行为反映其在网络信息内容安全管理责任上存在严重缺失，违反《网络安全法》《网络信息内容生态治理规定》等有关规定，破坏网络生态，性质恶劣，情节严重。

最终，针对上述两家公司的违法行为，网信部门依据相关法规，做出合理、合法的处置。此外，网信部门强调将持续聚焦破坏网络生态违法违规突出问题，进一步加强网络执法工作，督促网站平台切实履行主体责任和社会责任，健全管理制度，依法依规提供服务，不得为违法违规信息提供传播渠道，切实维护清朗网络空间。

接到处罚通知后，夸克浏览器表示高度重视、诚恳接受、坚决执行，目前内部已经严格按照要求全面落实整改，封禁相关违规内容。

此外，夸克搜索还表态称为进一步加强合规体系建设，公司内部已经成立了专项工作小组，升级针对不良信息的识别能力和处理速度，积极开展专项整治行动，通过人工和技术的双重巡查模式，对有害信息进行严厉打击，绝不姑息。

网易 CC 直播平台同样认同接受处罚决定，并指出公司将全面开展对平台低俗有害信息的集中清理工作，持续加强对直播间低俗内容的全面整治，打击清理低俗有害信息，加强信息内容安全管理，和广大主播和用户一起共建清朗直播环境。

网络环境不仅关系到社会经济发展，同样也关系到青少年教育、民众道德培育等社会民生领域，保护网络环境始终处于健康的状态下至关重要。

数字化转型深化推进的背后，在数据、业务及内容等层面的各类风险问题日益突出，例如：敏感言论、 低俗内容、虚假宣传和网络暴力等。这些事件不仅对企业形象造成了负面影响，甚至造成恶劣的社会 影响。近年来为了约束内容乱象，规范内容平台运营，网信办等国家相关部门已经出台了一系列政策 法规，包括《网络安全法》、《数据安全法》、《互联网信息服务管理办法》等，加大打击违法力度。

随着内容平台对数字内容风控逐渐重视，相关需求正在不断上升，然而单位历史数据+新增数据太庞大，各级分支机构众多不易管理，无法精准发现问题和及时解决问题，这都是在展开内容存量巡检和内容增量审核时，摆在企事业单位面前的客观难题。

文盾信息联合湖南日报媒体融合内容感知与安全省级重点实验室共同研发的内容安全检测与感知平台基于人工智能的多模态检测模型，集数据资产采集、异常数据发 现与分类分级、研判预警、处置建议于一体，结合视频超算、AI识别等关键技术，可帮助用户精准过滤 色情、涉政、暴恐、涉价值观等不良信息，实现数字内容的高效筛查，提升审核效率、降低审核成本、 规避平台运营风险。

文本检测支持单位对新闻稿件/网页、社交平台/留言、直播/视频弹幕、群聊等场景的内容进行涉黄、涉政、暴恐、广告、文本纠错、落马官员、竞品、涉密等的检测及预警。

图片检测支持单位对新闻稿件/网页、社交平台评论/留言、头像、群聊、视频截图等场景的图片进行国旗国徽、国家地图、枪支弹药、暴恐人物等共600多种细分标签的违规检测及预警。

音视频检测支持单位对网页新闻、平台直播、短视频社交、安防监控、视频聊天等场景的音视频中的画面、声音、文字进行360度全面审核......政治、色情、暴恐、广告、未成年人、侵权等全部实现轻松拦截。

平台支持将单位业务系统中的文本、图片、音视频等全类型数据、历史数据统一自动采集并还原到内容安全感知与检测平台进行内容审核。并对平台中运行的流量进行有效的监控，以及时发现平台中的异常流量，保障平台运行安全。