辉禹动态

我们将持续用数据的力量,携手更多的行业伙伴,创建数据智能共赢生态!

辉禹科技助力社交平台对抗行业乱象

2022-04-07

近年来,随着 Z 世代社交习惯的线上化迁移,选择移动社交的用户越来越多,据艾媒咨询数据显示,2022 年移动社交的用户规模将会突破 10 亿,音视频社交软件,如陌陌、探探、soul 等已经成为了年轻人生活中必不可少的部分。

闲暇时间,打开软件刷一刷是当代年轻人解决情感交流和倾诉需求的一种方式,简短的对话和亲切的声音,让他们将信任交给了手机背后的那个人。但是隐藏在手机背后的除了真实的用户,还有伺机而动图谋不轨的灰色产业。

据统计,全网活跃的音视频社交类应用超 2500 余款,主流应用市场在架超 1200 余款,而这些应用中存在色情推广、广告代刷、外部引流和虚假诈骗等违规行为的比例达 15.7%。

正是因为有了这样的不良动机,才导致音视频社交类的企业频频背上相关的负面新闻。也正是由于对不良违法内容洞察力不足,内容治理能力不足,才无法彻底铲除行业中的黑灰产内容。

而辉禹科技就在不断助力社交类 APP 打击黑灰产业链,从行业角度来看,合规是所有深耕音视频社交的企业必须践行的部分,唯有加强自身监管,坚决打击不规范内容,才能为用户提供良性,安全的社交环境,让用户不再避讳使用这些平台,真正成为能够满足用户需求的一剂解药。

 

智能反黑产模型,人机双审质检调优

针对社交产品的 4 类黑产类型,辉禹科技通过全栈式的智能内容识别引擎和实施智能风控引擎加上人工复查相结合来共同治理平台问题。

在我们的技术下,APP 板块下的内容和数据将首先通过全栈式智能内容识别引擎和实时智能风控引擎,筛选出有疑问的内容后再通过人工审核,从而提升对不良内容的洞察力。

透过辉禹的自研动态学习系统,不断优化机审模型,可以高效过滤复杂、变种信息,全面分析文本情感,结合上下文对各种内容进行批量迅速判定,而集成式多媒体处理系统,可以处理多种格式文件。

智能反欺诈系统,精准打击「害群之马」

针对用户的行为,例如「经常发布联系方式引流至非法平台」、「以交换联系方式、见面为由,频繁要求赠送礼物」、「以网络障碍等环境因素转移交流环境,进而引导违规操作」、「虚构平台规则文字或平台图片,骗取礼物」、「索要对方账号,用对方账号进线违规操作」…. 我们建立了一套风险评分模型,针对其用户特征进行打分,进行精准识别。

在提取风险账号的行为数据后,例如:登陆设备、账号行为、生命周期等构建风险关系网,进一步校准核对问题,并不断的反馈调优模型,对此类用户进行高度关注,从根源上进行前置处理。

 

该模型日均内容及处理可达 10W+,账号及处理可达 600+,并针对不同风险等级的群体执行定制化的内容安全分层管控策略。

真人治理团队,用户安全的二道防线

人工治理分析团队,会对黑产形式、类型、内容进行分析,进而弥补系统漏洞进行相互补位;而质检团队会对黑产内容进行拦截、前端数据进行质检巡查,通过质检及巡查结果,不断完善系统能力。

针对反黑产的内容审核,不单单是音视频社交行业所独有的需求,现在越来越多的行业需要去维护和处理一些不良内容,有效地区分高风险访问者并持续跟踪各类风险内容,更有利于及时湮灭苗头,将其扼杀在摇篮中,避免更大的损失。

辉禹科技也在加强自有业务团队技术及团队实力的同时,积极参与北京网络行业协会、上海信息安全行业协会、信息服务业行业协会等行业组织,不断地拓展行业合作资源和服务场景,争取为反黑灰产贡献一份微薄的力量。

来源:互联网