Soul Q1 安全报告出炉：智能反诈与社区共治构筑“清朗”空间

资讯 TOM 2025-05-06 17:23

互联网深度融入社会生活,社交平台已成为公众日常沟通的重要载体。然而,随着用户规模的持续扩大,网络诈骗、低俗信息传播、网络暴力等新型治理难题不断升级,严重威胁着用户的财产安全与精神健康,破坏数字社会的信任基础。在此背景下,Soul App 作为国内领先的社交平台,深知自身肩负的责任与使命。近日,Soul App 生态安全中心发布《2025 年第一季度生态安全报告》,向公众展示平台在生态安全治理方面所取得的显著成效。

报告显示,平台深度贯彻 “清朗” 专项行动部署,将生态安全治理纳入企业战略核心。重点围绕诈骗治理、网络戾气治理、未成年保护、内容正向价值观引导以及完善社交礼仪体系等方面,通过技术模型、风控策略创新、专项治理、用户共建、警企联动等多种举措,持续完善站内生态安全体系,致力于为用户提供一个健康、安全的社交环境,积极构建多维生态防治体系。

智能反诈:织密立体防护网

每年第一季度是春节社交活跃高峰,网络诈骗风险也随之上升。为切实守护用户的财产安全,Soul App 运用先进的人工智能技术,织密立体防护网。

平台构建起先进的欺诈文本与图像识别能力,有效辅助识别潜在诈骗风险,使整体涉诈人群数量较此前下降约 20%;同时,平台构建风险链接识别能力,精准拦截风险链接信息,整体风险链接曝光率下降 10%。这些技术的应用,极大提升了平台的反诈能力,为用户营造了一个安全可靠的社交环境。

构建 “清朗” 生态:系统性升级社交治理体系

为响应 “清朗” 专项行动,给用户营造文明、友善的社交环境,Soul 系统性升级社交治理体系,对违规行为、低质内容重拳出击——

违规行为及低质内容治理

平台在第一季度加强对违规内容的监管力度,直接拦截量级达到百万;同时,对违规内容下的跟帖评论进行了严格处置,确保社区环境的文明与和谐;对于违规账号,平台也采取严厉的处理措施,第一季度累计处理违规账号超19万,并对同设备下存在多个违规账号的情况进行拉黑设备处理,有效遏制了违规行为的蔓延。

除此之外,Soul 持续优化广场生态画风,持续打压劣质内容,针对有偿交友、攻击辱骂、炫富、软广引流等广场低质内容进行限流。通过算法优化和人工审核,日均处理劣质内容超10万条,并对低俗评论进行过滤,降低用户的被骚扰感,维护广场互动氛围。

社区共建共治

Soul积极推动社区共建共治,目前站内内容推荐官在任用户超4.7万人,日均参与投票人数超过250人;风纪委在任用户超过2.1 万人,用户日均贡献超过 3 万次投票,产生超过4500例案件结果。

同时,Soul 更新《社区公约》内容,分别从内容分享、交友互动、价值观引导等多维度提出明确规范,倡导用户与平台共建共治,系统性构建社交生态治理框架。更新《社区公约》展示渠道,缩短用户触达路径,新公约上线后,月累计点击阅读量达 3.4 万,并通过站内的官号发帖、私信透传,以及站外的多家媒体平台,完成 2 次集中式大范围宣传,进一步提升了用户对社区规范的认知和遵守程度。

聊天社交生态建设举措与成果

第一季度,Soul 在私聊社交生态建设方面取得诸多成果——本季度上线、迭代策略23条,其中“骚扰消息自见”策略日均保护2.3 万用户免受骚扰信息侵扰;“消息盒子”功能辅助用户日均收纳消息超3千条;在本季度,平台针对疑似被骚扰的用户下发守护弹窗日均 4.7 万次。这些举措有效提升了私聊社交生态的质量,保障了用户的社交权益。在群聊治理方面,Soul 同样取得显著成效。平均每日中断语音违规消息超 1.7 万条,日均拦截违规文字消息条数超 2.9 万条。相关举措有效维护了群聊的健康和谐氛围,为用户提供了良好的群聊体验。

拒绝网暴,打造 “清朗” 社交环境

面对网络暴力这一“数字时代顽疾”,Soul App 构建起一套由技术模型、提醒策略、产品上新、宣传引导、专项治理、典型案例处置公示等多维度构成的严密防网暴体系。

在本季度,Soul通过平台功能和用户教育,倡导用户在私信交流中保持社交礼仪,日均提醒引导私聊文明发言 238254 次,发布友善发评提醒次数 4007 次,平均每日保护3053名用户免受网暴与骚扰。

Soul 鼓励用户积极参与抵制网络暴力的行为。截至第一季度,签署友善互动声明用户累计 210124 人,反映了Soul社区成员对于促进积极网络文化建设的广泛支持。这些成果表明,Soul App通过技术与人文结合,有效治理网络暴力,为用户打造了一个更加友善、和谐的社交环境。

本季度 Soul App 官方 “风纪球长” 对安全生态宣传内容发布了共 55 篇帖子,包含对传播低俗内容与不实信息、恶意引战等违规账户的处罚公示,以及对安全标准及社交礼仪规范宣导、辟谣等内容,总计触达 70 万用户。这些宣传举措有效提升了用户的网络安全意识和社交礼仪水平,促进了平台良好社交生态的形成。

精准识别未成年人,守护未成年人网络安全

长期以来,Soul 平台明确规定不允许未成年人在平台上注册账户,并且对于极少数已经注册的未成年用户,平台会自动切换到青少年模式。为了更精准地识别和保护未成年用户,Soul App 构建了包括身份认证、年龄识别、18 岁以下年龄限制、防沉迷系统、正能量内容池、隐私保护等在内的未成年用户保护体系。

本季度,通过新上专属保护策略、强化假成年人用户识别策略等手段,全力保障平台内青少年上网安全。同时针对成年人冒充未成年问题,升级处置机制,将原 “青少年限制” 升级为 “青少年通用处置”,首次冒充需要活体认证再次确认为成年人,多次冒充将对用户进行封禁,用户对未成年问题感知大幅下降,降幅达 40% 以上。

平台第一季度上线未成年识别和未成年保护策略共 51 条,策略识别假成年人贡献率高达 99%。充分表明 Soul App 在未成年人保护方面所采取的策略和措施具有高度的有效性和精准性,为未成年人的网络安全提供了有力保障。