守护生命安全,抖音今日头条等产品升级自

“我走了兄弟姐妹们。”年6月,抖音自杀干预专项工作人员接到系统提示,一男子发布的视频中,车内有两个煤气罐,副驾驶上有酒和打火机等物,疑似有轻生意图。

随即,抖音自杀干预系统触发,相关工作人员7分钟内核实信息并联系福建省宁德市周宁县警方实施救援。2小时后,警方反馈已找到意识模糊医院救治,后网友经救治脱离危险。

记者从抖音安全中心获悉,年10月该公司正式升级自杀干预专项,将此前的自杀识别、干预工作机制化。该专项共吸纳了安全、审核、客服、AILab等团队余人参与,覆盖了抖音、今日头条、西瓜视频等多个产品,旨在从用户发布的内容入手,识别出有自杀倾向的用户,防止自杀事件的发生。

抖音自杀干预专项相关负责人告诉记者,年4月,公司AILab团队就训练了一个自动识别高危问题内容的模型。团队发现,自杀内容经过模型抓取和人工甄别,再配合警方实施及时有效的救助和干预,就可能挽救生命,“工作人员发现各产品上的自杀风险信息后,会通过公司内部平台报送,安全团队对相关线索进行综合判断后,高自杀风险案例就会被上报给公安机关。”

世界卫生组织发布的《年全球自杀状况》显示,自杀仍是全球主要死因之一。年,全球超过70万人死于自杀,每人中就有一人死亡。从出现心理情绪障碍,到走向自杀,家庭、社会在每一个环节都应当有足够的支持和干预机制可以介入。随着互联网的发展,自杀内容逐渐成为大型互联网内容平台每天需要处理的问题。目前,国内主流互联网平台基本实现了将心理危机干预热线作为自杀相关关键词检索结果的头条。

抖音自杀干预专项相关负责人表示,除行业通用的做法外,自杀干预专项将继续加强用户自杀前置状态的发现和处置,及时干预。“年至今,专项已配合多地警方阻止了一批自杀案例。”上述负责人表示,自杀干预属于公司各产品人身安全专项的一部分,除针对自杀人群进行识别、干预,人身安全专项还对拐卖、网暴等敏感群体进行重点保护。

封面新闻记者郭闻涓



转载请注明地址:http://www.1xbbk.net/jwbys/4318.html


  • 上一篇文章:
  • 下一篇文章:
  • 网站简介 广告合作 发布优势 服务条款 隐私保护 网站地图 版权声明
    冀ICP备19027023号-7