您的位置 首页 > 数码极客

【电脑警报声】半夜,他偷偷在互联网上呼救

武纲弹簧一般从椅子上直起身体:有人正在多个店铺中寻找涉自杀商品,这一疑似自杀的风险行为触发了AI风险预警系统。

有可能有人要轻生。每月要处理类似预警2400多条的阿里安全小二武纲本能得警觉起来,但还没有足够的证据支撑这个判断;早上九点上班后,武纲迅速与这几家店铺的商家逐一联络,询问这一消费者的购买行为是否有异常,当得知他询问过“你们这个东西吃几片会死啊”,武纲心下一沉,这个人轻生的概率一下子大了。

阿里守护生命项目的劝阻机制立即启动:阿里安全首先联合阿里客服团队对这一消费者的订单进行了分析,紧急拦截;与此同时,联系商家并迅速将线索推送给当地警方;警方收到信息后非常重视,当即出警,进行上门劝阻。

然而,警方根据收货地址仅仅定位到了某小区一栋楼的2单元,这个单元有100多个住户,此时收件人的电话又屡次无法接通。“没办法,爬楼吧。”民警一方面通过警务系统联系该手机号的家属,另一方面开始挨家挨户开始敲门询问。

信息到达警方手里后,武纲一直悬着心,但有心无力,只能焦急地握着手机等消息。终于,中午12点49分,手机响起,警方传来好消息:购买涉自杀商品的人找到了,是一个13岁的小男孩。

当民警扫楼终于找到这户人家时,男孩的妈妈对他自杀的念头一脸茫然。沟通中,才知道,原来疫情期间无法出门,只能在家上网课,家长每天在家里督促男孩写作业,因其作业没有按时完成,被妈妈恶言相向、说了几句,一时想不开就想到了自杀。男孩妈妈意识到自己沟通方式的问题险些酿成大错,同在一个屋檐下竟不知自己的孩子想放弃生命。

警方向阿里安全小二武纲发来的感谢短信

拯救3500多人 还可以更多

此前,世界卫生组织公布的数据显示,全球每40秒就有一人死于自杀。而仅阿里旗下平台,通过商家举报、用户进线咨询、技术识别等方式,每月就预警自杀风险事件2400余起。

武纲见过各种想自杀的人,有情感纠纷、有抑郁症患者、有家庭矛盾……“大部分都只是一时的念头、冲动,如果有人能在他站在悬崖边时拉他一把,这个生命就留住了。”抱着这样的念头,武纲和阿里健康、阿里客服等多个团队的小伙伴组成了一支虚拟的“自杀干预师”团队,过去一年他们已成功劝阻3500多人。

阿里巴巴集团首席风险官郑俊芳宣布“绿网计划”开启。

最近,这个守护生命项目又有新进展。阿里安全在11月28日上午宣布了公益项目“绿网计划”的诞生。“绿网计划”关注的焦点是抑郁症等自杀人群的生命守护,珍稀野生动植物保护以及涉烟草、游戏沉迷、色情和毒品等未成年人保护。

28日,绿网计划启动仪式上,还吸引了林志玲、佟大为、王珞丹、毛晓彤、赵奕欢等11位演艺界明星,担任“绿网计划”的形象大使,并通过录制寄语的方式呼吁大家关注。

林志玲、佟大为、王珞丹、毛晓彤、赵奕欢等11位演艺界明星担任“绿网计划”的形象大使,呼吁大家关注。

它的发起来源于网络上令人震撼数级的非正常搜索。72亿与386.7亿,这是网民在网络上进行非正常搜索的数量,72亿是阿里平台一年的数据,386.7亿是百度前三个季度的数据。

所谓非正常搜索就是网民会以软色情、破解游戏防沉迷系统、野生动植物,甚至毒品、自杀等为关键词进行搜索,这些可能对社会带来风险和不适。这些搜索背后,有些是企图作恶,更多则是好奇或迷茫。

围绕非正常搜索问题,在浙江省市场监督管理局的指导下,28日当天,阿里安全、阿里巴巴公益基金会、百度安全联合发起“绿网计划”,淘宝、闲鱼、UC、高德、优酷、夸克迅速加入。

“以前你搜违禁词,出来的就是‘抱歉,无法显示’这样的空页面,今天之后,这些页面将会换成公益宣导页。”阿里巴巴集团首席风险官郑俊芳介绍说,好比有人搜象牙,淘宝会给他推送野生象濒危、呼吁保护大象的信息。

“我们希望将这些时刻都在发生的非正常搜索,转化成为社会各界都能参与进来,一起做正向引导的公益项目。”郑俊芳说。

每一次求助都应得到回应

对平台而言,除了对“黄、赌、毒”和作恶者的搜索行为做坚决管控,还需厘清到底哪些用户“请求”需要引导和帮助。比如,有些搜索可能是因抑郁试图轻生的绝望呼救,也可能是沉迷游戏的少年在无奈求助。

每一次求助都应该得到回应,但回应不应该是空白的页面和冰冷的报错,这也是“绿网计划”发起的初衷。“绿网计划”上线后,涉及相关关键词的搜索页将不会再出现“抱歉,页面找不到”,取而代之的是政策法规和科普知识的宣导,以及相关合法合规的替代商品推荐。

“绿网计划”计划也不仅仅是一个公益宣导项目,它其实有一套完善的运作机制来驱动,例如武纲和他的同事们做的自杀干预项目,就是一个系统化工程。从发现潜在问题,到快速响应,到7X24小时不间断值班,到拦截流程的SOP,再到与地方公安的联动,最后反馈结果,优化流程。

每快1秒,都有可能救下一个人。在网民敲下不正常搜索词的那一刻,温暖的引导可能多带来一些希望。

阿里商业体这么做了。同时,阿里安全表示,希望更多企业加入,阿里愿意共享自己积累的能力与信息,与大家一起做一点让科技更性感的事情。浙江省市场监管局网监分局负责人也呼吁,希望有更多的平台和企业参与进来,让网络治理从事后走向事前,从惩戒转向预防,用“智理”实现“治理”。

科技,为不能作战的人而战。

*资讯

关于作者: admin

无忧经验小编鲁达,内容侵删请Email至wohenlihai#qq.com(#改为@)

热门推荐