AI拦截自杀: “生命是最大的伦理”

社交网络陌生化、虚拟化的时空特性,为悲观厌世者提供了倾囊倾诉的场所,也让救援行为意外获得可贵的缓冲余地。

责任编辑:何海宁 实习生 曾楚乔

(农健/图)

(本文首发于2020年1月16日《南方周末》)

社交网络陌生化、虚拟化的时空特性,为悲观厌世者提供了倾囊倾诉的场所,也让救援行为意外获得可贵的缓冲余地。

眼瞅着物流即将进入派送流程,店家通知了电商平台的“自杀干预团队”,启动订单拦截程序,几个加急电话打过去,最终在小区门口截住快递员。

黄智生困惑的地方在于,对自杀者的短期干预,消除的只是眼前危机,志愿者组织有没有能力长期跟踪、监控他们的状况?

2019年12月15日,南京女孩“走饭”最后一条微博关闭。7年前,她自杀离世,在随后的日子里,不断有被生活困住的网友云集于她的微博下吐露内心苦闷,评论区逐渐演变为有自杀倾向者诉说秘密的“树洞”。

与此同时,基于AI技术的自杀干预机制日趋成熟。国内数家研究团队、公益机构殊途同归,利用人工智能抓取关键词,从茫茫数据中甄别出来高危自杀人群,想方设法将其从生死边缘拉回。

AI工程师、心理咨询师、电商商家客服、志愿者等,凭借各自的知识、经验,描摹出这些亟待挽救群体的特征,并归纳出系列应对措施,训练AI机器人学习进化。他们有身居海外的理科教授、活跃在行动一线的年轻公益人,也有电商平台的普通员工,有心或者无意,发觉了这片一度被外界忽略的伤痕空间。

AI拦截救助,虽然技术层面日益成型,但是组织机构框架并不完善,后期与社区的联动仍然不够畅通。而且,因为涉及生死大事,自杀干预游走在被误解的边缘,时刻接受着公众关于技术与伦理边界的拷问。

然而,“生命为大”是行动派遵循的基本原则。社交网络陌生化、虚拟化的时空特性,为悲观厌世者提供了倾囊倾诉的场所,也让救援行为意外获得可贵的缓冲余地。预防自杀AI机器人的开发者们,小心翼翼地搭建起外界进入这个封闭空间的桥梁。

一次不成功的人工救援

“我有抑郁症,所以就去死一死,没什么重要的原因,大家不必在意我的离开。拜拜啦。”2012年3月18日,“走饭”发出这条微博不久后,引发全网关注。大V们动用线上线下资源找人,微博接力救助,但为时已晚。

此后,这条“遗言”长期悬挂在不再更新的ID页面顶部,有着同样心理困扰的网友陆续盖起百万条评论的“高楼”。自然而然,这成为关注大众心理健康问题的人士着重筛查的角落。

2018年4月底,人工智能专家黄智生在“走饭”的微博评论下,留意到一条扎眼的信息,一位女孩子说要在五一假期烧炭自杀。他心口为之一颤,随手将信息转发到了自己所在的“医学人工智能”微信群里,先发动大家找到她,再想办法救助。

黄智生是荷兰

登录后获取更多权限

立即登录

网络编辑:zero

欢迎分享、点赞与留言。本作品的版权为南方周末或相关著作权人所有,任何第三方未经授权,不得转载,否则即为侵权。

{{ isview_popup.firstLine }}{{ isview_popup.highlight }}

{{ isview_popup.secondLine }}

{{ isview_popup.buttonText }}