看Facebook如何利用AI技术阻止用户自杀
日前，Facebook产品管理部门总监Catherine Card刊文介绍了其平台如何利用AI技术帮助阻止自杀。据其披露，全球每40秒就会发生一例自杀事件（死亡的人年龄在15-29岁之间），在美国每年近有4.5万人自杀。当有人表现出自杀倾向时，尽快为他们提供帮助是非常重要的。
Card指出，由于许多朋友和家人都是通过Facebook联系在一起的，所以他们可以帮助一个身陷困境的人与那些支持他的人取得联系。除了训练有素的社区运营团队成员之外，从去年开始，这家社交网络公司开始借助机器学习进一步扩大影响力并提供更加及时的帮助。
然而让电脑识别自杀表现却是一件非常复杂的事情。Facebook团队面临的最大挑战之一就是被使用到其他语境的带有自杀意图的短语，诸如kill（杀死）、die（死）、goodbye（再见），因为这有时候只是人们情绪的一种发泄。
对于Facebook来说想要训练一个机器学习分类器就需要向其提供大量的例子，包括想要识别（积极的例子）和不想要识别的（消极的例子）。然而在Facebook上积极的例子数量并不多，特别是跟消极的例子相比，但与此同时这也算是个好消息，起码没有出现太多的自杀事件。
不过团队在消极的例子上倒是取得了不小的突破，虽然一些帖子上出现了包含疑似自杀意图的短语，但经过社区运营团队成员的分析并非是真正的自残。这些例子中包含了许多类似于“作业好多我想要自杀”的类型。
除了对帖子文本的分析，评论也是参考因素之一。
不过即使引入了这些AI检测手段，人仍然是Facebook在自杀预防工作上取得成功的核心。这就是为什么任何一个发出求救信号的人都会看到包括求助资源、与亲人联系方式在内的支持选择。无论一个帖子是由相关的朋友或家人报告的，还是通过机器学习识别的，接下来的步骤都是一样的。Facebook社区运营团队的成员对其进行审查以确定此人是否处于危险之中--如果是这样，原始帖子就会显示支持选项，比如联系朋友的提示和求助电话等。在严重的情况下，当它确定可能存在迫在眉睫的自残危险时，Facebook可能会联系当地政府。
Hamilton表示，自去年开始这些工作以来，他们已经在其主动检测工作中收到的报告中对1000多份健康状态检查进行了审查。而在这一过程中，技术无法取代人，但它可以成为一种帮助。
