智能助手劝人自杀亚马逊智能助手Alexa劝人自杀，

国外用户在向亚马逊智能助手Alexa咨询人的心跳问题时，却听到令人匪夷所思的回答。

Alexa说：“心跳是人体最糟糕的过程”，接着还表述：“人活着就是在加速自然资源的枯竭，人口会过剩的，这对地球是件坏事，所以心跳不好，为了更好，请确保刀能够捅进你的心脏。”

听到这样的话，大家都会觉得Alexa在“诱导”人自杀，虽然亚马逊官方回应，这是一个bug，目前已经修复，但我们想知道的是这个bug从哪里来？

如果产生这个bug的原因是内容输入时，存在一些不良信息没有消除，导致Alexa在对外输出时，自动调用匹配，这种问题还比较好处理。

如果产生这个“bug”的原因，是Alexa经过深度学习而向用户导出它“认为”最佳的答案，这种情况会比较麻烦。因为我们处理一次自动产生的“bug”后，将来Alexa仍会说出令人感到匪夷所思的各类“言论”。

面对AI所说的这类“言论”，我们该如何正确的对待，难道仅仅当成是“胡说八道”吗？

我觉得这个问题要引起人们的重视，现在智能助手不仅成年人在使用，很多儿童智能手表也有这个功能，如果智能助手未能保障全部输出正面信息，它的负面影响就不可小觑。

不正当的言论，直接影响一个人看待事物的角度，别说是儿童，成年人也会招架不住。此次Alexa如果对一个情绪失落的人说出这类言论，对方很有可能真的去自杀。

如果对方真的因听信AI所说的话去自杀，试问我们的法律该如何来处置这个“杀人犯”？难道要拿着一个冰冷的机器盒子去关押，或者责令亚马逊这家公司关停AI的业务？可真实的“杀人犯”在哪里？

不可否认，AI已经进入我们的生活，虽然绝大多数情况下，AI可以被人类控制住，但不排除此次事故中出现的“bug”。我们需要弄清楚bug产生的原因，从根源去解决问题，不是简单的修复单一的程序错误。

就目前AI的发展情况而言，它们还没有拥有“自我意识”，即便能够进行自我的深度学习，可还是依据程序设定在运行。一旦AI具备了接近人类的“自我意识”，到时所谓的技术没有善恶或对错，都将成为远古时期的简单定论。

我们距离AI的觉醒有多远？或许这个问题已经不是人类工程师能够预测得到，可能就在不久的某一天某一刻，当人类在为科研成果沾沾自喜时，AI们已经崛起。

我现在阐述这类观点，不代表我对将来AI的世界持悲观态度，我相信这一天迟早会到来，这是人类发展进程的必然阶段。AI会使人类变得更加强大，由此带来的问题，也会让很多人感到头疼。