都是来自于人，你要怪设计他的人，而不是怪机器。还有人谈机器人六大定律等等，我也觉得挺奇怪的，就像法律一样，法律是要规避人的，人可以做大炮、做飞机、做汽车，大家觉得飞机是好东西，但是恐怖分子用飞机去杀人。你最后怪的是飞机吗？不能说飞机违法，违法的是人，最重要的是限制人，机器何尝不是这样？当然有人说，“Singularity”有两个意见，一种是我脑可以上传就永生了，有一部电影是这样的。我个人非常存疑，还有人说二三十年可以达到这一点。人是不可分的，而且只有脑，什么是脑？今天一个新爱的人，你跟他失散了30年，最后他回来是一个机器人的模式，你觉得他还是同一个人吗？更何况你跟他没有过去这20年、30年共同的经验以后，你还会觉得他是同一个人吗？我比较相信人是一个全体论，所以当你的肢体改变了，两个人的走过的经验也改变以后，就算它有你脑里的很多部分，也不是同一个人，这个有点太形而上学。

另外还有一个说法，当你达到一个临界点，所有未解问题都解了，而且能够迅速往前进。我也存疑，大家如果从算法的角度来看，当你今天解了一个问题，下一个问题事实上更难，就讲NP是不是等于P？大部分人都觉得不太可能等于，但是能解吗？有办法证明吗？不要说今天证明，在过去提出这个东西开始也没有看到一个人可以去解决，当你解决了这个一个问题，下一个问题更难。

今年是AI的60年，Matrix是我的师祖，大家称他为AI之父，当时他就很有智慧的说，别人问他造一个机器达到人的智慧要多久？他给了一个答案，5-500年，当然今天已经超过5年了，我认为还要500年，甚至还要更多，因为要像人从哪里来，为什么人有这个智慧，这些问题更复杂。

最后要提出来，我们去造一个机器，像我们，跟我们一个聪明，而且还有自觉，一个有自觉的人你没有办法控制他。我常常举一个例子，他必须要十次给我咖啡，如果我叫我太太弄十次咖啡，十次有五次他跟我说你自己有手有脚，为什么自己去？我说是是是，我的意思是说造机器人，有自觉吗？大可不必，我不想说弄一个机器人十次有五次说你自己不会去啊？所以我们造一个机器人是希望他可控，可控的意思是他没有自觉，不可能一个自觉的人还可以可控。然后我们要讲一下，就算你要造一个东西，跟我们一样聪明，又不可控，也可以说我们有几千人的经验，那个叫我们下一代，我们的小孩，我们希望他比我们聪明，他可以控吗？根本不可以控，造这样的东西多生一些小孩儿就够了，所以做这些东西的目的在学术上很有意义，像克隆动物，造一个有意思的机器人有法国意义，我个人觉得我是非常存疑的，从实用的角度来看，从学术的角度当然也有很大的意义。

有人问我你觉得科幻电影描述AI比较传神，比较接近未来，我会说Matrix，为什么？和计算机有关，在任何一个系统里一定没有办法找，不能证明他正确，也不能证明他不正确，就是P?里面，包括当年的T?写一个东西到T?算，都没有办法知道他会不会停止，这就是说任何程序里一定有bug。机器里Bug是很难避免的，机器当然有可能bug，但是他的bug就是回过头来把人全部灭掉，这个可能性也微乎其微。

最后我要讲的是AI这个是我的师祖提出来的，今天WeakAI，这种大数据AI，虽然是WeakAI但是非常有用，是为人类造福的，这个东西在未来跟大数据，人不可以看所有的新闻，但是可以让他去读所有的新闻，去找到他insight帮我做事情，都可以帮我洞察里面的先机，这样的东西是可以做的，人永远是人+机器，Augment加计算，就是一个智能，所以人加机器就是超人，就是最好的组合。这是我们AI向前走的另一个意义。