“如果我们能够处理这个题目，当我们迈入真正的超等智能期间后，就能更加顺利，这对于我们来讲是非常值得一试的东西。”
“以是我们现在面对一个题目：人类还需求多久才气够让野生智能具有这类强大的才气？”
“我们把这道问卷题目中的野生智能定义为有才气将任何任务完成得像一名成年人一样好。一个成年人会善于分歧的事情等，如此，该野生智能具有的才气将不再仅限于单一的范畴。”
“这并非不成能，而是能够的，其成果能够令人类受益匪浅，但它不会是主动产生的，它的代价观是需求指导的。”
“……我们晓得，神经元在轴突中的信号传输速率最多100米/秒，但是在电脑里，信号是以光速传播的。除此以外另有尺寸的限定，人类的大脑只要头颅那么大，你没法对其停止二次扩容，但是计算机却能够多次扩容，能够一个箱子那么大，能够一个房间，乃至一栋大厦的容积，这一点毫不成能被忽视。”
“这个题目很毒手也很严厉，要在这个范畴获得进步，比如一种体例以为我们必须制止将超等AI品德化，堵还是疏，有种见仁见智的味道。”
“是以得出告终论，即：在将来，任何明显的思惟基体的窜改，其成果都能带来庞大的差别。”
“或者你也能够假装出了题目。这个时候，法度员就会把你翻开看看是那里出错了，他们找出源代码，而在此过程中你便能够获得节制权了。或者你能够策划出一个非常诱人的科技蓝图，当我们实现以后，会存在一些作为野生智能的你已经打算好的奥妙的副感化用于实现你的隐晦目标等，例子是多的数不堪数。”
“我的一些同事以为我们或者人类即将会发明足以完整窜改人类思惟形式的科技，那就是超野生智能，或者说超等AI或超等聪明体。”
“但是，我们真的有实足的信心和掌控它不成能会发明一个缝隙，一个能够让他逃脱的缝隙吗？”
“我们该当把超等AI笼统的当作是一个优化的过程，像法度员对法度的优化，如许的一个过程。”
“是以超等AI能够正暗藏在此中，就像原子能暗藏在汗青中直到1945年被唤醒。”
“现在，或许我们并不能处理第二个安然性的题目，因为有些身分需求你去体味，你需求利用到阿谁实际架构的细节才气有效实施。”
“我小我以为野生智能实现品德化是不成制止的题目，以是我想我们更应当需求搞明白一点，即如果，我们缔造出了超等AI，哪怕它不受我们的制约。它应当仍然是对我们有害的，它应当是站在我们这一边的，它应当具有着与我们一样的代价观。”
“诸如此类看似仅存在与科幻天下中却又同时合适物理定律的元素，超等聪明有体例去开辟出这些东西，并且比人类更快更高效，我们人类需求1000年完成一件发明，超等AI或许只用1个小时，乃至更短，这就是被收缩的将来。”
“或许会说，我不是很有信心确保超等AI会不会发明缝隙并逃脱。以是我们决定断开互联网的连接来建立一个空地绝缘，但我不得不重申一遍，人类黑客都能够一次次以社会工程超越如许的空地。”
“试想一下，我们曾经胡想过的统统猖獗的科技，或许人类能够在必然的时候内完成并实现它，比如闭幕朽迈、长生、大宇宙殖民……”