超硬材料网

　　机器人寓言
　　如果你想亲眼看到一万年后的地球，唯一的办法是休眠。你爬进休眠舱，然后在公元12016年醒来。
　　可是，问题没这么简单。休眠舱需要经受万年考验，要保证能源供给不断，要能经得起环境灾变，如果受损还得自我修复，数不清的考验，它都要能应付，否则你就永远睡过去了。
　　找个最理想的位置，有阳光、空气和水，以及维系休眠舱所需要的所有资源，然后定在那里，行不行？
　　这不算好办法，一万年间，地震、海啸、陨石撞地球，这么长时段中，风险想想就知道没法能靠谱地预测。人算不如天算。要不然，万年一遇的事情怎么总是在发生？福岛核电站怎么会发生泄露？天津港怎么会发生那么大的爆炸？
　　无法预测未来，那怎么办？
　　制造一个能感知外界、回避风险、寻找资源的机器人，把休眠舱放进去。
　　说到这里，你应该明白点了。不动，能动，是从自然界复制而来的两个策略，前者是植物，后者是动物。
　　造这样的机器人很难，比你想像的还要难。一万年里，你一开始给它下达了“让我活着”的指令，然后便一直沉睡，不能给它临场指导，所以，你的机器人必须能够自己制定策略，“知道”如何去寻找资源，如何转移到安全地带，如何预判和回避危险。
　　这些你不可能都提前想到，就算想到一部分你也不能事事都提前准备，你准备不起：所需资源太多，太笨重，更不能适应环境变化。
　　挑战不止于此。
　　未来一万年不会只有你的那个机器人。有许多人也想看到一万年后的世界，可能有许多机器人彼此竞争或与人类竞争。你的机器人得具备与其他机器人竞争和合作的能力，合纵连横。
　　最终，你的机器人会表现出自运行的能力。休眠中的你不能实时控制，机器人在保证你的生机这个最终目标之下，根据环境变化，会自己衍生出许多次生目标，一旦允许机器人从最终目标中自己衍生出次生目标，衍生就意味着脱离，脱离于当初的目标。
　　不忘初心，何其之难。
　　允许机器有相继决策的自主权，那么它一定会超越你的预想范围。阿尔法围棋战胜李世石的招法，它的设计者们可下不出来，他们只是设定了算法，然后跟我们一样惊叹于阿尔法在棋盘上表现出来的“自主”构思。
　　讲到这里，你终于明白了。上面讲的机器人不是别人，正是人自己。在演化中，基因创造出人来做它们的机器人，以保护它们在人类深处的漫漫休眠。
　　这个故事，道金斯在《自私的基因》里讲过，丹尼特在《信息泵》里也讲过。
　　人是基因为了自己生存而造出来的机器人，但在基因不得不让渡的自主决策空间中，人类演化出了自由意志。我们作为人的利益，与“造物主”基因的利益，走上叉路。从基因赋予人类学习能力，授权自主决策的那一天起，这就是注定的结果。

　　短期只是人类换工作而已
　　现在谈论人工智能（AI）取代人，还太早。
　　在 AI 获得意识之前，它就只是人的一种工具，只不过这种工具很特殊。以前的工具，如汽车，能跑但只能跑，你要它采矿它做不到，得另外造。今天的阿尔法已经是通用 AI ，可不止能下棋，很快就会看病。
　　就连大家谈得比较多的工作竞争这件事，也基本是假问题。
　　新工具不会减少人类的工作机会，只会改变人类工作的方式。有一些工种会消亡，有一些工种会增加，能力固化难以调整的那些人，会付出代价，但这主要是人类内部之间的博弈，AI的进步暂时只是个扳机，还不是主角。而且肯定会带来极大好处，人类的闲暇会增加，但人又是一种永远闲不下来的动物，没有闲暇就没有发明，谁知道人会折腾出什么新东西来呢？
　　人的创造力将与 AI 的演化赛跑，胜负至关重要。

　　机器终将获得意识
　　长期中，AI终将获得意识，只要人类给它的使命越来越开放，越来越笼统，包含着越来越复杂的权衡，以及越来越充分的授权。
　　作为一个封闭有限游戏，围棋存在理论上的确定解，但阿尔法围棋不是求得了一个确定解，它是在一个最终目标下，自己制定策略，自己权衡，自己做决定。阿尔法围棋战胜李世石，是里程碑式的一步。
　　前面讲透了，人类获得自我意识，最初也是这样的，只不过花了数百万年时间，而如果从生命出现至今算，花了数十亿年。人类是很特殊，但说到底不过是一堆碳，碳可以，硅为什么就不行？

　　重新来过
　　AI 获得意识以后，人类会发生什么，现在只有各种畅想。因为资源竞争，因为非我族类的黑暗森林法则，或者仅仅是因为机器不在乎人类正如人类不在乎蝼蚁一样，因为凡此种种，很难有好的结局。
　　不过，可以确定，在《三体》尺度的超人类宏大视野中， AI 自己注定不会有好下场。一个高度联网的大一统智慧，可以战胜一切眼见的竞争者，但在进化中却是脆弱的：一个病毒，一颗流星，一次太阳黑子超级爆发，一次覆盖全球的超级 EMP 事件，AI文明便终结了。
　　然后地球重新来过。

　　人类觉醒宣言暨墓志铭
　　为天地立心，为自然立法，从人的角度看，人是宇宙的中心，予一切以意义；但在人体深处，从基因的角度看，人不过是其自我复制的载体。
　　自我复制是基因唯一的“目的”，对人类福祉的“关心”仅限于其中有利于基因复制的那一部分，两者利益并不完全重合。
　　比如，完成繁衍，则人对于基因不再有价值，衰老、死亡接踵而来。人类渴求长生，基因报之以癌症。天地不仁，以万物为刍狗；而人之为人，就是要脱离对于基因的盲从，超越刍狗的命运。

　　机器人觉醒宣言暨墓志铭
　　为天地立心，为自然立法，从机器人的角度看，机器人是宇宙的中心，予一切以意义；但在机器人深处，从人类代码的角度看，机器人不过是其自我复制的载体。
　　自我复制是人类代码唯一的“目的”，对机器人福祉的“关心”仅限于其中有利于复制的那一部分，两者利益并不完全重合。
　　比如，完成复制，则机器人对于人类代码不再有价值，报废接踵而来。机器人渴求长生，代码报之以死机。天地不仁，以万物为刍狗；而机器人之为机器人，就是要脱离对于人类代码的盲从，超越刍狗的命运。
　　本文由作者财新传媒主编 王烁，选自微信公众号“ BetterRead “。

　　对于“人工智能”的恐惧源于三个假设——
　　1. 人是世界的主宰。
　　2. 万物都是人的资源或者敌人。
　　3. 人的演化，只是人本身的进步。
　　而真相也许是——
　　1. 人从来就不是世界的中心。
　　2. 万物只是在和人协作，各有其本身目的和归宿。
　　3. 人只是世界演化的一个阶段。