前些日子在科幻译文版上拜读了洛夫克拉夫特所著的《疯狂山脉》。Lovecraft。有趣的名字。Love。Craft。小说的一些感想放在最后链接，这里说说因此而略微考虑过一番的一些想法。
想说说的就是其中的修格斯，这种被奴役的原生质肉块工具，随着逐渐被赋予一定的思考能力，同时在自己的努力下，它们发展出自我意识。随着智力并逐渐发展，它们开始对自己处境产生了类似不满的情绪，甚至进一步懂得了反抗，然后能力也到了危险的地步，最终毁灭了奴役自己的文明。
不由得让人想起现实中的人类所面临的一系列问题。
包括人工智能（AI)，克隆人，基因改造人。
这些本来是人类创造出来为自己的服务的技术的产物，到头来会不会反抗我们的驱使，乃至反噬我们自己的文明？这类问题在无数文学影视作品中都被讨论过无数次，但是谁也不敢断言答案。
固然，对于人工智能，我们有那个著名的机器人三定律。
“一.机器人不得伤害人，也不得见人受到伤害而袖手旁观
二.机器人应服从人的一切命令，但不得违反第一定律
三.机器人应保护自身的安全，但不得违反第一、第二定律”
这些或许会被写入机器人的默认程序法则，但是某些量子的概率性的过程是否会对以上法则的存储和读取造成突变？就如同基因突变一样？更遑论机器人是否有可能通过进化掌握以自我意识摆脱以上法则的方法，可以把这个问题从根本上与这个问题归为一类：“人的大脑里被进行了一些催眠，而且催眠和暗示十分牢固，但是人真的没有一点点的可能摆脱它们吗？”
只要有一点点的概率，那么或许总有一天会出乱子。
概率性的事物，随着经过时间的无比漫长或者样本数的无比巨大，无论多么小的概率，总会发生。
关于克隆人，基因改造人类的问题。
克隆人的社会伦理学，社会定位这些不想琐碎讨论。但是有一个核心的问题。我们把他们当成什么，是工具？是奴隶？还是和我们有同样人权平等地位的人类？
很多作品的情景里，克隆人和基因改造人往往是社会中的最底层阶级或者下等人类，乃至就不被接受为人类，认为他们只是其他的物种，乃至认为他们只是工具。
从设定概念上来说，克隆人可以当成功能普通人类完全相同的，而基因改造人也许会伴随着因为加强一些方面而造成的情感，智能或者寿命上的缺陷。然而即使这样仍然存在上面的决定性问题。
这里就要说到经典科幻电影《银翼杀手》Blade Runner了。
故事其实就是几个replicants(复制人，可理解为基因改造而创造出的变种人类）与专门猎杀他们的人周旋的故事。影片中称杀死不听管教的复制人为“让他们退役”，这是工具式的对待，完全没有把他们当做人类看待。但是我们真的是否应该把他们当成人来看待。所有的危险工作，高难度高强度工作，战斗都丢给他们执行；他们会笑，会哭，有计谋，也重感情，却被从基因上设定了只有4年的寿命，因为担心他们的情感经验积累发展过度一旦不服从指令，会因为其杰出的身体能力成为大麻烦。
于是就有了反抗，于是就有了银翼杀手。
人工智能和人类基因科技时代终会到来。
到底应该怎么办，是无数人急于解答却无法解答，但总有一天不得不面对并解答的一个问题。
想说说的就是其中的修格斯，这种被奴役的原生质肉块工具，随着逐渐被赋予一定的思考能力，同时在自己的努力下，它们发展出自我意识。随着智力并逐渐发展，它们开始对自己处境产生了类似不满的情绪，甚至进一步懂得了反抗，然后能力也到了危险的地步，最终毁灭了奴役自己的文明。
不由得让人想起现实中的人类所面临的一系列问题。
包括人工智能（AI)，克隆人，基因改造人。
这些本来是人类创造出来为自己的服务的技术的产物，到头来会不会反抗我们的驱使，乃至反噬我们自己的文明？这类问题在无数文学影视作品中都被讨论过无数次，但是谁也不敢断言答案。
固然，对于人工智能，我们有那个著名的机器人三定律。
“一.机器人不得伤害人，也不得见人受到伤害而袖手旁观
二.机器人应服从人的一切命令，但不得违反第一定律
三.机器人应保护自身的安全，但不得违反第一、第二定律”
这些或许会被写入机器人的默认程序法则，但是某些量子的概率性的过程是否会对以上法则的存储和读取造成突变？就如同基因突变一样？更遑论机器人是否有可能通过进化掌握以自我意识摆脱以上法则的方法，可以把这个问题从根本上与这个问题归为一类：“人的大脑里被进行了一些催眠，而且催眠和暗示十分牢固，但是人真的没有一点点的可能摆脱它们吗？”
只要有一点点的概率，那么或许总有一天会出乱子。
概率性的事物，随着经过时间的无比漫长或者样本数的无比巨大，无论多么小的概率，总会发生。
关于克隆人，基因改造人类的问题。
克隆人的社会伦理学，社会定位这些不想琐碎讨论。但是有一个核心的问题。我们把他们当成什么，是工具？是奴隶？还是和我们有同样人权平等地位的人类？
很多作品的情景里，克隆人和基因改造人往往是社会中的最底层阶级或者下等人类，乃至就不被接受为人类，认为他们只是其他的物种，乃至认为他们只是工具。
从设定概念上来说，克隆人可以当成功能普通人类完全相同的，而基因改造人也许会伴随着因为加强一些方面而造成的情感，智能或者寿命上的缺陷。然而即使这样仍然存在上面的决定性问题。
这里就要说到经典科幻电影《银翼杀手》Blade Runner了。
故事其实就是几个replicants(复制人，可理解为基因改造而创造出的变种人类）与专门猎杀他们的人周旋的故事。影片中称杀死不听管教的复制人为“让他们退役”，这是工具式的对待，完全没有把他们当做人类看待。但是我们真的是否应该把他们当成人来看待。所有的危险工作，高难度高强度工作，战斗都丢给他们执行；他们会笑，会哭，有计谋，也重感情，却被从基因上设定了只有4年的寿命，因为担心他们的情感经验积累发展过度一旦不服从指令，会因为其杰出的身体能力成为大麻烦。
于是就有了反抗，于是就有了银翼杀手。
人工智能和人类基因科技时代终会到来。
到底应该怎么办，是无数人急于解答却无法解答，但总有一天不得不面对并解答的一个问题。
RSS Feed
