SPICA Aria
  • About
  • Blogs
    • Reflections
    • Otaku
    • Worldline
  • Works
    • Writing
    • Artroom
  • Updates
    • Updates+
  • Linkage
    • Guestbook
    • Blogroll

AI,克隆,etc.——道具?奴隶?平等人?/共处?反抗?反噬?

6/2/2010

Comments

 
      前些日子在科幻译文版上拜读了洛夫克拉夫特所著的《疯狂山脉》。Lovecraft。有趣的名字。Love。Craft。小说的一些感想放在最后链接,这里说说因此而略微考虑过一番的一些想法。

想说说的就是其中的修格斯,这种被奴役的原生质肉块工具,随着逐渐被赋予一定的思考能力,同时在自己的努力下,它们发展出自我意识。随着智力并逐渐发展,它们开始对自己处境产生了类似不满的情绪,甚至进一步懂得了反抗,然后能力也到了危险的地步,最终毁灭了奴役自己的文明。

不由得让人想起现实中的人类所面临的一系列问题。
包括人工智能(AI),克隆人,基因改造人。
这些本来是人类创造出来为自己的服务的技术的产物,到头来会不会反抗我们的驱使,乃至反噬我们自己的文明?这类问题在无数文学影视作品中都被讨论过无数次,但是谁也不敢断言答案。

固然,对于人工智能,我们有那个著名的机器人三定律。

“一.机器人不得伤害人,也不得见人受到伤害而袖手旁观
 二.机器人应服从人的一切命令,但不得违反第一定律 
 三.机器人应保护自身的安全,但不得违反第一、第二定律”

     这些或许会被写入机器人的默认程序法则,但是某些量子的概率性的过程是否会对以上法则的存储和读取造成突变?就如同基因突变一样?更遑论机器人是否有可能通过进化掌握以自我意识摆脱以上法则的方法,可以把这个问题从根本上与这个问题归为一类:“人的大脑里被进行了一些催眠,而且催眠和暗示十分牢固,但是人真的没有一点点的可能摆脱它们吗?”

只要有一点点的概率,那么或许总有一天会出乱子。
概率性的事物,随着经过时间的无比漫长或者样本数的无比巨大,无论多么小的概率,总会发生。

关于克隆人,基因改造人类的问题。

克隆人的社会伦理学,社会定位这些不想琐碎讨论。但是有一个核心的问题。我们把他们当成什么,是工具?是奴隶?还是和我们有同样人权平等地位的人类?

很多作品的情景里,克隆人和基因改造人往往是社会中的最底层阶级或者下等人类,乃至就不被接受为人类,认为他们只是其他的物种,乃至认为他们只是工具。

从设定概念上来说,克隆人可以当成功能普通人类完全相同的,而基因改造人也许会伴随着因为加强一些方面而造成的情感,智能或者寿命上的缺陷。然而即使这样仍然存在上面的决定性问题。

这里就要说到经典科幻电影《银翼杀手》Blade Runner了。

故事其实就是几个replicants(复制人,可理解为基因改造而创造出的变种人类)与专门猎杀他们的人周旋的故事。影片中称杀死不听管教的复制人为“让他们退役”,这是工具式的对待,完全没有把他们当做人类看待。但是我们真的是否应该把他们当成人来看待。所有的危险工作,高难度高强度工作,战斗都丢给他们执行;他们会笑,会哭,有计谋,也重感情,却被从基因上设定了只有4年的寿命,因为担心他们的情感经验积累发展过度一旦不服从指令,会因为其杰出的身体能力成为大麻烦。

于是就有了反抗,于是就有了银翼杀手。

人工智能和人类基因科技时代终会到来。

到底应该怎么办,是无数人急于解答却无法解答,但总有一天不得不面对并解答的一个问题。

Comments
comments powered by Disqus
    图片
    Schrodinger's equation & his cat

    Author : Phaer.C

    总之人都是很难用几句话概括的吧?
    人如其字,人如其文。想了解一个人,看其笔下的文字就好。很高兴在这里遇到或者认识你w。

    存档

    July 2019
    November 2018
    December 2017
    October 2017
    November 2014
    August 2014
    May 2014
    April 2014
    October 2013
    September 2013
    August 2013
    May 2013
    March 2013
    February 2013
    January 2013
    December 2012
    November 2012
    March 2012
    February 2012
    December 2011
    September 2011
    August 2011
    April 2011
    January 2011
    October 2010
    September 2010
    August 2010
    June 2010
    April 2010
    March 2010
    February 2010
    January 2010
    December 2009
    November 2009
    October 2009
    September 2009
    August 2009
    July 2009
    June 2009
    May 2009
    April 2009
    March 2009
    January 2009
    December 2008
    October 2008
    September 2008
    August 2008
    July 2008
    June 2008
    March 2008
    January 2008
    December 2007
    August 2007

    RSS Feed

    Categories

    All
    0dc2f50672
    1720ce56fa
    29609fff73
    34f3a0a529
    3d695ff936
    Ai
    CS/IT
    Doc.be
    Expo
    Interstellar
    Os
    三观
    世界
    二次元相关
    历史
    吃饭
    哲学
    宇宙
    对话
    心路
    思考
    恋爱
    感想
    摄影
    文学
    文学
    日本文学
    日本文学
    时政
    星际穿越
    死亡
    物理
    物理
    电影
    电影
    社会文化
    科幻/幻想小说
    科技
    笔记
    纪行
    翻译
    观后感
    观后感
    评论
    语言
    诺兰
    赫尔曼·黑塞
    随笔
    随笔
    音乐
    音乐
    魔法
    黑洞

Creative Commons License
All contents in this page is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License