应对人类危机,科技乌托邦绝非未来出路

於兴中 原创 | 2018-05-31 10:49 | 收藏 | 投票 编辑推荐
关键字:人类危机 科技乌托邦 

  本文原载《探索与争鸣》2018年第4期,原标题为《后人类时代的社会理论与科技乌托邦》

  在进入后人类时代的今天,人类的主体地位不断衰落,人以前独霸主体资格的状态已成过去。代之而来的是由人、山川草木、地球、动物,乃至包括后来的机器人共同享有主体的时代。在这个时代,人主沉浮的局面已经成为过去,人可能在与非人、人机合体之人、法人等的竞争之中作为一种弱者出现。今天的社会理论必须面对科技的高速发展,研究以人工智能为代表的对人类文化和生存具有颠覆性威胁的发明创造、人与物以及人与自己创造的机器人之间的关系等一系列之前从未出现或被重视过的问题,必须回应不断发生变化的错综复杂的各种社会和经济关系所提出的理论要求。然而,科技乌托邦毕竟是一种愿望,它不能代替社会理论对科技问题和后人类时代诸多难题的思考。如果科技乌托邦的愿景得以实现,可想而知,一种算法和数字规定一切的社会,绝对不是一种亲和的社会。人的存在将是数字的存在,人性的平衡将会被打破。单向度的人和单向度的社会将互为支撑,除了技术统治者之外,所有其他人都是平庸之辈。诗歌、绘画、音乐也将徒具形式而没有激情和内容。“无聊”将成为该种社会的代名词。

  引言

  在进入后人类时代的今天,社会、文化、制度及人的意识都在发生前所未有的剧变,而这种变化催生了一系列关乎人类当下和未来的重要理论和现实问题,社会理论必须要面对这些问题,但科技乌托邦并不是一条真正的出路。

  后人类时代的主要文化思潮是后人类主义或后人文主义(Post-humanism)。后人类主义是一个宽泛的概念。它可能指文化上对传统人文主义的反叛和对传统的人性观和人的生存条件的反思批判,对传统的有关人和人性及人的主观性的怀疑,从而提倡一种能与时俱进地反映科学认知的当代人的概念。它也可能指哲学上对人类中心主义的反思,并通过这种反思扩展道德伦理的范围,以使其不仅适用于人类,而且也适用于除人以外的其他生命体。

  后人类主义的一种激进模式是所谓“超人类主义”,即利用各种科学技术增强人的体质、气质和智力,以使人更为健壮、美丽甚至长生不老。更为激进的也是更为悲惨的是期待人工智能全面代替人类,而人类不得不让位于新的超级物种,彻底而自愿地“撒手人寰”,从地球上消失。

  从某种意义上来说,我们实际上已经进入了后人类时代。我们可以在很多生活细节中发现后人类时代的特征,比如拟真存在。我们每天上网花费很多时间,网上的这种拟真存在确确实实把我们带到了一个新的时代。这个时代的后人类特征表现在,人的存在已经不仅仅是物理的存在,而是物理存在加拟真存在。

  面对这样一个时代,我们自然而然地会考虑应该有什么样的对策,可以做一些什么事情。假设灾难降临时,该如何应对,采取何种预防性方案等。能够承担起这种责任的就是社会理论,但不幸的是,社会理论现在面临着非常大的危机。而面对目前的后人类时代似乎有一条出路,这条出路就是未来学家和技术人才寄予厚望的科技乌托邦。科技乌托邦可以看作是一种思维方式,也可以看作是一种社会理论,还可以看作是一种历史文化传统。在人类有文字记载的历史长河中,很多非常杰出的学者和思想家曾经探讨过科技乌托邦的可能性。他们相信通过技术可以建设文明有序的社会,可以使人获得幸福。柏拉图、莱布尼茨这些智者都有这种情怀。

  在当今新形势下,科技乌托邦是不是一种出路?在所谓后人类时代的背景之下,它有何种可能性?也许采取一种开放的建设性态度是比较好的。不过,还是应该指出它的局限性。这是一个非常重要的问题,也是人类目前正在面临的抉择。

  后人类时代

  如前所述,后人类主义是一个比较宽泛的概念,可能有不同解释。在这里可以简要地讨论三种。

  第一种解释指的是后人文主义时代。人文主义在西方过去几百年的历史文化中发挥过重要作用,影响、熏陶了一代又一代的优秀知识分子,开创了各种制度安排的局面。它和一般民众的生活意识、文化意识等也密切相关,是一种文化形态或一种文化传统。后人文主义指的是对已经有的人文传统做一种否定性的发展,也就是通过不断地批判往前推进,有点像后现代主义对现代的继承、批判、反思,包括文学作品的创作,重新解读历史,对哲学的认识等。

  第二种解释很像一些电影里描述的那样,认为人类作恶太多,希望人类灭绝。在人类灭绝之后地球可能才会慢慢恢复它本来的面目,可能其他生物才能过得更好。所以在这里后人类时代指的就是人类不复存在,但地球上的其他生物仍然存在的时代。

  第三种解释是指在一个新的时代里,人类的主体地位不断衰落,人以前独霸主体资格的状态已成过去。代之而来的是由人、山川草木、地球、动物,甚至包括后来的机器人共同享有的这么一个时代。在这样一种时代中,人主沉浮的局面已经成为过去,人可能在与非人、人机合体之人、法人等的竞争之中,作为一种弱者出现。

  这三种形态实际上是我们今天面临的几种可能性。我们现在至少已经进入了第三种形态的后人类时代。这个时代在某种意义上说是巨变的时代。人类历史上发生过很多变化和非常伟大的事件,包括宗教改革、文艺复兴、工业革命、启蒙运动以及各种大革命,法国的革命、美国的革命、俄国的革命、中国的革命,还有其他一些国家的革命,等等。

  然而,经历过这些震撼人世的事件的人类,从来没有像今天这么彷徨过,这么焦虑不安过。因为以前的历史巨变都能够保证人生存的环境,人的主体资格并没有发生变化。无论社会如何变化,人都能够进一步发展,人的生存方式可能有变,但人的生命模式不会改变。而现在所面临的这个关键时刻,人的生存和人的生存环境发生了很大的变化,人确确实实处在一种要为自己担忧的时刻。具体表现如下:

  第一,人对自己失去了信心,包括对自己建立起来的制度的信心。我们现在的社会可以说是一个危机重重的社会,表现在信仰危机、政治危机、经济危机、法律危机、家庭危机等方面。

  在信仰方面,这个危机可能是一种新的变化、一种新的崇拜形态。现代人有他自己崇拜的对象,不一定是传统的宗教,它可以是拜金主义,或者其他类型的崇拜。就像德沃金在《没有上帝的宗教》里说的,宗教可以存在,科学主义者可以有宗教,但不一定要有上帝。无论如何人要有信仰才能够活下去,但是在很多地方信仰是不存在的,尤其在一些人口非常密集、规模不小的国家,这是一个很大的问题。

  政治上的危机现在能够看得越来越清楚,尤其是2016年美国大选之后。人们寄希望于民主制度,多少年来经过艰苦卓绝的努力,甚至经历了流血牺牲才迎来了这样一个好的制度,称为民主时代。全世界没有人公开说民主制度不好,但是结果是什么呢?在民主制度运作良好的环境下,也可能选举出不民主的总统。特朗普上台之后对美国的政策,对美国的政治,乃至对全世界向往民主的信心带来很大的挫伤。

  所以在政治层面人们无法确信哪一种制度才是好的。比如说代议民主,明显引起了很大的问题;有人提倡协商性民主,它其实也有很大的问题;公投也是一个办法,但它只能适用于小的地区,在大的国家像中国、美国,公投是不可能的事情,任何一件重要事情都采用公投的办法是不切实际的。所以在政治制度安排上,人们开始怀疑自己的能力,对政府的信赖程度越来越低。

  就经济层面来看,到现在为止,马克思指出的资本主义的诸多弊病,都没有办法解决。资本主义的剥削,资本主义公司文化的奴役性,资本主义制度的科层性,几乎是无法消灭的。经济学家给人一种很专业的形象,但是没有一个经济学家预料到过某一次经济危机的发生,而且当一场经济危机来临的时候,也没有一个经济学家能够提出一套有效的应对办法。与此相适应的是人们对于制度设计和专家的不信任。区块链金融的兴起,在一定的意义上反映了人们对现有的银行系统和金融交易市场的失望。

  在法律方面,我们知道法律制度是西方过去一二百年里努力建立起来的一栋制度大厦。它依赖的是法律的确定性,可预见性,同案同判,以及法律面前人人平等等一系列原则和制度。但是经过上世纪初法律现实主义者和上世纪末批判法学学者这么多年的努力,人们已经很清楚地认识到法律的不确定性和内部矛盾。而且法律制度会受到各种外在条件的影响,包括各种外部势力的影响,很难做到理想的公正和客观。因此,人们对法律制度也在慢慢地失去信心。

  从家庭的角度来看,家庭是社会的基石,对维护社会秩序有显而易见的功用,但并不一定会给个人带来幸福。由于人的思想的不断解放,女性地位的普遍提高,人们对家庭开始进行客观的观察,发现现实中真正幸福的家庭并不在多数。很多人对家庭因之失去了信心。加之人们对自身的性别趋向的认识也在不断加深,不断突破,很多人选择不结婚的生活。传统的家庭形态在世界上也正面临着解体的危机。

  第二,在后人类时代,人可以任意地改变自己,包括性别、身高、长相,这便是越来越红火的人类增强(human enhancement)。在这种情况下,人已经不像中国古人所说的身体发肤受之父母,不可随意改变。现在我们可以任意改变了,改变之后的人已经是不同于以前的自然人。这种人可以任意改变自己的趋势,其实存在很大的隐患。很有可能出现一种人机合体的超级物体。而脑袋里植入了芯片的人肯定要比一般的人强,这会是很可怕的事情。

  第三,人类的理性单向度地高速发展,结果就是人工智能。笔者一直认为人的精神世界有三种组成部分:心性、智性和灵性。在西方通常被分为理性和非理性。人工智能的发展是人类理性单向度的发展。其后果将导致一种单向度的人的出现。这种人具有发达的智性,但心性和灵性则不能得到应有的发展。无论是弱式的也好,强式的也好,人工智能都离不开算法。到现在为止存在的人工智能都是弱式的,也就是输入一种算法,它就按照那个算法产生回应,你输入什么,它就会产出什么。但是可能即将出现一种比较统一的、超越的、抽象的所谓AGI,就是指一般的或者通用的、普通的人工智能。这样的人工智能可能存在于各个领域。有人预料2018年是AGI的元年,就像库兹韦尔说的,也许在10年之内、20年之内或者30年之内,我们就会进入一个高智能的时代。

  此时,我们的最后一道防线是什么?大家都认为人工智能再厉害,也只是一个智能,它不会有人的那种感情、心性等。但很不幸,现在已经有研究正在朝这个方向进行,即把人工智能和脑神经科学相结合,从事被称为人工情能(Artificial Emotional Intelligence,简称AEI)的研究。目前制造出来的机器人有些几乎能自然地笑,而且似乎已经具备简单思维的能力。单纯地输入什么而得到预设的输出并不可怕,但是当机器人能够思考的时候就值得我们忧虑了。

  虽然AEI的研究刚刚开始,还处在最原始的阶段,尚没有很重要的成果出来,但等到很重要的成果出来之后那就很恐怖了。AEI继续往下发展是一件很可怕的事情,因此埃隆·马斯克、比尔·盖茨、斯蒂芬·霍金,以及几位诺贝尔奖获得者在2016年联合发表了一个声明,呼吁对人工智能的研究要慎重进行。埃隆·马斯克曾明确撰文指出,应该加快制定管控人工智能的法律,而且要及时全面地考虑如何来调整。

  第四,人类对自身的认识也有了很大的突破。比如我们以前都觉得人只分男女,但是人的性别其实有好几种。柏拉图早就指出过,人的性别不只分男女。在上世纪80年代,同性恋合法化的思潮崭露头角,那时,人们都不敢大声地指称某个人是同性恋。后来,出现了LGBT的概念,逐渐被广泛接受了。美国的一所大学曾做过统计,该校有15%的学生属于这个群体。在LGBT出现的大概不到十年之间又增加了另外四种性别的人,被称为QQIA。这个趋势还在往前走,也就是说人对自己的认识在慢慢地变得清楚明白,有了很大的突破,而这种突破明显地对传统的婚姻家庭观念形成了挑战。

  第五是多权利主体的出现。权利学说是人类历史上差不多最重要的理论发明。它作为弱者赖以生存的保护装置,在面对强取豪夺的政府和机构的压迫和剥削时,展现出无与伦比的生命力。长期以来,权利的主体始终都是人——自然人和法人。然而,由于环境伦理学的发展,大地法理学的兴起,以及社会机器人的出现,权利的主体已经不仅仅是人。权利的主体被延伸到了人以外的动物、山川草木,乃至机器人。

  今天的人评价他人是否道德,不是看他是否做过坏事或是有什么作风问题,而是看他是否善待动物和山川草木。2013年,纽约的一位法官给两只大猩猩颁布了普通法传统中的人身保护令。这是在人权发展史上最重要的一种制度。顾名思义,人身保护令只能颁发给人,但是法官把它颁发给了两只大猩猩,以便把它们从学校的实验室里解救出来。尽管后来这两只大猩猩还是没有摆脱被判为财产的命运,这件事本身仍然具有重要意义。

  另外,在厄瓜多尔、新西兰这两个国家都出现了国家和人民之间订立的契约,公开承认某条河流有自己的权利。现在有很多人在讨论机器人的权利,听起来这是一件特别奇怪的事情。为什么要给机器人权利呢?因为有了机器人之后,有些企业主为了逃税,避免代缴保险等,就不愿意再雇人了。所以,有些人觉得不公平,便主张给机器人上税。既然机器人有交税的义务,那就必须有相应的权利。不能够让人家只有义务,没有权利。更有甚者,有些国家的人在考虑赋予机器人选举权!简而言之,这种多权利主体的出现使得人的主体性在不断下降。

  除此之外,还有最可怕的一个方面,即能使人制造人的科学技术的出现。传统上,人们相信只有上帝或上天才能创造人。但是现在,正如我们知道的克隆技术,以及一些专门做胚胎实验的科学家,都在做着创造人的美梦。加之纳米技术、脑神经科学方面进一步的发展,还有生物技术的成就,共同导致了人制造人的科学的可能。这是令人细思极恐的现状。

  而且,现实存在与拟真存在基本上已经混淆了。现在绝大部分人都有手机,人们在网上的交流可能比在现实中还要多。有人做过调查,说在2030年的时候人在网上的存在是60%。那么现在我们讲人生的意义,就不仅仅是物理存在的意义,而且要讲网上有什么意义了。网上的存在可能要比现实的物理存在复杂得多。

  以上种种,使得我们现在进入了所谓的后人类时代。这一系列的事情加在一起,你会发现这个后人类时代是一个可怕的时代。这个时代值得我们担忧的事情确实太多了,不仅仅是人工智能。

  社会理论的困境

  面对后人类时代极其可能的严重后果,应该有一些应对的策略和方法。然而在西方知识界,人工智能等危机引起的反应,并不是特别激烈。因为在西方始终有一个生命力极其强大的人文传统,足以应对各种各样的变化,尽管这个传统自身也在面临重大的考验。比如西方的音乐,虽然迪斯科、Rap等很流行,但是人们仍会欣赏古典音乐。这样一个传统是和另一个伟大传统即科技传统,共生共长、相映生辉的。

  换句话说,西方的人文传统在以往的历史上,从牛顿的三大定律到爱因斯坦的相对论,再到混沌学说,见证了无数次的科技革命,成功地应对并且化解了无数次的来自新科技新方法的挑战。更重要的是,这个传统自身是独立存在的,有自己的研究领域和探讨的问题,有一种处变不惊的特点,也不会受制于或者听命于某种权势。当然,如前所述,后人类时代呈现给西方人文传统的远不止人工智能这一项挑战。也可能是因为有太多的问题需要思考应对,人工智能带来的问题就不那么重要了。

  由此,西方主流学界对人工智能的反思并不深入。不像在中国,人工智能一夜之间就可以红遍大江南北,成为一个人人都在谈论的话题。西方在这方面主要的论争还是在技术领域里。前面提到的埃隆·马斯克、比尔·盖茨等人对人工智能的研究持悲观态度,但也有一批人是持乐观态度的,包括Facebook的创始人扎克伯格。这些人坚信人工智能没有任何问题,可以用它造福于人类,而不会成为后患。这个争论是在技术人才之间的争论,在人文社科方面还没有形成有意义的交流。然而,无论从宗教入手,从伦理入手,还是从法律入手,对人工智能的反思都会很有意义。在这里笔者想指出,从社会理论的角度入手也是一条出路。

  社会理论研究的对象是社会。对社会的研究必然首先从描述社会的基本状态、结构和问题等社会现象入手,因此描述性是社会理论研究的根本属性。大凡描述必然蕴含着解释,无解释之描述几乎是不可能的,无论一种描述有多客观,它也包含着描述者对所描之物的理解和解释,故解释应是社会理论的一大特点。当某一件事物被通过描述及解释而引起人们关注的时候,人们便会对其进行反思,这种反思必然会引起不满,不满则会引致批判,故此批判性是社会理论的另一特点。除非蓄意破坏,人对于事物的反思批判往往包含着对更加理想状态的向往和追求,因此理想性是社会理论的另一重大特色。

  纵观社会理论自19世纪诞生以来的学术发展史,大凡名垂史册的社会理论无不表现出以上四种特点或四个层次。马克思、韦伯、涂尔干、齐美尔乃至帕森斯等人的理论皆可作为例证。由于社会理论的这四个特点,社会理论的研究必然会兼顾理论和实践,描述与解释离不开经验性的研究,批判与想象永远都和理论与哲学为伍。

  总体来说,社会理论有描述性的,也有规范性的。描述性的社会理论注重实证研究,涉及对特定社会的结构、行为、制度及生活的呈现。规范性的社会理论往往着眼于未来,谋划建构美好理想的社会框架和社会制度,想象未来社会的生活图景,勾勒未来社会中人的行为特点。传统的社会理论,即马克思、韦伯、涂尔干及齐美尔等人的社会理论在19世纪末20世纪初曾经辉煌过,但是到了20世纪中期以后就开始式微了。因为那个时候的社会文化盛赞后现代主义,反对宏大叙事而倡导“玩碎片”。

  而今天,所有做社会理论研究的人都面临着一个根本的问题,人和自己创造的物的问题。现有的社会理论一般都注重人和制度、人和社会的关系,而不注重人本身以及人和物的关系。当后人类时代到来时,亟需一种新的社会理论来应对现有的危机和未来的危机。如何来面对这个新的时代,保守派也好,激进派也好,都显得束手无策。集体经济、计划经济、阶级斗争,这一系列概念范畴都逐渐失去了生命力;自由主义者所依赖的最得力的工具——自由市场和权利话语到现在为止也已陷入困境。然而,人类对于未来所抱有的乌托邦理想始终都要找个载体。在社会理论无能为力的情况下,人们就把希望寄托于科技。

  今天的社会理论必须面对科技的高速发展,研究以人工智能为代表的对人类文化和生存具有颠覆性威胁的发明创造、人与物以及人与自己创造的机器人之间的关系等一系列之前从未出现或重视过的问题,必须回应不断发生变化的错综复杂的各种社会和经济关系所提出的理论要求,尤其应该关注做好了充分准备要扮演上帝的角色、制造新型人类的各种新科学和新技术。社会理论必须从政治、经济、法律、伦理等各个角度审视人工智能、大数据、区块链、算法社会,以及后人类时代对人类和人类社会可能产生的种种影响,包括致命的和无可挽回的影响。

  尽管由于科技发展的未来并不是可以完全预料的,与之相关的社会问题也并不是一定能提前预测,但社会理论必须对此采取一种态度。如果不能提供答案,至少可以引起人们关注。然而,令人遗憾的是,传统的资源在此方面的利用价值不是很高,进入20世纪后半期以来,社会理论基本上已经“碎片化”,整体性的或者宏观式的理论已经式微。而最根本的是缺乏认识论上的支撑。这便给科技乌托邦的兴起提供了充分的机会。

  科技乌托邦是一条出路吗

  科技乌托邦(Technologic alutopianism,Technou-topianism)这种思潮内部虽然也有颇多分歧,但其基本观点是一致的,即科技就是一切,凭借技术人们可以走向最理想的社会。在这样的社会中,通过技术保障,政府、法律以及各种社会制度都将为人民提供最好的服务。由于科技的客观性和中立性,社会正义也将得以充分实现。科技可以预料未来,预防灾难,使人们避免苦难,甚至可以使人长生不老。当然,这并不意味着科技乌托邦的提倡者和支持者对科技的不良作用没有充分认识。相反,他们对科技的“副作用”有着非常清楚的认识,只不过,他们笃信科技的积极作用要远胜于其消极作用。道格拉斯·拉什科夫(Douglas Rushkoff)相信技术赋予每一个人表达自己、培育独立思考能力的机会,技术也可以消弭不平等的层级制和权力结构。

  科技乌托邦首先是一种思维方式,这种思维方式代表的是进步史观,而这种进步主要是科技的进步。进步史观在人类发展史上发挥过至关重要的作用,但也受到过尖锐的批判。在18、19世纪,人们觉得世界是进步的,今天比昨天好,明天会更好。然而,无数历史事实证明进步并不是绝对的。从几千年的人类文明历史来看,人性可能没有发生很大变化。赞成科技乌托邦的人想要找出一种科技模式来,并用这个模式统御制度设计,使人类社会更加完美,人们的生活过得更好。一旦能够通过计算的方式把这些制度设计出来,这就是最理想的社会。

  诚然,未来学家们在想象的空间里可以任意驰骋,勾勒人类未来的蓝图。但科技乌托邦已经从乐观走向了悲观。库兹韦尔写了一本书叫《奇点临近》,从广义相对论里发掘出“奇点”的概念,提出他自己的所谓“奇点理论”,宣称2045年将出现“奇点”时刻,人类文明会走到终点,生物人将不复存在,取而代之的是一个叫做“奇点人”的新物种。

  换言之,库兹韦尔预测2045年人类将与机器融合,获得永生。在《人神——未来简史》中,赫拉利把人完全划约为算法,认为每个人真正的实质性的构造是算法。如果人真的只是由算法构成的,那么人工智能超越人是毫无疑问的,因为人不会比机器算得更快。这是一种非常可怕的理论,幸运的是,相信这种理论的人并不多。对奇点的痴迷也是对人工智能的迷思。有些人认为超级人工智能的来临已经为时不远。但更多的学者专家则认为,目前还没有迹象表明近期会有超级人工智能的出现。就目前来看,人工智能可以解决的问题还是很有限的。

  库茨韦尔和赫拉利在他们的书中陶醉在对技术的膜拜之中,狂热地赞许自己的发现,而对人类的命运仅仅给予了轻描淡写的关注,好像人类的未来并不那么重要,只要他们心中的人即算法或者“奇点”的临近即刻成为现实。科技乌托邦的推动者们认为技术可以解决一切问题,实际上是对理性的过分依赖,也是非常天真的见解,因为人不仅仅是计算型的/理性的,而且还是随情感和情绪变化的、非理性的。历史证明,人类社会的发展,一如个人的成长,起关键作用的往往不是理性的设计,而是非理性的激情和偶然性。植根于逻辑推理的科技乌托邦并不是一条出路。

  乌托邦精神具有非常强的批判现实的意义。它反映了人们对现有社会秩序和制度安排的不满和对未来的焦虑。不同的时代有不同的乌托邦。从宗教乌托邦到政治乌托邦,再到经济乌托邦、科技乌托邦,其背后的逻辑其实是实用理性,其产生的动力乃是生生不息的对美好未来的希望。希望,就像一位诗人说的,像春天的草一样,即使被人割去了,还会重新长出来的。一如其他各类乌托邦,科技乌托邦也是一种美好的愿望。它可以促进社会变革,引导人类未来的前进方向。

  然而,科技乌托邦毕竟是一种愿望,它不能代替社会理论对科技问题和后人类时代诸多难题的思考。如果科技乌托邦的愿景得以实现,可想而知,一种算法和数字规定一切的社会,绝对不是一种亲和的社会。人的存在将是数字的存在,人性的平衡将会被打破。单向度的人和单向度的社会将互为支撑,除了技术统治者之外,所有其他人都是平庸之辈。诗歌、绘画、音乐也将徒具形式而没有激情和内容。“无聊”将成为该种社会的代名词。

  因此,对于处于后人类时代的人来说,重要的是重新发现立足点。这个立足点不仅仅是对人工智能的深入认识,而且是对人的再认识,对人类社会、对现存的各种制度的认识。一种可能的情况就是使人的心性、智性、灵性全面发展,从而避免单向度的人和单向度的社会的产生。应该充分认识到,如果自然人会被机器人所代替,那恰恰就是因为人的智性被发展到了极端,而淹没了人的心性和灵性。

正在读取...

於兴中 的近期作品

个人简介
康奈尔大学法学院讲席教授、杭州师范大学、西北政法大学特聘教授
每日关注 更多
於兴中 的日志归档
赞助商广告