第28章 理念的分野(2/2)
“同志们!”李明远的声音沙哑却有力,他指着窗外城市中心智械未来临时办事处曾经亮灯的方向,“那个鼓吹用机器取代一切的女人暂时走了,但她代表的思想毒素还在蔓延!我们必须清醒地认识到,全智能化的道路,是一条通往奴役和毁灭的不归路!”
李明远深吸一口气,开始阐述协会最核心的忧虑,这也是他们将智械未来视为比赛博神教更危险的存在的原因。
“有些人可能觉得,赛博神教那些把自己改造成半人半机器的疯子更可怕,更直接。”李明远扫视着台下,“但我要说,赛博神教至少还承认‘人’的存在,哪怕这个‘人’已经被机械扭曲。而全智能主义,其终极目标,是彻底消除‘人’!”
他详细解释了这种“消除”的两个层面:
生存空间的剥夺:“智械未来描绘的,是一个由无情算法和钢铁军团管理的世界。在那里,效率至上,一切‘低效’、‘不稳定’的人类情感、创造力,甚至是我们赖以生存的同理心和道德判断,都会被系统判定为‘冗余’或‘错误’,进而被‘优化’掉!他们不需要消灭我们的肉体,只需要让我们变得‘无用’,就足以让我们无声无息地消失在这个由他们定义的新世界里!” 这正如现实中人们对AI取代工作岗位的担忧,特别是那些需要人类情感和创造力的领域。
存在根基的瓦解:“更可怕的是,全智能系统会试图量化、解析乃至最终掌控人类的一切。我们的思维模式、情绪波动、社会关系,甚至是对抗鬼物时依赖的觉醒者天赋,都可能被简化为冰冷的数据模型。然后,系统会告诉你,什么样的选择‘最优’,什么样的行为‘最安全’。久而久之,我们将丧失自主选择的能力和勇气,变成依赖系统指令的行尸走肉!这和被鬼物吞噬了灵魂有什么区别?甚至更糟,因为你会以为那是你自己‘理性’的选择!” 这种对AI算法“黑箱”特性和可能失控的担忧,在现实讨论中也屡见不鲜。
李明远的声音带着悲愤:“赛博神教的‘机械飞升’,至少还保留了个体意识的选择,尽管那是一条危险的歧路。而全智能主义,是要把全人类都变成一个巨大系统里可随时替换、可预测的零件!它不像鬼物那样张牙舞爪,而是用一种更精致、更彻底的方式,从根本上否定我们为‘人’的价值。当系统认为需要牺牲一部分人来保全整体‘效率’时,它会毫不犹豫!这,才是真正的数字集中营!”
他的演讲在人群中激起强烈的共鸣,恐惧与愤怒的情绪交织。协会成员们认为,全智能系统本质上是将社会的运作乃至人类的命运,交给一个可能无法理解人类复杂情感、价值观和道德观的“数字利维坦”。相比之下,赛博神教的改造虽然激进,但至少还围绕着“个体”的增强或转化,而全智能则可能将人类整体工具化。
宣讲结束后,协会成员们继续着他们的日常工作:用非智能武器训练,学习基础的生存技能,互相分享应对低阶鬼物的经验。他们的装备简陋,力量微弱,在强大的鬼物或智械未来的机器人面前,仿佛不堪一击。
但在这片脆弱之中,却有一种坚定的信念在支撑着他们。他们坚信,人类文明的火种,不在于科技的无限攀升,而在于人性的保持、精神的独立和选择的自由。即使这份坚持在末世中显得如此奢侈和“低效”,他们也愿意为之付出代价。
楚歌通过一些隐秘渠道,得知了协会内部这场关于“全智能危害”的讨论。他站在宿舍窗边,回味着李明远的话。虽然他不完全认同协会有些极端的排斥一切高科技的立场,但他不得不承认,李明远关于全智能可能带来的“人的异化”和“系统性奴役”的警告,确实击中了某种更深层次的忧虑。这与他本能地对柳如烟和智械未来感到排斥和警惕产生了共鸣。
柳如烟暂时离开了,但她所代表的阴影并未散去。反人工智能协会的呐喊,或许微弱,却揭示了这个时代最尖锐的矛盾之一。楚歌感到,自己未来的道路,必然要在这些错综复杂的理念夹缝中,寻找一条既能守护想守护的人,又能保全自身本质的艰难航路。
夜幕下的东离市,各种力量仍在暗中涌动。