人工智能时代的远虑与近忧

人工智能与机器人真的能威胁人类？根据人工智能的发展趋势看，目前有两大发展模式，一是朝向与人智平行的「普通人工智能」（Artificial General Intelligent，AGI），又称弱人工智能的方向发展（Weak AI，意味人能做的事它都能），二是开发超越人脑具知觉、自我意识、情绪等感觉系统的思考机器人（Artificial Super Intelligent，ASI），或称强人工智能（Strong AI，它能做的事，人不一定也办到）。

人造机器人会发展会比人聪明吗？聪明之后又怎样？目前科学界有两种看法，一种认为AI发挥的极限只能达到AGI的阶段（即人与机器人的智能顶多相等），后者无法超越前者，更不可能拥有自我和思考能力。另一派则充满自信，认为AI发展将有大突破（大约在2045年左右），出现智能专家文奇（Vernor Vinge）等所谓的技术奇点（Technological Singularity）最终可达致超级机器人的目标。美国第一代电脑专家麦卡锡（John McCarthy）在1955年首先提出使用机器模拟人类拥有智性的行为，因此机器人是靠应用人脑的智力（主要得力于数学、电子与电脑科学）设计出来的，是一种人为的智慧设计（intelligent design）。有如人脑亦是上天的智慧设计，前者设计后按自然进化而改进，后者人为设计后，因是非有机生物靠技术不断创新而推前（这也是为何寻找技术奇点至关重要），这些人造物自我转化变型的能量是难以估计的。

找寻技术奇点突破

人非神而制造机器「人」，有其本体论上的先天缺陷。目前论者对人工智能的负面影响围绕著如何确保具备思考能力的人工智能产品，不会为了自身考量而自我保护以致与人类对立。尤以甚者，甚至对人类的存在与命运无动于衷，一如今天聪明的人类对低等动物的蚂蚁的存在漠不关心。AI 研发的成长是几何级数般快速，覆盖之广与挑战前所未有。目前AI 的运用层面除广为人知的功能多样化机器人制造，还包括改善人类生理缺陷的义肢与器官替换、人脑与电脑（包括机器人脑）的沟通系统（ brain computer interface）、3D 印刷等。有学者估计，目前全球机器人人口约一千万，正逐年增加中。应用领域涵盖农业、工业、医疗、运输、军事等各方面。这些众多挑战中，AI 取代人类的职业层面最受瞩目。

诚如电脑科学家瓦迪（Moshe Vardi） 在2016年科学促进会所说：「……如果机器能做人类的任何工作，那么人类要做些什么？在人类职??遭淘汰前，我们必须挺身迎战……」。有调查报告预测，未来二十年内美国（也包括其他国家）的47%白领蓝领工作岗位面临自动化威胁，到了2020年，人类将失去五百万个就业机会。问题是，经济学无法预测摧毁多少岗位就能创造多少新岗位的理论，这就成为一般民众今后日常生活的担忧。此外，军事上利用人工智能制造比原子弹更恐怖的杀人武器，已是公开的秘密，更令人忧心。

依个人浅见，智能机器人中按深度学习（deep learning）理论设计出来的超能机器人，不但是今后电脑、手机和人类各类型工作的替代者，很有可能亦是在智力上挑战人类、甚至打败人类的新新族群。现阶段是人工智能服务人类，更聪明有自觉的人工机器人降临后，会否让人类降服于本身的制成品呢？很难精准地说，但不无可能。

我认为，虽言人脑具有数十亿的神经元、上万亿的连接（synapses），机器人深度学习使用数千人工神经元，数百万的连接，要达到人脑般复杂的水平，目前尚为时过早，但不表示拥有自我思考能力的人造机器人往后难以出现。再者，机器人是否能有「意识」，也要看视意识为何物。理性主义大师笛卡儿（Ren□ Descartes）视意识为理性，而理性者，思考能力也，生存与知识的来源也，故有「我思故我在」之??。这项观点，与现代脑神经科学视大脑皮层（cerebral cortex）和后脑干的网状物（reticular formation）为意识之源与功能所在极吻合。反对笛卡尔式以思考（cogito）构成自我这种过份理性的看法者大有人在，像哲学家马塞尔（Gabriel Marcel）、麦慕理（John MacMurray）和马丁?布伯（Martin Buber）等，后者的「我─它」（I-It）人际关系学说，对了解现代人与机器人的相互交流具参考性。此外，纯理性之外还有体验与超经验??示的说法，这些是否亦是「意识」，观点也有不同。总之，意识起源之说，众说纷纭，尚无定论。

史上第一轮的造人活动是神造人，是上帝把智能放在由灵肉组成的人类（这是有神论者的看法），结果都那么多问题（人性败坏罪恶等）。如今史上第二轮造人是人类把智能放在物质体的机器而造出了机器「人」，如此做法为何会没问题？人有缺陷我们谓之没人性，十七世纪兴起的理性主义引发了科学??头、人本精神盛行之后至今，人就丢失了神性，依此推论，丢失了神性人造出来的机器人难道会有神性？当今机器人（robot）与原始智人（homo sapiens）之别，在于后者理性与感性兼俱，如果说当今前者的理性（IQ）已超过或将越过智人的人类（人间棋王李世石败北电脑王Alpha Go一例也），也不为过。机器人因尚欠缺感性或情绪（emotion），所以面对不公不义不会发脾气或投诉。

人机关系走向异化

问题是，今天普遍认为缺乏自我意识（consciousness）或心理上所谓「自我」的机器人，随著电脑运算或机器学习过程的不断自行纠正和调整（如2016年以四胜一负击败韩国棋王的机器人Alpha Go，就是靠自我对弈数十亿盘棋后取胜，会写诗作曲的机器人，也是如此这般随机「自学」而成）。因此，电脑意识的浮现，机器人有自己的思想或情绪后，到时与人类对立的可能性就会增强（一如当初神造人，人有自由意识后反叛神），反过来对付人类也不足为奇，这都是二三十年来科幻电影中机器人和人类对峙的最佳题材。

十九世纪工业革命的后果是人与机械为伍，廿一世纪资讯革命的后果是人类与他们的造出来非自然人或物（如手机）为伍。这些神造的智人（或无神论者所谓自然演化的人）与人造的「人」共处，会否加深现代社会人际关系的疏远，又能否长久和平共存，是历史长河的新景观。以色列历史学家尤哈拉瑞（Yuval Noah Harari，《人类大命运：从智人到神人》Homo Deus：The Brief History of Tomorrow作者）指出，以往的时代是以人为中心（Homo-centric），今天却由数据取代（Data-centric），以往隐身云端的是神，如今是数据。今后人造物品像手机、电脑等电子产品，比你对自己的了解更完整。通过收集和分析庞大数据，对人（如健康状况、个人兴趣）对事（如选举战情）的预测将更准确全面。人工智能下的产物，势必成为生活的一部份，资讯科技数位化的前景无可限量。

假如我们把过去经历的三大阶段（即以蒸汽发电生产、发现与使用电流、电子资讯化）视为人类工业革命文明发展的第一波，资讯革命为第二波，那么从上世纪五十年代延续至今的机器学习（machine learning）或人工智能开发，便是机器人革命（robotic revolution）的第三波了。有学者认为，当机器智能达到人智水平（human level machine intelligent）的普通机器人阶段出现后，意味人类开始进入数位化的机器人文明时代。美国麻省理工学院物理学教授泰格马克（Max Tegmark）认为，到了本世纪人类的进化将进入所谓的「3.0技术期」（technological stage），意指届时的生物（命）将硬体与软体兼备，能通过学习或运算使硬体不断自我再设计、更新，无需依赖缓慢的自然进化，更快速达到超人的水平（第二期2.0的文明期cultural stage的文明人虽有能力设计或改善软体，却无法变更硬体，因此质变比3.0期有限。）

其实，人工智能之父马文?明斯基（Marvin Minsky）上世纪已信心满满地预见超能机器人时代的来临，并预言机器人将继承人类成为我们的后裔。事实上在应用AI开发机器人的同时，人类本身也进行一场别开生面的自我改造工程，即通过生物技术、纳米技术、遗传工程等现代科技增强人的本性（human enhancement），朝近期某些学者所言人类进化3.0的「超人」（trans-human）方向演进。所谓「超人」系指用科技改造而成的新新人类，此举一方面使今后的人种更聪明优秀，也更普及使用人造器官（如义肢义眼等）来取代损坏的原器官，最终目标是改变人的有限生物本质，以阻止老化延长寿命。人造机器人与人自身改造的「超人」的出现，势必引发人造智能（Synthetic AI）与原生智能（Neuromorphic AI）孰优孰劣或谁更像人的争论。

这项新发展，除了涉及人类未来生存与竞争的新挑战，也首次让人类重新审视传统上有关人的定义。按西方基督教的??法，人是按上帝的形象而造，这个形象是否需赋予人造「人」之后新的涵义，在原人（homo）与非原人（robot））与「超人」之间，到底如何区分人性的真本或是否还有人本（性）这回事？换言之，从哲学角度来看，神造之人（creature）与人造之人（automatons）是先有预定的（如人类的DNA）本质（essence），还是存在决定本质，一如存在主义者所言，人存在之后才自我定义及生命有终极意义吗？这一切疑问，使我们再思考人和人性为何物，以及这一轮文明演进过程的新变数、新因果关联。

转载 / 当代评论