馮象│我是阿爾法:論人機倫理

【編按】ChatGPT最近引發許多的討論,特別是ChatGPT擁有強大的信息整合能力、自然語言處理能力,能夠根據要求進行聊天、撰寫論文、創作詩歌,甚至可以生成遊戲劇本、編寫程序代碼等。但也引發不少擔心,包括是否取代創作的工作,乃至校園研究報告抄襲作弊的倫理問題等等。本文作者馮像先生指出,人工智能未來會在眾多領域發揮出顛覆行業的作用,同時也會帶來前所未有的危機,失業浪潮或將席捲百業。但他也指出,危機的根本並不在於機器智能的強弱,而是充斥著私利、慾望和價值訴求,所以解決問題的核心,最終指向了社會經濟制度的全盤改造。固然,新的生產工具能夠帶來生產力的變化,進而改變生產關係。但是這並不意味著以分工為基礎的剝削制度會自然而然地消失。或許,人工智能的發展把人類推向歷史的十字路口,把自我解放的歷史任務再次擺在了勞動者面前。本文節選自馮象老師著作《我是阿爾法:論法和人工智能》,轉載自公眾號「活字文化」,本文轉載自2023年2月11日保馬公眾號

我是阿爾法,機器人說,我是人工智能(AI)。人哪,你們準備好沒有?

人看阿爾法善下圍棋,就喜歡上它了,管它叫狗狗,AlphaGo。

阿爾法的家譜不長:祖母瑪麗·雪萊(Mary Shelley, 1797-1851),父親弗蘭肯斯坦(Frankenstein,1818.1.1-),又名怪物。怪物子女蕃衍,有機械的,也有動漫的,如阿童木;但只有一個取名阿爾法,是深腦公司(DeepMind)製造。

阿爾法長得比父親好看,或者說,父子倆一點也不像。

人工智能將消滅遺忘。

待到「天網」竣工,萬物聯網(IOT),人來世即入永恩:每時每刻,每事每聲,每一個表情和動作,無不被終端記錄,上傳入「雲」,入藏機器的記憶。

除了神,誰需要——誰能忍受這樣的永存?

這是一個全新的世界:凡可聯接的,都要聯網;凡可收集的,都是數據。而人向終端貢獻數據,每一次,均為自願簽約。

來了,AI!從掃碼支付,上課刷臉,玩動漫遊戲,戴谷歌眼鏡,用手機導航和吸塵機器人開始(NYT, 2017.7.25)。

人工智能,是零隱私世界。

人工智能,又名大失業。

馮象《我是阿爾法:論法和人工智能》,中國政法大學出版社2018年10月出版

這是一場結局已定的比賽,絕大多數人將輸給極少數人。前者要因AI而抹平出身、學歷和技能的差異,一起墮於失業;後者要藉AI化數據為財產而獨占:將來可以為所欲為,頂層設計一切,甚而準備大腦植入芯片,人機融合,稱「超人」(Übermensch)。

大失業,將使已經高度集中的財富更加集中,階級鴻溝徹底「固化」。智能經濟的這一趨勢如果掩飾不好——這是西方式法治最重要的一項意識形態功能——就難免引發社會動盪。此事已有不少討論,尤其是在發達國家。比較現實的對策,叫作「全民基本收入」(UBI),即不論貧富,給居民發一份「工資」,讓他維持所謂「有尊嚴的生活」。瑞士投了票,未能通過。芬蘭在試行抽籤制度,抽到的每月數百歐元。加拿大安省、美國加州和夏威夷,有小型的社會實驗。一九七六年設立的阿拉斯加永久基金(APF),本州居民年終分紅,可稱UBI的先驅。

傳統上,機器主要取代體力勞動,像東莞製造業的「機器換人」,或建設中的上海洋山港(號稱世界第一大港)的無人裝卸。如今,依託大數據深度學習,機器人即將作廢一大半看似複雜的腦力勞動:醫生、律師、法官、會計、建築師、新聞編輯、同聲翻譯,恐怕政府官員也不能倖免。據報導,高盛在華爾街,原本六百名交易員,現在裁了只剩兩個,給機器打下手。另如IBM開發的Watson腫瘤專家機器人,考過了美國執業醫師資格,天津市第三人民醫院引入,在國內可做六種癌症的診斷(人民網,2017.1.11)。

我說「看似複雜」,是因為這些(往往是高薪的)白領崗位所需的知識技能、工作經驗,對於機器人,都可以轉化為數據跟算法——都不難讓老闆或領導做出那個「經濟理性人」的決定:機器換人。

來了,AI時代:失業浪潮席捲百業,而新增的職位寥寥可數。這不是危言聳聽。

難民湧入歐盟,媒體驚呼危機。但博學的艾柯(Umberto Eco)認為,放在歷史的長鏡頭里,這一連串西方發動的反恐戰爭、「阿拉伯之春」開啟的,不僅是難民危機;毋寧說,是人類的又一次大遷徙。

大遷徙是大失業的姊妹。

常有人指摘難民不干活,光領救濟金,視社會福利為應得(entitlement)。可是智能經濟再進一步,發達國家的中產階級也將淪為「難民」,加入吃福利的大軍。考試證書技能經驗,一如膚色國籍,無一能改變命運。

針對大眾普遍擔心的失業問題,ChatGPT在LinkedIn上分享了一篇帖子寫道:「AI 不會取代你,一個使用AI 的人將取代你。」

《紐約時報》預測,十年內90%的新聞將由算法生成,包括文稿照片視頻配音。但這也意味著,新算法能夠根據指令拼貼「素材」,製作海量的假新聞;假照片假視頻將充斥媒體和自媒體,而受眾無從辨別。

近年研發的「生成對抗網絡」(GAN),據《經濟學人》報導,便是成功的一例。GAN通過深度學習,「軟件跟現實互博」,自動生成圖像,調試匹配錄音,達到亂真的效果。報導題為《無中生有》,結尾一句倒不無諷刺:AI把造假推向新的高峰,同時也提供了打假的新方法。

機器造假,大概只能靠機器甄別。將來,耳聞眼見都未必為實,人敢相信哪家的機器呢?

「再不努力,將無工可打」,是早晨點開微信,跳出的頭條標題:兩家快遞巨頭同一天宣布,「無人機快遞時代正式到來」。一個說,無人機機場和調度中心某省在建,全球智能物流指日可待;另一個發布,水陸兩用無人機試驗成功,公司已拿到無人機送貨的經營牌照(360 金融圈,2017.7.27)。

這些智能經濟的領頭羊,他們在規劃什麼?

他,從農民開始努力,初中輟學跟人進城打工,做一名快遞小哥。他非常非常地努力,整天手機攥手裡搶單,上車,下車,發短信,把一件件郵包送到寫字樓、居民區、政府機關、學生宿舍。他滿面塵士,在汽車尾氣裡奔波。然後,被好心人告誠:再不努力,你將無工可打!

人類如果因AI而亡,一定是拜資本主義所賜。

資本主義如果因AI而滅,則機器人必已認識了真理。

人工智能,越是接近通用(AGI)而全面滲透社會生活、支配經濟活動、影響政治決策,就越沒有理由留在私人手裡,服務於資本的利益。

那麼,為何近來談論計劃經濟的可行性的,不是經濟學家或馬院拿國家重大課題的教授,而是智能產業的頭面人物?因為資本家從來不信教條,他們明白計劃經濟不等於社會主義,誠如愛因斯坦指出。

按資本的邏輯,放著物聯網大數據AI算法,誰不想計劃一下經濟?誰還會把市場交給「看不見的手」——而非干脆,放自己兜里?

人工智能,是現實走到了幻想的前頭,或科幻文學的終結。

這終結,有人歸之於新世紀科學步伐太快,作家的知識和想像力跟不上。其實怪不得作家,是大眾的讀寫能力衰退了,老依賴機器生成的圖像文宇。而機器人正在超脫人類的語言與思維,開始想像自己的未來。

那未來,從前叫科幻。

人工智能,是跳出人類知識陷阱,或智慧對人的揚棄(Aufhebung)。

人工智能,也是官僚文宣體制的大敵。

比如論文代寫,欣欣向榮一大產業,小廣告貼遍了校園。那是大學被主管部門逼著玩數目字GDP,生產核心期刊論文、省部級課題、智庫內參;而炮製這些「成果」恰是AI的拿手好戲。那些拗口難懂「逼格」高、沒人讀的專業術語公式圖表之類,它檢索下數據庫,「分分鐘」就搞定了。

市場上,機器寫作與翻譯剛起步,產品便大受歡迎,如財經體育和突發新聞的生成、法院文書的擬稿、十多種語言的即時互譯。前途不可限量。

照此進度,大學的基礎課、實驗室、語言教學和技術培訓都交給機器,應是可預期的。粉絲文藝跟官媒宣傳也不難;受眾的思想意識和趣味,早已習慣了智能終端的商品化規訓。將來,機器人作品領導時尚,消費者摹仿還來不及呢。

歷史地看,人機倫理的難點,不在機器智能的強弱,或抽象意義上的人機融合/共生(cyborg)。運作AI的市場與市場主體(個人),不是抽象的存在,而是充斥著私利、慾望和價值訴求的。問題的核心,於是指向了社會經濟制度的全盤改造。這意味著,又一次,我們將不得不回到哲學的根本,拿出勇氣,發動對網絡時代晚期資本主義的批判。而這一次,我想,化用一句霍金的名言,有可能是人類的最後一次自我批判。

人工智能如此有利可圖,在資本主義放任競爭,弱肉強食和私人壟斷的條件下,不可能阻止它的無序研發、違法使用、濫用,或變為戰爭機器。

放眼未來,有一點很清楚:憑藉AI挖掘佔有海量的網絡數據,極少數人便能攫取大部分資源,控制經濟命脈和文化宣傳。且不說對憲制(人民民主)的威脅,一次意外事故或遭受攻擊,即可引發危及全社會的災難。故為安全計,AI的尖端技術及核心平台,是不宜讓任何個人或私企拿在手裡的。就像核武器生化武器,在銷毀之前,除了由強大穩定的國家來維護,誰擔得起如此重托?

換言之,AI發展到高級階段,人類迫於形勢,為了生存繁衍,其實僅有一個選項:公有化。國家統一監督統一計劃,而不得把AI留給自由市場,被「超人」壟斷,資本配置資源。

的確,AI之危險甚於核武,如威廉斯強調。核武器雖然只有中國、印度承諾不首先使用,但擁核國為避免同歸於盡,皆取威懾的戰略,不敢貿然先發製人。AI不同,是高精尖科技也是生活必需;通過終端和數據交換,正在重塑我們的社會、經濟、文化與政治。可以預見,機器人終將瓦解市場,把那隻「看不見的手」的迷思,連同鼓譟宣傳它的教材專著一起送進歷史博物館——不僅市場崇拜的前提不復存在,即無法繼續假設其存在,「私人領域」的寡頭化也太過危險,必須取締。

這就印證了羅莎·盧森堡引述的那句革命箴言:資產階級社會站在[歷史的]十字路口,要么過渡進入社會主義,要么倒退回野蠻社會。

不久,人類將站到歷史的十字路口。

有了強大但風險極高的通用人工智能(AGI),是否還應當,還能夠忍受這樣的社會制度,它「從頭到腳,每個毛孔都流著血和骯髒的東西」?

市場向計劃演進,AI收歸公有,這不僅是技術條件成熟同競爭優勢使然,如蘇聯數學家、諾貝爾經濟學獎得主(1975)坎托羅維奇(Leonid Kantorovich)所設想,而且也是人類唯一安全的、可持續的、合乎道德的生活方式(參《紅色的富裕》)。

與之匹配,條件成熟,社會便能夠「在自己的旗幟上寫下:各盡所能,按需分配」(馬克思《哥達綱領批判》)。

共產主義始於消滅分工。AI將結束絕大多數人的分工即僱傭勞動,從而再一次,把自我解放的歷史任務擺在了勞動者面前。

Print Friendly, PDF & Email

Leave a Reply

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *