OpenAI事件藏人類存亡危機 看懂矽谷最夯有效利他主義

文/王貞懿

你覺得,AI的未來,是會走向使人類毀滅,亦或是能帶領整個世界往更好的路徑發展?

這個問題,正是這一次OpenAI宮鬥案的關鍵爭論點,這背後,更暗藏兩大主義:有效利他主義(Effective Altruism,以下簡稱EA)與有效加速主義(Effective Accelerationism,以下簡稱e/acc)的哲學思辨。


▲有效利他主義最知名的信奉者與實踐者之一,是加密貨幣交易所FTX創始人佛瑞德(右圖),然而在他被判詐欺和洗錢罪後,該主義也受到質疑。世界最大加密貨幣創投a16z創辦人安德里森(左圖)則不掩飾的稱自己是科技樂觀技術主義者與有效加速主義者。

有效利他主義》確保AI顧及人類安全 近年漸成主流,馬斯克也是追隨者

在OpenAI執行長山姆. 奧特曼(SamAltman)回歸後,EA這個名詞,不斷出現在外媒評論中,甚至成為討論焦點。

EA是什麼?簡單講,在AI發展的路線之爭上,它的信仰者相信,AI若注入正確的人類價值觀,將產生一個黃金時代,但若做不到,總有一天AI變得過於強大,從而導致人類滅亡。這群人,更重視AI的安全性而非發展速度。

在過去幾年裡,這種聲音在矽谷與AI生態圈裡逐漸成為主流。其中,也包含了拍板撤換奧特曼的OpenAI前董事會,他們擔心,奧特曼過度激進推動ChatGPT商業化的行為,忽略了AI潛在的風險,也沒考慮到組織有沒有監管未來AI的能力。對AI技術安全性與開發速度的分歧,最終點燃了這場宮鬥連續劇。

EA運動約可追溯到十年前,一群包括麥克阿斯基爾(William MacAskill)在內的牛津大學哲學家,以及被其認定的「超級鐵桿慈善家」,試圖找到一個行銷話術,來推廣他們的功利版慈善事業。

他們強調理性和數據,主張在幫助他人或追求社會福祉時,應追求行善效益的最大化,即使這通常意味著要先賺大錢,再將錢捐給最值得幫助的人。

特斯拉執行長馬斯克(Elon Musk)就曾表示,自己的理念與EA的聯合創始人麥克阿斯基爾的著作吻合。今年三月,他甚至聯合上千位業界與學界的代表,發表公開信,呼籲暫停先進AI研發訓練半年。

但同時,特斯拉自駕系統對AI的投入也沒停下,馬斯克的新創xAI更推出AI聊天機器人產品「Grok」,希望通過競品,擔任ChatGPT某種外部制衡力量。

EA的宗旨是在確保人類安全無虞的情況下,推動科技發展。《華爾街日報》指出,此次OpenAI內戰, 證明了EA的影響力,但隨著奧特曼的凱旋,也暴露了它的局限性。

與EA對立的,則是相信科技能帶來社會創新與進步的e/acc,其擁護者認為,人類應該最大程度的利用和擁抱科技。

在他們的世界裡,資本與技術的結合再自然不過,因此,奧特曼向市場派靠攏也無可厚非。因為訓練AI本質上就是場昂貴軍備競賽,沒有錢,ChatGPT的競爭力也無以為繼。
有效加速主義》AI即軍備得靠攏市場
支持者主張,開源才能避免技術集中


該思想被認為源自英國保守派哲學家尼克蘭德(Nick Land),他又被稱為加速主義之父,提出右派加速主義。

去年中以來,有效加速主義者開始在X與付費訂閱內容平台Substack上倡議此概念,他們聲稱技術資本(Technocapital),一種結合技術與市場的力量正在加速發展,例如媲美人腦,不須經人類提示即可完成複雜任務的通用人工智慧(AGI)。

而要叫奧特曼一聲前輩、第四任矽谷知名加速器Y Combinator總裁兼執行長陳嘉興(Garry Tan)正是該主義的支持者。他認為,科技應該加速並開源,才得以減少技術集中在少數人手中的危險,並批評EA是一種無足輕重的「美德信號哲學」,呼籲將關注重點轉向真正的問題,即創造人類的富足。

《財星》指出,OpenAI事件凸顯了加速論者與末日論者間的緊張關係。

目前,不論是EA或e/acc的支持者,大家都認為自己的行動對全人類生活有益,只不過是手段、方法不同。

AI的發展會不會失控?面對不可控的科技與趨勢,真正的商道是什麼?或許我們能借鑑歷史與生活。為什麼汽車時速已達兩百公里,人們還願遵守四十公里的速限?因為我們知道,若對現有規範不滿意,應該先推動修法,而不是恣意妄為。

在人類世界裡,許多決定的關鍵不是「能不能」,而是經過人們充分討論,對利弊得失充分理解後的共識與選擇。 閱讀完整內容
商業周刊 2023/12月 第1881期

本文摘錄自‎

OpenAI事件藏人類存亡危機 看懂矽谷最夯有效利他主義

商業周刊

2023/12月 第1881期