馬斯克對 OpenAI 提起訴訟,因此公開了許多與 OpenAI 的往來信件。其主要目的應是指控 Sam Altman 虛偽。
對此,The Verge 寫了一篇報導,揭露這些信件。而與去年出版的《馬斯克傳》對照,會發現一些有趣的事。以下是簡單的年表:
主要人物
- 馬斯克
- Sam Altman
- Greg Brockman:OpenAI 共同創辦人,近期休了超長假,剛剛回歸
- Ilya Sutskever:OpenAI 共同創辦人,本來負責安全與對齊工作,近期離職
- Shivon Zilis:Neurallink 營運總監,曾加入 OpenAI 董事會。非常崇拜馬斯克。後來利用馬斯克的捐精,生了三個小孩(兩人並沒有交往)
2015 年:創立與募資
2015 年,Sam Altman 寫信給馬斯克提案:
「最近一直在想,是否可能阻止人類開發 AI。」
「如果不可避免,那有人比 Google 更早做出來會比較好。」
為什麼 Sam Altman 竟然會想「阻止人類開發 AI」?
這可能跟馬斯克對 AI 的擔憂有關。
傳記中提到,馬斯克在 2013 年的生日派對上,跟 Google 共同創辦人 Larry Page 針對 AI 大吵一架。馬斯克認為,需要安全措施來防止 AI 消滅人類。Page 則認為「即使機械的智慧超越人類,也不過是演化的下一步。」
Page 指控馬斯克是「物種主義者」,更偏好人類這個物種比其他生命形式。馬斯克說自己是這樣沒錯。
在此之後,他就一直非常擔心 Google 開發出的 AI 會毀滅人類。
Google 在 2014 年收購了 DeepMind,也就是開發出 AlphaGo 的公司。而馬斯克曾經投資 DeepMind $500 萬美元,因此他對此收購案感到很崩潰。(當初 DeepMind 的創辦人,也是跟馬斯克說人工智慧對人類是潛在風險。)
我們不得而知,Sam Altman 是否因為知道這件事,才故意這樣寫信,還是兩個人單純想法雷同。
馬斯克催促 Sam 和 Greg 快點募資到 1 億美元。他認為,少於這個金額,都會輸給口袋很深的 Google 和 Facebook。
馬斯克信件提到:「我們應該從 10 億美元開始,我會補足不足的部分。」
當時 OpenAI 還只是 YC 在非營利組織部門底下的實驗室,稱為 YC AI。可以想見,相比於 DeepMind,多數有實力的 AI 專家並不會想去工作。
因此,發生了一場搶人大戰。
2016 年:與 Google 的搶人大戰
2015 年底,Sam 寫信給馬斯克:
「DeepMind 明天會給每位 OpenAI 員工發更好條件的 offer,試圖毀掉 OpenAI。」
「看起來 DeepMind 準備開戰。」
「我想主動幫每個人的年薪酬提高 10~20 萬,你是否有異議?」
「我認為大家都被使命驅動,但這會是好的信號,表示我們願意照顧他們。」
馬斯克同意:
「我們需要搶到最頂尖人才。提高價碼。」
「若不是拿到最好的人,就是輸給 DeepMind。不管付多少錢我都 OK。」
因此 2016 年,OpenAI 的早期員工都拿到 $27.5 萬美元年薪,加上 YC 的股權(*)。
但有三個人例外:Greg、Ilya 和另一位共同創辦人 Trevor Blackwell。當年 Ilya 年薪超過 $190 萬美元,他說自己拒絕很多其他好幾倍薪水的 offer。
馬斯克還強調,DeepMind 如果獲勝會造成他「極大的心理壓力」,因為擔心 AI 會被單一個人操控,進而操控世界。
不過除了人才,基礎建設也需要錢。
Sam 本來跟微軟談好「$1000 萬美元,買 $6000 萬美元算力」,加上部署意見回饋,同時宣傳 Azure。
馬斯克說這「令人作噁」。
Sam 又去談判,回覆馬斯克:「微軟現在同意 $5000 萬美元價碼。雙方可隨時終止協議。沒有推銷宣傳,沒有附加條件,不會看起來像微軟的二流行銷。可以繼續推進了嗎?」
馬斯克回覆:
「還得要求微軟不可以公開此事。光是不當微軟的行銷 b*tch,就值好幾個 5000 萬了。」
(對,馬斯克用的是 b*tch 這個詞⋯⋯)(我的解讀是,馬斯克希望 OpenAI 不要跟任何巨頭掛勾。)
註:
- YC 股權聽上去有點奇怪。整包 package 裡包含:底薪(2015 年原訂 $17.5 萬)+YC 兼職合夥人頭銜+ YC 每批新創的 0.25% 股權。只能說 Sam Altman 很會整資源出來談判。
- 後來招募的薪酬則是:$17.5 萬現金,加上 $12.5 萬獎金(或等值 YC 或 SpaceX 的股權)。
- The Verge 補充,現在 AI 科學家普遍會拿到 100 萬美元的薪酬待遇。
2017 年:控制權爭吵
八月,Shivon Zilis 寫信給馬斯克,轉達 Greg 和 Ilya 對於 OpenAI 營利分支如何分配股權和控制權的擔憂。
馬斯克回覆:「這很煩。請告訴他們自己去開間公司,我受夠了。」
九月,Greg 和 Ilya 寫信給馬斯克和 Sam,表達馬斯克如果當 CEO,會取得對 AGI(通用人工智慧)的絕對掌控。
同時,兩人也質問 Sam Altman:
- AGI 真的是你的主要動機嗎?
- 這跟你的政治目標有什麼關係?
- 你的想法過去如何轉變的?
這裡不清楚「政治」是什麼意思,但當時 Sam Altman 確實比較積極參與政治,還想找人參選加州議員。
兩人認為,「OpenAI 的目標是避免 AGI 獨裁。我們都擔心 DeepMind 會打造出 AGI 獨裁主義,所以如果打造了一個架構,讓你只要願意就可以成為獨裁者,這顯然是個壞點子。」
馬斯克不爽:
「在你們做出堅定承諾留下以前,我不會再提供資金。否則我就只是個白痴,給你們免費的錢來創業。討論結束。」
最終 Sam Altman 回覆,說他依然對於非營利架構很有熱情,並使 Ilya 和 Greg 退讓。
這次衝突後不久,Shivon Zilis 跟馬斯克透露她和 Sam Altman 的私下談話,Sam 說:
- 他覺得這次事件中,失去了許多對 Greg 和 Ilya 兩人的信任
- 感覺他們的訊息前後不一、很幼稚
- 決定要休十天假來處理一下,想清楚自己能不能信任他們、多想和他們一起工作
值得注意的是,傳記中提到,2017 年夏天到 2018 年,也是馬斯克人生最慘的日子:
- 特斯拉陷入量產地獄,差點做不出來
- 特斯拉股價在歷史高點,並成為空頭目標
- 跟女星安柏·赫德分手(根據傳記描述,這段關係非常有毒)
- 親生父親跟繼女(等同是馬斯克的妹妹)亂倫生子
馬斯克自述,那段時間經歷了連續 18 個月的精神錯亂。很多時候,他會直接躺在會議室關燈,說要靜一靜。如果有人要跟他討論事情,就要跟他一起躺在地上。
因此可以想像,在這個情況下,還要聽誰來控制根本還沒做出來的 AGI,應該是很不耐煩。
2018 年:馬斯克試圖掌控 OpenAI 未果
在上面的信件之後五個月,馬斯克認定 OpenAI 遠遠落後於 Google,因此提議自己要完全掌控公司。
「我判斷,如果沒有在執行與資金上的劇烈轉變,OpenAI 要趕上 DeepMind / Google 的機率為零。不是 1%。我多希望這不是這樣。」
馬斯克提議將 OpenAI 併入特斯拉,由特斯拉來提供資金。OpenAI 拒絕了。
當時他已經投資了 1 億美元,因此他的離開讓 OpenAI 的非營利架構陷入危機。
2019 年:OpenAI 不再是非營利組織
因此,在 2019 年,OpenAI 轉變成很奇怪的「由非營利組織控制的有限營利公司」,並募資 10 億美元。LinkedIn 共同創辦人 Reid Hoffman 也在這時加入投資。
馬斯克此時已經退出。他向 Sam Altman 發了篇文章,其中暗示馬斯克也參與本次募資。馬斯克寫信:
「請明確聲明,我對於 OpenAI 的營利分支毫無興趣。」
Sam Altman 只回了:「明白。」
從這些公開信件中可以看出:
- 馬斯克的立場沒有變。
- Sam Altman 將「非營利組織」轉變為「私人公司」的行為也能理解,就是要為 OpenAI 取得資金。
- 共同創辦人間的矛盾,其實早在 2017 年就存在。
- 問題是,當初眾人希望避免讓一人掌控 OpenAI,如今卻變成 Sam Altman 一人掌控。
Sam Altman 早些年曾經多次公開批評川普(在他的部落格可以找到),最近則發推祝賀川普當選。不論是否只是出於禮貌,他應該會對於馬斯克與川普的密切關係感到緊張。
今年九月底,加州差一點通過 AI 安全法案(最後一刻被否決)。如果馬斯克可以深入白宮,很可能對於 OpenAI 相當不利。
好處:1. 減輕焦慮 2. 省下滑手機的零碎時間
Clarymind 可以在打開 app 時,自動跳轉到閱讀 app。我也是因此把滑社群的時間,拿去看超厚的馬斯克傳(?)