OpenAI 連串信任崩毀事件，以及為什麼蘋果最有機會，搶佔下一代 AI 消費性市場？

近期一連串與 AI 相關的重大事件，主題驚人相似：AI 導致的信任毀壞。

• OpenAI 未經同意，便複製與知名演員史嘉蕾喬韓森極其相似的聲音，並在收到律師函後下架（這點後面會再重點討論）。
• OpenAI 疑似未經授權，使用 YouTube 影片訓練 Sora。COO Brad Lightcap 在 Bloomberg 專訪上被問到這個問題時，迴避回答。
• Slack 宣布，除非主動寄信到客服信箱退出，否則將預設用私人聊天訊息訓練 AI 模型。此舉引來 37signals 共同創辦人 DHH 撰文抨擊為「對 AI 的偏執」。
• Google 在搜尋裡加入 AI Overview，卻給出了一堆荒唐的答案，例如「每天應服用一顆石頭」、「建議上膠，好讓披薩的起司更黏」或「嘎抓跑進 GG 裡面是很正常的」。

出於落後的焦慮，大型科技公司爭相製作未達成熟、也不適合自家產品的 feature，以趕上這波 AI 浪潮。

微軟也發表「Recall」：記住在個人電腦上的所有操作，並透過本機的大型語言模型做語意搜尋。使用者的一切使用紀錄，包含文字、照片、視訊會議，都會被 Recall 記住，並可在事後以 AI 輔助搜尋。對此，馬斯克認為這簡直是《黑鏡》情節；然而，特斯拉也收集道路資料，並且計畫讓每台車閒置時，成為分散式的 AI 運算單元。

這是 AI 產品目前面臨的困境：「資料」與「信任」，是 AI 消費性產品不可或缺的兩大要素，卻互相矛盾、難以兼得。

資料：從「大數據」到「個人資料」

十年前，當我們談論機器學習，如果不是數百萬筆以上，都稱不上「資料」。

資料——特別是人工標注後的資料——非常有價值。Scale AI 便是透過將資料標注外包給人均所得較低的國家，搭上這波大模型的訓練資料需求。Google 收購的 reCAPTCHA 結合身份驗證，讓數千萬人協助標註紅綠燈、路標、車身等資料。反之，只有數千使用者的新創公司，如果幻想可以「賣資料」就純屬癡人說夢。

但如今，fine tune（微調）模型或 prompt engineer（提示詞工程）可以利用少量資料，快速客製化，並大幅改善使用體驗。除了大型訓練資料，下一波資料需求，將會包含與個人高度連結的使用者資料。

這類資料，除了直接跟使用者要，沒有其他方法。因此，我們不難理解為什麼 Slack 強硬地「預設 opt in」、OpenAI 寧願踩線也要複製類似史嘉莉喬韓森的聲音。或像是微軟，將「要資料」的行為包裝成 feature。

信任：難以建立、易於毀壞

AI 的消費性產品不好做，因為它並不只是技術問題，還同時是信任問題。我曾經在〈信任是社會運作的本質〉中寫到：目前較為成功的 AI 應用，大多是不太需要信任的領域。

「可以快速取得低成本信任」的例子之一，是推薦演算法。應用於電商時，信任已由電商網站建立並累積多年；應用於社群網站時，信任則建立在發文者本身。由於可以「借用」信任，因此推薦演算法很快就滲透入我們的日常生活

「不（太）需要信任」的例子，則可以解釋目前 AI 生成內容所擅長的領域。大型語言模型的商業應用，目前常見於文案撰寫、程式設計輔助和語言學習。

AI 可以一口氣生成許多文案範例，再由寫稿人自行彙整。而 AI 生成的程式碼即使有些 bug，工程師也可以手動調整。使用者暫時不期待 AI 自行完成所有工作，只要能省去從零開始的時間精力就好，因此所需的信任相當低。

然而，當進入需要信任的領域時，AI 便顯得吃力。當時我舉出的例子是「AI 陪伴」：

AI 陪伴的問題並非技術，而是缺乏信任。恰巧與語言學習相反，由於人們清楚對面是 AI，便難以投入真正的情感；一旦投入情感，AI 又可能會因為「說錯話」而毀壞信任——畢竟即使是人類朋友，這種事也在所難免。

然而正因為 AI 不是真人，可以被任意捨棄，刪掉 app 就好。相反地對於真人，多少會有親情、友情或怕未來見面尷尬。這些「人情世故」，是維繫社會信任的基礎動力。

如果我們更深入思考「AI 陪伴」領域，不難推論出——目前的 AI 陪伴新創，幾乎沒有出路。這些 AI 陪伴產品如 character.ai、Replika，儘管曾經爆紅，卻既沒有「資料」，又難以取得「信任」。

信任崩毀：OpenAI 複製聲音，與苛刻的離職保密協議

OpenAI 似乎也有意加入 AI 陪伴的戰局。Sam Altman 在 5 月 13 日 OpenAI 發表會後不久，在 X 上發了一則只有一個字「her」的推文。《Her》（雲端情人）是 2013 年的電影，主題是關於與 AI 發展情感，其中的人工智慧 Samantha 是由史嘉蕾喬韓森配音，而 OpenAI 發表會上的女聲 Sky 聲音與其極為相似。

一週後，史嘉蕾喬韓森發表聲明，表示自己從未同意聲音被使用，OpenAI 也「不情願地下架該組聲音」。OpenAI 則回應，使用的是另一位聲音演員的聲音。

2023 年三月，Lex Fridman 的 Podcast 專訪上，被問到「你認為 AI 有愛的能力嗎？人類與 AI 有可能發展情感嗎？就像《雲端情人》那樣？」Sam Altman 的回答是：「我個人對此完全不感興趣。」

為什麼曾說過「AI 女友是 tarpit idea（偽需求）」（2023，YC 內部演講）、「ChatGPT 命名是故意的，人們才不會覺得是在跟真人說話」（2023-10，華爾街日報）的 Sam Altman，會忽然決定要以雲端情人為號召來宣傳產品？

有些人評論 OpenAI 的 GPT-4o，可以「降維打擊」上述的 AI 陪伴新創。縱使技術上如此，這類評論卻忽略了：信任很容易毀壞。類似於「直接複製他人聲音」的踩線事件，可以快速毀掉一間公司的信任。

OpenAI 近期更被 Vox 報導，強迫離職員工簽訂苛刻的保密協議，要求不可批評前公司，否則將會喪失已生效（vested）的股權。雖然 Sam Altman 發文道歉表示不知情，然而 Sam Altman 卻在該協議文件上簽了名。

離職員工 Jacob Hilton 也公開具名發文，確認此事為真。不論事情究竟是公然說謊還是內部管理混亂，這類事件，都進一步破壞了 OpenAI 的信任度——我們可以將自己的資料，交給這樣的公司嗎？

誰同時手握「資料」與「信任」？候選人之一：蘋果

資料與信任難以兼得。好的產品體驗，來自於 AI 更深入理解使用者意圖，因此需要存取個人資料。這卻與隱私互相矛盾，且需要以累積多年的信任背書，不利於新創公司。

那麼，目前誰既擁有使用者資料，又具備累積多年的信任資產？

答案呼之欲出：蘋果。

蘋果是目前科技巨頭中，顯得最不「躁進」的一個。蘋果是少數沒有拿使用者資料來訓練的（至少，沒有被新聞報導出來）。當 Google、微軟、Adobe、Salesforce 乃至獨角獸新創 OpenAI、Notion、Figma、Canva，紛紛高聲宣布自己要進軍 AI，蘋果不僅是保守，甚至被懷疑是反應遲緩。2023 年的 WWDC 上隻字不提 AI，一年過後才開始大談 AI，但除了與 Google、OpenAI 簽約的風聲外，似乎見不到太多進展。

一方面，我們可以理解為蘋果缺乏 AI 技術的累積；另一方面，這樣的謹慎，可能才是正確的產品策略。

蘋果多年來主打「隱私」，透過限縮權限與透明化規範，使廣告追蹤愈來愈困難。iPhone + Mac 生態系，則讓蘋果累積了許多使用者資料，而具備先天的優勢。相較之下，微軟只有 PC 端的資料，而 Google 只有部分行動端資料可供利用。

對於蘋果而言，他們不需要將重心放在訓練最強的大模型，而應該將重心放在如何確保隱私。其中最迫切的需求，是讓 LLM 有辦法在本機端良好運作。這似乎也是自 2022 年底 AI 浪潮以來，蘋果的產品研發重心：

• 2023 年六月：iOS 17 加入「日記」與 Journaling API
• 2024 年四月：發表開源大型語言模型 OpenELM，主打可以更有效率跑在本機端
• 2024 年五月：發表搭載 M4 晶片的 iPad Pro

M4 晶片看起來對於 iPad 是大材小用，實際上是解放了在行動裝置上跑 AI 模型的能力。而看似不起眼、主打心理健康的「日記」，則讓使用者進一步，將更私人也更掏心掏肺的資料，儲存在蘋果裝置上。

因此，若說誰能第一個做出真正有用、好用的陪伴型 AI，我會押注在蘋果身上。

聊天是一種「低效率的介面」。人類受限於無法心靈溝通（至少多數人做不到），而被迫使用語言、肢體、表情等「介面」來溝通；然而人與機器的溝通，從來都不需要透過文字或語音。機器隨時都在收集資料，其任務是讓使用者覺得「啊，它真懂我」。

AI 與人類的溝通，將會——也應該——非常不同於人類與人類的溝通。人類需要數年的時間彼此認識，AI 則可以瞬間看完一個人的所有資料。AI 可以「跳過認識的步驟」；即使有，也只是用於降低戒心、提高體驗。

人們與 iPhone 的「相處時間」，搞不好比任何一個人類都還要多。說起來恐怖，但我們的手機或許比任何人都更了解我們。

當然，蘋果也不是勝券在握。日前蘋果發表 iPad Pro 的新廣告「Crush」，內容是以油壓機「壓碎一切」：樂器、遊戲機、顏料、相機、書本⋯⋯。這支廣告引發公關災難，蘋果也公開道歉。

信任易於毀壞。蘋果如果希望搶佔並稱霸 AI 消費性市場，肯定不能再犯下如此漫不經心的錯誤了。

我近期在忙什麼？Clarymind，一款 Self Care 健康 app

根據統計資料，台灣每年使用的安眠藥超過 10 億顆，有超過 400 萬人透過健保取得安眠藥，約相當於每 5 個人，就有 1 人使用安眠藥。我自己身邊的家人朋友中，也有許多人有失眠的困擾。

如果你對於睡眠困擾這個主題有相關經驗，請協助我填寫這份問卷，將可以大大幫助我們更理解現狀，非常感謝！

Clarymind 目前還在早期階段，不過已經可以在 App Store 下載！有任何建議，歡迎直接回信告訴我。