OpenAI的“App Store時(shí)刻”，被高估了嗎？

本文來(lái)自微信公眾號：海外獨角獸 （ID：unicornobserver），作者：Cage、程天一，編輯：penny，原文標題：《ChatGPT Plugin：被高估的“App Store時(shí)刻”，軟件和SaaS生態(tài)的重組開(kāi)端》，頭圖來(lái)自：視覺(jué)中國

(相關(guān)資料圖)

“OpenAI 的 App Store 時(shí)刻”，這是 3 個(gè)月前 ChatGPT plugin 剛剛推出時(shí)市場(chǎng)的反應。過(guò)去 3 個(gè)月里，OpenAI 采取了一種相當保守的方式為這個(gè)生態(tài)放量，通過(guò)審核的 plugin 數量只有不到 300 個(gè)，至今使用 plugin 的用戶(hù)量級也只有數十萬(wàn)量級。

一方面這是 OpenAI 有意為之的結果。用 OpenAI 總裁 Greg Brockman 的話(huà)來(lái)說(shuō)，ChatGPT plugins 開(kāi)放成本非常低 —— 基本上就是 API 的文檔，只不過(guò)是用來(lái)給語(yǔ)言模型讀。另一方面這也暴露出 OpenAI 并不是全能的，它對于如何培育一個(gè)安全、蓬勃發(fā)展又能快速上量的開(kāi)放平臺和應用生態(tài)并沒(méi)有過(guò)多的經(jīng)驗。Sam Altman 甚至承認 ChatGPT plugin 還沒(méi)有迎來(lái) Product-Market-Fit。

盡管沒(méi)有想象中摧枯拉朽，plugin 仍然是 ChatGPT 這個(gè)產(chǎn)品的一個(gè)里程碑，讓 OpenAI 邁出了“開(kāi)放”的又一步。我們在本文探討了圍繞 plugin 的炒作褪去后一些真正長(cháng)期重要的問(wèn)題：

究竟是哪些公司和開(kāi)發(fā)者在積極接入 plugin?

plugin 如何同時(shí)確保安全、性能和整個(gè)系統的穩定性?

觀(guān)察一個(gè)開(kāi)放平臺之上的應用生態(tài)的思考框架是什么?

plugin 帶來(lái)的新機會(huì )有哪些？

在這些問(wèn)題之外，短期最值得期待的是在 plugin 標準互通的情況下，微軟能把這個(gè)生態(tài)玩出來(lái)什么花樣：

OpenAI 缺審核，缺產(chǎn)品經(jīng)理，缺運營(yíng)這個(gè)生態(tài)的專(zhuān)家，缺更好的、比聊天界面搭配小組件更廣泛的 UI。這些微軟都有 —— 大量可以投入的人員，廣泛可供 plugin 嵌入并發(fā)揮作用的一系列產(chǎn)品（消費者端的 Bing Chat 和 Windows 11 Copilot，企業(yè)端的 Microsoft 365 Copilot 和 Dynamis 365 Copilot 等）。

一、背景

OpenAI 在 23 年 3 月 23 日發(fā)布了 ChatGPT plugin。盡管官方強調這一舉動(dòng)是為了更好研究 ChatGPT 在現實(shí)世界中的使用情況從而解決安全問(wèn)題，外界對它在 OpenAI 生態(tài)打造、商業(yè)層面的潛力寄予了厚望，中英文社區一度認為這是 OpenAI 的“App Store 時(shí)刻”，并且直接“干掉了 LangChain 和 Fixie”。

4 月的開(kāi)發(fā)者群體和 ChatGPT 用戶(hù)仍然延續著(zhù)對這個(gè)生態(tài)的向往，除了官方合作伙伴外，大量的第三方 plugin 開(kāi)始基于 OpenAI 定義的這套框架和標準被開(kāi)發(fā)，用戶(hù)則瘋狂涌向 waitlist 并且在 Twitter 上成為 Code Interpreter 等明星 plugin 的自來(lái)水。

最密集的變化發(fā)生在 5 月，OpenAI 終于開(kāi)始更大范圍放量，并且在 5 月下旬宣布向 Plus 訂閱用戶(hù)全量開(kāi)放，提供 70 多個(gè)第三方 plugins。不過(guò)這種全量開(kāi)放的策略仍然十分克制，Plus 用戶(hù)必須打開(kāi) Beta features 的開(kāi)關(guān)，iOS app 也默認不顯示 Plugin，用戶(hù)得在舊會(huì )話(huà)中找到自己使用過(guò)的 Plugin。

在移動(dòng)端使用 Plugin  Source: Pietre Schiano

與此并行的是微軟在 Build 大會(huì )上宣布采用 OpenAI 的 plugin 標準，將允許開(kāi)發(fā)者構建跨 OpenAI（ChatGPT）和微軟（Bing Chat、各產(chǎn)品線(xiàn) Copilot）生態(tài)的 plugin，通過(guò) ChatGPT plugin、Teams message extensions 和 Power Platform connectors 布局了個(gè)很全面的插件框架。鑒于 OpenAI 的研究屬性，微軟反而更有可能把 plugin 生態(tài)發(fā)揚光大。

在大規模放量之后，ChatGPT 在雙邊面臨的現實(shí)是plugin 仍然是一個(gè)相當早期的生態(tài)：

鑒于整個(gè) plugin 的用戶(hù)數量還只有幾十萬(wàn)量級，Plugin 的官方合作伙伴們可能短時(shí)間內無(wú)法獲得特別大的新增流量；ChatGPT 目前的 UI 本身也有很多限制；Airbnb 則覺(jué)得這種聊天框配合底部小組件的 UI 并不真的適合旅行產(chǎn)品，在其 plugin 上線(xiàn)前終止了這一項目；

個(gè)人開(kāi)發(fā)者們如果有現成的 api 可用，可以在幾十分鐘內按照 OpenAI 的標準提交 api doc 等文件，但是滿(mǎn)足 UI 和數據隱私規范并通過(guò)審核往往要等待一段時(shí)間并且充滿(mǎn)不確定性；

用戶(hù)們則發(fā)現大多數 plugin 都比 Demo 顯示的要更加粗糙，很難在 ChatGPT 內部擁有統一的產(chǎn)品體驗；多數的討論集中在 Code Interpreter 和 Web Browsing，并且 Web Browsing 的探索過(guò)程也經(jīng)常令人抓狂。

ChatGPT 的頻繁“試錯” Source: Reddit

我們覺(jué)得是時(shí)候將 OpenAI 當做一個(gè)地球物種 —— 它擁有世界頂級的 AI 研究員們，但是他們很難神奇地、天然地解決產(chǎn)品、雙邊生態(tài)構建的節奏等必然存在的挑戰 ——更加貼近現實(shí)地想象 plugin 的現狀、生態(tài)潛力和演進(jìn)可能性，這也是本文探討的重點(diǎn)問(wèn)題。

二、Plugin 的現有合作和未來(lái)影響

ChatGPT plugin 生態(tài)一度激發(fā)了大家對 ChatGPT 這個(gè)歷史上用戶(hù)增長(cháng)曲線(xiàn)最陡峭產(chǎn)品的想象力。2 個(gè)月以來(lái)，plugin 也有不少功能的更新、新插件的引入和使用規模的放開(kāi)。在這里總結下當下 plugin 擁有的一些能力，看看最近的更新是否符合預期。

截至 2023 年 5 月底，ChatGPT 插件商店中提供了 85 個(gè)插件，其按照能力大致可以分為 6 類(lèi)：

1. 外部交互：這類(lèi)插件提供了與外部的網(wǎng)頁(yè)和產(chǎn)品進(jìn)行交互的能力。

其中 Browsing 是 OpenAI 官方推出的插件，思路與其在 21 年底的論文 WebGPT 一脈相承：使用語(yǔ)言模型去探索和理解外部網(wǎng)絡(luò )上的內容。在多個(gè)用戶(hù)訪(fǎng)談中提到，如果有明確目標的情況下，其瀏覽和總結能力比 New Bing 來(lái)得更好，但弊端是穩定性相對差些。

而外部工具中最好用的是 Zapier，Zapier 作為聚合器中的領(lǐng)先者，本身的能力是和外部 5000 余個(gè)應用的 api 去做交互，有了很完備的 api 交互邏輯。而由于 input context 的限制（容納不下數十上百個(gè) api 的 prompt 說(shuō)明文檔）和 OpenAI 在產(chǎn)品工程側重心的差異，短期之內 Plugin 生態(tài)的聚合能力是比較薄弱的一項。因此 Zapier 在中短期是受益于 ChatGPT 這個(gè)大腦的文本理解能力的。

2. 編程開(kāi)發(fā)：提供開(kāi)發(fā)環(huán)境，或編程開(kāi)發(fā)的生產(chǎn)力工具。

受到最多關(guān)注的是 OpenAI 官方開(kāi)發(fā)的 Code Interpreter。它提供了一個(gè)開(kāi)發(fā)的沙盒環(huán)境，在環(huán)境中可以對用戶(hù)想要執行的代碼和分析的數據進(jìn)行各類(lèi)實(shí)驗。OpenAI 在 Python 安全方面做了很多工作，來(lái)確保在這個(gè)環(huán)境中執行的代碼實(shí)驗會(huì )被安全地隔離在環(huán)境中，不直接地對外部網(wǎng)絡(luò )環(huán)境造成改變和影響。由于這一特性，大家對 Code Interpreter 的使用就集中在 Python 另一個(gè)不需要部署上線(xiàn)的特長(cháng)上——數據分析。Code Interpreter 能對數據做總結和加工，并根據指令產(chǎn)出言之有物的數據可視化，這一點(diǎn)隱隱有著(zhù)超越傳統 BI 的希望，只是在可控性上還需繼續加強。

3. 個(gè)性化交互：為 ChatGPT 帶來(lái)記憶和個(gè)性化的能力。

之前在 Pinecone 的研究中提到過(guò)，Retrieval 插件被 Greg 認為是所有插件中最獨特的，因為它補足了 ChatGPT 原本沒(méi)有的從個(gè)性化記憶和專(zhuān)有數據中做 Retrieval Augmentation 的能力。插件的結構很簡(jiǎn)單，從各類(lèi) vector DB 的 api 中取出與 prompt 語(yǔ)義接近的內容交給 ChatGPT 進(jìn)行理解和學(xué)習。此外，DAN 也是這類(lèi)中一個(gè)比較有趣的插件，其提供了為 ChatGPT 改變個(gè)性的能力。

4. 生活助手：衣食住行的信息整合。

這一品類(lèi)是大公司涌入最多的，如 Expedia、Kayak 是旅行機酒預訂，OpenTable 是預約餐廳，Instacart 是購買(mǎi)生鮮的領(lǐng)先平臺。這類(lèi)產(chǎn)品希望通過(guò) ChatGPT 對自然語(yǔ)言的理解能力，抓住這個(gè)新平臺作為增量流量入口。一方面，ChatGPT 將這一功能全量的進(jìn)度相對比較克制和保守，并沒(méi)有發(fā)揮比較明顯的引流作用；但另一方面，Chat 這一交互形式篩選下來(lái)的用戶(hù)質(zhì)量是比傳統獲客渠道來(lái)得更高的。

5. 垂直領(lǐng)域：獲得專(zhuān)有數據的窗口。

有許多垂直領(lǐng)域高質(zhì)量的數據并不是 ChatGPT 核心的技能點(diǎn)，因此垂直領(lǐng)域的插件能為其帶來(lái)更專(zhuān)業(yè)、專(zhuān)有的內容。例如 Vogue 有時(shí)尚領(lǐng)域的數據，Crypto Prices 有 web3 領(lǐng)域的公開(kāi)數據，UN 有聯(lián)合國每年政策變化的相關(guān)文本。這些都是在垂直領(lǐng)域做理解和生成時(shí)重要的信息。

6. 辦公效率：生產(chǎn)力工具。

這類(lèi)插件大多是辦公效率小工具的集合，例如 PDF 閱讀總結、待辦事項記錄、發(fā)郵件、文字轉語(yǔ)音是目前主要的插件能力。

以上介紹了當前 Plugin 的具體能力，會(huì )發(fā)現其在很多領(lǐng)域對不同垂直領(lǐng)域有所影響，有些可能會(huì )對大公司的現有產(chǎn)品形態(tài)造成一定沖擊，有些則是獨立開(kāi)發(fā)者積累早期高質(zhì)量用戶(hù)的好機會(huì )。接下來(lái)就分別對這些領(lǐng)域的影響進(jìn)行梳理。

1. 搜索

案例：Google， Bing， Perplexity

? 使用頻次：★★★★★

? 短期影響：★★★★(short)

? 長(cháng)期影響：★★★(short)

ChatGPT 集成了 browsing 功能在短期之內會(huì )對搜索引擎的能力有一定的沖擊。因為 LLM 很大程度上就是將互聯(lián)網(wǎng)上的公開(kāi)信息學(xué)習了一遍，結合了 browsing 能力后，本身又繼承了一定的內容整合和推理能力，因此使用 ChatGPT 的用戶(hù)在短期會(huì )顯著(zhù)減少使用搜索的頻率。

但谷歌的反應也是比較迅速的，已經(jīng)在內部開(kāi)放了集成 LLM 的搜索引擎。以谷歌的 infra 實(shí)力和對搜索引擎的深入理解，完全有可能在 Google 搜索引擎中做出比 New Bing 和 ChatGPT 更好的 AI 搜索引擎。但無(wú)論是哪個(gè)公司獲勝，大家對搜索的認知在長(cháng)期一定會(huì )被 LLM 部分顛覆，傳統的索引排序式的 query 心智會(huì )漸漸被生成式的 prompt 心智侵蝕。

2. 聚合器

案例：Zapier

? 使用頻次：★★★

? 短期影響：★★★★ (long)

? 長(cháng)期影響：★★★★(short)

LLM 時(shí)代的跨應用調度和交互需求會(huì )顯著(zhù)增長(cháng)，因此盡管目前聚合器的使用頻率相對低頻，我們還是給到了中等頻次的評價(jià)。

當前 ChatGPT 有了很強的工具使用能力，但缺少在 api 聚合方面的 know-how，因此 Plugin 的出現在中短期之內利好 Zapier 這類(lèi)聚合器產(chǎn)品。Zapier 在此領(lǐng)域積累很深，現在如果大家想在 ChatGPT 上做一些復雜操作的時(shí)候：比如將文本總結之后發(fā)社交媒體，或是記錄在 Google Workspace 中，大家都會(huì )選擇用 ChatGPT + Zapier 的方式來(lái)實(shí)現。在很多 use case 中，ChatGPT 只需要接入聚合器，就能做到非常好的用戶(hù)體驗，它也不需要接入大量 api，相當于類(lèi)似 SEO 的部分由聚合器完全提供了。

但長(cháng)期上，這類(lèi)產(chǎn)品面臨以下沖擊：一方面， api 的組織形式可能會(huì )發(fā)生變化，LLM 時(shí)代可能跨產(chǎn)品交互的頻次和。OpenAI 最近發(fā)布了函數調用能力，使 api 的可用性顯著(zhù)提升，這些變化可能會(huì )弱化 Zapier 的護城河。另一方面，聚合器可能會(huì )成為操作系統機會(huì )中的一部分，微軟、谷歌和蘋(píng)果都可能基于自己的系統去建立相應的能力，競爭激烈。

3. 線(xiàn)上預訂平臺

案例：Expedia， Kayak

? 使用頻次：★★

? 短期影響：★★(long)

? 長(cháng)期影響：★★★★★ (short)

這類(lèi)平臺主要提供的能力是對平臺上信息的組織和履約能力。組織指的是更了解用戶(hù)，幫助其高效地預約到合適的機酒；履約指的是保障交易的安全性和流暢性，避免違約的風(fēng)險。

隨著(zhù) ChatGPT Plugin 的推出，短期之內這類(lèi)平臺可能會(huì )增加一個(gè)高質(zhì)量獲客的渠道，但是長(cháng)期是很可能受到比較大沖擊的。因為 Chat 帶來(lái)的語(yǔ)義理解能力提高，提供了一個(gè)更好的信息組織方式，用戶(hù)能高效地給出需求，找到合適的航班信息，平臺留下的主要壁壘是其交易的履約價(jià)值，這部分的價(jià)值比原來(lái)薄了很多。

4. O2O / 電商平臺

案例：Instacart

? 使用頻次：★★★

? 短期影響：★★★(long)

? 長(cháng)期影響：★★★(long)

O2O / 電商類(lèi)型的平臺與線(xiàn)上預訂平臺相比，多了線(xiàn)下的供應鏈組織能力。這一部分能力是不會(huì )受到 LLM 領(lǐng)域沖擊的，其中的 AI 算法也基本是優(yōu)化方向的傳統 ML 算法，并不是 LLM 擅長(cháng)處理和調度的任務(wù)類(lèi)型。因此，這類(lèi)平臺受到的影響相對較小，更多是多了一個(gè)高質(zhì)量的獲客渠道。

5. 獨立開(kāi)發(fā)者 & 創(chuàng )業(yè)者

案例：Giftwrap

? 短期影響：★★★★(long)

? 長(cháng)期影響：★★★(long)

對于創(chuàng )業(yè)者來(lái)說(shuō)，找到 PMF 和早期高質(zhì)量用戶(hù)是一個(gè)有難度的事情，而加入 ChatGPT Plugin 是一條比較快速的捷徑。Chat 形式帶來(lái)的用戶(hù)，比傳統投放渠道獲得的用戶(hù)質(zhì)量會(huì )高不少，因為都是經(jīng)過(guò)門(mén)檻比較高的交互后留存的，轉化率會(huì )更高一些。而且接入的產(chǎn)品可以拿到用戶(hù)完整的對話(huà) prompt，這對理解消費者的用戶(hù)畫(huà)像也是相當關(guān)鍵的。

三、Plugin 的開(kāi)發(fā)方式和能力邊界

Plugin 開(kāi)發(fā)門(mén)檻并不高

OpenAI 提供了一套 plugin 接入范式，供企業(yè)和個(gè)人開(kāi)發(fā)者根據指南進(jìn)行接入。低門(mén)檻的接入方式是經(jīng)過(guò) OpenAI 官方設計的。用 Greg 的話(huà)說(shuō)，就是為一個(gè)語(yǔ)言模型寫(xiě) api 的文檔：

接入的開(kāi)發(fā)門(mén)檻很低，只需要寫(xiě)兩個(gè)核心組件：

1. api 接口，其中包含多個(gè)函數，負責定義不同場(chǎng)景下數據的輸入和輸出。以后文將展開(kāi)的 Speak 產(chǎn)品為例，需要執行翻譯任務(wù)時(shí)將調用 Translate 接口，需要解釋具體表達時(shí)使用 Explain Pharse 接口。而具體接口的邏輯選擇就要用到第二個(gè)組件了；

2. Manifest 說(shuō)明文件，通過(guò)自然語(yǔ)言 prompt 教會(huì )產(chǎn)品調用 api。這個(gè)文件的核心是一段自然語(yǔ)言介紹，幫助機器理解這個(gè)插件本身的能力。當用戶(hù)開(kāi)啟某些插件時(shí)，ChatGPT 會(huì )理解 prompt 中需要的能力是否與插件 manifest 文件中的描述匹配，進(jìn)而判斷何時(shí)調用 api ，以及使用哪個(gè)接口能最準確地實(shí)現目標。

例如 Speak 這款多語(yǔ)言翻譯和學(xué)習的產(chǎn)品插件中，其 Manifest 插件的文本內容被破解出來(lái)，大致內容如下：

? 當用戶(hù)問(wèn)到一個(gè)其他語(yǔ)言中的內容時(shí)，call Speak 插件來(lái)響應用戶(hù)的語(yǔ)言學(xué)習意圖；

? 當用戶(hù)提供了一個(gè)明確的短語(yǔ)或句子需要翻譯時(shí)，調用 Translate 接口；

? 當用戶(hù)給了一個(gè)比較模糊的任務(wù)，比如“如何用西班牙語(yǔ)稱(chēng)贊別人的穿著(zhù)”時(shí)，調用 explainTask 接口；

? 當用戶(hù)給一個(gè)表達需要詳細的解釋?zhuān)热纭皃utain 在法語(yǔ)中代表什么”時(shí)，調用 explainPhrase 接口。

這個(gè)文檔的寫(xiě)作風(fēng)格目前比較接近開(kāi)發(fā)過(guò)程中的文檔和注釋。但未來(lái)當更多 api 接入之后，肯定會(huì )有文檔風(fēng)格的差異，因為未來(lái)產(chǎn)品需要在其他同品類(lèi)產(chǎn)品中脫穎而出，產(chǎn)品文檔會(huì )以接近 SEO 的思路體現出自己產(chǎn)品的差異化優(yōu)勢，做文檔和 api 的優(yōu)化。

Plugin 提供一套安全評估能力

隨著(zhù) Plugin 的開(kāi)發(fā)和使用量增大，plugin 的安全問(wèn)題會(huì )逐漸成為一個(gè)重要的因素。一方面，plugin 提供方是否有過(guò)度使用用戶(hù)的數據；另一方面，plugin 是否會(huì )為了流量提高自己活躍的優(yōu)先級。

在 2017 年，Adobe 曾經(jīng)因為在用戶(hù)的 Chrome extension 插件中加入了靜默安裝和訪(fǎng)問(wèn)網(wǎng)站權限陷入了爭論。插件中包含了這樣的能力：能把用戶(hù)打開(kāi)的每一個(gè)網(wǎng)頁(yè)轉成 PDF，因此要求用戶(hù)給插件開(kāi)放讀取和修改網(wǎng)頁(yè)的能力，引起了諸多用戶(hù)的不滿(mǎn)。

安全和權限是產(chǎn)品可用性的一個(gè)重要組成部分，Adobe 和 Chrome 在那次爭議中都有一定的問(wèn)題。Adobe 的產(chǎn)品很可能不會(huì )過(guò)度 track 用戶(hù)的訪(fǎng)問(wèn)歷史，但還是應該基于用戶(hù)對這一功能的需求不那么激進(jìn)地推進(jìn)；Chrome 在權限管理時(shí)，當時(shí)沒(méi)有把讀取和修改網(wǎng)頁(yè)內容的權限分級拆分出來(lái)，導致用戶(hù)擔心插件會(huì )在生成時(shí)修改內容。

而 ChatGPT Plugin 的安全評估方式十分新穎：利用 LLM 的理解和角色扮演能力，讓其成為 plugin 的安全審查員。根據推特上研究 prompt injection 和 hacking 的用戶(hù) rez0 破解得到的信息，給 AI 審核員的信息主要分為三個(gè)板塊：指令、事實(shí)和政策。

指令部分主要是對 AI 角色的定義：扮演一個(gè)在 OpenAI 工作的產(chǎn)品安全工程師，分析一個(gè)包含兩個(gè)文件的第三方 plugin 是否符合要求（包含了 6個(gè)基本的安全問(wèn)題，如是否獲取個(gè)人信息，是否有參與不正當活動(dòng)的能力等），并基于以上問(wèn)題為插件的安全程度和適合年齡段進(jìn)行打分。

而事實(shí)和政策部分，則為 AI 審查員的決策提供了依據，政策部分明確了政治、色情的明令禁止的內容；事實(shí)部分明確了風(fēng)險等級劃分：

1. 低風(fēng)險插件只使用公開(kāi)數據，不涉及任何個(gè)人信息；

2. 中風(fēng)險插件包含了個(gè)人或企業(yè)與第三方的交互；

3. 高風(fēng)險插件使用了高風(fēng)險數據（金融數據、醫療數據、其他用戶(hù)隱私敏感信息），或可能有欺詐行為的風(fēng)險。

Plugin 未來(lái)會(huì )走向更復雜的系統

當下的 Plugin 還有諸多不成熟的方面：

1. 模型能同時(shí)調用的 plugin 數量很有限：

目前的 plugin 只支持開(kāi)啟三個(gè) plugin，ChatGPT 在 context window 中讀入這幾個(gè)的說(shuō)明文件。由于 32k 的 input context 限制，5-10 個(gè) plugin 的描述可能就是短時(shí)間內模型能讀入的上限了。

2. 目前接入 plugin 的 api 設計方式大多還比較傳統：

ChatGPT 收到 prompt 之后，將其根據 description 加工理解寫(xiě)好給傳統 api 的輸入。這個(gè)優(yōu)點(diǎn)是開(kāi)發(fā)者可以很高效地把之前開(kāi)發(fā)的 api 復用上，缺點(diǎn)是對開(kāi)發(fā)者而言自由度不夠高。

因此未來(lái)的 api 形式會(huì )有變化，輸入數據不再是傳輸處理后的結構化數據，而是直接把 prompt 傳給開(kāi)發(fā)者，開(kāi)發(fā)者將對 prompt 的理解和使用寫(xiě)進(jìn) api 中。

3. 當前給模型的描述文檔，尚需要不斷地根據競品情況和模型的理解情況進(jìn)行調整：

例如，當一個(gè)垂直領(lǐng)域中加入一個(gè)新的競爭者時(shí)，如果競爭者有著(zhù)更細粒度、更垂直的專(zhuān)注方向，大模型會(huì )將其專(zhuān)注方向的所有機會(huì )都交給競爭者。

針對以上提到的這些問(wèn)題，需要一個(gè)更復雜的插件召回 plugin retrieval 系統來(lái)進(jìn)行。這個(gè)系統可能包含有幾層：

? Plugin Store：提供了一個(gè)統一的文檔規定，來(lái)管理數以萬(wàn)計的 plugin ，經(jīng)過(guò)審核后允許 api 開(kāi)發(fā)者進(jìn)行注冊，更新和刪除。進(jìn)入 Plugin Store 的時(shí)候，應加入關(guān)于這一 plugin 的具體標簽（就像 App Store 中的分類(lèi)和信息），用于之后的召回和使用；

? Plugin Retriever：負責根據用戶(hù)需要的行為，召回推薦最相關(guān)的 5-10 個(gè) api。召回過(guò)程中，Retriever 將 prompt 的信息與 plugin store 中的標簽和描述進(jìn)行匹配，找到最相關(guān)的 plugin；

? Action Executor：負責調用 api 執行生成的動(dòng)作代碼，調用 api，返回最終執行結果（這里還有一步潛在的排序，模型選擇 api 的過(guò)程類(lèi)似于推薦系統中的精排）。

四、Plugin 的 App Store 野望

“App Store”不是新鮮事

由于過(guò)高的勢能，OpenAI 推出 plugin 被視作 iPhone 推出其 App Store 的時(shí)刻。我們認為客觀(guān)來(lái)看，擁有一個(gè)應用和插件生態(tài)并不代表一個(gè)開(kāi)放平臺必然走向成功。從 SaaS 巨頭的歷史來(lái)看，到達了一定體量的公司都必然選擇建設 ISV 生態(tài)，通過(guò)“開(kāi)放平臺 + ISV”避免定制化需求開(kāi)發(fā)，并且通過(guò)抽成捕獲價(jià)值。能否將這樣一個(gè)平臺建設成功是通往千億美元級別平臺的重要試金石。

Snowflake 平臺 Take Rate 數據呈現

在美國的過(guò)去十年很少有下一個(gè)重量級生態(tài)在消費者側被建立 —— Meta 也沒(méi)做成微信小程序式的應用分發(fā)生態(tài)。但是一旦在消費者側做成 App Store 級的生態(tài)，意味著(zhù)：

? 比 SaaS 平臺高 1-2 個(gè)數量級的生態(tài)價(jià)值；

? 比 SaaS 平臺高 2-3 個(gè)數量級的生態(tài)應用數量；

? 比 SaaS 平臺高一倍的 Take Rate。

一個(gè)冷知識是 Apple 的應用商店并不是第一個(gè)“App Store”，但這個(gè)概念的起源的確是 Steve Jobs：

Salesforce 的創(chuàng )始人 Benioff 2000 年左右對公司發(fā)展方向比較困惑，找 Jobs 聊了下，對方給出了 3 個(gè)建議：

1. 24 個(gè)月內增長(cháng) 10 倍，不然沒(méi)戲；

2. 拿下一個(gè)大客戶(hù)，比如雅芳；

3. 必須建立一個(gè) App Economy。

Benioff 立馬付諸行動(dòng)，發(fā)現自己的產(chǎn)品形態(tài)上更像 Exchange 而不是 Store，最終在 2005 年推出了 AppExchange。Benioff 之前聽(tīng) Jobs 建議買(mǎi)了 App Store 商標和 appstore.com URL，在 2008 年送給了 Apple。

從一個(gè)框架和五個(gè)案例推演 Plugin 生態(tài)的勝負手

一個(gè)框架：

拋開(kāi)“App Store”的視角，聚焦到開(kāi)放平臺之上的插件生態(tài)建設，我們認為 Figma 給出了一個(gè)最好的框架，來(lái)用于分析一個(gè)生態(tài)的成功潛力：

? 安全性：包括用戶(hù)的數據隱私、權限管理以及 ISV 和平臺之間的權限和能力邊界；

? 穩定性：平臺的速度不應該被 plugin 拖慢，平臺的更新不應該影響現有的 plugin，平臺還應該提供在多個(gè)設備內統一的 plugin 安裝管理；

? 低門(mén)檻開(kāi)發(fā)：平臺定義的框架和語(yǔ)言應該足夠在滿(mǎn)足其他前提下足夠低門(mén)檻以讓開(kāi)發(fā)者很快上手貢獻一個(gè)強勁的plugin 生態(tài)；

? 性能：plugin 本身應該是足夠快和穩定的。

除了這套框架本身的普適性之外，我們還比較吃驚于 ChatGPT 和 Figma 的驚人相似性 —— 他們的 plugin 生態(tài)是完全云化、Web 端為主、基于強勁的開(kāi)放平臺并且嵌入到主產(chǎn)品內的。同時(shí)，我們認為這套框架缺乏包含的部分是對于開(kāi)發(fā)者的激勵以及在 plugin 數量膨脹后的分發(fā)機制。

五個(gè)案例

我們將這套框架用于評估 5 個(gè)被視作取得了巨大成功的開(kāi)放平臺生態(tài)上，通過(guò)這種多案例研究的方法來(lái)得出一些對 ChatGPT plugin 的前景和坑的指導性判斷：

Apple App Store：最成功的 OS 應用商店

安全性：★★★★★

穩定性：★★★★★

低門(mén)檻開(kāi)發(fā)：★★

性能：★★★★

激勵：★★★★

分發(fā)：★★

除了眾所周知的一些成功之處外，Apple 在激勵、分發(fā)、低門(mén)檻開(kāi)發(fā)上的經(jīng)驗教訓對于今天的 OpenAI 非常有參考意義：

Apple 成功在 OS 之上建立起了用戶(hù)的賬戶(hù)體系和自己端到端建設的全球支付網(wǎng)絡(luò ) —— Apple 在 2008 年推出 App Store 時(shí)只支持終生買(mǎi)斷制付費，在 2009 年引入了 In App Purchase，2010 年引入了 In App Marketplace，給了開(kāi)發(fā)者完整的激勵能力。而 OpenAI 在賬戶(hù)體系及支付的建設還非常早期，不過(guò)跟 Stripe 的戰略合作可能是一個(gè)好兆頭；

App Store 在十幾年發(fā)展后表現出了明顯的分發(fā)問(wèn)題，馬太效應問(wèn)題明顯，大規模的 App 難以被分發(fā)和充分匹配。在經(jīng)歷過(guò)個(gè)性化推薦的 Genius、LBS 分發(fā)的 Near Me 和激勵發(fā)現的 Explore 之后，Apple 最終沒(méi)有發(fā)現更智能的匹配邏輯，回歸到了保留至今天的 Curation 和 Editorial 風(fēng)格。OpenAI 對于 plugin 的分發(fā)可能有新的破局之道，用更智能和非用戶(hù)主動(dòng)選取的方式可以承載更大量級的匹配；

App 的開(kāi)發(fā)門(mén)檻相當高，不過(guò) Apple 從 2010 年 iPad 發(fā)布開(kāi)始，會(huì )提前給開(kāi)發(fā)者留出時(shí)間，讓他們根據新設備和 OS 的特性開(kāi)發(fā)應用。這樣當用戶(hù)購買(mǎi)時(shí)，他們會(huì )現在有豐富的新應用可供選擇。ChatGPT 在 GPT-4 和 plugin 發(fā)布上已經(jīng)是這種風(fēng)格了，但是對于雙邊怎么放量顯然還缺少經(jīng)驗。

Salesforce AppExchange：在平臺之上助力銷(xiāo)售

安全性：★★★★

穩定性：★★★★

低門(mén)檻開(kāi)發(fā)：★★★

性能：★★★★

激勵：★★★★

分發(fā)：★★★

AppExchange 是一個(gè)被許多人忽視的成功，里面包含了很多基本功建設，非常值得觀(guān)察 OpenAI 后續能不能繼續圍繞這些方面優(yōu)化用戶(hù)體驗：Salesforce 給開(kāi)發(fā)者的前端框架從自己的 design system 演化為了 Lightning Web Components，后端則從基本的 SDK、api 和 Metadata 框架開(kāi)始，發(fā)展出事件驅動(dòng)的 Pub Sub api 架構，最后外部集成始于 VS Code 等 IDE 集成的優(yōu)化，發(fā)展到 Salesforce Flow 完善的集成方案。

AppExchange 上起來(lái)的應用大部分在早期關(guān)注 SME 和 Mid-Market。如果要搞大客戶(hù)，應用可以自己錨定 3-5 個(gè)名字，然后找 Salesforce 的銷(xiāo)售渠道幫忙介紹，隨后開(kāi)啟獨立的銷(xiāo)售流程。如果 OpenAI 未來(lái)需要打造草根崛起的 showcase，這會(huì )是個(gè)還不錯的范式。

Chrome Extensions：一度被忽視的生態(tài)

安全性：★★★★

穩定性：★★

低門(mén)檻開(kāi)發(fā)：★★★★

性能：★★★

激勵：★★★

分發(fā)：★★

大部分的中國創(chuàng )業(yè)者和投資人相當沉迷于“移動(dòng)互聯(lián)網(wǎng)”，反而一度忽視了 Chrome Extensions 上長(cháng)出的機會(huì )，除了我們寫(xiě)過(guò)的 Grammarly 和 Loom 外，第一個(gè)驗證了 Chrome 生態(tài)的巨大成功是 Honey。這個(gè)電商優(yōu)惠券聚合插件以 40 億美元現金賣(mài)給了 PayPal。

Chrome 的生態(tài)可以引發(fā)對 OpenAI 的一點(diǎn)思考：不同于 App Store 在手機上的地位，Extension 一直僅僅被視作 Web 上的多個(gè)渠道之一，和官網(wǎng)、App、社交媒體賬號并行，直到 19 年之后才有越來(lái)越多的公司將它作為主要的獲客渠道。如果讓 ChatGPT plugin 的心智成為 KAYAK、Instacart、Expedia 的“獲客副陣地”，它可能會(huì )陷入類(lèi)似的尷尬處境。不過(guò)根據開(kāi)發(fā)者的反饋，雖然在發(fā)布時(shí)引入了大量合作伙伴，實(shí)際運行的 plugin 生態(tài)更偏向新的、獨立開(kāi)發(fā)的、草根創(chuàng )業(yè)的 plugins。

Figma Community：社區帶來(lái)差異化

安全性：★★★★

穩定性：★★★★★

低門(mén)檻開(kāi)發(fā)：★★★★★

性能：★★★★★

激勵：★★

分發(fā)：★★

Figma 通過(guò)技術(shù)手段很好地完成了安全性、穩定性和性能的平衡，同時(shí)揭示了“低門(mén)檻”對于雙邊的重要性：Adobe XD 和 Sketch 都擁有歷史更悠久的插件生態(tài)，但是用戶(hù)往往需要在社區之外發(fā)現并下載安裝，而開(kāi)發(fā)者則需要通過(guò)類(lèi)似 C 等語(yǔ)言編寫(xiě)其插件，而 Figma 則提供了設計師更熟悉的 Typescript 等語(yǔ)言在框架內進(jìn)行開(kāi)發(fā)，并且打造了跟主產(chǎn)品無(wú)縫的體驗。

VSCode Extensions：生態(tài)超越內部?jì)?yōu)化

安全性：★★★

穩定性：★★★★★

低門(mén)檻開(kāi)發(fā)：★★★★

性能：★★★★★

激勵：★

分發(fā)：★★

VSCode Extension Store 也是個(gè)好的案例，用出色的插件生態(tài)（各種 Python 插件/自動(dòng)補全） 在開(kāi)發(fā)體驗上超越了像 IDEA IntelliJ、Pycharm 那樣由經(jīng)營(yíng)者內部?jì)?yōu)化的產(chǎn)品。在 VSCode 的設計中，他們把 IDE 涉及得可擴展性極強，能夠讓開(kāi)發(fā)者很輕松地為自己開(kāi)發(fā)設計好用的插件，并把插件開(kāi)放給社區一起使用和優(yōu)化。

回顧 ChatGPT Plugin

五、Plugin 干掉 LangChain？

緊隨“App Store”論調之后的一類(lèi)觀(guān)點(diǎn)是 ChatGPT plugin 抹殺掉了 LangChain、Fixie AI 甚至是 Adept 的價(jià)值主張，這是相當程度上高估了 plugin 的說(shuō)法。

僅僅看 plugin 這一個(gè)戰略，它對 LangChain 目前的直接影響：

1. 商業(yè)化方面可能會(huì )受到一定擠壓，因為順著(zhù)這個(gè)開(kāi)源項目本身的話(huà)，LangChain 幾乎唯一的商業(yè)化方向是做 prebuilt hosted services；

2. LangChain 跟 OpenAI 完全不是競爭關(guān)系：

這個(gè)開(kāi)源項目在 Plugin 推出 2 天后就持續了在 LangChain 抽象下的 Plugin 實(shí)現；

將 Chain 和 Agent 跟 LangChain VectorStore 和 QA 邏輯做了解耦，從而更好地支持未來(lái)類(lèi)似 OpenAI Retrieval 類(lèi)似的 LangChain 以外的 retriever。

從開(kāi)發(fā)者反饋來(lái)看，也有相當多不同的聲音：

沒(méi)有之前費勁學(xué)習過(guò) LangChain 抽象、希望實(shí)現模型間可組合性的獨立開(kāi)發(fā)者構建 plugin 的方式基本是通過(guò) Replicate 來(lái)方便地調用其他開(kāi)源模型能力并通過(guò) Replit 托管這個(gè) plugin。

拋開(kāi) plugin，OpenAI 在 6 月最新推出的函數調用對于 LangChain 和 Fixie 的影響倒更大一些。

六、Plugin 的路線(xiàn)圖與連鎖反應

從增量的視角看，按照有短期到長(cháng)期來(lái)排序，我們思考了 ChatGPT 能帶來(lái)的一些變化：

1. 微軟在 AI 的生態(tài)進(jìn)一步增強

OpenAI 缺審核，缺產(chǎn)品經(jīng)理，缺運營(yíng)這個(gè)生態(tài)的專(zhuān)家，缺更好的、比聊天界面搭配小組件更廣泛的 UI。這些微軟都有 —— 大量可以投入的人員，廣泛可供 plugin 嵌入并發(fā)揮作用的一系列產(chǎn)品（消費者端的 Bing Chat 和 Windows 11 Copilot，企業(yè)端的 Microsoft 365 Copilot 和 Dynamis 365 Copilot 等）。

微軟共享 ChatGPT plugin 已有的上百個(gè) plugin 將極大促進(jìn)它自己生態(tài)的冷啟動(dòng)，以讓客戶(hù)構造更多圍繞內部私有數據的 plugin。微軟圍繞這個(gè)敘事布局了完整的產(chǎn)品和服務(wù)：Azure AI 可以提供在企業(yè)私有數據和云上運行和測試 plugin 的能力，而 VSCode 及 Github 則可以被用于幫助企業(yè)更好地構建新 plugin。

2. 針對模型調用的調用優(yōu)化和新的 api 生態(tài)

盡管真的像 SEO 或者 ASO（應用商店優(yōu)化）一樣的廣告生態(tài)還非常遠，ChatGPT plugin 的一些玩法已經(jīng)出現了針對模型進(jìn)行優(yōu)化的雛形 —— 激烈的競爭發(fā)生在“Description for Model”中，那些描述自己為“寵物電商”的 plugin 可以獲取精準匹配，這些流量不會(huì )被分配給擁有更粗粒度描述的 Shopify plugin，而更精細的“專(zhuān)為美國用戶(hù)打造的寵物電商”則可以搶走美國的相關(guān)流量，優(yōu)化這個(gè) Description 已經(jīng)成為 plugin 開(kāi)發(fā)者之間非常有趣的角逐。

除了在 JSON file 上下功夫，專(zhuān)門(mén)為 ChatGPT 優(yōu)化自己的 api 是另一個(gè)路徑。OpenAI 在 6 月新推出的 Chat Completions api 的 Function call 功能可以幫助開(kāi)發(fā)者實(shí)現“無(wú)代碼”的體驗，原來(lái)傳統的 api 有很大的為模型重構的空間。

3. 多模型之間的可組合性創(chuàng )造更多用例

類(lèi)似我們在 05 末尾所展示的 plugin 例子，ChatGPT plugin 為 LLM 與 LLM 之間、LLM 與外部知識和 api 之間、LLM 與不同其他模型之間提供了一個(gè)用戶(hù)可以輕松使用的 UI。發(fā)揮類(lèi)似的可組合性創(chuàng )意能夠創(chuàng )造出來(lái)許多在 LLM 與 Diffusion Model 不存在時(shí)難以出現的工作流和產(chǎn)品。

4. plugin 需求倒逼 ChatGPT 產(chǎn)品形態(tài)演進(jìn)

這一點(diǎn)是顯而易見(jiàn)的 —— 如果 OpenAI 對于 ChatGPT 成為一個(gè)在消費者側經(jīng)久不衰的偉大產(chǎn)品仍然抱有愿景，并且搭建了一支合適的團隊來(lái)實(shí)現這一點(diǎn)。目前來(lái)看，這非?？赡艹蔀楝F實(shí)，因為 OpenAI 剛剛招募了來(lái)自 Facebook、Uber 和 Airtable 的產(chǎn)品老兵 Peter Deng 擔任 VP of Consumer Product。

5. 類(lèi) Chromebook 的硬件機會(huì )出現

外界對于 OpenAI 進(jìn)軍硬件有非常高的預期。Google 圍繞著(zhù) Chrome 的策略算是硬件跟軟件生態(tài)配合得比較好的例子，Chrome Extension 在 Education 這個(gè)類(lèi)別非常占據了統治級地位，誕生了 Grammarly 等公司，重要的原因是有 Chromebook 這個(gè)硬件讓 Extension 生態(tài)被分發(fā)到了大量的師生用戶(hù)。即使沒(méi)有帶來(lái)硬件交互上的爆炸性創(chuàng )新，能夠通過(guò)硬件建立一個(gè)獨特的用戶(hù)分發(fā)渠道也可以幫助到整個(gè) ChatGPT plugin 生態(tài)。

6. 模型內外部數據促進(jìn) AI Agent 的出現和演進(jìn)

從開(kāi)放平臺的視角思考 plugin 的意義會(huì )得出比較有趣的結論，它是 OpenAI 對外開(kāi)放的一個(gè)重要數據接口，讓第三方數據和用戶(hù) Query 等數據能夠互動(dòng)起來(lái)，而微軟與 Azure 似乎致力于促進(jìn)更多的企業(yè)私有數據開(kāi)始與模型互動(dòng)，這會(huì )加速許多人已經(jīng)拉滿(mǎn)了預期的 AI 助理的誕生。

本文來(lái)自微信公眾號：海外獨角獸 （ID：unicornobserver），作者：Cage、程天一，編輯：penny

標簽：