發布日期：2024 年 5 月 14 日，上次更新日期：2024 年 5 月 20 日
我們正在開發網頁平台 API 和瀏覽器功能，這些功能可與瀏覽器內建的 AI 模型、專家模型和大型語言模型 (LLM) 搭配使用。有了內建 AI，您的網站或網頁應用程式就能執行 AI 輔助工作，無須部署、管理或自行代管 AI 模型。
瞭解內建 AI 的優點、我們的導入計畫，以及如何開始導入這些工具。
如果您是第一次接觸網頁 AI，請參閱我們的網頁 AI 詞彙表和概念。
內建 AI 功能為網頁開發人員帶來的好處
瀏覽器內建 AI，可提供及管理基礎和專家模型。
內建 AI 具有下列優點：
- 易於部署：瀏覽器會根據裝置功能分配模型，並管理更新。也就是說，您不必透過網路下載或更新大型模型。您不必解決儲存空間回收、執行階段記憶體預算、服務費用和其他挑戰。
- 硬體加速：瀏覽器的 AI 執行階段經過最佳化，可充分利用可用硬體，無論是 GPU、NPU 或 CPU 都能發揮最大效用。因此，您的應用程式在每部裝置上都能達到最佳效能。
在用戶端執行的優點
內建 AI 可在用戶端執行 AI 作業，因此您可享有下列優點：
- 在裝置端處理私密資料：裝置端 AI 可提升隱私權保障。舉例來說，如果您處理的是私密資料，可以為使用者提供端對端加密的 AI 功能。
- 快速的使用者體驗：在某些情況下，捨棄往返伺服器的程序，代表您可以提供近乎即時的結果。用戶端 AI 可讓功能實用與否，以及使用者體驗是否良好，產生天壤之別。
- 更廣泛地使用 AI：使用者裝置可分擔部分處理負載，換取更多功能存取權。舉例來說，如果您提供進階 AI 功能，可以透過用戶端 AI 預覽這些功能，讓潛在顧客瞭解產品優勢，且不會產生額外費用。此外，這個混合式方法也有助於管理推論成本，特別是經常使用的使用者流程。
- 離線使用 AI：即使沒有網路連線，使用者也能存取 AI 功能。這表示您的網站和 Web 應用程式在離線或連線不穩定的情況下，仍可正常運作。
混合式 AI：用戶端和伺服器端
雖然用戶端 AI 可處理大量用途，但部分用途需要伺服器端支援。伺服器端 AI 非常適合大型模型，且支援的平台和裝置範圍更廣。
如果應用程式需要：
- 複雜度：透過裝置端 AI 支援特定且容易理解的用途，會比較簡單。如果用途複雜，請考慮採用伺服器端導入方式。
- 彈性：預設使用伺服器端，裝置離線或連線不穩時則使用裝置端。
- 順暢的備援機制：內建 AI 的瀏覽器需要一段時間才能普及，部分模型可能無法使用，而舊版或效能較低的裝置可能不符合執行所有模型的硬體需求。為這些使用者提供伺服器端 AI。
舉例來說，如果您使用內建的提示 API，該 API 僅適用於 Chrome 擴充功能，以及 Windows、macOS 和 Linux。如要確保所有使用者都能享有 AI 功能，請使用 Firebase AI Logic 設定混合式架構。
使用內建 AI
您主要可以透過工作 API 存取內建 AI 功能，例如 Translator API 或 Summarizer API。工作 API 的設計宗旨，是針對指派的工作，對最佳模型 (無論是大型語言模型或專家模型) 執行推論。
使用內建 AI 的時機
內建 AI 技術可為您和使用者帶來以下好處：
- AI 輔助內容消費：包括摘要、翻譯、分類、特徵化和知識提供者。
- AI 輔助內容創作：例如撰文輔助、校對、文法校正和改寫。
Chrome 穩定版和來源試用版提供多項內建 AI API。搶先預覽計畫 (EPP) 參與者可使用探索性 API 和早期階段 API。
預覽新功能
我們需要您的意見，才能打造符合您用途的 API，並在與其他瀏覽器供應商討論標準化時提供參考。
加入 EPP，針對內建 AI 的初期構想提供意見，並透過本機原型設計，探索測試開發中 API 的機會。