📲 本地 AI ↩️iOS 本地 AI:連載一個月的實戰心得回顧 Foundation Models framework 大幅降低了 iOS 開發者使用離線 LLM 的門檻。關鍵還是開發者有沒有找到適合幫 App 加分的用法。
📲 本地 AI ❎iOS 本地 AI:用 AnyLanguageModel 加 MLX 跑開源模型 AnyLanguageModel 讓 Hugging Face 上的開源 LLM 很容易下載與開始使用,只要三行程式碼就可以呼叫 MLX 框架以及配套工具。我也更新了範例專案,可以直接在 Mac 與 iOS 裝置上試玩。
📲 本地 AI 🚜iOS 本地 AI:用 LM Studio 把 AnyLanguageModel 接上本地 LLM 我們發現 AnyLanguageModel 還沒有 100% 實現 Foundation Models framework 的功能,但我們已經可以透過它替換成其他模型。本文以 LM Studio 的伺服器功能,讓 App 可以去呼叫 Mac 上的開源 LLM,生成結果。
📲 本地 AI 🚥iOS 本地 AI:利用 Swift Package Traits 切換使用 AnyLanguageModel 分享兩個踩坑 AnyLanguageModel 過程中實際遇到的問題與解法。一個我發了熱騰騰的 PR,另一個則是借用相同的 Swift Package 機制來實現切換依賴模組。
📲 本地 AI 🕳️iOS 本地 AI:準備踩坑 AnyLanguageModel AnyLanguageModel 是相容 Foundation Models framework 語法的模型替換套件。理想上能輕鬆替換 Apple Intelligence 的 Foundation Models,換成第三方開源本地模型,或是 OpenAI 等雲端模型。實際狀況如何呢?我們要從這篇文章開始準備踩坑。
📲 本地 AI 📗iOS 本地 AI:Foundation Models framework 延伸資料 本系列關於 Foundation Models framework 的相關文章即將完結。說明有哪些延伸探索的方向、各種參考資源,並預告把目前所學遷移到其他語言模型。
📲 本地 AI ⏱️iOS 本地 AI:衡量 Foundation Models 效能的策略 開發裝置端 AI 功能,測量效能是必要工作。首先介紹 Instruments 如何上手,觀察效能瓶頸。而為了能支援重複測試任意的 @Generable 型別,我寫了一個 SwiftUI View 作為工具,讓你可以快速把要生成的物件與畫面整合起來。
📲 本地 AI 🆙iOS 本地 AI:Foundation Models 的限制、錯誤與 UX 設計技巧 介紹一些提升使用者體驗的方向,把 context window、guardrail 等重要議題視為使用者體驗設計的一環,並整理各種可能發生的錯誤。妥善處理錯誤,就是提升體驗的機會。
📲 本地 AI 🧮iOS 本地 AI:Foundation Models 的 Tool Calling,真正的問題是什麼時候該用 語言模型雖然有很多知識,但沒有即時資訊,也不擅長數學計算。如果需要存取模型以外的資訊或運算,我們可以提供呼叫外部的工具。不過,重點是判斷什麼情況才該使用。
📲 本地 AI 🛝iOS 本地 AI:不讓使用者乾等,Foundation Models 的 Stream Response 能輕鬆實現漸進式使用者體驗 為了不讓使用者等待,App 應該漸進地顯示生成的結果。但是,為了達到這個目的,你願意自行拼湊並解析 LLM 吐出過程中的不完整 JSON 字串嗎?太痛苦了。Foundation Models framework 提供給開發者十分優雅的方式避開這個麻煩,而且能直接沿用先前文章已學過的語法。
📲 本地 AI 🚦iOS 本地 AI:用 PromptBuilder 動態組合 Foundation Models 的 Prompt 既然 Foundation Models framework 具備結構化輸出的功能,那麼輸入提示詞有沒有類似的機制?有的,Apple 提供了 PromptBuilder,讓開發者輕鬆依照程式條件來調整 prompt,並且能與結構化輸出的 Generable protocol 整合。
📲 本地 AI 🍱iOS 本地 AI:用 Structured Output 功能讓 Foundation Models 回傳你想要的型別 就像從 App 端直接定義 Server 回傳的 JSON schema。
📲 本地 AI 🉑iOS 本地 AI:Foundation Models 的 Availability 與 Instructions 介紹 Foundation Models 的模型 Availability 檢查方式、使用與研究 Instructions 的方式,並且推薦 Apple 官方教材。
📲 本地 AI ✍️iOS 本地 AI:上手 Foundation Models 的學習策略 身為 App 開發者,對於 Apple 的 LLM 的視角是「我要怎麼了解它的能力」、「它可以幫 App 的使用者體驗強化哪些層面」,而不是研究 AI 模型。從本文開始,我不僅會介紹 Foundation Models,更會教你建立有效的學習系統與策略。
📲 本地 AI 🍎iOS 本地 AI:開發者的 Apple Intelligence 必要知識 在入坑 Foundation Models 以前,我們要了解 Apple Intelligence 的基本知識。可以當作在 Apple 平台上開發本地 AI 應用的體驗參考標準,也能觀察到 Apple 怎麼使用混合策略來提供各種 AI 功能。
📲 本地 AI 🛜iOS 本地 AI:誰規定 AI 一定要連網才能用? 為什麼玩單機遊戲的時候需要連網或更新?不是玩家的遊玩需求,而是遊戲平台商的需要。為什麼大部分 AI 工具都需要連網?也跟服務提供商的需求有關。但 AI 功能並不總是等於網路服務,只是我們太習慣了。
📲 本地 AI 🚚iOS 本地 AI:為什麼我想寫?為什麼你該上車? Apple Intelligence 給你的印象不佳?覺得 Apple 在 AI 方面落後許多?這系列文章會讓你改觀。特別寫給看到 AI 變化迅速而擔心自己跟不上的 iOS 開發者,告訴你怎麼切入本地 AI 這個 iOS 才有的好機會。