Ollama 是一個開源平台,旨在簡化大型語言模型(LLM)在本機端的執行與客製化。它提供了一個使用者友善的免雲端解決方案,讓即使沒有進階技術背景的使用者,也能輕鬆下載、安裝並與模型互動。Ollama 擁有不斷擴充的預訓練模型資料庫,涵蓋從通用到特定領域的應用,讓使用者能夠方便地管理和調整模型,以滿足不同應用程式的需求。
Page Assist 則是一款瀏覽器擴充程式,可安裝於 Chrome、Edge 等基於相同核心的瀏覽器上。它能讓使用者利用本地執行的 AI 模型,來協助網頁瀏覽或作為本地 AI 模型的網路介面。Page Assist 提供側邊欄與簡潔的網頁 UI,支援 Ollama、Chrome AI(如 Gemini Nano) 等本地模型供應服務,並具備多項功能,包括側邊欄任務處理、視覺模型支援、網路搜尋、在側邊欄與 PDF 或文件(如 pdf、csv、txt、md、docx) 聊天等。目前它還支援 OpenAI 相容的 API(如 LLaMA.cpp、LM Studio、Llamafile 等),為使用者帶來更多彈性。
Gemma 3 是 Google 基於 Gemini 技術打造的一系列輕量級開源模型,也是目前最具能力、可運行於單一 GPU 的模型。Gemma 3 屬於多模態模型,能同時處理文字與圖像,擁有 128K 的上下文窗口,並支援超過 140 種語言。它提供 1B、4B、12B 及 27B 四種參數規模的版本,適用於問答、摘要生成及推理等任務。憑藉其精簡設計,Gemma 3 即使在資源有限的設備上也能高效部署。使用者可透過 Ollama 輕鬆運行,例如 ollama run gemma3:1b
(1B 參數,32K 上下文) 或 ollama run gemma3:27b
(27B 參數,128K 上下文)。一般設備的使用者可以選擇 4B 或 12B 版本運行,若有極佳顯卡者再考慮使用 27B 版本。
▲ 首先前往 Ollama 官網,點擊「Download」按鈕。
▲ 在下載頁面中,選擇 Windows 版本,點擊「Download for Windows」按鈕開始下載。Ollama 支援 Windows 10 或更高版本,確保系統符合要求。
▲ 下載完成後,執行安裝檔,出現 Ollama 安裝視窗。點擊「Install」按鈕,開始安裝流程,系統會自動將 Ollama 安裝到本機環境中。
▲ 安裝過程中,Ollama 會解壓縮並配置相關檔案。請耐心等待,安裝完成後即可在本機運行大型語言模型,無需依賴雲端服務。
▲ 安裝完成後,開啟命令提示字元,輸入 ollama run gemma3:12b
,開始下載並運行 Gemma 3 模型(12B 參數)。下載過程會顯示進度與檔案大小。
▲ 下載完成後,Ollama 顯示 Gemma 3 模型已成功載入。
▲ 命令提示字元上可以直接輸入文字讓模型回答,這邊讓其自我介紹。
▲ 在 Chrome 線上應用程式商店中,找到 Page Assist 擴充程式,點擊「取得」按鈕進行安裝。Edge 瀏覽器與 Chrome 相容,可順利安裝此擴充功能。
▲ 擴充安裝完成後,右上點開「擴充功能」找到「Page Assist」並點開。
▲ 使用 Page Assist 介面,選擇 Gemma 3 12B 模型即可開始使用。
▲ 這邊試著請它做一段 300 字的自我介紹。接著我們把搜尋功能打開問下一個問題。
▲ 看樣子預設的搜尋能力有限,不過它也提示可以從官網找到正確資訊,點擊右上「」進入設定。
▲ 進入 Page Assist 設定頁面,選擇「中文(台灣)」作為語言辨識語言,並將介面語言設為「繁體中文」。
▲ 搜尋引擎設為 Google,確保後續搜尋與互動符合使用習慣,記得按「儲存」。
▲ 最後測試圖片辨識功能,上傳圖片加輸入文字提問即可。Gemma 3 支援多模態處理,其圖像辨識與分析能力還不賴,還知道 Ollama 的 LOGO 是羊駝!
留言區 / Comments
萌芽論壇