Don't Miss
DeepSeek｜R1免費用 自家電腦安裝教學
By 信報財經新聞 on January 28, 2025
原文刊於信報財經新聞「EJ Tech 創科鬥室」
內地私募巨頭「幻方量化」旗下開源模型公司DeepSeek（深度求索），上周發布新人工智能（AI）模型DeepSeek R1，在數學、編程及推理任務上可與OpenAI o1、Claude 3.5 Sonnet媲美。除了下載手機程式即時試玩外，有海外論壇Reddit用戶分享安裝教學，讓網民在自家電腦運行DeepSeek R1，優點是能應用於商業用途，完全免費並確保私隱。
先下載管理工具Ollama
首先，用戶下載開源的大模型管理工具Ollama，支援Windows 10或以上，或至少macOS 11 Big Sur、Linux等作業系統。安裝後即可以下載個別模型，由規模最小的15億參數，至80億、140億、320億，以及最大及最聰明的700億參數版本不等，視乎圖像處理器（GPU）的算力而定。
該位網友建議用戶下載80億版本試用，做法是打開terminal，再輸入「ollama run deepseek-r1:8b」，提取模型後在電腦內運行。
下一步，需要設定AI模型用戶端Chatbox，用戶可到https://chatboxai.app網址下載，再在「設定」（Settings）把模型提供者設為「OLLAMA」。然後設定Ollama API Host，預設值是「http://127.0.0.1:11434」，應該可以立即使用，甚至開發「食鬼」小遊戲。翻查Ollama網站最新資料，DeepSeek R1系列模型已下載了120萬次。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
