不用網路！在電腦安裝類 ChatGPT 的 AI，還可以上傳文件對話（GPT4All）

不用網路！在電腦安裝類 ChatGPT 的 AI，還指定對話的文件（GPT4All）

使用 ChatGPT 等 AI 聊天機器人時，我們會被提醒不可上傳個人、公司的隱私資料。

儘管 ChatGPT、Copilot 有推出企業方案，宣稱不會將客戶的資料拿去訓練，但很多公司對此還是持保留態度。

因此在本地安裝 LLM 大語言模型，即使沒有網路也能使用的 GPT4All 也許是個不錯的替代方案，他在 Windows、Mac、Ubuntu 都能輕鬆使用。

文章大綱

▋STEP 1：下載 GPT4All
▋STEP 2：安裝 GPT4All
▋STEP 3：安裝 LLM 大語言模型
▋STEP 4：開始使用 GPT4All
▋STEP 5：調整 GPT4All 設定
▋Bonus：指定對話的文件（LocalDocs）

GPT4All 的操作介面跟 ChatGPT 很像，你也可以將聊天記錄保存在自己的電腦，進入官網後挑選自己的作業系統下載就好：

STEP 1：下載 GPT4All（圖 2）

往下滑一些會看到不同模組（Model）的效能測試數據。

在安裝上，只要一直按「Next」下一步就好。

STEP 2：安裝 GPT4All（圖 4）

同意使用者條款要打勾才能下一步

STEP 2：安裝 GPT4All（圖 5）

➤ 小提醒：如果官網最新的版本有問題，可以去官方 Github 下載穩定版（筆者下載的是 2.5.4）

STEP 2：安裝 GPT4All（圖 6）

打開 GPT4All 時，他會先詢問你是否要分享數據來改善 GPT4All，如不想就選擇 No（筆者建議）。

STEP 3：安裝 LLM 大語言模型（圖 7）

然後就會出現下載 LLM 大語言模型的列表，上面會說明這個模型擅長的領域（聊天、寫程式）、由哪間公司訓練、是否能商用，並且提供檔案大小、RAM 需求、參數等資訊，通常檔案越大的效果越好。

列表中也有 ChatGPT-3.5、ChatGPT-4 可以選擇，不過需要使用 OpenAI API Key，如果使用這個選項就意味著需要連網與付費。

STEP 3：安裝 LLM 大語言模型（圖 9）

這邊我挑選 Orca 2（Full）這個由微軟訓練的模型來實驗。

STEP 3：安裝 LLM 大語言模型（圖 10）

➤ 小提醒：如果你直接下載網路上模型，只要把檔案放到上圖 Download path 的目錄下就可以嚕。

下載完後，就可以在聊天界面中看到模型嚕～

STEP 4：開始使用 GPT4All（圖 11）

這邊我就先用「請假信」初步測試給大家看看。

STEP 4：開始使用 GPT4All（圖 12）

表現的並不是很好，我們再來測試一下「寫程式」的能力。

STEP 4：開始使用 GPT4All（圖 13）

基礎程式的表現尚可，但…情境複雜一點的就不行了。

STEP 4：開始使用 GPT4All（圖 14）

看起來寫得有模有樣，不過實際上是錯的，但這個題目 GPT-3.5 可以輕鬆答對。

STEP 4：開始使用 GPT4All（圖 15）

點擊上方的「齒輪」，可以進一步調整 GPT4All 的設定。

STEP 5：調整 GPT4All 設定（圖 16）

System Prompt：這是對話開始前會執行的指令，你可以在這邊設定 AI 要扮演的角色（ex:翻譯員、工程師），這邊有很多優秀的 Prompt 可以參考: https://github.com/f/awesome-chatgpt-prompts
Prompt Template：設計 AI 要如何回應你，如果你希望 AI 都以中文回覆，就可以加上「用繁體中文回應。」
Generation Setting：如果沒有特別需求，筆者並不建議調整；另外 Max Length 儘管可以調整，但如果超過模型可以承受的長度，他是不會理你的。

Model（調整模型參數）（圖 17）