# 生成式 AI 的資安筆記 ── 工程師、專案經理的使用注意事項

- 作者：林鼎淵（Dean Lin）
- 網址：https://deanlin.net/blog/202407/generative-ai-security-notes/
- 發布：2024-07-14
- 主題：AI 實戰
- 標籤：AI、Security、AI Security、Information Security、Prompt Engineering
- 摘要：即使我們知道生成式 AI 的答案可能會出現幻覺和錯誤，但許多人在遇到問題時，比起 Google 找答案，開始會先試試看能否靠 AI 工具直接產生最終解答。而不要把隱私資料洩露給 AI 已經是老生常談，因此這篇文章想從「如何安全使用」的角度出發。

即使我們知道生成式 AI 的答案可能會出現幻覺和錯誤，但許多人在遇到問題時，比起 Google 找答案，開始會先試試看能否靠 AI 工具直接產生最終解答。

然而，「想直接產生最終解答」這個想法，很容易導致隱私資料外洩。

使用 Google 時，我們通常會用關鍵字搜尋；但使用 AI 工具時，你可能會直接把整包資訊餵進去。

不要把隱私資料洩露給 AI 已經是老生常談，因此這篇文章想從「如何安全使用」的角度出發（以線上 AI 工具來討論，目前本地的 AI 工具尚未成熟）。

## 如果你是工程師

如果用過 AI 輔助撰寫程式，你肯定在「優化現有程式碼、解決 Bug、撰寫新功能…」等日常工作中感受到無比的快感。

但在做這些日常工作時，請遵循以下原則：

1. **不要提供敏感資訊**：一些比較敏感的數據、變數、函式、商業邏輯千萬不要無腦上傳。
2. **將任務最小化**：把任務拆解到最小邏輯，不要提供完整的程式碼，僅提供必要部分進行輔助。
3. **避免使用來路不明的 AI 工具**：隨著 AI 工具爆炸式成長，有些工具可能帶有惡意程式，請選擇知名度高且評價良好的工具。
4. **審查生成結果**：AI 的回應可能表面上看起來是對的，但實際上有漏洞；你需要具備判斷對錯的能力，並且設計對應的單元測試確保邏輯正確。
5. **遵循公司使用政策**：公司如果有 AI 工具的使用規範，請務必遵守。

## 如果你是專案經理、產品經理

我知道專案經理跟產品經理的職責不同，但很多公司都把這兩個職位給合併了。

因此他們的工作就被「專案時程、專案規格、大量會議」給淹沒，每天都需要花大量的時間來完成這些文書作業；許多人為了提升效率，可能會將這些工作交給 AI 代勞。

但把任務交給 AI 前，請先注意自己是否把敏感的資訊一併上傳了：

1. **專案時程規畫**：避免提到具體的專案名稱、里程碑等資訊，建議將這些名詞模糊處理，把 AI 時程規劃當成發想來使用。
2. **關鍵技術、負責人名單**：如果這些資訊被上傳且被逆向解讀，可能造成嚴重風險。
3. **有敏感資訊的會議紀錄**：請 AI 整理會議記錄很方便，但需確保使用的工具有完善的保密協議與對應的罰則，並選擇業界知名度高的工具。

## 結語

在合理的範圍內使用 AI 輔助工作，肯定能加速作業效率。

但如何避免隱私資訊外洩，真的就需要透過教育訓練培養大家的資安意識。

凡走過必留下痕跡，我們沒辦法得知對方拿到資料後會做什麼事；而且有時並不是這些大公司做了什麼事，而是被第三方攻擊導致資料外洩，比如你登入的帳號被盜（可透過啟用雙重驗證 2FA 降低這類風險）。

這篇文章並不是要大家停止使用 AI 工具，而是提醒大家不要完全無視風險提供隱私資訊。

筆者自知學識淺薄，如果有更好的方案，歡迎留言討論、分享。

延伸閱讀：[AI 實戰](https://deanlin.net/categories/ai/)

**想將 AI 導入自己的職場與生活嗎？歡迎[購買筆者出版的新書](https://www.books.com.tw/products/0011004216)**，幫助您**在 AI 的浪潮中站穩腳步，並在未來的職場競爭中佔據優勢！**

  [https://www.books.com.tw/products/0011004216](https://www.books.com.tw/products/0011004216)

---

關於作者：林鼎淵（Dean Lin），台灣的生成式 AI 企業內訓講師、外商資安公司軟體專家，也是生成式 AI 創新學院發起人。出版 7 本書（包含全台第一本 ChatGPT 應用專書），兩度獲得 iThome 鐵人賽佳作，累積上百場授課與顧問經驗。（https://deanlin.net/about/）
引用時請附上原文網址：https://deanlin.net/blog/202407/generative-ai-security-notes/