<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:media="http://search.yahoo.com/mrss/">
  <channel>
    <title>AI Security｜林鼎淵 Dean Lin</title>
    <link>https://deanlin.net/tags/ai-security/</link>
    <image><url>https://deanlin.net/images/author_hu_aa256fc934e9a932.jpg</url><title>AI Security｜林鼎淵 Dean Lin</title><link>https://deanlin.net/tags/ai-security/</link><width>144</width><height>144</height></image>
    <description>林鼎淵（Dean Lin）的部落格：生成式 AI 企業內訓講師、外商資安公司軟體專家、7 本書作者。400 多篇文章用白話分享生成式 AI 實戰、Claude Code 與 Vibe Coding 教學、團隊合作與職場成長。</description>
    <generator>Hugo</generator>
    <language>zh-tw</language>
    <copyright>© 2020–2026 林鼎淵 Dean Lin</copyright>
    <lastBuildDate>Sun, 14 Jul 2024 16:13:28 +0800</lastBuildDate>
    <atom:link href="https://deanlin.net/tags/ai-security/index.xml" rel="self" type="application/rss+xml" />
    <item>
      <title>生成式 AI 的資安筆記 ── 工程師、專案經理的使用注意事項</title>
      <link>https://deanlin.net/blog/202407/generative-ai-security-notes/</link>
      <pubDate>Sun, 14 Jul 2024 16:13:28 +0800</pubDate>
      <guid>https://deanlin.net/blog/202407/generative-ai-security-notes/</guid>
      <dc:creator>林鼎淵</dc:creator>
      <category>AI 實戰</category>
      <description>即使我們知道生成式 AI 的答案可能會出現幻覺和錯誤，但許多人在遇到問題時，比起 Google 找答案，開始會先試試看能否靠 AI 工具直接產生最終解答。而不要把隱私資料洩露給 AI 已經是老生常談，因此這篇文章想從「如何安全使用」的角度出發。</description>
      <media:content url="https://deanlin.net/blog/202407/generative-ai-security-notes/images/generative-ai-security-notes-og_hu_7a0b62c4dcb34530.jpg" medium="image" type="image/jpeg" width="1200" height="675" />
      <content:encoded><![CDATA[<p>即使我們知道生成式 AI 的答案可能會出現幻覺和錯誤，但許多人在遇到問題時，比起 Google 找答案，開始會先試試看能否靠 AI 工具直接產生最終解答。</p>
<p>然而，「想直接產生最終解答」這個想法，很容易導致隱私資料外洩。</p>
<p>使用 Google 時，我們通常會用關鍵字搜尋；但使用 AI 工具時，你可能會直接把整包資訊餵進去。</p>
<p>不要把隱私資料洩露給 AI 已經是老生常談，因此這篇文章想從「如何安全使用」的角度出發（以線上 AI 工具來討論，目前本地的 AI 工具尚未成熟）。</p>
<p><img src="https://deanlin.net/blog/202407/generative-ai-security-notes/images/generative-ai-security-notes-01.webp" width="1141" height="636" alt="生成式 AI 的資安筆記 ── 工程師、專案經理的使用注意事項（圖 1）" fetchpriority="high" decoding="async"></p>
<h2 id="如果你是工程師">如果你是工程師<a class="h-anchor" href="#%e5%a6%82%e6%9e%9c%e4%bd%a0%e6%98%af%e5%b7%a5%e7%a8%8b%e5%b8%ab" aria-label="這個段落的連結"></a></h2>
<p>如果用過 AI 輔助撰寫程式，你肯定在「優化現有程式碼、解決 Bug、撰寫新功能…」等日常工作中感受到無比的快感。</p>
<p>但在做這些日常工作時，請遵循以下原則：</p>
<ol>
<li><strong>不要提供敏感資訊</strong>：一些比較敏感的數據、變數、函式、商業邏輯千萬不要無腦上傳。</li>
<li><strong>將任務最小化</strong>：把任務拆解到最小邏輯，不要提供完整的程式碼，僅提供必要部分進行輔助。</li>
<li><strong>避免使用來路不明的 AI 工具</strong>：隨著 AI 工具爆炸式成長，有些工具可能帶有惡意程式，請選擇知名度高且評價良好的工具。</li>
<li><strong>審查生成結果</strong>：AI 的回應可能表面上看起來是對的，但實際上有漏洞；你需要具備判斷對錯的能力，並且設計對應的單元測試確保邏輯正確。</li>
<li><strong>遵循公司使用政策</strong>：公司如果有 AI 工具的使用規範，請務必遵守。</li>
</ol>
<hr>
<h2 id="如果你是專案經理產品經理">如果你是專案經理、產品經理<a class="h-anchor" href="#%e5%a6%82%e6%9e%9c%e4%bd%a0%e6%98%af%e5%b0%88%e6%a1%88%e7%b6%93%e7%90%86%e7%94%a2%e5%93%81%e7%b6%93%e7%90%86" aria-label="這個段落的連結"></a></h2>
<p>我知道專案經理跟產品經理的職責不同，但很多公司都把這兩個職位給合併了。</p>
<p>因此他們的工作就被「專案時程、專案規格、大量會議」給淹沒，每天都需要花大量的時間來完成這些文書作業；許多人為了提升效率，可能會將這些工作交給 AI 代勞。</p>
<p>但把任務交給 AI 前，請先注意自己是否把敏感的資訊一併上傳了：</p>
<ol>
<li><strong>專案時程規畫</strong>：避免提到具體的專案名稱、里程碑等資訊，建議將這些名詞模糊處理，把 AI 時程規劃當成發想來使用。</li>
<li><strong>關鍵技術、負責人名單</strong>：如果這些資訊被上傳且被逆向解讀，可能造成嚴重風險。</li>
<li><strong>有敏感資訊的會議紀錄</strong>：請 AI 整理會議記錄很方便，但需確保使用的工具有完善的保密協議與對應的罰則，並選擇業界知名度高的工具。</li>
</ol>
<hr>
<h2 id="結語">結語<a class="h-anchor" href="#%e7%b5%90%e8%aa%9e" aria-label="這個段落的連結"></a></h2>
<p>在合理的範圍內使用 AI 輔助工作，肯定能加速作業效率。</p>
<p>但如何避免隱私資訊外洩，真的就需要透過教育訓練培養大家的資安意識。</p>
<p>凡走過必留下痕跡，我們沒辦法得知對方拿到資料後會做什麼事；而且有時並不是這些大公司做了什麼事，而是被第三方攻擊導致資料外洩，比如你登入的帳號被盜（可透過啟用雙重驗證 2FA 降低這類風險）。</p>
<p>這篇文章並不是要大家停止使用 AI 工具，而是提醒大家不要完全無視風險提供隱私資訊。</p>
<p>筆者自知學識淺薄，如果有更好的方案，歡迎留言討論、分享。</p>
<a class="linkcard" href="https://deanlin.net/categories/ai/">
  <span class="lc-body">
    <span class="lc-title">AI 實戰</span>
    <span class="lc-desc">實測生成式 AI 工具、Vibe Coding 與自動化流程的第一手心得，把 AI 變成每天都用得上的即戰力。</span>
    <span class="lc-site"><svg viewBox="0 0 24 24" fill="none" stroke="currentColor" stroke-width="1.7" stroke-linecap="round" stroke-linejoin="round" aria-hidden="true" focusable="false"><path d="M5 12h14M13 6l6 6-6 6"/></svg>林鼎淵 Dean Lin</span>
  </span>
</a>

<p><strong>想將 AI 導入自己的職場與生活嗎？歡迎<a href="https://www.books.com.tw/products/0011004216">購買筆者出版的新書</a></strong>，幫助您<strong>在 AI 的浪潮中站穩腳步，並在未來的職場競爭中佔據優勢！</strong></p>
<figure class="figure"><img src="https://deanlin.net/blog/202407/generative-ai-security-notes/images/generative-ai-security-notes-02.webp" width="1400" height="319" alt="林鼎淵著作《ChatGPT 與 AI 繪圖效率大師（新增 Copilot、Gamma、Runway、Suno）》" loading="lazy" decoding="async">
  <figcaption><a href="https://www.books.com.tw/products/0011004216">https://www.books.com.tw/products/0011004216</a></figcaption>
</figure>

]]></content:encoded>
    </item>
  </channel>
</rss>
