漾新聞｜AI進市府先築資安防線鄭孟洳促兩月內訂指引、駭攻納演練

【漾新聞記者陳雯萍／高雄報導】AI從「幫忙整理資料」走向能直接執行任務的智慧代理，市府準備好了嗎？高雄市議員鄭孟洳今（8）日在高雄市議會民政部門質詢時，從近期科技圈熱門的「養龍蝦」AI代理工具切入，關切高雄市政府擴大導入生成式AI後的個資、機敏資料與資安風險。她要求研考會在正式擴大應用前建立清楚規範，包括AI工具使用範圍、禁止輸入資料、權限分級、人工審核及稽查機制，並將AI攻擊納入資安演練。研考會主委陳博洲答詢承諾，AI作業指引將力拚兩個月內完成。

鄭孟洳表示，近期科技圈掀起「養龍蝦」熱潮，AI代理工具透過授權與指令設定後，可以協助處理行政、資料蒐集及其他繁瑣工作，對行政工作量龐大的公務體系而言確實具有吸引力。但當AI從單純提供資訊，進一步取得操作系統、讀取資料甚至執行工作的權限，帶來的資安風險也必須同步正視。

她詢問，目前高雄市政府各局處已導入哪些AI應用，以及未來生成式AI在公務體系中的布局。

陳博洲答詢表示，市府AI應用大致分為同仁個別使用，以及市府系統性導入兩個層面。涉及機敏及資安問題的資料必須特別管控；市府目前也正測試生成式AI協助公文處理，預計今年第四季先從部分局處示範，若成效良好，再逐步推廣至其他局處。

針對1999市民服務，陳博洲指出，目前包括智慧客服及話務處理等方向均持續測試，希望未來透過AI協助話務內容整理、分類與追蹤，但公部門提供資訊必須維持高度正確性，因此仍須克服AI可能產生錯誤或「幻覺」的問題，相關功能成熟後才會進一步應用。

鄭孟洳指出，高雄市府目前已有智慧客服、智慧燈塔及不同局處的知識庫、導覽與交通應用，未來又將把生成式AI帶進公文與1999等行政服務。這確實有助降低公務人員行政負擔，但「科技是一把雙面刃」，當AI被賦予更多工作能力，資料安全與責任歸屬就不能等到系統上路後才補破網。

她以1999為例指出，民眾陳情內容可能包含姓名、電話、住址，甚至涉及檢舉、違法事項及要求保密的資訊；公文也可能包含個人資料或不得公開的內容。因此，哪些資料可以交由AI處理、哪些必須經過核准、哪些人具有存取權限，以及個資是否應先遮蔽，都必須事先建立明確制度。

「就像請一個新同仁來上班，也一定會交代工作範圍、設定系統權限。」鄭孟洳認為，AI未來若成為市府的「AI助理」或「AI幕僚」，同樣必須設定工作邊界，不能只看到效率，卻沒有權限與責任規範。

陳博洲表示，市府在資料安全方面會區分不同類型，部分機敏資料不能上雲端，必須控制在市府可掌握的環境；未來推動生成式AI，也會明確規範可以使用的範圍，以及哪些資料必須在特定環境中處理。

鄭孟洳進一步追問，高雄市政府既然已經逐步導入AI，相關AI使用指引就應跟上腳步，尤其中央已有相關人工智慧法制及風險分類架構，市府應儘速建立自己的操作規範。她要求研考會會同法制局，在兩個月內完成AI作業指引，並明定核准使用的AI工具、禁止輸入的資料類型、權責分級、人工審核及年度稽查等機制。

陳博洲回應，市府年初已有相關草案，目前正配合中央最新規範調整；面對鄭孟洳詢問「兩個月內能不能看到」，他表示可以朝兩個月內完成辦理。

除了制度規範，鄭孟洳也將焦點轉向駭客攻擊。她指出，AI應用愈深入公務系統，資安演練的重要性只會增加。依她質詢引用的市府資料，從113年8月至115年8月兩年間，市府累計遭遇超過743萬次攻擊紀錄，其中研考會達281萬次；包括研考會、交通局、地政局等掌握大量城市及市民資訊的單位，都可能成為攻擊目標。

她強調，這些攻擊紀錄不代表系統已遭成功入侵，卻反映政府資訊系統持續處於網路攻擊壓力下。隨著駭客也開始利用AI工具提升攻擊能力，政府防禦方式不能停留在過去。