【漾新聞記者陳雯萍／高雄報導】AI從「幫忙整理資料」走向能直接執行任務的智慧代理，市府準備好了嗎？高雄市議員鄭孟洳今（8）日在高雄市議會民政部門質詢時，從近期科技圈熱門的「養龍蝦」AI代理工具切入，關切高雄市政府擴大導入生成式AI後的個資、機敏資料與資安風險。她要求研考會在正式擴大應用前建立清楚規範，包括AI工具使用範圍、禁止輸入資料、權限分級、人工審核及稽查機制，並將AI攻擊納入資安演練。研考會主委陳博洲答詢承諾，AI作業指引將力拚兩個月內完成。
鄭孟洳表示，近期科技圈掀起「養龍蝦」熱潮，AI代理工具透過授權與指令設定後，可以協助處理行政、資料蒐集及其他繁瑣工作，對行政工作量龐大的公務體系而言確實具有吸引力。但當AI從單純提供資訊，進一步取得操作系統、讀取資料甚至執行工作的權限，帶來的資安風險也必須同步正視。
她詢問，目前高雄市政府各局處已導入哪些AI應用，以及未來生成式AI在公務體系中的布局。
陳博洲答詢表示，市府AI應用大致分為同仁個別使用，以及市府系統性導入兩個層面。涉及機敏及資安問題的資料必須特別管控；市府目前也正測試生成式AI協助公文處理，預計今年第四季先從部分局處示範，若成效良好，再逐步推廣至其他局處。
針對1999市民服務，陳博洲指出，目前包括智慧客服及話務處理等方向均持續測試，希望未來透過AI協助話務內容整理、分類與追蹤，但公部門提供資訊必須維持高度正確性，因此仍須克服AI可能產生錯誤或「幻覺」的問題，相關功能成熟後才會進一步應用。
鄭孟洳指出，高雄市府目前已有智慧客服、智慧燈塔及不同局處的知識庫、導覽與交通應用，未來又將把生成式AI帶進公文與1999等行政服務。這確實有助降低公務人員行政負擔，但「科技是一把雙面刃」，當AI被賦予更多工作能力，資料安全與責任歸屬就不能等到系統上路後才補破網。
她以1999為例指出，民眾陳情內容可能包含姓名、電話、住址，甚至涉及檢舉、違法事項及要求保密的資訊；公文也可能包含個人資料或不得公開的內容。因此，哪些資料可以交由AI處理、哪些必須經過核准、哪些人具有存取權限，以及個資是否應先遮蔽，都必須事先建立明確制度。
「就像請一個新同仁來上班，也一定會交代工作範圍、設定系統權限。」鄭孟洳認為，AI未來若成為市府的「AI助理」或「AI幕僚」，同樣必須設定工作邊界，不能只看到效率，卻沒有權限與責任規範。
陳博洲表示，市府在資料安全方面會區分不同類型，部分機敏資料不能上雲端，必須控制在市府可掌握的環境；未來推動生成式AI，也會明確規範可以使用的範圍，以及哪些資料必須在特定環境中處理。
鄭孟洳進一步追問，高雄市政府既然已經逐步導入AI，相關AI使用指引就應跟上腳步，尤其中央已有相關人工智慧法制及風險分類架構，市府應儘速建立自己的操作規範。她要求研考會會同法制局，在兩個月內完成AI作業指引，並明定核准使用的AI工具、禁止輸入的資料類型、權責分級、人工審核及年度稽查等機制。
陳博洲回應，市府年初已有相關草案，目前正配合中央最新規範調整；面對鄭孟洳詢問「兩個月內能不能看到」，他表示可以朝兩個月內完成辦理。
除了制度規範，鄭孟洳也將焦點轉向駭客攻擊。她指出，AI應用愈深入公務系統，資安演練的重要性只會增加。依她質詢引用的市府資料，從113年8月至115年8月兩年間，市府累計遭遇超過743萬次攻擊紀錄，其中研考會達281萬次；包括研考會、交通局、地政局等掌握大量城市及市民資訊的單位，都可能成為攻擊目標。
她強調，這些攻擊紀錄不代表系統已遭成功入侵，卻反映政府資訊系統持續處於網路攻擊壓力下。隨著駭客也開始利用AI工具提升攻擊能力，政府防禦方式不能停留在過去。
鄭孟洳指出，市府過去辦理資安紅藍隊演練，由一方模擬攻擊、一方進行防禦，藉此找出系統漏洞，但114年度曾因中央補助預算因素影響辦理。她認為，資安不能完全依賴中央補助，「中央沒有補助，駭客也不會停止攻擊」，高雄市政府應建立常態性預算，確保重要共用系統每年都能接受實戰型檢驗。
陳博洲表示，相關資安演練後續已由市府自行編列經費處理。
鄭孟洳最後提出三項要求，包括兩個月內完成市府AI作業指引、常態編列資安演練經費，以及將AI攻擊情境正式納入演練，並優先檢驗未來將導入AI的公文及1999系統。
她強調，高雄要推動AI城市，不能只有「用得快」，還要確保「守得住」。當AI開始接觸市民個資、公文與行政系統，效率、資安與政府責任必須同步到位，才能避免科技便利反而成為新的城市治理風險。
【版權所有 翻印必究】#漾新聞 #高雄 #高雄市議會 #鄭孟洳 #民政部門 #人工智慧 #AI #資安 #1999 #生成式AI #研考會 看更多新聞請點選【漾新聞官網】 https://www.youngnews3631.com 看完整新聞 請點選 漾新聞「即時新聞」 https://www.youngnews3631.com/news_home.php
