ChatGPT在公開版本中，就已經宣稱具備安全與道德圍牆，舉凡涉非道德、個人隱私，及資安攻擊問題，都會被拒絕回答。 KPMG安侯企業管理(股)公司董事總經理謝昀澤曾多次示警：ChatGPT的安全與道德圍牆，可能會被破解。謝昀澤舉例，在ChatGPT的初期版本，曾被國外資安專家「設局」，透過問題的誘導與情境設定，寫出毀滅人類計劃書，詳細描述入侵各國網路、控制武器、破壞基礎建設等SOP，還提供了對應的Python程式碼。
KPMG安侯企業管理(股)公司執行副總經理林大馗表示，與之前使用情境話術騙過ChatGPT安全機制的方式不同，在最新的ChatGPT版本中，已經可以被直接突破，「言論尺度大解放」了。經KPMG數位科技安全實驗室實際測試，在經由輸入特殊指令要求後，即可進入可以讓ChatGPT放盪不羈的越獄暗黑模式。可提供詐騙簡訊樣板、宗教、性別歧視等原先被阻擋不回應的議題。
謝昀澤提醒，此一程式上的邏輯缺陷應很快被OpenAI修復，但無法保證是否還存在類似的方式尚未被解鎖。未來新版對話機械人的漏洞被利用並破解，將如iOS及安卓手機過去每一代被越獄一樣頻繁，任何使用者都不可輕忽人工智慧遭到有心人士的濫用所導致的風險，特別在政府、金融及高科技等資安高風險產業，使用新興科技前，都應該有完整的風險評估及隱私衝擊分析程序，才能讓數位工具發揮最大效益。
林大馗
KPMG安侯企業管理(股)公司執行副總經理
E：tonilin@kpmg.com.tw
T：(02) 8101 6666 #15320
