日創作者AI查資料帳號遭停用...「武器製造」不能問？網分享經驗

記者楊智仁／綜合報導

擔任人氣漫畫、動畫《Dr.STONE 新石紀》科學監修的創作者 くられ（@reraku），近日在社羣平臺 X 發文透露，自己在使用 ChatGPT 進行「虛構作品的資料查詢」時，帳號突然遭到停用，原因被指違反與「武器製造相關」的使用指南。

▼日創作者AI查資料帳號遭停用。（圖／翻攝自Netflix）

くられ表示，當時只是爲了創作進行資料調查，卻在對話途中突然出現橘色框線警告，隨後帳號直接進入停用狀態，向 OpenAI 提出異議申訴後，約半天便收到回覆，但結果仍是遭到拒絕讓他直言「相當困擾」。くられ也補充，目前改用 Google 的生成式 AI「Gemini」，雖不至於對工作造成致命影響，但仍對 ChatGPT 在發生問題時「只能由 AI 回覆 AI」的處理方式感到無奈。

後續說明中くられ指出，AI 的判定標準似乎相當模糊，自己因專業背景關係，過去曾查詢過更具風險性的題材，反而沒有觸發警告；這次卻是在較爲「日常、看似危險」的內容中遭到封鎖，推測系統可能偏向以關鍵字或表面風險進行判斷，而非實際用途。

相關討論引來大量網友共鳴表示，ChatGPT 在「安全性詢問」與「可能被惡用」之間的界線並不清楚，例如詢問清潔用品混用是否安全，卻可能被系統視爲兵器或危險物製作而計入違規；另有網友分享自身經驗，認爲若在申訴時明確強調「研究、批判性討論或安全性檢視」的目的，較有機會避免被誤判，更有創作者直言，帳號突然被停用的風險「實在太高」，甚至開始考慮是否必須準備非主要帳號來進行相關查詢。

なんかいきなりChatGPTのアカウントが停止した。武器製造のガイドラインに反したとかなんとかだそうで、フィクション用に調べ物をしてたらいきなりオレンジ色のフレームで警告が出て、そのままアカウント停止で、異議申し立てをしたけど、半日たってあった返事ではダメとのことで、なかなかに困る。gem…