ChatGPT雖具高水平語言能力，卻非人類專家，可能產生看似合理卻不正確的回覆。以台灣為例，法律、醫療與時事領域常出現此類現象。它不存在「說謊」的意圖，但會依訓練資料的偏差與時效性混入錯誤資訊。使用者應主動交叉驗證、引用權威資料，並由專家把關，以降低風險。另有研究指出，台灣公開資料若與時事整合，亦易被放大錯誤。建議搭配事實查核平台與來源標示，提升透明度，讓「知識服務」更可靠。