AI Hallucination(AI 幻覺)

AI Hallucination(AI 幻覺)是指 AI 模型產生聽起來合理、實則錯誤或憑空捏造的資訊——因為模型是生成「最像樣」的輸出,而非經查證的事實。

幻覺是 AI 在企業應用中的核心可靠性挑戰,因為一個被自信說出的錯誤答案可能造成實際危害。主要防線包括:以可信、即時的數據為模型建立事實依據、給它工具去查證事實而非憑記憶、加入語意層讓業務用語被正確解讀,並對具後果的輸出保留人在迴路中審核。

在 CRM 中,以真實客戶記錄為模型建立事實依據,是降低幻覺的主要方法。

Frequently Asked Questions

指 AI 模型生成看似可信、實則錯誤或捏造的資訊,因為它是預測「最像樣」的文字,而非查證事實。

Related Terms