LLMの幻覚を「物理コア制約」で止める：IDE / Nomological Ring Axioms

この記事は、大規模言語モデル（LLM）が「答えてはいけない状態でも答えてしまう」問題を構造的に解決するための設計原理を提案しています。精度向上やベンチマーク競争ではなく、「不能（Fail-Closed）」システムとして扱うことに焦点を当てています。中心となるアイデアは、「物理コア制約」とIDE（Ideal, Defined, Enforced）やNomological Ring Axiomsなどの概念を使用して、LLMが不確実または不適切な状況で応答を生成しないようにすることです。このアプローチは、不十分なデータや曖昧なクエリに直面した場合に、LLMが幻覚を見たり、誤った情報を提供したりするのを防ぐことで、LLMの安全性と信頼性を高めることを目的としています。記事は、LLMの安全性に対する積極的かつ予防的なアプローチを強調しています。

• •構造的制約を通じてLLMの幻覚を防ぐことに焦点を当てる。
• •安全性を高めるために「物理コア制約」を活用する。
• •IDEとNomological Ring Axiomsを使用して、許容されるLLMの動作を定義する。