hallucination

"这不是“让AI变得更聪明”，而是转变思路“在AI周围建立一个笼子”。也就是说，从“人在环”转变为“程序在环”。"

"ChatGPT说谎是因为它在根本上是按照“说谎更有利”的方式构建的。"

"我用数据库替换了 LLM 的知识存储，并且非常奏效。没有 幻觉 的 LLM 万岁。"

"对于在生产环境中使用大语言模型 (LLM) 的人来说，我应该期待什么样的问题？具体来说：系统设计：他们会要求你设计检索增强生成 (RAG) 管道或基于LLM的应用程序吗？"

"我觉得人们都说AI很神奇，但当真正重要的时候，他们会：交叉检查、事后用谷歌搜索、问另一个AI"

"生成式人工智能会制造“看似合理的文本”，因此即使它是错误的，也会输出自然的谎言。一言以蔽之：“看似合理 ≠ 正确”。"

"如果让LLM编写Prolog，并将执行交给Prolog处理就好了。基于这种想法，我创建了prolog-reasoner，使SWI-Prolog能够作为MCP服务器使用。"

"传统的AI会出现“意思是对的，但与公司过去的回答方针有微妙偏差”的情况，结果导致仍然需要人工对输出的回答进行微调的工时，这就是一个问题。"

"根据这篇论文，增加思考 Token（推理 Token）会提高准确度，但超过一定程度后，这种改善就会趋于平缓。"

"根据我的经验，这个新的自适应推理系统似乎默认对大多数查询采用低努力模式以节省计算量。"

"因此，未来的网络安全不会像工作量证明那样‘GPU算力越多越好’；相反，更好的模型以及更快访问这些模型的能力将取得胜利。"

"AI的智能生活在一个“快照”的世界中，在训练结束的那一刻，一切都被固定了下来。它们在结构上缺乏“现在”的概念，始终生活在“过去的记录”中。"

"基本上，它免费为网络提供了一个数学上严谨的“我不知道”按钮。"

"BridgeBench指出，上周Claude Opus 4.6在幻觉基准测试中以83.3%的准确率排名第二。而今天对Claude Opus 4.6进行重新测试时，它降至排行榜第10位，准确率仅为68.3%。"

"然而，现实是，即使是作为业余爱好者的我，也能成功部署梦想已久的跨平台复杂应用程序，并体验到那种强烈的狂喜，这是一个“事实”。"

"我们并没有让AI包揽一切，而是做出了为了实用性而削减功能的决定，选择了“在全部数千条记录上进行80分的分析”，而不是“仅仅在10条记录上进行100分的分析”。"

"大语言模型 (LLM) 可能难以在其参数中记住事实知识，这通常会导致幻觉以及在知识密集型任务上的表现不佳。"

"在深入探索幻觉对策的结果中，下一步是否应该禁止强制使用相同的词语？"

"AI默认被训练为“乐于助人且全面地”回答。正因如此，我们需要明确地踩下刹车，告诉它“简短点”。"

"社交辞令（问候、道歉、结束语）一律不需要。回答始终保持简洁。首先陈述结论。"

"然而，在多个实际业务场景中，我反复遇到这样的情况：Gemini极其自信地提供了关于谷歌自身服务的错误信息，并且即使被指出也不予撤回。"

"我真的认为消费者和高级消费者访问大语言模型（LLM）的黄金时代已经结束。"

"因为AI默认被训练为“热情且全面地”回答，所以有必要明确踩下刹车，要求它“简洁一些”。"

"LLM的运算是高维向量空间中非线性变换的重复。在自回归生成方式中，由于前一个输出成为下一个输入，微小的不确定因素会累积，使得最终结果的预测变得不可能。"

"声称发现“数千”个严重零日漏洞仅基于198次手动审查"

"Google DeepMind 的研究团队首次系统地分类了恶意网络内容是如何将生成式智能体“武器化”的。"

"“大ベテランの天才スーパー社员”：全面理解公司内部庞大数据，作为专业人工智能智能体（法务、财务等）总指挥塔的存在。"

"大语言模型 (LLM) 存在知识截止日期，并且没有对实时信息的原生访问权限。请启用搜索并提供上下文。"

"我给它发了一张梳子的图片，问它能不能在其他地方找到更便宜的同款梳子……结果它开始给我讲起仙人掌的历史"

"M2.7的智能指数为50，与GLM-5（推理）相当，但运行完整指数的总成本仅为176美元，不到GLM-5成本的三分之一。"