gemm

"到目前为止，当我想在Linux上使用另一个Linux环境时，我使用的是Ubuntu + KVM环境（必要时进行GPU直通），但从资源效率的角度来看，我认为容器环境（Podman）更为合适，因此我更改了操作系统环境。"

"现在一台安卓手机可以：在本地运行LLM，通过ADB自动化其自身的应用程序，并在需要时保持离线状态。"

"工作中我经常使用claude code和gemini cli，但我对于个人账户付费一直犹豫不决，觉得有点浪费。我的计划是享受CLAUDE.md等带来的好处，如果可以的话，完全免费地把claude code用到极致。"

"使用Open WebUI + Ollama，竟然可以在本地如此简单地构建出类ChatGPT环境，令人惊叹。在“免费、安全、可定制”这些方面，它具有非常大的魅力。"

"性能超越Gemma4的“Qwen3.6-35B-A3B”已作为开放模型发布。"

"基于“如果能在智能手机上运行，那么也应该能在低配置PC上运行”的判断，我们尝试了与Ollama结合的架构。结果超出了预期。"

"这次我们使用的是KokushiMD-10，这是一份于2025年6月发布的预印本，它将日本医疗及相关领域的10种国家考试整理为大语言模型 (LLM) 的评估数据集。"

"我一直很想喜欢这个模型。本以为它可能会取代 Qwen 3.5 27b。每次有更新我都会回来尝试，希望它能有所改进。"

"Openclaw使用工具来获取外部信息或执行操作。如果模型不支持工具调用，该功能将无法使用。"

"女士们先生们，很高兴向您确认，llama.cpp（llama-server）现在支持使用 Gemma-4 E2A 和 E4A 模型进行语音转文本（STT）。"

"Gemma 4 是 Google 提供的大语言模型 (LLM)。其特点是可以直接在本地环境中运行，让你能够在自己的电脑上运行像 ChatGPT 这样的生成式人工智能。"

"所有模型均支持多模态输入，上下文长度从 128K 到 256K 不等。它融合了滑动窗口注意力与全注意力交替配置、Dual RoPE 以及 Shared KV Cache 等创新技术。"

"作为一个“本地爱好者”，这种小型自托管大语言模型 (LLM) 在可用性和信心上的巨大转变，让我想起了几年前 Deepseek 带来思维链 (Chain of Thought) 能力时的震撼。"

"models/gemini-3-pro-preview models/gemini-3-flash-preview models/gemma-4-26b-a4b-it models/gemma-4-31b-it models/imagen-4.0-generate-001"

"在 2026 年，我们竟然已经有了支持 20万以上 上下文的稳定本地模型，这简直令人难以置信！即使在这样的测试中，Gemma 也保持了完整的心智！在 245,283 / 262,144 (94%) 的上下文下，如果我问它某个特定用户说了什么，它能完美匹配并在 2-5 秒内回答。"

"由于包含了更新的聊天模板（可能还有其他一些更新），您应该重新下载。很高兴看到 Unsloth 团队如此大力支持 Gemma-4 的发布。"

"事实证明我能够提取模型权重，但现在我需要社区的帮助，尤其是懂C++的人，帮助将编译后的TFLite图文件中的MTP逆向工程回可用的Pytorch nn.Module。"

"Meta首席执行官马克·扎克伯格于2026年4月8日正式发布了Llama 5。作为对抗商业闭源模型而开发的开源战略的集大成者，它在业界引起了巨大的轰动。"

"gemma4:26b (MoE) 是实用的最佳选择，提供了最快的速度和最低的显存（VRAM）使用量，在保持高精度的同时成功完整处理了 77 页的文档。"

"31B击败了400B。参数量仅为约十三分之一的模型，在几乎所有基准测试中都取得了领先。"

"Gemma 4：同等规模下最强大的开源模型"

"随着 https://github.com/ggml-org/llama.cpp/pull/21534 的合并，Llama.cpp中所有已知的Gemma 4问题都已被解决。"

"塔夫茨大学的研究团队公布了一种将神经网络与人类逻辑推理相结合的“神经符号人工智能”系统，成功地将能耗降至百分之一，同时提高了准确性。"

"Meta超级智能实验室（首席执行官：Alexandr Wang）发布了其首个大规模模型“Muse Spark”。它以“少得多的计算量”实现了与旧版Llama 4相当的性能，并正在整合到所有Meta产品中。"

"结论是，计算电费后发现Haiku反而更便宜。"

"这听起来可能微不足道，但如果没有本地AI，我可能会在极度痛苦中煎熬大约90分钟——这是一个罕见的时刻，新技术真正对您的生活产生了显著的改变。"

"我们刚刚再次更新了它们，以响应以下内容：支持异构iSWA的注意力旋转（kv-cache），在融合前检查缓冲区重叠 - 关键修复了<unused24>标记（CUDA），为Gemma 4的BPE分词器添加了字节标记处理（vocab）"

"我认为将大语言模型（LLM）的非确定性行为转换为确定性行为的机制是掌握LLM的关键。简而言之，就是将模拟信号转换为数字信号。"

"Gemma 4 感觉就像是那样的时刻之一。它不仅仅是另一个开源模型发布。它是谷歌试图将前沿风格的推理、多模态、长上下文和智能体行为打包成一个可以从移动设备到服务器 anywhere 运行的系统家族。"

"Google AI Edge Eloquent是一款先进的听写应用，旨在弥合自然语音与专业、即用型文本之间的差距。"