gemm

"これまで、Linux 上で、別のLinuxを使って作業したい場合は、Ubuntu + KVM 環境(必要に応じてGPUパススルー)を使っていましたが、リソース効率の観点から、コンテナ環境(Podman)の方が適切であると判断したため、OS環境を変更してみました。"

"現在、1台のAndroidスマートフォンは、LLMをローカルで実行し、ADB経由で独自のアプリを自動化し、必要に応じてオフライン状態を維持しています。"

"仕事では普段からclaude codeやgemini cliにお世話になっていました。ただ、個人アカウントで課金するのは「もったいないかなー」とためらってました。CLAUDE.mdなどの恩恵を受けつつ、あわよくば完全無課金でclaude codeを使い倒したい算段です。"

"Open WebUI + Ollamaを使うことで、ローカルでもChatGPTライクな環境をここまで簡単に構築できることに驚きでした。「無料・セキュア・カスタマイズ可能」という点で非常に魅力的です。"

"Gemma4より高性能な「Qwen3.6-35B-A3B」がオープンモデルとして公開される。"

"「スマホで動くなら、低スペックPCでも動くはず」という判断のもと、Ollamaと組み合わせた構成を試してみた。結果は想定以上だった。"

"今回も利用するのは、2025年6月にpreprintが公開されたKokushiMD-10というものです。これは日本語の医療および隣接分野の国家試験10種を大規模言語モデル (LLM) の評価用データセットとして整理したものです。"

"私はこのモデルをとても気に入りたいと思っていました。Qwen 3.5 27bに取って代わるかもしれないと考えました。改良されることを期待して、アップデートのたびに戻ってきて試しています。"

"Openclawはツールを使って外部の情報を取得したり、操作したりする。モデルがツール呼び出しに対応していないと、その機能が使えない。"

"皆様、llama.cpp（llama-server）がGemma-4 E2AおよびE4AモデルによるSTT（音声認識）をサポートするようになったことを確認でき、大変嬉しく思います。"

"Gemma4は、Googleが提供する大規模言語モデル（LLM）です。ローカル環境で実行できるのが特徴で、ChatGPTのようなAIを自分のPC上で動かすことができます。"

"全てのモデルがマルチモーダル入力に対応しており、コンテキスト長は128K〜256Kです。Sliding window attentionとフルattentionの交互配置、Dual RoPE、Shared KV Cacheなどの革新が取り入れられています。"

"「ローカル愛好家」として、このような小さな自己ホスト型大規模言語モデル (LLM) における使いやすさと信頼性の向上は、数年前にDeepseekが思考能力（Chain of Thought）をもたらした時のことを思い出させます。"

"models/gemini-3-pro-preview models/gemini-3-flash-preview models/gemma-4-26b-a4b-it models/gemma-4-31b-it models/imagen-4.0-generate-001"

"2026年になった今、すでに200k以上のコンテキストを持つ安定したローカルモデルが存在するというのは、少し信じられないことです！このテスト中も、Gemmaは正気を保っていました！245,283 / 262,144 (94%) のコンテキストにおいて、特定のユーザーが何を言ったか尋ねると、それを完璧に一致させ、2〜5秒以内に回答します。"

"更新されたチャットテンプレートが含まれているため、再ダウンロードしてください。おそらくその他の更新も含まれています。UnslothチームがこのようにGemma-4のリリースをサポートしてくれて、素晴らしいです。"

"モデルの重みを抽出することはできたのですが、コンパイルされたTFLiteグラフファイルからMTPをリバースエンジニアリングして、使用可能なPytorch nn.Moduleに戻すために、特にC++を知っているコミュニティの方々の助けが必要です。"

"MetaのCEOマーク・ザッカーバーグが2026年4月8日にLlama 5を正式発表した。商用クローズドモデルへの対抗軸として開発されたオープンソース戦略の集大成であり、業界に大きな波紋を広げている。"

"gemma4:26b (MoE) は最速・最小VRAMで実用上の最良選択肢であり、高い精度を維持しながら77ページのドキュメントを正常に完走した。"

"31Bが400Bに勝っとる。パラメータ数で約13分の1のモデルが、ほぼ全ベンチマークで上回った。"

"Gemma 4: バイト単位で最も能力の高いオープンモデル"

"https://github.com/ggml-org/llama.cpp/pull/21534 のマージにより、Llama.cppにおけるGemma 4の既知の問題に対するすべての修正が解決されました。"

"Tufts大学の研究チームが、ニューラルネットワークと人間の論理的推論を組み合わせた「ニューロシンボリックAI」システムを発表し、エネルギー消費を最大100分の1に削減しつつ、精度も向上させることに成功しました。"

"Meta Superintelligence Labs（CEO: Alexandr Wang）が初の大規模モデル「Muse Spark」を公開。旧Llama 4 相当の性能を「桁違いに少ない計算量」で実現し、Meta 製品全体に展開。"

"結論から言うと、電気代を計算したらHaikuのほうが安かった。"

"些細なことに聞こえるかもしれませんが、ローカルAIがなければ、私はおそらく90分間もの間、目が眩むような痛みに苦しんでいたでしょう。これは、新しい技術が実際に生活に明確な変化をもたらした稀有な瞬間でした。"

"異種iSWAのためのアテンションローテーションのサポート（kv-cache）、バッファのオーバーラップを確認し<unused24>トークンを修正（CUDA: CRITICAL fixes）、Gemma 4のBPEデトークナイザへのバイトトークン処理の追加（vocab）に対応するため、それらを再びアップデートしました。"

"LLMの非決定論的な挙動を決定論的な挙動に変換する仕組みが、LLMを使いこなす鍵となると考えている。簡単に言い換えれば、アナログをデジタルに置き換えるということである。"

"Gemma 4は、まさにそのような瞬間の一つのように感じられます。それは単なる別のオープンソースモデルのリリースではありません。Googleが、フロンティアスタイルの推論、マルチモーダル、長いコンテキスト、およびエージェントの動作を、モバイルデバイスからサーバーまでどこでも実行できるシステムファミリーにパッケージ化しようとする試みです。"

"Google AI Edge Eloquentは、自然な音声とプロフェッショナルで即座に使用可能なテキストとのギャップを埋めるために設計された高度な音声入力アプリです。"