Apple Neural Engine の秘密を解き放つ:小さなLLMを動かす!
分析
このエキサイティングな開発は、AppleのNeural Engine(ANE)を使用して、より小さなモデルをトレーニングする新しい方法を明らかにします。 ANEをリバースエンジニアリングし、特別なトレーニングパイプラインを作成できることは、素晴らしい進歩です。 実証された電力効率は本当に驚くべきものであり、エネルギーを意識したAI開発の扉を開きます。
重要ポイント
引用・出典
原文を見る"ANEでのピークコンピューティングはわずか2.8Wを消費し、19 tflopsで6.6 tflops/ワットになります。 異常!"