Appleの新しいTransformerアーキテクチャがAI推論速度を大幅に向上

Appleは、Transformerベースの**Large Language Model (LLM)**の**Inference**速度に革命を起こしています！彼らの新しいアーキテクチャアプローチであるParallel Track（PT）**Transformer**は、GPU間の同期を劇的に削減することを約束します。これは、リソースを大量に消費するAIモデルに取り組んでいる人にとっては、大きな変化です。