フェーズ連想メモリ：複素ヒルベルト空間におけるシーケンスモデリングの飛躍的進歩

この研究では、フェーズ連想メモリ（PAM）が紹介されています。これは、言語シーケンスをモデル化するためにヒルベルト空間における複素数値表現を利用する魅力的な再帰型アーキテクチャです。印象的なことに、約1億パラメータのPAMは、WikiText-103でマッチングしたTransformerの10%以内のパフォーマンスを達成し、非古典的な計算形式の競争力ある可能性を示しています。このブレークスルーは、複素重ね合わせと共役検索の活用が、自然言語処理（NLP）における伝統的なアプローチに代わる強力な選択肢を提供する可能性を示唆しています。