シーケンス知識#874：トランスフォーマー、それともそうでない？

トランスフォーマーアーキテクチャは、現在AIの参照アーキテクチャであり、そのスケーラビリティから産業標準となっていますが、アテンション機構の計算コストが高くつきます。この記事では、トランスフォーマーが最終的なアーキテクチャなのか、それとも最初の真にスケーラブルなアーキテクチャに過ぎないのかを探ります。