ラインアクセス傾向を学習・予測する先進キャッシュマネジメントの研究

キャッシュマネジメントは,プログラム実行に合わせて,自動的にプロセッサ内の高速なキャッシュメモリに必要データを格納するマイクロアーキテクチャ技術である.この技術は,即効性のある既存コンピュータ高速化・効率化技術であるとともに,メモリ階層の使い方に関する洞察を含む本質的な技術となっている.キャッシュは,アクセス局所性に基づく簡単なアルゴリズムによって良好なヒット率を得られることが知られてきたが,近年の大規模なLLC(ラスト・レベル・キャッシュ)の登場により,この容量を活用するためのアルゴリズム高度化が進んでいる.最近では履歴を用いたヒューリスティクス手法を学習で補完するような手法が効果を上げている.

しかし,プリフェッチと置き換えアルゴリズムの二つに大きく分類されるこれらの新手法は,プログラムによってそれぞれの効果が大きく変動する上に,併用時に予期しない副作用が発生する.このため,全体として最適な性能を得るキャッシュ・マネジメント設計は明確となっていない.

我々は,より高性能なキャッシュマネジメント手法を明らかにするために大きく二つのアプローチで研究を進めている.一つは既存手法を網羅しながら,プログラム挙動に合わせて最適な組み合わせおよびパラメタを選択するハイブリッドアプローチである.このアプローチでは近年の各手法をシミュレータ上に実装し,比較実験を行いながら,有効な組み合わせを網羅し,その効率的な実装を提案している.また,プログラムフェーズを利用して適応的に切り替える手法を研究している.

もう一つのアプローチは,プリフェッチと置き換えを別手法とせず,それぞれの存在を前提とした統合的なライン選択手法の提案である.我々は置き換えアルゴリズムにおけるライン価値予測をプリフェッチが擾乱してしまう挙動に着目し,これを解決する学習機構を提案している.

 

  • 中村 朋生, 甲地 弘幸, 入江 英嗣, 坂井 修一: 「高機能なPrefetcherに適するキャッシュ置換アルゴリズムの検討とHybrid Prefetcherの提案」, 情報処理学会研究報告ARC, Vol. 2018-ARC-231, No. 8, pp. 1–8, Jun., 2018.
  • 甲地 弘幸,入江 英嗣,坂井 修一: 「プリフェッチラインの再参照間隔を予測するキャッシュマネジメント」, 情報処理学会研究報告, 2017-ARC-227,No. 12,pp. 1–8, Aug., 2017. (CPSY研究会優秀若手講演賞)
  • 渋江 陽人, 野村 隼人, 入江 英嗣, 坂井 修一: 「ストライドアクセスの階層構造に着目したフェーズ検出」, 情報処理学会研究報告, 2017-ARC-225, No.2, pp. 1–6, Mar., 2017.
  • Hayato Nomura, Hiroyuki Katchi, Hidetsugu Irie, Shuichi Sakai: “Stubborn Strategy to Mitigate Remaining Cache Misses”, Int. Conf. on Computer Design, pp. 388–391, Oct., 2016.

 

関連項目:「CPU性能を向上させる高効率キャッシュアルゴリズム