ベクトルデータのキャッシュ置き換え制御機構の設計と実装

摘要

マルチメディア処理では，ベクトル演算やSIMD演算を利用することで大量のデータを高速に処理することができる．しかしながら，マルチメディア処理が扱う大量のデータはキャッシュ中のデータブロックを次々と置き換えていく．そのため，ベクトル演算とスカラ演算を同時実行した場合，スカラデータがキャッシュ上から追い出されシステム全体のスループットが低下してしまう．本研究では，ベクトルロード命令の命令アドレスからアクセス頻度の低いデータをロードする命令を見分け，キャッシュ中へのデータの置き換えを抑制することでキャッシュの使用効率を向上する手法を提案する．Responsive Multithreaded Processor上に本研究で提案した機構を実装し評価を行った．その結果不要なデータのキャッシュ入れ替えを削減し，システム全体のスループットを向上することができた．%In multimedia processing, it is possible to deal with large amounts of data quickly by using vector operation or SIMD operation. However, the data handled multimedia processing replace cache blocks one after another. When scalar and vector operations execute simultaneously, scalar data is evicted from a cache and throughput of whole system is degraded. In this paper, we propose a method to improve cache utilization by identifying less frequently accessed data from vector load instruction address and suppressing the data replacement into the cache. The mechanisms were implemented and evaluated on Responsive Multithreaded Processor. As a result, reducing unnecessary data cache replacement, we were able to improve throughput of whole system.