• 한 연구팀이 GPU에 DRAM 캐시를 활용하는 새로운 개념을 도입해 기존 HBM(High Bandwidth Memory) 구성에 비해 상당한 성능 향상과 에너지 효율 향상을 제공합니다.

• 제안된 솔루션은 전용 DRAM 캐시를 새로 구축된 SCM(Storage-Class Memory)에 통합하여 기존의 HBM 설정을 대체하는 것입니다. 이 하이브리드 접근 방식은 현재 GPU 메모리 용량과 대역폭의 한계를 극복하여 보다 효율적인 데이터 전송 및 관리를 가능하게 하는 것을 목표로 합니다.

• 연구진은 성능 효용성이 낮은 데이터에 대해서는 효과적으로 DRAM을 우회하여 SCM으로 GPU에 의한 메모리 접근의 다차원적 특성을 고려한 SCM 인식 DRAM 캐시 우회 정책을 제안합니다.

• 성능을 더욱 최적화하기 위해 구성 가능한 태그 캐시(CTC)를 도입하여 L2 캐시의 일부를 DRAM 캐시 라인 태그로 캐시하여 DRAM 캐시 프로브 트래픽을 줄이고 효과적인 DRAM 대역폭을 높입니다.

• AMIL(Aggregated Metadata-In-Last-column)이라는 제안된 DRAM 캐시 조직은 모든 DRAM 캐시 라인 태그를 행 내의 단일 열에 공동으로 배치하여 CTC 미스로 인한 DRAM 캐시 프로브 트래픽을 최소화하고 완전한 ECC(Error-Correcting Code) 보호를 유지합니다.