개요

 

삼성은 디지털 가전부터 모바일 스마트폰에 이르는 다양한 디바이스를 제조하는 최대 규모의 소비자 디바이스 기업 중 하나입니다. 최고의 사용자 경험을 제공하는 것이 최고의 R&D 목표이며, 저가형 가전부터 고급형 휴대폰까지 다양한 디바이스를 생산하기 때문에 기술적으로도 어려운 과제입니다. 이를 위해 워크로드 분석, 시스템 SW 개발, SoC HW를 공동 설계하여 엔드투엔드 시스템 최적화를 위해 노력합니다.

 

연구 접근 방식은 맞춤형 IP, SoC 아키텍처, AI 프레임워크의 세 가지 축으로 구성됩니다. 특히 온디바이스 AI에 집중하고 있습니다. 특화된 HW 가속기를 개발해 SoC에 원활하게 통합하고, 컴파일러와 런타임 프레임워크를 개발자에게 제공합니다. 이를 통해 삼성 디바이스에 클라우드 기반 AI 서비스에 버금가는 AI 기능을 제공하면서 지연 시간은 줄이고 프라이버시는 강화할 수 있도록 할 예정입니다.

 

비전

 

우리의 비전은 엔드투엔드 시스템 최적화를 통해 삼성 디바이스 전반에 걸쳐 최고의 사용자 경험을 제공하는 것입니다. 알고리즘, 소프트웨어, 하드웨어를 공동 설계하여 최고의 전력과 성능을 달성할 수 있도록 SoC 아키텍처를 최적화합니다.

 

연구주제

 

[맞춤형 IP]

제품 차별화를 위해 독자적인 알고리즘을 적용한 맞춤형 IP를 개발합니다.

 

예를 들어, NPU를 개발하여 제품화했는데, 상용 NPU IP 중에서도 전력, 성능, 면적 면에서 우수한 성능을 보여줍니다. 또한 SW 툴체인은 매우 중요하기 때문에 NPU를 위한 시뮬레이터, 컴파일러, 런타임, 디바이스 드라이버도 자체 개발했습니다. 향후 NPU 개발을 위해 AI 모델 압축 알고리즘에 대해 심도 있게 연구하고 있습니다. 이러한 연구를 통해 최신 AI 알고리즘을 파악하고 이에 특화된 NPU 아키텍처를 개발할 수 있을 것입니다.

 

[SoC 아키텍처]

삼성 디바이스 전반에 걸쳐 원활한 사용자 경험을 제공하기 위해 맞춤형 SoC 아키텍처를 연구합니다.

 

사용자 애플리케이션부터 타이젠 및 안드로이드 OS, HW 플랫폼에 이르기까지 엔드투엔드 최적화를 위해 노력합니다. 사용자 애플리케이션 워크로드를 분석하여 컴퓨팅 및 메모리 특성을 이해합니다. 이렇게 확보한 지식을 바탕으로 시스템의 전력 및 성능 병목 현상을 먼저 파악한 후, 시스템 소프트웨어를 최적화하고 그에 맞게 하드웨어 플랫폼을 설계합니다.

 

[온디바이스 AI 프레임워크]

AI 파이프라이닝, 온디바이스 학습, AI 마이크로 런타임과 같은 온디바이스 AI 프레임워크를 개발 및 게시합니다.

 

온디바이스 AI 프레임워크는 점점 더 다양한 AI 애플리케이션 및 서비스와 함께 더욱 강력하고 복잡해지고 있습니다. MLOps(ML Operations)가 대상으로 하는 것과 유사하지만 임베디드 장치의 환경과 요구 사항이 서로 다른 데이터, 모델 및 애플리케이션 배포를 관리해야 합니다. 디바이스에서 MLOps 역할을 하고 애플리케이션 인터페이스를 제공하며 "전통적인" MLOps와 협력하는 "디바이스 MLOps"를 개발합니다. 타사 뿐만 아니라 삼성의 다양한 디바이스에 공통적으로 적용할 수 있는 통합 AI 프레임워크를 개발합니다.