소식 Arm: 클라이디로 AI 개발자 혁신 가속화
- BarryWhite
- 조회 수 132
- 2024.05.30. 19:15
Arm이 AI 가속화를 위한 광범위한 소프트웨어 및 소프트웨어 커뮤니티 참여 프로그램, Arm 클라이디Kleidi를 출시한다고 밝혔습니다.
Arm은 우선 AI 프레임워크를 위한 Arm 클라이디 라이브러리를 선보입니다. 이를 통해 개발자는 오늘날 클라우드부터 엣지까지 전 세계 대부분의 AI 추론 워크로드가 이미 실행되고 있는 널리 퍼져 있는 Arm CPU의 AI 기능에 액세스할 수 있습니다.
개발자는 머신 러닝(ML) 워크로드를 위한 고급 단일 명령어 다중 데이터(SIMD) 확장 기능을 처음 도입한 Armv7 아키텍처부터 Arm CPU에서 고급 생성 AI 워크로드를 가속화하고 보호하는 기능을 통합한 오늘날의 Armv9 아키텍처에 이르기까지 20년 이상 지속적으로 AI 기능과 성능을 향상시킨 Arm 아키텍처의 혁신을 활용할 수 있습니다.
모든 AI 워크로드를 위한 클라이디AI와 모든 계층의 Arm CPU에서 동급 최강의 컴퓨터 비전(CV) 워크로드를 위한 클라이디CV가 포함된 클라이디 라이브러리는 개발자가 별도의 작업 없이도 널리 사용되는 AI 프레임워크에 직접 임베드될 예정입니다. 이를 통해 개발자는 Arm CPU의 AI 기능을 원활하게 사용하여 가능한 최고의 성능으로 광범위한 범위에서 AI 기반 애플리케이션을 빠르게 구축할 수 있습니다.
클라이디AI는 고도로 최적화된 AI 커널 모음입니다. 생성형 AI와 같은 사용 사례에서 높은 성능을 제공한다고 합니다.
클라이디AI의 장점은 개발자에게 추가 작업을 제공하는 것이 아니라, 클라이디AI를 통합하기 위해 MediaPipe(XNNPACK 경유), LAMA.cpp, PyTorch(ExecuTorch 경유) 및 TensorFlow Lite(XNNPACK 경유)를 포함한 주요 AI 프레임워크와 직접 협력하고 있다는 점입니다.
이는 개발 프로세스를 가속화하고 AI 성능을 잠금 해제하여 개발자에게 기본적으로 성능을 제공하므로 최상의 AI 경험을 원활하게 만들 수 있습니다. 클라이디AI는 또한 개발자가 추가 기술을 시장에 출시할 때 미래의 AI 가속화 기회를 최대한 활용할 수 있도록 미래 지향적인 호환성을 제공합니다.
클라이디AI의 통합은 이미 생성적 AI 워크로드에 대한 상당한 성능 개선으로 이어지고 있습니다. 참조 구현(소프트웨어 클라이디 최적화 없는 Lama.cpp 기반)과 비교해 새로운 Arm Cortex-X925 CPU에서 Lama.cpp를 사용하여 Meta의 Lama 3 및 마이크로소프트의 Phi-3 LLM에 대한 최초 공개 토큰을 190% 가속화합니다.
클라이디AI는 통합이 매우 쉬워 Arm의 엔지니어링 팀이 Lama 3에 대해 최적화된 성능을 측정하는 데 24시간이 채 걸리지 않았다고 합니다. 또 모바일에서 실행되는 Gemma Open LLM을 지원하는 XNNPACK을 통한 Kleidi AI와의 통합을 통해 Google 픽셀 8 Pro 스마트폰의 Gemma 2B에 대한 최초 공개 토큰이 25% 향상되었습니다.
유니티 역시 유니티 게임 엔진을 지원하는 모든 장치에서 게임 개발자들이 혁신적인 AI 기반 게임 플레이 경험을 만들 수 있도록 지원하는 온디바이스 AI 추론 엔진인 Unity on Sentis와 협력하고 있습니다. 클라이디AI를 통합한 후, Unity Sentis는 Phi-2 LLM을 실행할 때 int4 양자화를 통해 모델 메모리 활용률을 72.5% 줄이고 성능을 660% 향상시킬 수 있었습니다.
이어 클라이디CV는 많은 카메라 사용 사례에 사용되는 CV 파이프라인을 가속화합니다. 2500개 이상의 알고리즘을 포함하고 수십만 명의 개발자를 지원하는 세계 최대 CV 라이브러리인 OpenCV는 이미 KleidiCV 통합을 기반으로 다양한 이미지 처리 작업에서 75%의 일반적인 성능 향상을 확인했습니다. OpenCV와의 전략적 소프트웨어 파트너십의 일환으로, 우리는 또한 처음으로 자바 개발을 위한 오픈 소스 소프트웨어 구성 요소 및 라이브러리의 저장소인 메이븐 센트럴에 안드로이드 빌드를 도입합니다.
대부분의 경우 모든 AI 워크로드가 CPU에서 실행되는 것으로 시작되기 때문에 Arm 클라이디는 CPU에서 AI 기능을 가속화하는 데 중점을 둡니다. 이는 개발자가 AI 워크로드를 목표로 할 때 가장 쉬운 경로입니다. 따라서 개발자에게 이 경로를 더 성능적으로 만들 수 있을수록 개발 과정에서 개발자가 CPU를 계속 사용하고 목표로 삼을 수 있을 가능성이 높아집니다. 또한 LLM이 작고 효율성이 높아짐에 따라 CPU에서 처리되는 것이 합리적인 AI 기반 워크로드가 점점 더 많아질 것입니다. 최종 결과는 개발자의 AI 워크로드 성능을 최적화하는 더 부드럽고 매끄러운 개발 프로세스입니다.
