로그인 해주세요.

IT 소식 *최신 IT소식을 보거나 등록하실 수 있습니다.

뉴스봇

소식 AMD 라데온 7900 XTX, 최적화 통해 스테이블 디퓨전 890% 성능 향상

이번 주에 인텔과 AMD는 모두 소프트웨어 스택을 최적화하여 제너레이티브 AI의 속도를 크게 향상시켰으며, 그 결과 AMD의 RTX 7900 XTX가 제너레이티브 AI(특히 A111/X포머를 사용한 Stable Diffusion)에서 엔비디아 RTX 4080보다 달러당 성능이 더 높아졌습니다.

 

현재 스테이블 디퓨전(Stable Diffusion)이 SaaS가 아닌 현지화된 제너레이티브 AI의 대부분을 차지한다는 점을 고려할 때, 이는 중요한 이정표이며 마침내 NVIDIA에 경쟁 상대가 생겼습니다.

 

PyTorch 경로 대신 Microsoft Olive 및 DirectML을 사용하면 AMD 7900 XTX는 초당 1.87회 반복에서 초당 18.59회 반복으로 크게 향상됩니다! AMD의 자세한 가이드는 여기에서 확인할 수 있습니다. Automatic111의 이러한 성능 수준은 안정적 확산에 대한 SHARK 기반 접근 방식에 매우 근접하며, 제너레이티브 AI와 관련하여 이 회사를 확실히 지도상에 올려놓았습니다. 결과적으로 7900 XTX는 적어도 현재 가격에서는 비교 대상인 RTX 4080보다 달러당 약간 더 높은 GenAI 성능을 제공합니다(Stable Diffusion /A111에서).

스 RTX 4080 16GB(WBM 아카이브 링크는 여기)였고, 뉴에그에서 찾을 수 있는 가장 저렴한 AMD 라데온 7900 XTX는 MSI 게이밍 라데온 RX 7900 XTX 24GB(WBM 아카이브 링크는 여기)였다. 숫자를 계산하기 전에, NVIDIA와 달리 AMD 경로는 사용자가 조금 더 기술에 정통해야 한다는 점을 언급하고 싶습니다(AMD 경로는 PyTorch 대신 Microsoft Olive를 사용하며 대부분의 자동 설치 프로그램은 이에 필요한 종속성을 자동으로 설치하지 않을 가능성이 높습니다) - 따라서 편의성이 중요한 요소라면 여전히 NVIDIA를 사용하는 것이 좋습니다. 그러나 전문가와 소규모 기업은 일반적으로 비용 기반이 충분하다면 초기 설정의 번거로움을 피할 수 있으며, 여기서는 실제로 그런 것 같습니다.

 

GPU MARKET PRICE CONFIGURATION SD PERF (IT/S) DOLLARS SPENT PER IT/S
NVIDIA RTX 4080 $1099 A111 (PyTorch) 19.41* $56.6
AMD Radeon 7900 XTX $969 A111 (Microsoft Olive) 18.59 $52.1
AMD Radeon 7900 XTX $969 SHARK 20.76* $46.6
*= data taken from Puget Systems comparison published on Jul 31, 2023.

 

보시다시피, AMD 실리콘은 마침내 안정적인 확산 A111에서 4080에 비해 더 높은 가치를 제공할 정도로 GenAI에서 빛을 발하기 시작했습니다. AMD 7900 XTX는 초당 18.59회의 반복을 제공하여 사용자는 초당 52.1달러를 지불하는 반면, NVIDIA RTX 4080은 초당 19.41회의 반복을 제공하여 사용자는 초당 56.6달러를 지불합니다. 사용자가 덜 일반적인 SHARK 구현을 선택하면 Radeon 7900 XTX의 경우 초당 46.6달러까지 가치 제안을 이끌어낼 수 있습니다. 따라서 공식적으로 AMD는 제너레이티브 AI에 관심이 있는 소비자를 위한 공식적인 경쟁자입니다.

이는 또한 AMD가 조금만 더 관심을 기울인다면 엔비디아의 AI 야망에 강력한 경쟁자가 될 수 있다는 것을 의미합니다. 대부분의 사람들이 지하실에서 LLM을 실행하지는 않겠지만, 향후 12개월 이내에 GenAI와 SLM/ULM은 모든 곳에서 사용되며 많은 생산성 워크플로우의 일부가 될 것입니다. 인텔과 AMD가 엔비디아가 크게 앞서 있는 시장에서 어떻게 포지셔닝하느냐에 따라 AI가 지배하게 될 세상에서 어떻게 살아남을 수 있을지가 결정될 것입니다.

728x90



기사 더 읽기
댓글
3
일.칠칠이사오삼팔오
1등 일.칠칠이사오삼팔오
2023.08.20. 11:51

아크도 드라이버 업데이트되면서 향상폭 크다 싶었는데 900%는 ㄷㄷ

[일.칠칠이사오삼팔오]님의 댓글을 신고합니다. 취소 신고
Stellist
2등 Stellist
2023.08.20. 12:08

이 정도면 최적화로 성능을 향상시킨게 아니라 기존이 결함이나 버그때문에 성능을 못내고 있던것에 가까워보이네요. 

[Stellist]님의 댓글을 신고합니다. 취소 신고
BarryWhite
BarryWhite Stellist 님께
2023.08.20. 18:13

"짜잔! 지금까지 악으로 깡으로 돌리고 있었읍니다!"

[BarryWhite]님의 댓글을 신고합니다. 취소 신고
취소
번호 분류 제목 글쓴이 날짜 조회 수
공지 소식 IT 소식 게시판 이용 수칙 230127 admin 19.11.15 9 49320
핫글 소식 애플 마이크로 LED 개발 중단에 울고 웃은 대만 디스플레이 산업 [1] 뉴스봇 24.06.26 1 426
55343 소식 iOS 17.0.3 과열 문제 해결, A17 프로 성능 영향 없다 BarryWhite 23.10.06 0 243
55342 소식 엑시노스 2400 초기 GPU 성능, 스냅 8 Gen2보다 낮다 [2] BarryWhite 23.10.06 1 986
55341 소식 삼성전자, 갤럭시S24에 티타늄 프레임 적용...해외 협력사 두 곳 지정 [6] JamesBlake 23.10.06 0 729
55340 소식 삼성전자·TSMC, 3나노 수율 안정화 ‘고군분투’… 내년 수주 경쟁에 영향 미칠 듯 BarryWhite 23.10.05 0 784
55339 소식 디아블로 IV 피의 시즌, 편의성 업데이트와 함께 10월 18일 시작 [4] BarryWhite 23.10.05 0 463
55338 소식 인텔 랩터 레이크 리프레시, 일부 루머 정보 사실로 확인 BarryWhite 23.10.05 0 261
55337 소식 팀 쿡, 애플 주식 560억원어치 팔았다 [4] BarryWhite 23.10.05 2 929
55336 소식 발표 이후 1년 넘은 인텔 아크5 A580 출시 임박? BarryWhite 23.10.05 0 165
55335 소식 닌텐도 3DS와 위 유의 온라인 서비스 중단 결정 [1] BarryWhite 23.10.05 0 242
55334 소식 “금융 서비스 노린 웹 애플리케이션 및 API 공격 급증” 아카마이 보고서 뉴스봇 23.10.05 0 112
55333 소식 유니티, 애플 비전프로용 앱 개발 돕는다...요금제 논란에는 거리두기 BarryWhite 23.10.05 0 156
55332 소식 “자바 앱을 더 빠르게” 성능 튜닝의 모든 것 뉴스봇 23.10.05 1 220
55331 소식 파이썬 3 나온 지 언젠데...아직까지 ‘파이썬 2’ 못 놓는 개발자들 뉴스봇 23.10.05 2 535
55330 소식 “챗GPT는 ‘신뢰할 수 없는’ 코드 취약점 탐지 도구” NCC 그룹 뉴스봇 23.10.05 0 234
55329 소식 "실적 부진, 일자리 축소" 들어 메타버스 부서 감원 나선 메타 뉴스봇 23.10.05 0 196
55328 소식 삼성, 위치추적 악세서리 스마트태그2 발표 file Stellist 23.10.05 0 337
55327 소식 삼성페이, ‘정부24’의 ‘주민등록표등본’ 등 전자증명서 서비스 지원 [2] 달에서사탕만드는토끼 23.10.05 5 1077
55326 소식 사이버펑크 2077 팬텀 리버티 리뷰 : 사랑하거나 혹은 이해하거나 뉴스봇 23.10.05 0 218
55325 소식 구글, 새 스마트폰 픽셀8/픽셀8 프로 발표 file Stellist 23.10.04 2 519
55324 소식 구글, 새 스마트워치 픽셀워치2 발표 file Stellist 23.10.04 0 403
55323 소식 "파손 빠르다"…유튜버가 아이폰15 구부리고 떨어뜨리자 생긴일 (영상) aleji 23.10.04 3 838
55322 소식 팀 쿡: 기후변화보다 더 큰 위기 없어 [6] BarryWhite 23.10.04 5 985
55321 소식 철통보안 애플의 자신감...아이폰15에 최강 보안 체계 구축 [1] BarryWhite 23.10.04 0 590
55320 소식 5G 가입자 둔화 불구 요금·투자 불만 여전…고민 깊어지는 통신사 BarryWhite 23.10.04 0 190
55319 소식 엔비디아 질주에 제동? 불공정 경쟁 들여다보는 EU BarryWhite 23.10.04 1 151
55318 소식 “AI 시대의 디지털 여권” 월드코인의 개인 증명(PoP) 시스템이란? 뉴스봇 23.10.04 0 180
55317 소식 스냅드래곤 8 Gen4, 전력 소비 문제 해결 중? [2] BarryWhite 23.10.04 0 940
55316 소식 와우 2 발표되나? 블리자드 CEO 빅 뉴스 재차 예고 [7] BarryWhite 23.10.04 2 743
55315 소식 9월 D램 고정가 하락 멈췄다…4분기엔 오른다 BarryWhite 23.10.04 0 166
55314 소식 디자드, 프린세스 메이커 라이선스 계약 체결, 신작 게임 제작 BarryWhite 23.10.04 0 161

스킨 기본정보

colorize02 board
2017-03-02
colorize02 게시판

사용자 정의

1. 게시판 기본 설정

게시판 타이틀 하단에 출력 됩니다.

일반 게시판, 리스트 게시판, 갤러리 게시판에만 해당

2. 글 목록

기본 게시판, 일반 게시판, 썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

3. 갤러리 설정

4. 글 읽기 화면

기본 10명 (11명 일 경우, XXXXX 외 1명으로 표시)

5. 댓글 설정

일정 수 이상의 추천을 받은 댓글에 표시를 합니다.

6. 글 쓰기 화면 설정

글 쓰기 폼에 미리 입력해 놓을 문구를 설정합니다.

서버에 요청 중입니다. 잠시만 기다려 주십시오...