미니 내년 플래그십 안드폰부터는 챗GPT 같은 게 자체적으로 동작 가능?!
- 김밥열한줄
- 조회 수 865
- 2023.07.19. 11:31
퀄컴이 Llama2를 폰과 PC에서 온디바이스 지원하게 하기 위해 메타와 협력중이랍니다.
내년부터면 8G3, 8cx Gen 4 탑재 폰, PC부터 온디바이스 AI 기능이 대폭 강화?!
큰거옵니다!!
Llama는 메타가 만든 오픈소스 LLM입니다. 오픈AI의 GPT, 구글의 PaLM 같은 거죠.
아 근데 이러면 엑시노스2400 S24는ㅠㅠ 갑자기 아쉬워지네요
덧)) 삼브 챗GPT 지원은 OpenAI 서버에 의존해서 결과 받아오는 거라 프라이버시 문제도 로컬하게 돌리는 것보다 못하고 무엇보다 웹브라우징 한정이라서 챗GPT 기본기능 + 웹페이지 요약 이 정도로 예상돼서 아무래도 활용도가 온디바이스 동작하는 LLM을 이용하는 것보단 적을 것으로 보여요
댓글
19
1등 Eomjunsik
글쓴이
김밥열한줄
Eomjunsik 님께
2등 존버합니다
글쓴이
김밥열한줄
존버합니다 님께
3등 흡혈귀왕
best Stellist
흡혈귀왕 님께
글쓴이
김밥열한줄
흡혈귀왕 님께
흡혈귀왕
김밥열한줄 님께
Eomjunsik
흡혈귀왕 님께
흡혈귀왕
Eomjunsik 님께
[성공]함께크는성장
글쓴이
김밥열한줄
[성공]함께크는성장 님께
sourire
글쓴이
김밥열한줄
sourire 님께
sourire
김밥열한줄 님께
요그
영어공학과
요그 님께
영어공학과
Androboy
2023.07.19. 11:35
2023.07.19. 11:38
2023.07.19. 11:40
2023.07.19. 11:41
2023.07.19. 11:41
2023.07.19. 11:42
2023.07.19. 12:43
2023.07.19. 11:54
2023.07.19. 12:57
2023.07.19. 13:05
2023.07.19. 11:51
2023.07.19. 12:00
2023.07.19. 12:06
2023.07.19. 12:07
2023.07.19. 12:19
2023.07.19. 13:08
2023.07.19. 14:25
저두 안믿겼는데 얼마전에 구글에서 갤럭시s23으로 스테이블 디퓨전 돌려서 금방 그림하나 뽑아내는거 인증 하더라구요
https://ai.googleblog.com/2023/06/on-device-diffusion-plugins-for.html?m=1
스테이블 디퓨전을 최적화 저만큼 한거 보니까 llm도 시간 문제일거 같습니다
https://arxiv.org/abs/2304.11267
이거 보면 메모리 최적화가 가장 큰 역할을 했다네요.
모델 자체도 최적화 들어가면...ㄷㄷ
2023.07.19. 14:19
2023.07.19. 17:39
구동이야 지금도 가능할 정도라서..
물론 NPU 가속이 가능하면 좋겠죠.