미니 llm언어모델을 모바일에서 구동가능하게될듯

xclear
조회 수 455
2023.04.26. 17:39

https://www.artisana.ai/articles/google-researchers-unleash-ai-performance-breakthrough-for-mobile-devices

이제는 생성 AI를 공짜로 폰에서 로컬로 충분히 돌릴 수 있는 돌파구 마련함.

스테이블 디퓨전을 아주 우수한 품질로 컴퓨터도 아닌 폰에서 돌렸다고 함.

곧 대형언어모델도 돌릴 수 있도록 할 것이고 이제는 애초에 전자기기에서 인공지능을 미리 탑재시킬 듯

역시나 램크루지인 애플기기는 상대적으로 약한모습을 보임.

1등 Eomjunsik

2023.04.26. 18:17

성능이야 당연히 충분하고..

환경의 문제인데 안드로이드는 이미 제한적으로나마 가능합니다.

[Eomjunsik]님의 댓글을 신고합니다. 취소 신고

2등 영어공학과

2023.04.26. 20:26

12초.....?????? 결과물을 봐야할거같습니다ㄷㄷㄷ 지금 4080산 김에 돌려보는데도 16gb vram 박힌 놈이 vram 부족 자주뜨고 4080 90%이상 풀로 돌려도 몇십분 걸릴때도 있는데....

rtx3000시리즈 & vram 12gb이하는 그냥 유료서버 빌려쓰는게 여기 국룰이더라구요

[영어공학과]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 230228 수정	admin	18.08.04	114024	13
핫글	미니	확실하게 S24U 쓰는데 만족스럽습니다 [3]	sourire	24.05.13	593	12
핫글	미니	스마트폰 생성형 배경화면은 갈길이 머네요 [11]	미붕붕드링크	24.05.13	744	10
핫글	미니	갤럭시 특정앱 실행 반박자 느린거 영상 찍어왔습니다 [23]	모코코	24.05.13	947	9
191215	미니	아시아 매장에서 AMD 라데온 RX 7600 8GB 그래픽 카드 발견 [2]	PatGelsinger	23.05.10	370	0
191214	미니	새로운 닌텐도 하드웨어는 2024년 4월 이전에 출시되지 않습니다. [2]	PatGelsinger	23.05.10	765	3
191213	미니	Adb로 앱을 죽였는데 [5]	룬룬	23.05.10	613	0
191212	미니	안드도 카톡 단톡방 조용히 나가기 탑재 되었습니다. [2]	으챠	23.05.10	869	5
191211	미니	카톡 드디어 조용히 나가기 기능이 탑재 됐군요 [16]	아이폰14프로	23.05.10	1179	6
191210	미니	갤럭시에 맥세이프 카드지갑 쓰면 티머니 되나요? [2]	[성공]함께크는성장	23.05.10	708	0
191209	미니	프라이드에 진심인 애플 답군요 [21]	아이폰14프로	23.05.10	1430	4
191208	미니	크롬에서 Vulkan 활성화하면 유튭 재생이 먹통되는군요 (with WebGPU 주저리)	흡혈귀왕	23.05.10	354	1
191207	미니	14프로 싸게 나오니 흔들립니다 [10]	아이폰14프로	23.05.10	856	0
191206	미니	갤럭시북에서 삼성 앱 다운로드가 되지 않을 때 조치 방법 [1]	[성공]함께크는성장	23.05.10	381	1
191205	미니	16.5 rc 업뎃 완료 LGBTQ+ 배경 추가 됐네요 [2]	에피	23.05.10	702	6
191204	음향	역시 연결 안정성 최강은 갤+버즈네요 [3]	Kanata	23.05.10	784	1
191203	미니	Beastgrip DOF MK3가 공개되었습니다. [1]	곰장수	23.05.10	814	1
191202	미니	데이터 옮기는데 폰이 픽 꺼지네요 [2]	[성공]함께크는성장	23.05.10	751	7
191201	미니	폰 멀티 컨트롤 좋네요 [1]	[성공]함께크는성장	23.05.09	604	1
191200	미니	서랩스 너무 땡기네요 [16]	그냥페퍼	23.05.09	1119	2
191199	미니	눈이 녹아내릴 거 같아요 [4]	[성공]함께크는성장	23.05.09	1291	14
191198	미니	갤럭시 카메라 그립스탠드 접었나요??? [4]	ESTETS	23.05.09	744	1
191197	미니	LGBTQ+ 커뮤니티를 기념하는 Apple Watch 프라이드 에디션 공개 [9]	에피	23.05.09	1005	5
191196	미니	아이패드용 파컷 나왔는데 영구 라이센스 판매를 안하는군요. [6]	Stellist	23.05.09	764	1
191195	미니	엑스페리아와 픽셀의 후처리 차이	S.R	23.05.09	482	7
191194	미니	N5200 스탠드 고속무선충전기 재고가 풀렸네요?? [5]	에피	23.05.09	585	0
191193	미니	아이폰 화면이 커진다고 하니 [5]	민초홀릭	23.05.09	813	4
191192	미니	아이패드용 로직/파컷 발표!되었습니자 [7]	지나가던호갱	23.05.09	512	3
191191	미니	AMD Phoenix Desktop APU는 언제 나올까요..ㅠㅠ [2]	스퀴니	23.05.09	522	2

👩🏼‍💻미코🌿

미니 llm언어모델을 모바일에서 구동가능하게될듯

추천 IT 소식 [1/]

스킨 기본정보

사용자 정의

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정