미니 llm언어모델을 모바일에서 구동가능하게될듯

xclear
조회 수 461
2023.04.26. 17:39

https://www.artisana.ai/articles/google-researchers-unleash-ai-performance-breakthrough-for-mobile-devices

이제는 생성 AI를 공짜로 폰에서 로컬로 충분히 돌릴 수 있는 돌파구 마련함.

스테이블 디퓨전을 아주 우수한 품질로 컴퓨터도 아닌 폰에서 돌렸다고 함.

곧 대형언어모델도 돌릴 수 있도록 할 것이고 이제는 애초에 전자기기에서 인공지능을 미리 탑재시킬 듯

역시나 램크루지인 애플기기는 상대적으로 약한모습을 보임.

1등 Eomjunsik

2023.04.26. 18:17

성능이야 당연히 충분하고..

환경의 문제인데 안드로이드는 이미 제한적으로나마 가능합니다.

[Eomjunsik]님의 댓글을 신고합니다. 취소 신고

2등 영어공학과

2023.04.26. 20:26

12초.....?????? 결과물을 봐야할거같습니다ㄷㄷㄷ 지금 4080산 김에 돌려보는데도 16gb vram 박힌 놈이 vram 부족 자주뜨고 4080 90%이상 풀로 돌려도 몇십분 걸릴때도 있는데....

rtx3000시리즈 & vram 12gb이하는 그냥 유료서버 빌려쓰는게 여기 국룰이더라구요

[영어공학과]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 240809 수정	admin	18.08.04	119152	13
핫글	미니	A18 gpu 벤치 관련해서 반응이 재밌네요. [8]	gamma	02:20	890	29
핫글	미니	갤럭시가 나아가야 할 카메라 방향타 5 (15PM, 16PM, P9P, P70U) [18]	S.R	00:50	596	20
핫글	미니	애플 신제품들 짧은 핸즈온 후기 [9]	Alternative	24.09.21	957	18
220413	미니	:: TEST ::	JordanKwon	18.06.27	863	1
220412	미니	TEST2	흡혈귀왕	18.06.27	656	1
220411	미니	TESTING	키타카미	18.06.27	384	1
220410	미니	미게 잘 되네요	놋철씁니다	18.06.27	547	0
220409	미니	츄라이츄라이 [1]	Elsanna	18.06.27	573	0
220408	미니	와! 미게!	Stellist	18.06.27	469	0
220407	미니	크흐 소통갓 베리힌님	놋철씁니다	18.06.27	532	0
220406	미니	여기 특별히 죽지 않으면 전 그냥 여기서 놀래요 [2]	놋철씁니다	18.06.27	972	0
220405	미니	근데 트래픽 늘어나면 어떻게 되나여 [1]	JordanKwon	18.06.27	635	0
220404	미니	안녕하세요	몽구스	18.06.27	262	0
220403	미니	모바일 ㅅㅅ	놋철씁니다	18.06.27	781	0
220402	미니	청와통닭보다는 [2]	노랑통닭	18.06.27	644	0
220401	미니	근데 이거 XE예요? [1]	놋철씁니다	18.06.27	889	0
220400	미니	도매인 이름 제가 한거임 생색 [1]	놋철씁니다	18.06.27	608	0
220399	미니	안녕하세요~~ [2]	프로겐	18.06.27	450	0
220398	미니	닉넴 변경 놋철씁니다 -> Minny	Minny	18.06.27	279	0
220397	미니	안녕하세요. 기립갤식입니다. [3]	기립갤식	18.06.27	563	0
220396	미니	KT LTE측정 [1]	Minny	18.06.27	392	0
220395	미니	구 미게 복구되었습니다. [1]	Minny	18.06.27	409	0
220394	미니	소식 듣고 와봤는데... 상당히 좋네요 [1]	기븐	18.06.28	575	0
220393	미니	피난소 와봤습니다 [1]	늙은이	18.06.28	357	0
220392	미니	도메인이 신기하네요 [2]	Minny	18.06.28	397	1
220391	미니	기어S4, 갤럭시노트9과 함께 공개예정	BarryWhite	18.06.28	332	0
220390	미니	픽셀3 & 픽셀3XL 디자인 [2]	BarryWhite	18.06.28	377	0
220389	미니	놋9 루머	BarryWhite	18.06.28	243	0

👨‍👩‍👧‍👦미코🌕

미니 llm언어모델을 모바일에서 구동가능하게될듯

추천 IT 소식 [1/]

스킨 기본정보

확장 변수

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정