미니 llm언어모델을 모바일에서 구동가능하게될듯

xclear
조회 수 455
2023.04.26. 17:39

https://www.artisana.ai/articles/google-researchers-unleash-ai-performance-breakthrough-for-mobile-devices

이제는 생성 AI를 공짜로 폰에서 로컬로 충분히 돌릴 수 있는 돌파구 마련함.

스테이블 디퓨전을 아주 우수한 품질로 컴퓨터도 아닌 폰에서 돌렸다고 함.

곧 대형언어모델도 돌릴 수 있도록 할 것이고 이제는 애초에 전자기기에서 인공지능을 미리 탑재시킬 듯

역시나 램크루지인 애플기기는 상대적으로 약한모습을 보임.

1등 Eomjunsik

2023.04.26. 18:17

성능이야 당연히 충분하고..

환경의 문제인데 안드로이드는 이미 제한적으로나마 가능합니다.

[Eomjunsik]님의 댓글을 신고합니다. 취소 신고

2등 영어공학과

2023.04.26. 20:26

12초.....?????? 결과물을 봐야할거같습니다ㄷㄷㄷ 지금 4080산 김에 돌려보는데도 16gb vram 박힌 놈이 vram 부족 자주뜨고 4080 90%이상 풀로 돌려도 몇십분 걸릴때도 있는데....

rtx3000시리즈 & vram 12gb이하는 그냥 유료서버 빌려쓰는게 여기 국룰이더라구요

[영어공학과]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 230228 수정	admin	18.08.04	116550	13
핫글	미니	버즈3 프로, 워치 울트라가 벤츠 출신 디자이너 첫 제품이라네요. [29]	Stellist	21:04	845	18
핫글	미니	iOS18 어두운 아이콘 예쁘기는 한데 [4]	Alternative	09:14	808	10
핫글	미니	스마트태그2 업데이트 [11]	a1001	18:29	692	10
191700	미니	소니 A6700, 70-200G 루머 [2]	PaulBasset	23.05.24	619	3
191699	미니	인텔은 내년에 수백만 대의 Meteor Lake CPU를 출하할 계획입니다.	PatGelsinger	23.05.24	455	0
191698	미니	인텔 공식 : 메테오레이크는 뛰어난 전력효율성과 VPU AI 엔진을 탑재합니다	PatGelsinger	23.05.24	435	0
191697	미니	저만 그러는지 모르겠는데 폰이 너무 버벅입니다 [8]	DoGooRi	23.05.24	1798	6
191696	미니	포토샵 근황 [10]	HSC	23.05.24	1611	12
191695	미니	잡담: 스냅드래곤 7 Gen 1 관련하여 공정 바뀌었단 말은... [6]	Section31	23.05.24	721	1
191694	미니	선생님들 이런 거 어디가야 살 수 있나요? [4]	회기동길냥이	23.05.24	934	2
191693	미니	잡담: 스냅드래곤 7 Gen 1이 두 가지 버전이 있다...? [4]	Section31	23.05.24	589	2
191692	미니	갤워치 쓰지만... 왜 웨어OS로 바꾼건지 이해가 안갑니다. [15]	Eako	23.05.24	1406	1
191691	미니	제가 원하는 갤럭시워치 디자인 [6]	Stellist	23.05.24	1124	5
191690	미니	토스 재밌는 요금제 나왔네요 [4]	에피	23.05.24	1655	2
191689	미니	이번에는 진짜 진짜 애플 mr 기기 나오나 보네요 [2]	Antares	23.05.24	744	1
191688	미니	갤럭시 워치는 소프트웨어도 좀.. [9]	구보	23.05.24	975	6
191687	미니	엔비디아 CEO, '칩 전쟁' 비판…"그럼 美에 공장 지을 필요도 없어" [7]	Section31	23.05.24	1125	4
191686	미니	임기 얼마 안남은 냥반 물고 늘어져봐야 의미없죠... [19]	흡혈귀왕	23.05.24	1343	6
191685	미니	웨이보) 루머: 디멘시티 9300 관련 [6]	Section31	23.05.24	677	0
191684	미니	I think the Samsung MX needs a major setback [21]	iceuniverse	23.05.24	1587	11
191683	미니	iptime. WIFI 6E규격의 최상급 공유기 AX11000-6E 출시 [5]	스퀴니	23.05.24	1153	1
191682	미니	크롬 OS의 경우도 리눅스 앱 구동 시 가상화라서 의외이긴합니다. [2]	흡혈귀왕	23.05.24	425	1
191681	미니	삼성페이 건당 3원 인증비용은 왜 내는건가요?? [7]	alsgh97	23.05.24	1276	2
191680	미니	빙우주: '장담하건대 Z폴드5 판매량, 전작보다 최소 20%↓' [20]	Section31	23.05.24	1869	4
191679	미니	애플워치 기본기가 맘에 들어서 너무 좋습니다 [23]	조형기의운전교실	23.05.24	1407	13
191678	미니	젤다 왕눈 저만하나요?? ㅎㅎ [10]	카밀리아	23.05.24	725	2
191677	미니	플랫 물리베젤은 어땠을까요 [2]	[성공]함께크는성장	23.05.24	531	1
191676	미니	그냥 클래식 라인 나오는 걸로 만족합니다 [2]	[성공]함께크는성장	23.05.24	435	2

👩🏼‍💻미코🌞

미니 llm언어모델을 모바일에서 구동가능하게될듯

추천 IT 소식 [1/]

스킨 기본정보

사용자 정의

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정