미니 llm언어모델을 모바일에서 구동가능하게될듯

xclear
조회 수 455
2023.04.26. 17:39

https://www.artisana.ai/articles/google-researchers-unleash-ai-performance-breakthrough-for-mobile-devices

이제는 생성 AI를 공짜로 폰에서 로컬로 충분히 돌릴 수 있는 돌파구 마련함.

스테이블 디퓨전을 아주 우수한 품질로 컴퓨터도 아닌 폰에서 돌렸다고 함.

곧 대형언어모델도 돌릴 수 있도록 할 것이고 이제는 애초에 전자기기에서 인공지능을 미리 탑재시킬 듯

역시나 램크루지인 애플기기는 상대적으로 약한모습을 보임.

1등 Eomjunsik

2023.04.26. 18:17

성능이야 당연히 충분하고..

환경의 문제인데 안드로이드는 이미 제한적으로나마 가능합니다.

[Eomjunsik]님의 댓글을 신고합니다. 취소 신고

2등 영어공학과

2023.04.26. 20:26

12초.....?????? 결과물을 봐야할거같습니다ㄷㄷㄷ 지금 4080산 김에 돌려보는데도 16gb vram 박힌 놈이 vram 부족 자주뜨고 4080 90%이상 풀로 돌려도 몇십분 걸릴때도 있는데....

rtx3000시리즈 & vram 12gb이하는 그냥 유료서버 빌려쓰는게 여기 국룰이더라구요

[영어공학과]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 230228 수정	admin	18.08.04	114630	13
핫글	미니	삼성 서비스센터 직원이 고객 휴대폰 갤러리 훔처본 사고가 터졌군요. [30]	1o92nd	24.06.05	736	19
핫글	미니	파운드리 2위가 절대 의미 없는 수치가 아니죠 [29]	흡혈귀왕	24.06.05	863	13
핫글	미니	루머) 폴드6, 플립6 홍보 이미지 [25]	슈갤럼	24.06.05	1411	12
23368	미니	어우 2분기 메모리 삼사 개박살이군요. [12]	MiKor82	23.04.26	1204	1
23367	미니	렌즈 흐림 현상은 자연스러운 것입니다 (2) +팁 [13]	S.R	23.04.26	1614	25
23366	미니	갤럭시 아이폰 꾹눌러서 누끼따기 비교 [15]	미하엘무야허	23.04.27	1435	4
23365	미니	S23U 줌줌줌 [7]	흡혈귀왕	23.04.27	737	8
23364	미니	전면 카메라도 프로모드를 지원하는군요 [4]	RASBI	23.04.27	367	0
23363	미니	살ㄹ려주셍요ㅛㅛㅛㅛ [5]	늅늅	23.04.27	520	0
23362	미니	SKT 0플랜 요금제 가입가능 나이가 늘어나네요 [3]	Chrop	23.04.27	699	0
23361	미니	유니콘 프로 30% 할인쿠폰 필요하신분? [9]	긴닉네임24643649	23.04.27	773	2
23360	미니	따봉 아저씨의 s22(exynos 2200)1년후 카메라 테스트 입니다.	NeoSeven	23.04.27	558	2
23359	미니	저는 개인적으로 워치는 ... [3]	하와이조아	23.04.27	518	2
23358	미니	어우.. 삼성 1분기 반도체 실적 최악이군요 ㅎㄷㄷㄷ [4]	스퀴니	23.04.27	736	1
23357	미니	붕괴 스타레일이 새로운 모바일 벤치기준이 될거같네요. [14]	Stellist	23.04.27	1758	6
23356	미니	맛폰 카메라에서 광축 틀어짐은 숙명인듯하네요 [6]	흡혈귀왕	23.04.27	847	0
23355	미니	SKT 테더링 & 공유 데이터 통합 [7]	aleji	23.04.27	561	0
23354	미니	잡담: 2400 GPU 클럭에 대한 의견조사(?) 결과	Section31	23.04.27	220	0
23353	미니	루머: Dimensity 9200+ 긱벤치6 점수 공개 [4]	Section31	23.04.27	575	2
23352	미니	워치보다 밴드류가 좋은데 [2]	엣지	23.04.27	328	1
23351	미니	XR 쓰고 있는데 14프로 말고 15프로 존버하는게 낫겠죠?? [4]	섹시킹	23.04.27	426	1
23350	미니	S10 시리즈 보안업뎃 있네요 [3]	존버합니다	23.04.27	381	2
23349	미니	드랍쉽 테마파크 업데이트 [1]	펄럭펄럭	23.04.27	393	0
23348	미니	삼성전자 "엑시노스, 갤럭시 S시리즈 재진입 추진 중" [4]	Section31	23.04.27	1043	0
23347	미니	인텔 실적도 흉흉한 소문이 나도는군요 [13]	1q2w3e4r!	23.04.27	829	0
23346	미니	윈도우 데스크탑에서 영어음성을 바로 text로 변환할 수 있는 툴이 있을까요? [5]	HSC	23.04.27	225	0
23345	미니	S23U 줌줌줌2 [4]	흡혈귀왕	23.04.27	409	8
23344	미니	별다른 패치 없이 픽셀에서 5G가 되네요	후루꾸루	23.04.27	264	3

👩🏼‍💻미코🌿

미니 llm언어모델을 모바일에서 구동가능하게될듯

추천 IT 소식 [1/]

스킨 기본정보

사용자 정의

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정