미니 llm언어모델을 모바일에서 구동가능하게될듯

xclear
조회 수 455
2023.04.26. 17:39

https://www.artisana.ai/articles/google-researchers-unleash-ai-performance-breakthrough-for-mobile-devices

이제는 생성 AI를 공짜로 폰에서 로컬로 충분히 돌릴 수 있는 돌파구 마련함.

스테이블 디퓨전을 아주 우수한 품질로 컴퓨터도 아닌 폰에서 돌렸다고 함.

곧 대형언어모델도 돌릴 수 있도록 할 것이고 이제는 애초에 전자기기에서 인공지능을 미리 탑재시킬 듯

역시나 램크루지인 애플기기는 상대적으로 약한모습을 보임.

1등 Eomjunsik

2023.04.26. 18:17

성능이야 당연히 충분하고..

환경의 문제인데 안드로이드는 이미 제한적으로나마 가능합니다.

[Eomjunsik]님의 댓글을 신고합니다. 취소 신고

2등 영어공학과

2023.04.26. 20:26

12초.....?????? 결과물을 봐야할거같습니다ㄷㄷㄷ 지금 4080산 김에 돌려보는데도 16gb vram 박힌 놈이 vram 부족 자주뜨고 4080 90%이상 풀로 돌려도 몇십분 걸릴때도 있는데....

rtx3000시리즈 & vram 12gb이하는 그냥 유료서버 빌려쓰는게 여기 국룰이더라구요

[영어공학과]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 230228 수정	admin	18.08.04	116634	13
핫글	미니	삼성이 오랫동안 간과하고 있는 것 [16]	Beoplay31	24.06.28	1559	33
핫글	미니	갤워치 울트라는 굳이 애플의 오션 스트랩을 따라할 필요가 있었는지 의문입니다.. [22]	Stellist	24.06.28	1316	29
핫글	미니	갤워치 울트라랑 버즈 3 킹받는 점...jpg [10]	Daylight	24.06.28	1366	23
190601	미니	SF3E로 뽑는 칩은 통 소식이 없네요	MaxPax	23.04.29	307	0
190600	미니	삼성, 새로운 브랜드 '아이소셀 줌 & 줌 프로' 상표출원 [3]	Section31	23.04.29	979	5
190599	미니	iOS 18이나 One UI 7.0쯤 되면 [12]	iPhone13Pro	23.04.29	1363	2
190598	미니	윈도우12 준비가 진행중인가 봐요? [4]	스퀴니	23.04.29	1012	3
190597	미니	기술 발전이 참 놀랍네요 [3]	PatGelsinger	23.04.29	1019	4
190596	미니	버즈2프로 멀티포인트 잘 안 되나요? [5]	실론	23.04.29	1613	0
190595	미니	리밴스드 쇼츠 저만 버그가 많나요?? [11]	으르렁자몽이	23.04.29	885	0
190594	미니	근데 SF3E로 현재 뭘 양산하고 있나요? [7]	찌그렁오리	23.04.29	799	0
190593	미니	유니콘 프로 ios는 아직 완전하진 않은가 보네요 [6]	참깨돌이	23.04.29	659	1
190592	미니	아 그러고보니... [7]	흡혈귀왕	23.04.29	552	1
190591	미니	삼성까시는분들은 양산전인 3nm가지고도 까는군요 [20]	갠냑시	23.04.29	1475	4
190590	미니	삼성 LSI와 파운드리가 정상이면 발생하는 사건 [6]	갠냑시	23.04.29	1100	7
190589	미니	S사 선단쪽에서도... [8]	흡혈귀왕	23.04.29	1175	8
190588	미니	잡담: 2400 GPU에 대한 트위터 쪽 의견조사 결과 [7]	Section31	23.04.29	652	0
190587	미니	하이실리콘(화웨이)는 설계 역량이 어땠나요? [5]	1q2w3e4r!	23.04.29	684	0
190586	미니	폴드5 플립5 주름은 어느정도로 개선이 될까요 [4]	클라비스	23.04.29	857	1
190585	미니	LTE로 RDP연결 막았나요 [3]	두유	23.04.29	546	0
190584	미니	GPT 대규모 언어 모델 트레이닝을 위한 NVIDIA H100과 A100 비교	PatGelsinger	23.04.29	568	1
190583	미니	2025년까지 출시되지 않는 엔비디아 3nm GPU, 차세대 칩에 TSMC 활용 예상	PatGelsinger	23.04.29	508	3
190582	미니	폰이 참 다이나믹하네요 [4]	[성공]함께크는성장	23.04.29	854	4
190581	미니	SSD 가격 아마도 5월을 마지막으로 바닥찍고 오를 것 같습니다 [6]	PatGelsinger	23.04.29	701	2
190580	미니	Evan발 픽셀 폴드 공식 렌더 [5]	Androboy	23.04.29	1040	9
190579	미니	S23 울트라 터치 씹힘 없으신가요? [19]	적당히하자	23.04.29	1121	1
190578	미니	Quickstar 업데이트 [3]	aleji	23.04.29	977	10
190577	미니	엔비디아 다음세대는 공정재탕각... [12]	xclear	23.04.29	961	1

👩🏼‍💻미코🌞

미니 llm언어모델을 모바일에서 구동가능하게될듯

추천 IT 소식 [1/]

스킨 기본정보

사용자 정의

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정