미니 llm언어모델을 모바일에서 구동가능하게될듯

xclear
조회 수 455
2023.04.26. 17:39

https://www.artisana.ai/articles/google-researchers-unleash-ai-performance-breakthrough-for-mobile-devices

이제는 생성 AI를 공짜로 폰에서 로컬로 충분히 돌릴 수 있는 돌파구 마련함.

스테이블 디퓨전을 아주 우수한 품질로 컴퓨터도 아닌 폰에서 돌렸다고 함.

곧 대형언어모델도 돌릴 수 있도록 할 것이고 이제는 애초에 전자기기에서 인공지능을 미리 탑재시킬 듯

역시나 램크루지인 애플기기는 상대적으로 약한모습을 보임.

1등 Eomjunsik

2023.04.26. 18:17

성능이야 당연히 충분하고..

환경의 문제인데 안드로이드는 이미 제한적으로나마 가능합니다.

[Eomjunsik]님의 댓글을 신고합니다. 취소 신고

2등 영어공학과

2023.04.26. 20:26

12초.....?????? 결과물을 봐야할거같습니다ㄷㄷㄷ 지금 4080산 김에 돌려보는데도 16gb vram 박힌 놈이 vram 부족 자주뜨고 4080 90%이상 풀로 돌려도 몇십분 걸릴때도 있는데....

rtx3000시리즈 & vram 12gb이하는 그냥 유료서버 빌려쓰는게 여기 국룰이더라구요

[영어공학과]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 230228 수정	admin	18.08.04	114952	13
핫글	미니	이건 좀 심하네요;; [22]	애애앵	11:05	1311	12
핫글	미니	일본여행 Day2-3	후루꾸루	09:21	228	9
핫글	미니	갤럭시링???? [11]	a1001	10:37	862	7
191531	미니	SD8 Gen3 L3캐시가 10MB가 맞다면.... [21]	흡혈귀왕	23.05.16	905	4
191530	미니	빙냥: 스냅 8 Gen 3 L3캐시는 10MB [22]	Section31	23.05.16	1023	4
191529	미니	잡담: 미디어텍 디멘시티 9200+ 긱벤치5 점수(추가)	Section31	23.05.16	385	0
191528	미니	S20카메라어시스턴트 업뎃 있었나요?? [4]	곰장수	23.05.16	450	2
191527	미니	[란즈크]갤럭시폴드5 언팩 7월말 개최, 8월11일 시장 출시 [3]	Angry	23.05.16	1443	14
191526	미니	삼성, ‘노태북’으로 2023년 1분기 국내 노트북 시장 점유율 50% 돌파 [7]	PatGelsinger	23.05.16	1377	15
191525	미니	진짜로 10시간 달성했습니다 [3]	[성공]함께크는성장	23.05.16	936	9
191524	미니	IOS <-> 윈도우 아이클라우드 연동 생각보다 강력한거 같아요 [9]	alsgh97	23.05.16	658	3
191523	미니	진짜 화면켜짐 10시간 갈 기세입니다 [12]	[성공]함께크는성장	23.05.16	903	4
191522	미니	높은 비트레이트 동영상 이거 대체 뭔 차이인지? [21]	스윗가이	23.05.16	3041	1
191521	미니	애플 M3 Pro 칩 테스트 유출 [2]	AlieNaTiZ	23.05.16	1077	9
191520	미니	아이패드 설정에 개발자 탭이 있네요..? [8]	댕밤	23.05.16	635	0
191519	미니	퀄컴의 삼성 4nm쓴 칩셋 EVT1.2진행 중이라는 루머가 있네요 [9]	Antares	23.05.16	1056	1
191518	미니	애플 Dev/Public 소프트웨어 2종 배포 [2]	AlieNaTiZ	23.05.16	827	3
191517	미니	rtx3060->4070 교체했네유 [11]	크로아츠	23.05.15	1024	9
191516	미니	미디어텍 디멘시티 칩셋들의 새로운 네이밍 [2]	Section31	23.05.15	1011	1
191515	미니	13년만에 처음으로 갤럭시 보급형 사보네요 .jpg [14]	조형기의운전교실	23.05.15	2368	13
191514	미니	바드도 없는 사실을 지어내는 군요. [7]	갠냑시	23.05.15	1228	1
191513	미니	일본 교세라, 일반 소비자용 스마트폰 사업 철수 [7]	AquStar	23.05.15	1080	4
191512	미니	요새 게임 벤치마크상황이 좀 재밌긴하네요 [3]	Qkooqq	23.05.15	936	1
191511	미니	유럽 스마트폰 점유율 + 인도 [5]	범퀴	23.05.15	1012	7
191510	미니	진짜 현재 삼성 인력 겁나 뽑네요 [3]	갠냑시	23.05.15	1935	8
191509	미니	AP의 힘은 막강하네요 [7]	[성공]함께크는성장	23.05.15	1803	9
191508	미니	아이폰15도 48mp로 라는 루머가 떴는데 [7]	갤럭시S22	23.05.15	976	0
191507	미니	Xperia 1 V 개발자 비하인드가 나왔네요	RASBI	23.05.15	540	2

👩🏼‍💻미코🌿

미니 llm언어모델을 모바일에서 구동가능하게될듯

추천 IT 소식 [1/]

스킨 기본정보

사용자 정의

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정