미니 llm언어모델을 모바일에서 구동가능하게될듯

xclear
조회 수 456
2023.04.26. 17:39

https://www.artisana.ai/articles/google-researchers-unleash-ai-performance-breakthrough-for-mobile-devices

이제는 생성 AI를 공짜로 폰에서 로컬로 충분히 돌릴 수 있는 돌파구 마련함.

스테이블 디퓨전을 아주 우수한 품질로 컴퓨터도 아닌 폰에서 돌렸다고 함.

곧 대형언어모델도 돌릴 수 있도록 할 것이고 이제는 애초에 전자기기에서 인공지능을 미리 탑재시킬 듯

역시나 램크루지인 애플기기는 상대적으로 약한모습을 보임.

1등 Eomjunsik

2023.04.26. 18:17

성능이야 당연히 충분하고..

환경의 문제인데 안드로이드는 이미 제한적으로나마 가능합니다.

[Eomjunsik]님의 댓글을 신고합니다. 취소 신고

2등 영어공학과

2023.04.26. 20:26

12초.....?????? 결과물을 봐야할거같습니다ㄷㄷㄷ 지금 4080산 김에 돌려보는데도 16gb vram 박힌 놈이 vram 부족 자주뜨고 4080 90%이상 풀로 돌려도 몇십분 걸릴때도 있는데....

rtx3000시리즈 & vram 12gb이하는 그냥 유료서버 빌려쓰는게 여기 국룰이더라구요

[영어공학과]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 230228 수정	admin	18.08.04	116988	13
핫글	미니	W1000은 삼성이라서 나올수 있는 칩같습니다. [8]	NeoSeven	24.07.04	1579	17
핫글	미니	삼성 올해는 쉬어가는 텀이라 봐야겠네요.. [18]	헤페바이쎄	02:25	1363	17
핫글	미니	이런 면에서 삼파가 매력적인 것 같습니다 [17]	212212	24.07.04	1436	13
190531	미니	갤럭시S24 스택형 배터리 탑재 예정 [5]	PatGelsinger	23.04.30	1175	3
190530	미니	애플 신형 이어팟 유선 C타입 헤드셋도 MFi 인증	PatGelsinger	23.04.30	123	0
190529	미니	올해가 역대 최초로 아이폰과 맥북 램이 같아지나요.	요트맨	23.04.30	271	0
190528	미니	NVIDIA GeForce RTX 4060 Ti "AD106-350" GPU가 사진 촬영되었습니다.	PatGelsinger	23.04.30	196	0
190527	미니	Ryzen Z1 및 256GB 스토리지가 탑재된 ASUS ROG Ally는 $599에 판매될 예정입니다. [2]	PatGelsinger	23.04.30	289	2
190526	미니	타사 툴로 GeForce GPU의 앱별 전원 관리 가능	PatGelsinger	23.04.30	130	0
190525	미니	AMD는 500달러 미만에 구입할 수 있는 VRAM이 16GB인 라데온 그래픽 카드를 자랑합니다	PatGelsinger	23.04.30	225	0
190524	미니	잡담: 2400은 벤치마크 유출(?)이 정말 없는 걸 보면... [8]	Section31	23.04.30	585	0
190523	미니	갤럭시 S23 판매량도 뒷심이 중요할 것 같습니다. [6]	요트맨	23.04.30	831	4
190522	미니	삼성은 U3300 후속작 언제 낼려나요	[성공]함께크는성장	23.04.30	315	4
190521	미니	리퍼비쉬 스마트폰 시장도 애플,삼성이 거의 전부네요. [1]	요트맨	23.04.30	561	0
190520	미니	세번 접어야 접을때 바형, 펼치면 16대9 비슷하게 나올듯 한데 [2]	alsgh97	23.04.30	365	0
190519	미니	픽셀 폴드는 접었을때 한손 사용이 어렵겠군요... [7]	Stellist	23.04.30	495	0
190518	미니	로스 영) 폴드는 그닥 성공한게 아니라고 평하는군요. [5]	요트맨	23.04.30	1093	3
190517	미니	폴드 비율변경 논란 중 부탁드릴 것 [5]	fin	23.04.30	729	6
190516	미니	폴더블 스마트폰 나오는 거 보다 보면 삼성이 하는 게 정답이긴 하죠.	그렇군요	23.04.30	350	1
190515	미니	애플, 누비아 설립한 전 직원에 대한 소송철회	AquStar	23.04.30	339	2
190514	미니	픽셀폴드 내부 베젤 [5]	카더	23.04.30	696	4
190513	미니	갤럭시 UDC 소식은 뜸해졌네요? [5]	클라비스	23.04.30	802	1
190512	미니	저는 갤럭시폴드의 화면 비율이 나쁘다고 생각합니다. [11]	Stellist	23.04.30	1649	9
190511	미니	크롬 dev에 있는 기능들은 언제 공식빌드로 올라오나요?? [2]	비둘기야먹자	23.04.30	150	0
190510	미니	폴더블 비율 총정리: 인정하기 싫지만.. [10]	엣지	23.04.30	2588	12
190509	미니	루머) 스냅드래곤 8 Gen 3 긱벤치6 점수 [11]	Section31	23.04.29	2663	3
190508	미니	S22u s23u 스냅버전 4월업데이트 비교네요(추가 2200소식)	NeoSeven	23.04.29	749	1
190507	미니	HTC U23 Pro, 스냅드래곤 7 Gen 1 사용 [5]	Section31	23.04.29	608	3

👩🏼‍💻미코🌧️

미니 llm언어모델을 모바일에서 구동가능하게될듯

추천 IT 소식 [1/]

스킨 기본정보

사용자 정의

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정