미니 llm언어모델을 모바일에서 구동가능하게될듯

xclear
조회 수 459
2023.04.26. 17:39

https://www.artisana.ai/articles/google-researchers-unleash-ai-performance-breakthrough-for-mobile-devices

이제는 생성 AI를 공짜로 폰에서 로컬로 충분히 돌릴 수 있는 돌파구 마련함.

스테이블 디퓨전을 아주 우수한 품질로 컴퓨터도 아닌 폰에서 돌렸다고 함.

곧 대형언어모델도 돌릴 수 있도록 할 것이고 이제는 애초에 전자기기에서 인공지능을 미리 탑재시킬 듯

역시나 램크루지인 애플기기는 상대적으로 약한모습을 보임.

1등 Eomjunsik

2023.04.26. 18:17

성능이야 당연히 충분하고..

환경의 문제인데 안드로이드는 이미 제한적으로나마 가능합니다.

[Eomjunsik]님의 댓글을 신고합니다. 취소 신고

2등 영어공학과

2023.04.26. 20:26

12초.....?????? 결과물을 봐야할거같습니다ㄷㄷㄷ 지금 4080산 김에 돌려보는데도 16gb vram 박힌 놈이 vram 부족 자주뜨고 4080 90%이상 풀로 돌려도 몇십분 걸릴때도 있는데....

rtx3000시리즈 & vram 12gb이하는 그냥 유료서버 빌려쓰는게 여기 국룰이더라구요

[영어공학과]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 240809 수정	admin	18.08.04	118236	13
핫글	미니	OnLeaks 렌더링 유료 공개 사업화 철회했네요. [11]	Stellist	10:22	1026	16
핫글	음향	갤럭시 버즈3 근황.jpg [13]	BarryWhite	09:36	1164	13
핫글	미니	최근 공개된 삼성의 센서시프트 특허를 보니 3축 손떨방을 지원하는군요 [2]	Sparrow	24.09.07	1210	10
190165	미니	어우 2분기 메모리 삼사 개박살이군요. [12]	MiKor82	23.04.26	1215	1
190164	미니	S23U 수원 화성 근처 촬영 샷 + 기타 잡담 [4]	RASBI	23.04.26	699	11
190163	미니	폴드5도 gn3 문제덩어리 계속쓰겠죠? [5]	갤럭시S22	23.04.26	923	1
190162	미니	니콘 Z8이 드디어 나오나보네요 [2]	RAPTOR	23.04.26	406	1
190161	미니	23U 카메라에 뭔 문제 있나요? [5]	[성공]함께크는성장	23.04.26	778	0
190160	미니	영국 CMA, MS-액블 인수 합병 불허 [7]	[성공]함께크는성장	23.04.26	614	1
190159	미니	샤오미 레드노트12프로 플러스 5G는 국내에서 경쟁력이 영 없네요 [6]	Chrop	23.04.26	745	7
190158	미니	갤23울 각종 문서 같은것들 테스트 [11]	고민은배송을늦출뿐	23.04.26	744	3
190157	미니	AndSPEC을 통한 전성비 측정은... [11]	좌지우건	23.04.26	523	8
190156	미니	5LPE는 그냥 딱 수율 개선된 만큼만 올랐네요 [6]	흡혈귀왕	23.04.26	820	1
190155	미니	SKT 테더링과 공유데이터 정책이 바뀌었네요 [7]	긴닉네임24643649	23.04.26	894	0
190154	미니	디씨펌) 엑시노스 1380 전성비 자료가 나왔습니다. [18]	Section31	23.04.26	1925	7
190153	미니	Realme 11 Pro+, 2억 화소 1/1.4" 센서 탑재	Section31	23.04.26	300	0
190152	미니	디스코드도 챗봇 출시했네요 [6]	일.칠칠이사오삼팔오	23.04.26	686	4
	미니	llm언어모델을 모바일에서 구동가능하게될듯 [2]	xclear	23.04.26	459	4
190150	미니	요새 구글 이중 인증 이상하네요 [4]	Kanata	23.04.26	646	3
190149	미니	갤23울 문서찍기 테스트 [14]	고민은배송을늦출뿐	23.04.26	925	1
190148	미니	S23 일반판매 혜택 소급 적용 해 줬으면 좋겠네요 [6]	[성공]함께크는성장	23.04.26	785	0
190147	미니	잡담: 2400 벤치 루머들을 종합하자면... [6]	Section31	23.04.26	669	1
190146	미니	워치때문에 아이폰 다시가고 싶네요 ㅠㅠ [26]	조형기의운전교실	23.04.26	1374	16
190145	미니	렌즈 흐림 현상은 자연스러운 것입니다. [12]	S.R	23.04.26	820	6
190144	미니	H5 Flow 케이스 받았는데 [1]	Aimer	23.04.26	228	2
190143	미니	잡담: 아직 2400 GPU 클럭 루머가 '그 분'발(發) 밖에 없네요. [2]	Section31	23.04.26	443	0
190142	미니	유니콘과 유니콘 프로의 차이가 있을까요? [9]	숨겨진오징어	23.04.26	2060	1
190141	미니	GN3도 주변부 흐려짐 이슈 있었던가요? [9]	미하엘무야허	23.04.26	641	2

👩🏼‍💻미코☀️

미니 llm언어모델을 모바일에서 구동가능하게될듯

추천 IT 소식 [1/]

스킨 기본정보

사용자 정의

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정