미니 llm언어모델을 모바일에서 구동가능하게될듯

xclear
조회 수 456
2023.04.26. 17:39

https://www.artisana.ai/articles/google-researchers-unleash-ai-performance-breakthrough-for-mobile-devices

이제는 생성 AI를 공짜로 폰에서 로컬로 충분히 돌릴 수 있는 돌파구 마련함.

스테이블 디퓨전을 아주 우수한 품질로 컴퓨터도 아닌 폰에서 돌렸다고 함.

곧 대형언어모델도 돌릴 수 있도록 할 것이고 이제는 애초에 전자기기에서 인공지능을 미리 탑재시킬 듯

역시나 램크루지인 애플기기는 상대적으로 약한모습을 보임.

1등 Eomjunsik

2023.04.26. 18:17

성능이야 당연히 충분하고..

환경의 문제인데 안드로이드는 이미 제한적으로나마 가능합니다.

[Eomjunsik]님의 댓글을 신고합니다. 취소 신고

2등 영어공학과

2023.04.26. 20:26

12초.....?????? 결과물을 봐야할거같습니다ㄷㄷㄷ 지금 4080산 김에 돌려보는데도 16gb vram 박힌 놈이 vram 부족 자주뜨고 4080 90%이상 풀로 돌려도 몇십분 걸릴때도 있는데....

rtx3000시리즈 & vram 12gb이하는 그냥 유료서버 빌려쓰는게 여기 국룰이더라구요

[영어공학과]님의 댓글을 신고합니다. 취소 신고

에디터로 글쓰기

번호	분류	제목	글쓴이	날짜	조회 수
공지	공지	사이트 이용 수칙 230228 수정	admin	18.08.04	117352	13
핫글	미니	폴6 가격 정책 최악이네요,,,저러면 누가사나... [33]	하늘목장	14:29	1364	19
핫글	미니	이미 폴드에 녹아버린 인간 [6]	가마	15:59	956	18
핫글	미니	폴더블폰은 원가가 대체 어떻길래... [21]	Niflheimr	18:13	989	14
190995	미니	잡담: 그러고보니 다음 세대 워치 AP는.... [6]	Section31	23.05.07	830	2
190994	미니	유튜브 뮤직 킹차 업뎃 이제 뜨네요.. [4]	하늘목장	23.05.07	984	0
190993	미니	왜인지 모르겠지만.. one ui 6.0베타 [17]	씨샾	23.05.07	1272	4
190992	미니	이시점에 아이폰14 프로는.. [9]	요기조기	23.05.07	972	0
190991	미니	애플 VS 삼성 출하량,매출,영업이익율 점유율(22Q1~23Q1) [2]	요트맨	23.05.07	760	2
190990	미니	인텔 랩터레이크 리프레시 데스크탑 CPU, 최대 6.2GHz 클럭 소문 [3]	PatGelsinger	23.05.07	505	0
190989	미니	인텔 메테오레이크 tGPU는 GTX 1650Ti~RTX 3050 수준의 성능을 제공합니다. [1]	PatGelsinger	23.05.07	454	0
190988	미니	갤럭시 3in1 무충 알아보는데 [10]	룬룬	23.05.07	800	1
190987	미니	플립 5 나름 투톤일지도	적당히하자	23.05.07	724	1
190986	미니	갤럭시 esim으로 전환 기능이 있네요?? [3]	CaffeineJuice	23.05.07	1128	1
190985	미니	란즈크님) 갤럭시Z플립5 외부 케이스 이미지 [17]	슈갤럼	23.05.07	1732	6
190984	미니	MBCFET 원천 특허는 삼성꺼 아니던가요? [4]	갠냑시	23.05.07	1439	7
190983	미니	발표상 3nm GAP 성능이 좋습니다만 이것이 있어요 [8]	갠냑시	23.05.07	1770	10
190982	미니	애플, Solid-State Buttons 도입취소 간접확인	좌지우건	23.05.07	756	0
190981	미니	외국어 단어 연습장(삼성노트 가로 템플릿) [3]	B형남자고씨	23.05.07	817	9
190980	미니	S23U 200MP ->12MP 리사이징과 12MP 비교 [12]	흡혈귀왕	23.05.07	1041	12
190979	미니	근디 갤워치6 관련 랜더링 같은 건 안뜨네요 [15]	미하엘무야허	23.05.07	987	2
190978	미니	루머] RTX50 시리즈 3nm 사용? [4]	좌지우건	23.05.07	936	0
190977	미니	토요일 밤10시의 야간 폰카 📷	개구리	23.05.07	299	8
190976	미니	안드 유튜브도 1080P 프리미엄 뜨네요 [3]	Chrop	23.05.07	945	6
190975	미니	빙냥이는 진짜였네요 [4]	나로킴	23.05.07	2094	21
190974	미니	3nm 성능이 생각보다 좋네요? [1]	찌그렁오리	23.05.06	1033	2
190973	미니	근데 뭐 시코 시절에도 가입해서 활동했었으니 [5]	Aimyon	23.05.06	861	4
190972	미니	3GAP(SF3)에 대한 정보가 나왔습니다. [9]	Section31	23.05.06	1189	6
190971	미니	14세대 내장 성능이 좋을 수도 있는 이유 [8]	인헤리턴스	23.05.06	979	2

👩🏼‍💻미코🌧️

미니 llm언어모델을 모바일에서 구동가능하게될듯

추천 IT 소식 [1/]

스킨 기본정보

사용자 정의

1. 게시판 기본 설정

2. 글 목록

3. 갤러리 설정

4. 글 읽기 화면

5. 댓글 설정

6. 글 쓰기 화면 설정