로그인 해주세요.

AI / 로봇 게시판 *AI / 로봇에 관해 교류하는 게시판입니다.

AI S24에서 온디바이스 LLM 체험하기

최초의 AI 폰이라는 홍보가 무색하게 S24의 온디바이스 기능은 상당히 빈약한 편입니다. 물론 8GB 램이나 현재 칩셋의 수준을 감안하면 놀라운 일은 아니죠.

 

그래도 S24가 픽셀을 제외하고는 유일하게 구글의 Gemini Nano 모델을 탑재하고 있어 온디바이스 구동이 가능은 합니다. 물론 사용처가 구글 메시지 하나이기 때문에 이게 뭔 의미인가.. 싶지만요.

 

테스트를 위해 굳이 구글 메시지 베타 버전을 설치해봤습니다.

Screenshot_20240616_175800_Messages.png

이런 식으로 답장의 스타일을 바꿔줍니다. 삼성 키보드의 기능과 비슷한데, 삼성 키보드는 온디바이스로 구동되지 않죠. 스크린샷에서 인터넷 연결이 없는거 보이시죠?

 

근데 왜 삼성 키보드는 온디바이스 구동을 안할까요? 그 이유는 램이죠. 스크린샷에서 띄워놓은 그래프가 램 점유율인대 평상시에는 70% 초반대이다가 저 기능을 사용하면 83%까지 치솟습니다. 시장통 계산법으로는 모델 사이즈가 대략 1GB 가까이 되는거죠. 답변 생성 속도나 품질도 솔직히 그닥입니다. (한국어인데 영어로만 추천해줍니다..?) 그나마 픽셀 8 노멀에서는 램 이슈로 지원을 안하는걸 삼성은 풀어줘서 다행이라고 해야할까요.

 

결과적으로 S24 시리즈의 온디바이스 AI는 번역-STT-구글 메시지 추천 이 세가지가 전부인거죠. 하긴 HW-SW를 모두 관리하는 애플도 이제야 걸음마를 뗀 수준인데 안드 진영이 갈 길은 아주 멀어보입니다.

댓글
4
sapmando
best 1등 sapmando
2024.06.16. 18:20

삼성 키보드도 온디바이스로 처리하는 옵션 키면 온디바이스로 처리되지 않나요?

[sapmando]님의 댓글을 신고합니다. 취소 신고
글쓴이
Eomjunsik sapmando 님께
2024.06.16. 18:24

그렇네요. 이걸 출시부터 지금까지 모르고 있었네요 ㅡ.ㅡ 감사합니다.

[Eomjunsik]님의 댓글을 신고합니다. 취소 신고
성능확실
2등 성능확실
2024.06.16. 19:10

며칠 전에 안드로이드에서도 llm을 꽤 좋은 성능으로 돌릴 수 있게 해주는 프레임워크가 나온 것 같더라구요. https://powerinfer.ai/v2/

[성능확실]님의 댓글을 신고합니다. 취소 신고
글쓴이
Eomjunsik 성능확실 님께
2024.06.16. 20:07

재밌어보이네요. 정보 감사합니다.

[Eomjunsik]님의 댓글을 신고합니다. 취소 신고
취소
번호 분류 제목 글쓴이 날짜 조회 수
공지 AI AI / 로봇 게시판 이용 수칙 240418 [4] admin 24.04.18 3 261
157 AI KAIST 멀티모달 LLM, GPT-4V 시각성능 이겨 [1] BarryWhite 24.06.20 2 294
156 AI 승객 기분까지 수집하는 AI 카메라 BarryWhite 24.06.20 0 161
155 AI 메타, 멀티모달 모델 카멜레온 오픈소스 출시 BarryWhite 24.06.20 0 96
154 AI 오픈AI 일리야 수츠케버, 새로운 스타트업 발표 BarryWhite 24.06.20 0 76
153 AI 中 AI 규제 강화에…텐센트, AI 호스트 금지 BarryWhite 24.06.19 0 69
152 AI 깃허브 코파일럿하고 챗지피티 4o 중에 뭐가 좋을까요 [1] 한세대를넘어서 24.06.19 0 273
151 AI 메타, 연구용 AI 모델 3종 오픈소스로 공개 BarryWhite 24.06.19 0 91
150 AI AI 스타트업 루마, AI로 생성한 동영상 표절 논란 BarryWhite 24.06.19 0 120
149 AI 美해군, 수중 드론 AI 탑재…바다 지뢰 탐지 BarryWhite 24.06.18 0 46
148 AI 구글 딥마인드, 동영상 음악 자동 생성 AI 개발 중 BarryWhite 24.06.18 0 58
147 AI 챗 GPT야 고마워! [2] file BarryWhite 24.06.18 5 361
146 AI 오픈AI 헬스케어 진출…GPT-4o 활용 암 진단 BarryWhite 24.06.18 0 87
145 AI MIT, 문제 해결 위해 프로그램 만드는 AI 공개 BarryWhite 24.06.17 0 220
144 AI 흑인용 챗GPT 등장…인종 다양성 품는 인공지능 [46] BarryWhite 24.06.17 6 735
143 AI 맥도날드, IBM AI 드라이브 스루 주문 파트너십 종료 BarryWhite 24.06.17 1 128
142 AI 엔비디아, LLM 학습 돕는 네모트론-4 340B 공개 BarryWhite 24.06.17 0 126
141 AI G7 정상회의서 AI 악용 방지 논의 BarryWhite 24.06.17 0 55
AI S24에서 온디바이스 LLM 체험하기 [4] file Eomjunsik 24.06.16 4 634
139 AI MS, 비욘드 오픈AI 가시화...LLM자체 개발 [1] BarryWhite 24.06.16 0 196
138 AI 메타, 아일랜드 요청으로 유럽 AI 모델 출시 중단 BarryWhite 24.06.16 0 122
137 AI 구글: AI 검색, 문제 생겨도 보류할 생각 없어 BarryWhite 24.06.16 0 98
136 AI 공무원 일거리 줄어들까…정부, 생성형 AI 첫 도입 BarryWhite 24.06.14 0 216
135 AI 터키서 대학 입시 부정행위...AI로 정답 들었다 [2] BarryWhite 24.06.14 0 343
134 AI 브라질, 법조계에 오픈AI 서비스 도입 BarryWhite 24.06.13 0 52
133 AI 이제 그림 ai로 글씨를 쓸 수 있습니다. [2] file Karion 24.06.13 4 814

추천 IT 소식 [1/]

스킨 기본정보

colorize02 board
2017-03-02
colorize02 게시판

확장 변수

1. 게시판 기본 설정

게시판 타이틀 하단에 출력 됩니다.

일반 게시판, 리스트 게시판, 갤러리 게시판에만 해당

2. 글 목록

기본 게시판, 일반 게시판, 썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

3. 갤러리 설정

4. 글 읽기 화면

기본 10명 (11명 일 경우, XXXXX 외 1명으로 표시)

5. 댓글 설정

일정 수 이상의 추천을 받은 댓글에 표시를 합니다.

6. 글 쓰기 화면 설정

글 쓰기 폼에 미리 입력해 놓을 문구를 설정합니다.