로그인 해주세요.

AI / 로봇 게시판 *AI / 로봇에 관해 교류하는 게시판입니다.

AI S24에서 온디바이스 LLM 체험하기

최초의 AI 폰이라는 홍보가 무색하게 S24의 온디바이스 기능은 상당히 빈약한 편입니다. 물론 8GB 램이나 현재 칩셋의 수준을 감안하면 놀라운 일은 아니죠.

 

그래도 S24가 픽셀을 제외하고는 유일하게 구글의 Gemini Nano 모델을 탑재하고 있어 온디바이스 구동이 가능은 합니다. 물론 사용처가 구글 메시지 하나이기 때문에 이게 뭔 의미인가.. 싶지만요.

 

테스트를 위해 굳이 구글 메시지 베타 버전을 설치해봤습니다.

Screenshot_20240616_175800_Messages.png

이런 식으로 답장의 스타일을 바꿔줍니다. 삼성 키보드의 기능과 비슷한데, 삼성 키보드는 온디바이스로 구동되지 않죠. 스크린샷에서 인터넷 연결이 없는거 보이시죠?

 

근데 왜 삼성 키보드는 온디바이스 구동을 안할까요? 그 이유는 램이죠. 스크린샷에서 띄워놓은 그래프가 램 점유율인대 평상시에는 70% 초반대이다가 저 기능을 사용하면 83%까지 치솟습니다. 시장통 계산법으로는 모델 사이즈가 대략 1GB 가까이 되는거죠. 답변 생성 속도나 품질도 솔직히 그닥입니다. (한국어인데 영어로만 추천해줍니다..?) 그나마 픽셀 8 노멀에서는 램 이슈로 지원을 안하는걸 삼성은 풀어줘서 다행이라고 해야할까요.

 

결과적으로 S24 시리즈의 온디바이스 AI는 번역-STT-구글 메시지 추천 이 세가지가 전부인거죠. 하긴 HW-SW를 모두 관리하는 애플도 이제야 걸음마를 뗀 수준인데 안드 진영이 갈 길은 아주 멀어보입니다.

댓글
4
sapmando
best 1등 sapmando
2024.06.16. 18:20

삼성 키보드도 온디바이스로 처리하는 옵션 키면 온디바이스로 처리되지 않나요?

[sapmando]님의 댓글을 신고합니다. 취소 신고
글쓴이
Eomjunsik sapmando 님께
2024.06.16. 18:24

그렇네요. 이걸 출시부터 지금까지 모르고 있었네요 ㅡ.ㅡ 감사합니다.

[Eomjunsik]님의 댓글을 신고합니다. 취소 신고
성능확실
2등 성능확실
2024.06.16. 19:10

며칠 전에 안드로이드에서도 llm을 꽤 좋은 성능으로 돌릴 수 있게 해주는 프레임워크가 나온 것 같더라구요. https://powerinfer.ai/v2/

[성능확실]님의 댓글을 신고합니다. 취소 신고
글쓴이
Eomjunsik 성능확실 님께
2024.06.16. 20:07

재밌어보이네요. 정보 감사합니다.

[Eomjunsik]님의 댓글을 신고합니다. 취소 신고
취소
번호 분류 제목 글쓴이 날짜 조회 수
공지 AI AI / 로봇 게시판 이용 수칙 240418 [4] admin 24.04.18 3 261
214 AI gpt 맥 앱 사용 후기 룬룬 24.06.07 1 198
213 AI 前오픈AI 직원: AI, 2년 내 대학생 앞지를 것 [7] BarryWhite 24.06.07 4 491
212 AI ??? : 개짖는 소리만 들어도 알 수 있습니다. [1] BarryWhite 24.06.07 3 234
211 AI 오픈AI: 인공지능 사고 해석 가능 BarryWhite 24.06.07 1 189
210 AI 에릭 슈미트, 비밀 AI 군용 드론 벤처 설립 [1] BarryWhite 24.06.08 1 199
209 AI 성큼 다가온 AI 의사, 암 판별에 CT 분석까지 BarryWhite 24.06.08 1 167
208 AI 개인이 써볼 수 있는 AI 성능 평가 도구가 있으려나요 [1] Alternative 24.06.09 1 299
207 AI 메타, 개인정보 AI 학습 활용에 유럽 시민단체 반발 BarryWhite 24.06.10 0 84
206 AI AI 기반 쿼리는 검색 전력 10배 사용 [2] BarryWhite 24.06.10 1 168
205 AI 日학생 40% 이상 챗GPT 이용 BarryWhite 24.06.11 1 153
204 AI 국내 챗GPT앱 사용자수 315만명, 20대 가장 많이 사용 file BarryWhite 24.06.11 1 148
203 AI 오픈AI, 일론 머스크 주장 반박 BarryWhite 24.06.13 0 186
202 AI 이제 그림 ai로 글씨를 쓸 수 있습니다. [2] file Karion 24.06.13 4 814
201 AI 브라질, 법조계에 오픈AI 서비스 도입 BarryWhite 24.06.13 0 52
200 로봇 테슬라: 옵티머스 로봇 자율 작동 중 BarryWhite 24.06.13 0 84
199 로봇 토요타, 운전하는 휴머노이드 로봇 무사시 개발 BarryWhite 24.06.14 0 178
198 AI 터키서 대학 입시 부정행위...AI로 정답 들었다 [2] BarryWhite 24.06.14 0 343
197 AI 공무원 일거리 줄어들까…정부, 생성형 AI 첫 도입 BarryWhite 24.06.14 0 216
196 AI 구글: AI 검색, 문제 생겨도 보류할 생각 없어 BarryWhite 24.06.16 0 98
195 AI 메타, 아일랜드 요청으로 유럽 AI 모델 출시 중단 BarryWhite 24.06.16 0 122
194 AI MS, 비욘드 오픈AI 가시화...LLM자체 개발 [1] BarryWhite 24.06.16 0 196
AI S24에서 온디바이스 LLM 체험하기 [4] file Eomjunsik 24.06.16 4 634
192 AI G7 정상회의서 AI 악용 방지 논의 BarryWhite 24.06.17 0 55
191 AI 엔비디아, LLM 학습 돕는 네모트론-4 340B 공개 BarryWhite 24.06.17 0 126
190 AI 맥도날드, IBM AI 드라이브 스루 주문 파트너십 종료 BarryWhite 24.06.17 1 128

추천 IT 소식 [1/]

스킨 기본정보

colorize02 board
2017-03-02
colorize02 게시판

확장 변수

1. 게시판 기본 설정

게시판 타이틀 하단에 출력 됩니다.

일반 게시판, 리스트 게시판, 갤러리 게시판에만 해당

2. 글 목록

기본 게시판, 일반 게시판, 썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

썸네일 게시판만 해당

3. 갤러리 설정

4. 글 읽기 화면

기본 10명 (11명 일 경우, XXXXX 외 1명으로 표시)

5. 댓글 설정

일정 수 이상의 추천을 받은 댓글에 표시를 합니다.

6. 글 쓰기 화면 설정

글 쓰기 폼에 미리 입력해 놓을 문구를 설정합니다.