기업 성향 차이라고 생각합니다

애플은 자신들이 생각하는 기준선이 꽤 높은편이고, 그 기준에서 안된다 싶으면 그냥 아예 안되게 해버리죠.

삼성은 반대로 기준선이 애플에 비하면 낮은편이고, 조금 애매하고 버벅인다 싶어도 그냥 집어넣는 편...

애플 : 우리가 용인하는 수준이 아니면, 그냥 하지마

삼성 : 우리가 용인하긴 애매하지만,, 일단 써봐

그게 아니라 sLM 때문이에요.

아마 On-device sLM을 Galaxy에 탑재한다면 적어도 8GB 이하는 전부 제외될 가능성이커요.

애플 인텔리전스의 핵심인 개인화 요소는 다른 스마트폰 디바이스에서 아직 탑재된 적 없는 요소입니다. 
발표 당시 통번역 이미지 검색 같은 기능 위주로 강조했던 갤럭시랑은 완전히 다르게 개인화를 바탕으로 한 맞춤 비서 역할을 핵심 아젠다로 잡았는데, 어디서 본 요소들만 있었다는 말씀엔 동의하기 어렵네요.

물론 그와 별개로 급했다는 의견엔 동의합니다.

개인화되었다는 게 핵심인 건 맞습니다.

하지만 개인화된 정보 기반으로 하는 게 정보찾기/요약, 문장 교정, 사진 찾기, 그림 만들기 등인데 이는 기존의 서비스나 LLM 등에서 이미 소개된 기능들이 대부분입니다.

요약: 따로 말할 필요도 없습니다. 모든 LLM.

알림에서 정보 찾기, 스마트 답장: 구글 나우, 기존의 시리('시리 추천')

문장 교정: Grammerly, 삼성 키보드

자세한 정보로 사진 찾기: 기존의 사진 앱에서도 제한적으로나마 되었고 구글 포토 등에서도 지원

그림 만들기: 미드저니 등

화면상 정보를 이용: 구글 나우 온 탭

독창적인 기능이라고 하면 Priority notification 정도가 있겠네요. 

물론 '이 모든 걸 개인화해서 안전하게 제공하는 건 처음인 거다!'라는 말이 틀리지는 않지만, 애초에 iOS 시스템에서 개인 정보를 서드 파티 앱에 제공할 수 있었으면 이미 존재하는 모델로 구현 가능한 기능들이죠. 기능의 깊이가 일반적으로 상상 가능한 수준과 크게 다르지 않다는 게 제 말뜻이었습니다.

제 댓글의 맥락을 제대로 파악하지 못하고 계신데요. 
발표 내용대로라면 애플 인텔리전스로는 다양한 앱을 넘나들며 정보를 추출하고 인덱싱해 사용자에게 맞게 가공하여 개인화된 맞춤 정보를 제공하는 서비스, 즉 개인 비서 역할이라서 열거하신 모델들로는 통합적으로 구현되지 않습니다. 시리나 구글 어시스턴트, 코타나 등이 처음 발표될 때부터 사용자들이 꿈꾸던 진짜 개인비서 역할이 실현 되는 거예요(물론 발표대로 동작한다면 말이죠)

현존하는 이와 비슷한 서비스는 챗 GPT의 메모리 기능이나 안드로이드에서 메일 분석 해서 항공편 정보 찾아오는 등등의 편의 기능 정도 뿐이지만, 전자는 챗 GPT 서비스 내에서만 작동하기 때문에 한계가 명확합니다.  본질적으로 나에 대한 모든 정보가 모이는 스마트폰이라 구현 가능한 서비스거든요. 후자는 단편적인 일부 서비스에 그쳐 있고요. 진정한 개인비서 역할을 하기 어렵다는 겁니다.

그냥 제가 구구절절 적는 것보다 기사를 퍼오는 게 낫겠다 싶어 아래에 퍼둡니다.
위에서 열거하신 서비스들을 포함하여, 아래 내용을 가능하게 하는 서비스는 아직 출시된 적 없습니다.

⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯⎯
 

스마트폰은 아주 개인적인 기기이고, 사실상 개인의 모든 디지털 정보가 모이는 허브입니다. 그 안을 잘 살피면 가족이 누구인지, 내가 사는 곳은 어디인지, 주로 이용하는 교통 수단은 무엇이고, 앞으로의 일정과 관심사 등을 모두 알 수 있습니다. 이를 해석해서 가치로 만들어내는 것이 인공지능의 역할인데, 그걸 어디에서 분석하도록 둘 것이냐를 두고 애플의 시선이 갈립니다.

애플은 이 정보들이 지극히 개인적인 내용이기 때문에 인사이트를 얻어내는 방법이 외부에서 이뤄지면 안 된다고 판단했습니다. 기기 내부에서 처리되는 것을 기본 원칙으로 하되, 기기의 성능만으로 처리하지 못할 부분들은 애플이 제공하는 별도의 비공개 클라우드 컴퓨팅을 활용합니다.

이 클라우드 컴퓨팅은 정보 전체를 보내는 것이 아니라 모델의 일부 커다란 데이터를 처리하는 데에 쓰이고, 전송 과정부터 모든 부분이 익명 처리됩니다. 분석과 처리의 내용은 아무도 볼 수 없고, 여느 애플의 서비스와 마찬가지로 독립적인 보안 전문가들이 상시적으로 서버의 프라이버시 정책을 감사하도록 합니다.

 
그러다 보니 오히려 내부의 정보를 더 적극적으로 해석할 수 있게 됩니다. 애플이 ‘맥락’이라고 부르는 부분입니다. 메시지, 이메일, 캘린더, 여행 앱, 항공사 앱, 지도, 연락처 등을 모두 훑어서 나에 대한 모든 부분에서 의미를 찾아냅니다.

키노트에서 시연된 예들이 바로 이런 부분을 잘 나타냅니다. 크레이그 페더리기 부사장이 ‘회의 일정이 미뤄져서 딸의 연극 공연 시간에 늦지 않고 갈 수 있을지 걱정’이라고 시리에게 이야기합니다. 시리는 그 의미를 정확히 읽어내서 먼저 딸이 누구인지 파악하고, 회의가 끝나는 시간과 현재 위치, 그리고 목적지까지 이동하는 방법과 시간을 두루 판단합니다. 연락처, 캘린더, 지도, 메일 등에서 얻어낸 복합적인 정보들이 하나의 가치를 만들어내는 것이지요. 그리고 시리가 이를 아우를 수 있도록 도움을 주는 것이 바로 애플 인텔리전스의 역할입니다.

https://www.bizhankook.com/bk/article/27759

어떤 뜻인지 알겠습니다. 저는 정보를 주면 얻어낼 수 있는 결과가 기존의 LLM과 다르지 않다는 뜻이었습니다.

(회의실 위치, 회의가 끝나는 예상 시간, 딸의 공연 시작 시간, 딸의 공연장 위치 등등이 주어진다면 기존의 LLM에게 시켜도 충분히 맥락을 파악하고 결과를 도출할 수 있음)

하지만 그 기반이 되는 개개별의 정보들을 모으고 조합하는 과정이 다른 서비스에서 볼 수 없는 새로운 것이긴 하네요.

(저는 사실 그 부분은 'OS를 만드는 회사가 직접 통합하는 기능이라면 당연히 되어야 하는 부분이 아닌가?' 라고 생각해서 위와 같이 말했습니다. 특히나 애플은 매끄러운 사용자 경험을 강조하는 회사라니 더더욱요.)

개인적으로는 이전의 서비스들에서 그런 정보 취합의 기능이 제대로 작동하는 걸 본 적이 없는 만큼, 잘 작동된다면 어떤 포텐셜이 있을지 기대가 되기도 하고 반대로 제대로 작동할지 의문이 들기도 하네요(한동안 시리는 가족관계를 저장해 놓아도 계속 다시 물었던 버그가 있었습니다). 또한 애플 인텔리전스가 애플 자체의 데이터 이외에 서드파티 앱들의 기능과 데이터를 얼마나 잘 사용할지도 궁금하고요(한국에서 애플 맵으로 대중교통 경로 안내를 기대하긴 어렵죠).

실제로 나오면 말씀하신 데로 맥락을 확인해 데이터를 성공적으로 추출하고 이를 이용하는 과정이 매끄럽게 작동할지, 애플이라면 해낼 수 있을지 기대되긴 합니다. 

저 역시 제대로 작동할지 의문으로 가득차있는 상황이긴 합니다. 애플의 AI 관련 실력을 믿지도 못하겠거니와(주신 댓글을 살짝 비틀어 인용하자면 애플이라‘서’ 해낼 수 없다는 불신이랄까요), API를 제공한다지만 서드파티 제조사들이 자신들이 보유한 사용자 정보를 애플 인텔리전스에 제공해줄 것인가 혹은 제공해준다고 해도 API를 통해 알짜배기 정보들이 제대로 제공될 수 있을 것인가 또한 의문이기도 합니다. 

그리고 당연한 얘기지만, 안드로이드 진영 역시 비슷한 걸 준비하고는 있습니다. 갤럭시에도 조만간 도입되겠죠. 어쩌면 국내 기준으로는 이쪽이 더 빠를지도 모릅니다

그런 의미에서는 제가 말했던 '인테그레이션이 부족하다'는 말은 틀린 말이겠네요. 인정합니다.

물론 애플 인텔리전스가 발표대로 작동한다는 가정 하에 말이죠.

결국은 나와 봐야 알 것 같습니다.

넓은 의미에서 볼 때 인테그레이션이 부족하다는 말씀은 맞는 걸로 보입니다. 
15프로 이상에서만 구동할 수 있다는 건, 이런 판도를 뒤흔들 기능을 사용할 수 있는 하드웨어 저변, 즉 생태계가 부족한 상황이라는 뜻이기도 하니까요. 실제 애플에서는 마케팅 책임자의 입을 빌어 새 아이폰을 팔려는 계획이 전혀 아니라며 맥과 아이패드의 예시를 들어 부정했습니다. 이는 역으로 이 시스템을 받아들일 아이폰 하드웨어 저변이 부족하고 애플이 그만큼 서둘렀다는 걸 인정한 꼴이기도 하죠

결국 애플도 자신들이 자랑하고 AI에서 상당히 민감한 주제인 개인정보 관련 문제는, 현재로서는 로컬LLM 구동으로밖에 해결방안이 없어서 그런 듯 합니다. 개인적으로는 더 램이 적은 기기에서는 모든 처리를 애플이 클라우드에서 구동한다는 프라이빗 모델로 처리하는 식으로 하면 좋지 않았을까 싶긴 해요. 대신 느리고 인터넷 연결이 없을 시 작동이 안 된다는 걸 15프로 시리즈와 급을 나누는 포인트로 하는거죠. 아마 모델 구동 비용 상 수지타산이 안 좋아서 리젝한 듯 한데...

개인적으론 그래서 SSD에서 LLM을 구동시킨다는 연구가 흥미롭더라고요. 지금 상황에서 AI를 위해 덮어놓고 램을 늘리면 제품 수명 주기를 단축시킬 방법이 애매해지니깐요. 대안을 여러모로 모색하고 있을 거라고 생각합니다.

애플도 결국 AI 밴드웨건에 올라탄 지금, 후발주자라는 난관울 어떻게 풀어나갈지 경영적인 관점이 훨씬 흥미롭긴 합니다ㅎㅎ

개인적으로 생각하기엔 비용 문제보다도 모든 앱을 항시 돌아다니면서 상시 데이터를 추출하고 분류하는 작업이 클라우드로는 사실상 불가능하지 않나 싶어요. 램 공간에 상주하는 양이 큰 이유도 이 때문이지 않을까 싶고요.

설사 가능하다고 해도, 결국 모든 데이터가 애플의 클라우드에 올라가야 한단 얘기인데요. 전송해야 할 데이터양도 어마무시하거니와, 아무리 비공개라고는 해도 모든 데이터를 기기 외부로 보낸다는 건 그간 프라이버시를 강조해왔던 애플의 성향 상 실행하기 어려운 선택지 아닌가 싶습니다

+ 애플은 SSD 용량장사도 거하게 해먹는 회사죠. 그래도 이쪽은 램과는 달리 제공은 하긴 하네요. 

36기가도 최소사양인거는 LLM 로컬로 돌리는거 이야기 아닌가요;

그거랑은 솔직히 다른 차원의 이야기죠. 

애플 인텔리전스도 경량화된 LLM이 온디바이스로 돌아갑니다.

그거는 맞는데 램 36기가로도 부족한 수준의 LLM을 들고오는건 다른 차원의 이야기죠...

주류언어 몇개만 갖고 최적화한거니까요.

그 문제가 아니라, 아예 핵심으로 강조하는 방향이 다른 겁니다. 
통번역이나 이미지 편집 같은 특정 기능 중심으로 AI를 강조했던 갤럭시와는 달리 개인화된 데이터를 바탕으로 비서 역할을 하겠다는게 핵심이었죠. 

뭐 이 질문에 대해서는 애플 고위 관계자가 직접 부정하긴 했습니다. 
물론 진실은 알 수 없고, 실제로 교체수요가 일어날 거라며 주가에 반영되는 상황이지만요. 
다만 아래에 언급된대로, 맥이나 아이패드의 최소사양이 이젠 꽤나 구형인 M1이라는 점을 고려하면 일리가 있기도 합니다.

⎯⎯⎯⎯⎯⎯
이에 존 그루버가 “새 아이폰을 팔려는 계획이 아니냐”고 묻자 그렉 조스위악 마케팅 책임자는 “"아니요, 전혀 그렇지 않다"고 답해다. 조스위악은 "만약 그렇다면 가장 최신 아이패드와 맥을 사용하는 것만으로도 충분히 똑똑했을 것”이라고 덧붙였다. 
 

크레이그 페더리기 애플 소프트웨어 엔지니어링 책임자는 새로운 기능에 대한 애플의 첫 번째 조치는 “해당 기능을 가능한 한 이전 장치에 다시 적용하는 방법을 찾는 것”이라고 밝혔다. 하지만, 애플 인텔리전스에 관해서는 "이 정도 성능의 모델을 아이폰에서 실행하는 것은 매우 특별한 일”이라고 말했다.

https://v.daum.net/v/20240620083741238