미니 애플 인텔리전스 문서 보면 애플답지 않긴 합니다
- sourire
- 조회 수 1182
- 2024.06.25. 09:02
구조 자체를 놓고 보면
기반은 우리가 만들지만 핵심(LLM)은 너희들 것 써라인데
여기서 애플답지 않은게
자사 기반에 돌아가기만 하면 LLM은 서드파티 허용인 것 같습니다
아직까지 LLM을 깊게 만들지 못했던 것 같긴한데
향후에 발전된 Apple Inteligence2에는
뭔가 다르게 변화될 것 같긴합니다
타사 LLM을 파이토치에서 coreML로 변환하여 쓸 수 있다는걸 보면
외부 LLM을 써도 된다는 식으로 보긴 했습니다.
덤으로 제머나이, GPT 등 타사 LLM 이야기도 간간히 나오는거 보면
정말 서드파티를 풀어주나 싶긴합니다만 이건 애플 자체 LLM을 공개하면 어떻게 될지 모르지만요.
근데 파이토치에서 coreML로 양자화 등 경량으로 변환하는건
아직 "이 기능은 공개하겠다" 여서 올 여름에 나올 애플 인텔리전스 개발문서를 봐야 될 것 같아요
다만 사진처럼 "온디바이스 모델" / "서버 모델" 만 지칭해서
애플이 허가하는 기준일 것 같은데 상당히 모호할거란 말이죠
아 그건 한참 예전부터 되었던 기능이에요
https://huggingface.co/coreml-projects/Llama-2-7b-chat-coreml/tree/main
라마 풀리고 로컬 llm 흥하자마자 이야기 나왔었을거에요
https://developer.apple.com/machine-learning/models/
다만 애플의 경우 멀티모달 (이미지) 위주다보니
점점 세분화가 되는 LLM들을 사용하게 하기 위해서는
라마나 어니(바이두)를 어느정도 허용할 것 같긴 합니다
물론 최근 앱스토어 같이 독점 시비가 붙지 않기 위해서 문서로만 남겨두긴 할 것 같아요
아마 타사 LLM 이용시 허가여부를 하나하나 물어보는 기능을 추가할 거라고 생각이 듭니다
자사 기반에 돌아가기만 하면 LLM은 서드파티 허용이더라고요 /// 그러니까 시리를 키면 제미니 or 챗GPT 중에 고르는 식인 건가요?