네 라마2 / 제머나이 / GPT 모두 이용은 가능합니다

자사 기준에 충족되면요

온디바이스 / 서버 모델 모두 외부의 LLM을 이용할 수 있도록 되어 있습니다

다만 이건 아마 중국쪽에 "AI의 LLM은 자국의 인정된 것만 탑재할 수 있다."라는 법안과

타국의 규제 움직임 때문에 방어적으로 한 것 같습니다

실제로 WWDC에서 공개된 시리에서 보듯 온디바이스에서 처리할 수 없으면

GPT-4o로 물어볼거냐는 질문 뒤에 결과물을 출력하게 되도록 만들었다는 걸 보면요

제미니 사용 가능은 쇼킹하네요 ㄷㄷ

애플과 이야기 나온다는 라마2와 구글도 아직까지 협상 관련해서 나오는거 보면

주요 LLM들을 섞을거 같긴합니다

다만 나오는 꼴 봐서 제머나이는 안해줄거 같아요

애플과 이야기 나온다는 라마2와 구글도 아직까지 협상 관련해서 나오는거 보면

주요 LLM들을 섞을거 같긴합니다

다만 나오는 꼴 봐서 제머나이는 안해줄거 같아요

타사 LLM을 파이토치에서 coreML로 변환하여 쓸 수 있다는걸 보면

외부 LLM을 써도 된다는 식으로 보긴 했습니다.

덤으로 제머나이, GPT 등 타사 LLM 이야기도 간간히 나오는거 보면

정말 서드파티를 풀어주나 싶긴합니다만 이건 애플 자체 LLM을 공개하면 어떻게 될지 모르지만요.

근데 파이토치에서 coreML로 양자화 등 경량으로 변환하는건

아직 "이 기능은 공개하겠다" 여서 올 여름에 나올 애플 인텔리전스 개발문서를 봐야 될 것 같아요

다만 사진처럼 "온디바이스 모델" / "서버 모델" 만 지칭해서

애플이 허가하는 기준일 것 같은데 상당히 모호할거란 말이죠

아 그건 한참 예전부터 되었던 기능이에요
https://huggingface.co/coreml-projects/Llama-2-7b-chat-coreml/tree/main

라마 풀리고 로컬 llm 흥하자마자 이야기 나왔었을거에요

그런데 애플도 자사 LLM에 대해서 자신있게 말하지 않은걸 봐서

공개했던 GPT 같이 "사용자의 허가가 있어야 열람이 가능한" 구조로 만들 것 같습니다

https://huggingface.co/apple
애플 자체 LLM도 이미 공개 다 되어있지 않나요?

https://developer.apple.com/machine-learning/models/

다만 애플의 경우 멀티모달 (이미지) 위주다보니

점점 세분화가 되는 LLM들을 사용하게 하기 위해서는

라마나 어니(바이두)를 어느정도 허용할 것 같긴 합니다

물론 최근 앱스토어 같이 독점 시비가 붙지 않기 위해서 문서로만 남겨두긴 할 것 같아요

아마 타사 LLM 이용시 허가여부를 하나하나 물어보는 기능을 추가할 거라고 생각이 듭니다

보내주신 URL은 CoreML로 포팅된 모델들이 이런게 있다 지 애플이 이미지 위주 모델이 있는게 아니잖아요
당장 OpenELM이 언어 모델인데요

근데 애초에 저기 On-Device Model 이랑 Server Model 은 각각 애플 자체 로컬 모델이랑 저기 애플 실리콘에서 돌아가는 서버 모델 일텐데요
Server model 밑에 Private server os 스택이 있는걸 보면 알수 있죠

그렇다면 그렇게 돌아갈 것 같긴 합니다

제 생각과는 달랐나보긴 합니다

외부 LLM 일부 허용 때문에 과장해서 생각했나봐요