엔비디아 주: 이 게시물은 AI에 대한 접근성을 높여 AI에 대한 이해를 돕고, RTX PC 사용자를 위한 새로운 하드웨어, 소프트웨어, 도구 및 가속을 소개하는 AI 디코딩 시리즈의 일부입니다.

 

요약 :

 

파운데이션 모델은 방대한 양의 원시 데이터에 대해 훈련된 인공지능 신경망으로, 일반적으로 감독되지 않은 학습을 통해 학습됩니다. 인간과 같은 언어를 이해하고 생성하도록 훈련된 인공지능 모델의 한 유형입니다. 파운데이션 모델은 깊은 지식 기반과 자연어로 의사소통할 수 있는 능력을 갖추고 있어 텍스트 생성 및 요약, 코파일럿 제작 및 컴퓨터 코드 분석, 이미지 및 비디오 생성, 오디오 전사 및 음성 합성을 포함한 광범위한 응용 분야에 유용합니다.

 

가장 주목할 만한 제너레이티브 AI 애플리케이션 중 하나인 ChatGPT는 OpenAI의 GPT 파운데이션 모델로 만들어진 챗봇입니다. 이제 네 번째 버전인 GPT-4는 텍스트 또는 이미지를 수집하고 텍스트 또는 이미지 응답을 생성할 수 있는 대규모 멀티모달 모델입니다. 파운데이션 모델을 기반으로 만들어진 온라인 앱은 일반적으로 데이터 센터에서 모델에 액세스합니다. 그러나 이러한 모델과 그들이 작동시키는 애플리케이션 중 많은 것은 이제 NVIDIA GeForce 및 NVIDIA RTX GPU를 사용하여 PC와 워크스테이션에서 로컬로 실행될 수 있습니다.

 

파운데이션 모델은 언어 처리, 코드 생성, 시각 처리 및 음성을 포함한 다양한 기능을 수행할 수 있습니다. 그대로 사용하거나 추가 개선과 함께 사용할 수 있습니다. 사용자는 비용과 시간이 많이 드는 노력인 각 생성적인 인공지능 애플리케이션에 대해 완전히 새로운 인공지능 모델을 훈련하는 대신 일반적으로 특수 사용 사례에 맞게 파운데이션 모델을 미세 조정합니다. 사전 훈련된 파운데이션 모델은 프롬프트와 검색-증강 생성 또는 RAG와 같은 데이터 검색 기술 덕분에 현저하게 능력이 있습니다.

 

파운데이션 모델은 또한 전이 학습에 탁월한데, 이것은 그들이 원래의 목적과 관련된 두 번째 과제를 수행하도록 훈련될 수 있다는 것을 의미합니다. 예를 들어, 인간과 대화하도록 설계된 범용 대형 언어 모델(LLM)은 기업 지식 기반을 사용하여 문의에 답변할 수 있는 고객 서비스 챗봇 역할을 하도록 더 훈련될 수 있습니다. 산업 전반에 걸친 기업들은 그들의 AI 애플리케이션으로부터 최고의 성능을 얻기 위해 파운데이션 모델을 미세 조정하고 있습니다.

 

100개 이상의 파운데이션 모델이 사용되고 있으며, 그 수는 계속해서 증가하고 있습니다. 가장 인기 있는 파운데이션 모델 유형은 LLM과 이미지 생성기입니다. 두 가지 이상의 데이터를 동시에 처리할 수 있는 멀티모달 파운데이션 모델도 점차 인기를 얻고 있습니다. 이러한 모델은 텍스트와 이미지를 모두 처리할 수 있어 사용자가 이미지를 업로드하고 이에 대한 질문을 할 수 있습니다. 이러한 유형의 모델은 고객 서비스와 같은 실제 애플리케이션에 빠르게 채택되고 있습니다.

 

 

원문 :

 

고층 빌딩은 튼튼한 기초에서 시작됩니다. AI로 구동되는 앱도 마찬가지입니다.

 

파운데이션 모델(인공지능 기초 모델)은 일반적으로 비지도 학습을 통해 방대한 양의 원시 데이터로 학습된 AI 신경망입니다(편집자 주: 챗GPT도 GPT 파운데이션 모델 기반).

 

인간과 유사한 언어를 이해하고 생성하도록 훈련된 인공지능 모델의 일종입니다. 컴퓨터가 인간처럼 단어와 문장의 문맥과 의미를 이해할 수 있도록 방대한 양의 책을 읽고 학습할 수 있는 라이브러리를 제공한다고 상상해 보세요.

 

 

파운데이션 모델의 심층적인 지식 기반과 자연어 소통 능력은 텍스트 생성 및 요약, 부조종사 제작 및 컴퓨터 코드 분석, 이미지 및 비디오 제작, 오디오 전사 및 음성 합성 등 광범위한 애플리케이션에 유용합니다.

 

가장 주목할 만한 제너레이티브 AI 애플리케이션 중 하나인 ChatGPT는 OpenAI의 GPT 기반 모델로 구축된 챗봇입니다. 현재 네 번째 버전인 GPT-4는 텍스트나 이미지를 수집하고 텍스트 또는 이미지 응답을 생성할 수 있는 대규모 멀티모달 모델입니다.

 

파운데이션 모델을 기반으로 구축된 온라인 앱은 일반적으로 데이터 센터에서 모델에 액세스합니다. 하지만 이제 이러한 모델과 이를 구동하는 애플리케이션 중 상당수는 NVIDIA GeForce 및 NVIDIA RTX GPU가 탑재된 PC와 워크스테이션에서 로컬로 실행할 수 있습니다.

 

파운데이션 모델 용도

파운데이션 모델은 다음과 같은 다양한 기능을 수행할 수 있습니다:

 

언어 처리: 텍스트 이해 및 생성

코드 생성: 다양한 프로그래밍 언어의 컴퓨터 코드 분석 및 디버깅

시각 처리: 이미지 분석 및 생성

음성: 텍스트 음성 생성 및 음성 텍스트 변환

이러한 기능은 그대로 사용하거나 더 다듬어서 사용할 수 있습니다. 각 생성 AI 애플리케이션에 대해 완전히 새로운 AI 모델을 학습시키는 대신(비용과 시간이 많이 소요되는 작업), 사용자는 일반적으로 특수한 사용 사례에 맞게 기본 모델을 미세 조정합니다.

 

사전 학습된 기초 모델은 검색 증강 생성(RAG)과 같은 프롬프트 및 데이터 검색 기술 덕분에 놀라운 성능을 발휘합니다. 또한 기초 모델은 전이 학습에 탁월하므로 원래의 목적과 관련된 두 번째 작업을 수행하도록 학습할 수 있습니다.

 

예를 들어, 사람과 대화하도록 설계된 범용 LLM(대규모 언어 모델)은 기업 지식 베이스를 사용하여 문의에 답변할 수 있는 고객 서비스 챗봇으로 작동하도록 추가 학습할 수 있습니다.

 

다양한 산업 분야의 기업들은 AI 애플리케이션에서 최고의 성능을 얻기 위해 기초 모델을 미세 조정하고 있습니다.

 

파운데이션 모델의 유형

100개 이상의 파운데이션 모델이 사용되고 있으며 그 수는 계속 증가하고 있습니다. LLM과 이미지 제너레이터는 가장 인기 있는 두 가지 유형의 파운데이션 모델입니다. 그리고 그 중 상당수는 NVIDIA API 카탈로그에서 누구나 모든 하드웨어에서 무료로 사용해 볼 수 있습니다.

 

LLM은 자연어를 이해하고 쿼리에 응답할 수 있는 모델입니다. 텍스트 이해, 변환 및 코드 생성에 탁월한 Google의 Gemma가 한 예입니다. 천문학자 코넬리우스 젬마에 대한 질문에는 "천체 항법과 천문학에 대한 그의 공헌이 과학 발전에 큰 영향을 미쳤다"고 설명했습니다. 또한 그의 주요 업적, 유산 및 기타 사실에 대한 정보도 제공했습니다.

 

RTX GPU의 NVIDIA TensorRT-LLM으로 가속화된 Gemma 모델의 협업을 확장한 Google의 CodeGemma는 커뮤니티에 강력하면서도 가벼운 코딩 기능을 제공합니다. 코드 완성 및 코드 생성 작업에 특화된 7B 및 2B 사전 훈련된 변형으로 CodeGemma 모델을 사용할 수 있습니다.

 

미스트랄AI의 미스트랄 LLM은 지침을 따르고, 요청을 완료하고, 창의적인 텍스트를 생성할 수 있습니다. 실제로 이 블로그의 헤드라인을 브레인스토밍하는 데 도움을 주었으며, 시리즈 이름인 "AI Decoded"의 변형을 사용해야 한다는 요구 사항을 포함하여 기초 모델의 정의를 작성하는 데도 도움을 주었습니다.

 

 

메타의 라마 2는 프롬프트에 응답하여 텍스트와 코드를 생성하는 최첨단 LLM입니다.

 

미스트랄과 라마 2는 RTX PC와 워크스테이션에서 실행되는 NVIDIA ChatRTX 기술 데모에서 확인할 수 있습니다. ChatRTX를 통해 사용자는 문서, 의사 노트 및 기타 데이터와 같은 개인 콘텐츠에 RAG를 통해 연결하여 이러한 기초 모델을 개인화할 수 있습니다. TensorRT-LLM으로 가속화되어 상황에 맞는 답변을 빠르게 얻을 수 있습니다. 또한 로컬에서 실행되므로 결과가 빠르고 안전합니다.

 

StabilityAI의 Stable Diffusion XL 및 SDXL Turbo와 같은 이미지 생성기를 통해 사용자는 놀랍고 사실적인 시각적 이미지를 생성할 수 있습니다. StabilityAI의 비디오 생성기인 Stable Video Diffusion은 생성 확산 모델을 사용하여 단일 이미지를 컨디셔닝 프레임으로 삼아 비디오 시퀀스를 합성합니다.

 

멀티모달 기반 모델은 텍스트와 이미지 등 두 가지 이상의 데이터 유형을 동시에 처리하여 보다 정교한 결과물을 생성할 수 있습니다.

 

텍스트와 이미지 모두에서 작동하는 다중 모드 모델은 사용자가 이미지를 업로드하고 그에 대한 질문을 할 수 있게 해줍니다. 이러한 유형의 모델은 고객 서비스와 같은 실제 애플리케이션에 빠르게 적용되고 있으며, 기존 매뉴얼의 보다 빠르고 사용자 친화적인 버전으로 사용될 수 있습니다.

 

 

코스모스 2는 이미지의 시각적 요소를 이해하고 추론하도록 설계된 Microsoft의 획기적인 멀티모달 모델입니다.

 

글로벌한 사고, 로컬에서 AI 모델 실행

GeForce RTX 및 NVIDIA RTX GPU는 기초 모델을 로컬에서 실행할 수 있습니다.

 

결과는 빠르고 안전합니다. 사용자는 클라우드 기반 서비스에 의존하는 대신 ChatRTX와 같은 앱을 활용하여 데이터를 타사와 공유하거나 인터넷에 연결할 필요 없이 로컬 PC에서 민감한 데이터를 처리할 수 있습니다.

 

사용자는 빠르게 성장하고 있는 개방형 기반 모델 카탈로그 중에서 선택하여 자신의 하드웨어에서 다운로드하고 실행할 수 있습니다. 따라서 클라우드 기반 앱과 API를 사용할 때보다 비용이 절감되고 지연 시간 및 네트워크 연결 문제가 발생하지 않습니다. 생성형 AI는 게임, 화상 회의 및 모든 종류의 인터랙티브 경험을 혁신하고 있습니다.