- 작년 오픈AIOpenAI는 GPT-3.5용 셀프 서비스 미세 조정 API를 처음 출시했습니다. 미세 조정을 통해 대형 언어 모델(LLM)은 기존 대비 콘텐츠를 더 잘 이해하고 특정 작업에 대한 기존 지식과 기능을 보강할 수 있었습니다. 그리고 오늘, OpenAI는 개발자가 미세 조정을 더 잘 제어할 수 있도록 몇 가지 새로운 기능을 발표했습니다. 

- 우선 각 학습 기간 동안 미세 조정된 전체 모델 체크포인트를 저장하여 특히 과적합의 경우 후속 재학습의 필요성을 줄입니다. 이어 모델 품질과 성능을 비교하기 위한 새로운 나란히 배치된 Playground UI를 통해 여러 모델의 결과를 사람이 직접 평가하거나 단일 프롬프트에 대해 스냅샷을 미세 조정할 수 있습니다.

- 타사 플랫폼과의 통합을 지원하여 개발자가 세부적인 미세 조정 데이터를 나머지 스택과 공유할 수 있습니다.

각 에포크가 끝날 때마다 검증 데이터 세트(이전에는 샘플링된 배치)를 통해 계산된 메트릭을 통해 모델 성능(토큰 손실 및 정확도)에 대한 가시성을 높이고 모델의 일반화 기능에 대한 피드백을 제공합니다.

- 대시보드에서 사용 가능한 하이퍼파라미터를 구성할 수 있는 기능(API 또는 SDK를 통해서만 가능하지 않음)

하이퍼파라미터 구성, 더 자세한 학습 메트릭 보기, 이전 구성에서 작업 재실행 기능 등 미세 조정 대시보드의 다양한 개선 사항.

- 마지막으로 오픈AI는 맞춤형 모델 프로그램(Custom model Program)의 일부로 지원 미세 조정 서비스도 발표했습니다. 지원 미세 조정을 통해 전담 오픈AI 연구원 그룹은 미세 조정 API 이상의 기술을 사용해 특정 도메인에 대한 모델을 학습하고 최적화합니다. 이 프로그램은 효율적인 학습 데이터 파이프라인, 평가 시스템, 특정 도메인에 대한 모델 성능을 개선하기 위한 맞춤형 파라미터 및 방법을 구축하는 데에 매우 유용할 것입니다.