소식 메타, 최신 LLM ‘라마3’ 오픈소스 공개…“기술ㆍ코딩ㆍ역사 등 다양한 데이터 학습”
- 뉴스봇
- 조회 수 135
- 2024.04.19. 10:45
19일 메타가 자사의 최신 대규모 언어 모델(LLM) ‘라마3(Llama 3)’을 오픈소스로 공개했다.
공개된 라마3은 사전훈련과 미세조정을 마친 80억 개와 700억 개 매개변수 모델 2가지다. 업체에 따르면, 이 모델은 15조 이상의 토큰으로 훈련됐다. 라마2 대비 토큰은 7배 이상, 코드양은 4배 더 많다. 또한 일상적인 질문부터 과학, 기...
기사 더 읽기
기사 더 읽기
댓글
0