[LLM] Mercury Coder

개요

• 회사 : Inception Labs
• 모델 : Mercury Coder
• 날짜 : 2025년 2월 19일

작동 원리

• Auto Regressive 방식의 언어모델은 텍스트를 왼쪽에서 오른쪽으로 한 토큰씩 순차적으로 생성
• Diffusion 모델은 초기에 노이즈가 있는 상태에서 점진적으로 노이즈를 제거하며 전체 텍스트를 동시에 생성
• corse-to-fine 생성 과정은 이전 출력에 의존하지 않고 텍스트를 생성

특징

• 엔비디아 H100 GPU에서 초당 1000개 이상의 토큰 생성하며, 기존의 모델 대비 10배 빠름
• Mercury Coder는 코드 생성에 최적화된 모델로, GPT-4o mini, Claude 3.5 Haiku같은 모델을 능가
• 메모리 효율성이 좋아 비용 절감