Moonshot AI Kimi K3, Amazon Bedrock에서 정식 출시

Moonshot AI의 Kimi K3가 9월 18일 Amazon Bedrock에서 정식 출시됐습니다. 코딩과 지식 작업을 겨냥한 오픈 웨이트 모델이고, Bedrock의 오픈 모델 라인업에 추가됐습니다. Bedrock에서 이미 다른 모델을 쓰고 있다면, 접근 제어와 암호화, 감사 로그가 적용되는 기존 경계 안에서 이 모델도 같은 방식으로 호출합니다.

Kimi K3는 100만 토큰 컨텍스트 창을 제공합니다. 여기에 이미지를 별도 파이프라인 없이 처리하는 네이티브 비전 기능이 함께 붙어 있습니다. 스캔한 문서나 화면 캡처가 섞인 여러 문서를 한 번에 분석하는 작업, 큰 저장소를 오가는 긴 코딩 세션, 여러 단계로 이어지는 에이전트 작업이 이 모델이 상정한 사용처입니다.

파라미터 규모는 2.8조입니다. Moonshot AI는 이를 2.8조에 도달한 최초의 오픈 모델로 봅니다. 스케일링 효율은 Moonshot AI 측정으로 Kimi K2보다 약 2.5배 높습니다. 이 수치는 업체가 자체적으로 잰 값이므로, 실제 워크로드에서의 응답 품질과 지연은 직접 호출해 확인하는 편이 맞습니다.

명시적 프롬프트 캐싱

Kimi K3는 Amazon Bedrock에서 명시적 프롬프트 캐싱을 지원하는 첫 오픈 웨이트 모델입니다. 여러 번의 모델 호출에서 같은 컨텍스트를 다시 넣을 때, 그 부분을 캐시로 재사용해 입력 비용과 지연을 줄입니다. 저장소 코드나 고정된 문서 묶음을 매 호출마다 프롬프트 앞부분에 그대로 실어야 하는 작업에서 이 기능이 직접적으로 작동합니다. 캐싱 설정 방법은 Amazon Bedrock 문서에서 확인할 수 있습니다.

리전과 시작 방법

Kimi K3는 교차 리전 추론(cross-Region inferencing)을 통해 Amazon Bedrock이 제공되는 모든 AWS 리전에서 쓸 수 있습니다. 특정 리전에 모델이 배치돼 있지 않아도, 요청이 가용한 리전으로 라우팅됩니다. 시작하려면 Amazon Bedrock 콘솔에서 모델 접근을 활성화하면 됩니다. 요금과 세부 사양은 Amazon Bedrock 요금표와 출시 블로그에서 확인할 수 있습니다.

도입 검토 의견

원문 발표가 아닌 솔트웨어의 의견입니다

이미 Bedrock에서 긴 컨텍스트를 반복해 넣고 있다면 지금 한 번 재 볼 값이 있습니다. 저장소 전체나 고정 문서 묶음을 매 호출에 다시 싣는 파이프라인을 돌리고 있다면, 같은 프롬프트를 Kimi K3로 바꿔 명시적 프롬프트 캐싱을 켜고 입력 비용과 응답 시간이 얼마나 줄어드는지 비교하는 데 반나절이면 충분합니다. 콘솔에서 모델 접근만 열면 되고, 새 인프라를 세울 필요가 없어 전담 인력이 없어도 감당할 수 있는 작업입니다.

반대로 짧은 프롬프트로 단발성 질의만 하거나, 스캔 문서·이미지 분석이나 대형 코드베이스 분석 같은 용도가 없다면 이번에는 넘겨도 됩니다. 100만 토큰 컨텍스트와 비전은 그런 워크로드가 있을 때 의미가 있습니다.

청구액이 오를지 내릴지는 지금 쓰는 모델의 단가와 캐싱 적용 후 재사용 비율에 달려 있습니다. 전환을 결정하기 전에 Amazon Bedrock 요금표에서 현재 모델과 Kimi K3의 입력·출력 단가를 대조하고, 캐싱으로 줄어드는 입력 토큰량을 실제 프롬프트로 측정하세요. 2.5배 스케일링 효율은 Moonshot AI 자체 수치이므로, 비용 판단의 근거는 자기 워크로드에서 나온 숫자여야 합니다.

원문: Kimi K3 by Moonshot AI is now generally available on Amazon Bedrock · 발행일 2026-09-18