2026년 8월 4일, DeepSeek의 공식 상태 페이지는 두 건의 API 성능 저하 사건을 기록했습니다.
첫 번째 사건은 1시간 18분 동안 지속되었으며, UTC 기준 02:02부터 03:20까지 DeepSeek V4 Flash, V4 Pro 및 Expert Mode에 영향을 미쳤습니다. 두 번째 사건은 36분 동안 지속되었으며, UTC 기준 03:43부터 04:20까지 DeepSeek V4 Flash API에 영향을 미쳤습니다.
두 사건 모두 해결되었습니다. OpenCode는 또한 DeepSeek Flash가 전례 없는 수요로 인해 용량 문제를 겪고 있다고 보고했습니다. 그러나 DeepSeek의 공식 상태 페이지는 성능 저하만 확인했으며 근본 원인은 발표하지 않았습니다.
요약
- DeepSeek의 공식 상태 페이지는 2026년 8월 4일 V4 Flash에 영향을 미친 두 건의 성능 저하 사건을 기록했습니다.
- 직접 공급자 통합은 동일한 모델이 다른 곳에서 사용 가능하더라도 단일 실패 지점을 만듭니다.
- AIHubMix는 상위 경로에서 재시도 가능한 오류가 발생할 때 여러 공급자 채널에서 동일한 모델을 재시도할 수 있습니다.
- 주 모델에 대한 모든 공급자 채널이 실패할 경우, 키 수준 모델 폴백이 요청을 구성된 백업 모델로 전환할 수 있습니다.
- 다중 공급자 라우팅은 하나의 엔드포인트에 대한 의존성을 줄이지만, 상관된 실패나 게이트웨이 수준의 위험을 제거할 수는 없습니다.
이러한 사건은 중요한 인프라 원칙을 강조합니다:
신뢰할 수 있는 모델은 단일 공급자 엔드포인트를 통해 접근할 경우 충분하지 않습니다.
하나의 모델이 반드시 하나의 공급자를 의미할 필요는 없습니다
애플리케이션이 하나의 공급자에 직접 연결될 때, 해당 엔드포인트는 단일 실패 지점이 됩니다.
공급자가 중단되거나, 속도 제한에 도달하거나, 지연이 발생하면 애플리케이션은 요청을 보낼 다른 곳이 없습니다. 사용자는 동일한 모델이 다른 인프라 공급자를 통해 여전히 사용 가능하더라도 타임아웃 및 오류를 경험합니다.
AIHubMix는 모델을 공급자와 분리합니다.
예를 들어, DeepSeek V4 Flash는 DeepSeek, Baidu, DeepInfra 및 Alibaba Cloud를 포함한 여러 공급자를 통해 AIHubMix에서 사용할 수 있습니다. 애플리케이션은 AIHubMix가 사용 가능한 상위 경로를 관리하는 동안 하나의 OpenAI 호환 API 엔드포인트를 계속 사용합니다.
이로 인해 두 가지 뚜렷한 신뢰성 계층이 생성됩니다.
계층 1: 공급자 장애 조치
공급자 장애 조치는 요청된 모델을 변경하지 않고 그 뒤에 있는 인프라 공급자를 전환합니다.
DeepSeek V4 Flash에 대한 요청이 AIHubMix에 도달하면, 게이트웨이는 적격 공급자 채널을 선택합니다. 응답이 시작되기 전에 해당 채널이 재시도 가능한 오류를 반환하면, AIHubMix는 동일한 모델에 대해 다른 사용 가능한 채널을 시도할 수 있습니다.
요청 경로는 다음과 같을 수 있습니다:
- 공급자 A를 통해 DeepSeek V4 Flash 시도.
- 공급자 A가 타임아웃, 5xx 오류 또는 재시도 가능한 용량 오류를 반환.
- 공급자 B를 통해 동일한 DeepSeek V4 Flash 모델 시도.
- 요청이 성공하거나 모든 적격 채널이 소진될 때까지 계속 진행.
클라이언트는 여러 공급자 SDK를 통합하거나 별도의 API 키를 관리하거나 자체 재시도 로직을 구현할 필요가 없습니다.
이것이 공급자 수준의 장애 조치입니다: 공급자가 변경되지만 요청된 모델은 동일하게 유지됩니다.
계층 2: 모델 폴백
모든 사용 가능한 공급자가 기본 모델에 대해 사용할 수 없는 경우, 공급자 장애 조치는 도움이 되지 않습니다.
따라서 AIHubMix는 두 번째 신뢰성 계층인 모델 폴백을 지원합니다.
사용자는 각 API 키에 대해 백업 모델의 순서 목록을 구성할 수 있습니다. 기본 모델에 대한 모든 적격 채널이 재시도 가능한 실패를 반환한 후, AIHubMix는 폴백 목록의 다음 모델로 이동합니다.
예를 들어:
- 기본:
deepseek-v4-flash - 첫 번째 폴백:
gpt-5.4 - 두 번째 폴백:
gemini-3.1-pro-preview
폴백은 AIHubMix 게이트웨이 내에서 수행됩니다. 기존 애플리케이션은 추가 라우팅 매개변수를 전송하거나 클라이언트 코드를 변경할 필요가 없습니다.
청구는 궁극적으로 성공적인 응답을 반환하는 모델을 기준으로 합니다. 개발자는 응답 헤더를 통해 폴백 동작을 확인할 수 있습니다:
X-Aihubmix-Fallback: trueX-Aihubmix-Model: <final-model>
완전한 구성 및 트리거 규칙은 AIHubMix 모델 매핑 및 폴백에 문서화되어 있습니다.
자동 장애 조치가 처리할 수 있는 것
공급자 장애 조치는 다음과 같은 상위 인프라 문제에서 복구하도록 설계되었습니다:
- 공급자 타임아웃
- 연결 실패
- 재시도 가능한 5xx 응답
- 공급자 속도 제한 및 용량 오류
- 상위 채널의 일시적 사용 불가
이러한 실패가 응답이 시작되기 전에 발생하면, AIHubMix는 투명하게 다른 경로를 시도할 수 있습니다.
장애 조치가 해결할 수 없는 것
다중 공급자 라우팅은 가용성을 개선하지만, 게이트웨이를 무결점으로 만들지는 않습니다.
폴백은 다음과 같은 경우에 트리거되지 않습니다:
- 사용자의 AIHubMix API 키가 유효하지 않거나 만료되었거나 할당량을 초과한 경우
- 요청 자체가 유효하지 않은 경우
- 클라이언트가 연결이 끊기거나 자체 타임아웃에 도달한 경우
- 스트리밍 응답이 이미 시작된 경우
- 특정 공급자 채널이 명시적으로 선택된 경우
- 실패가 모든 공급자 또는 게이트웨이 자체에 영향을 미치는 경우
공급자 실패는 또한 상관관계가 있을 수 있습니다. 여러 공급자가 동일한 기본 인프라, 모델 릴리스 또는 지역 네트워크에 의존할 수 있습니다. 이러한 이유로, 다중 공급자 가용성은 공급자의 수만으로 가정하기보다는 실제 트래픽으로 측정해야 합니다.
집계기가 직접 엔드포인트보다 더 신뢰할 수 있는 이유
공식 API를 직접 호출하면 애플리케이션에 모델에 대한 하나의 경로가 제공됩니다.
다중 공급자 게이트웨이는 여러 경로를 제공합니다.
이러한 공급자 경로가 독립적으로 실패하면, 게이트웨이는 애플리케이션에 실패를 노출하지 않고 성능 저하된 엔드포인트를 우회할 수 있습니다. 이는 단일 공급자에 대한 의존성을 줄이고 직접 단일 공급자 통합보다 더 높은 가용성을 제공할 수 있습니다.
차이는 아키텍처에 있습니다:
- 직접 API: 하나의 모델, 하나의 공급자, 하나의 실패 도메인
- AIHubMix: 하나의 모델, 여러 공급자, 자동 장애 조치
- 모델 폴백이 있는 AIHubMix: 여러 공급자 및 백업 모델
목표는 다음에 어떤 공급자가 실패할지를 예측하는 것이 아닙니다. 상위 사건을 고객-facing 중단이 아닌 내부 라우팅 이벤트로 만드는 것입니다.
다음 공급자 사건에 대비하여 구축하기
DeepSeek V4 Flash는 복구되었지만, 일시적인 용량 제약, 속도 제한 및 상위 중단은 생산 AI 인프라의 정상적인 부분입니다.
애플리케이션은 공급자가 불안정해질 때마다 코드를 변경할 필요가 없습니다.
AIHubMix를 사용하면 개발자는 하나의 API를 통해 여러 공급자에 접근하고, 사용 가능한 채널에서 동일한 모델을 자동으로 재시도하며, 추가 보호 계층을 위해 백업 모델을 구성할 수 있습니다.
사용 가능한 모델 및 공급자는 aihubmix.com/models에서 확인하세요.
자주 묻는 질문
다중 공급자 장애 조치란 무엇인가요?
현재 경로가 재시도 가능한 실패를 반환할 때, 다른 적격 공급자를 통해 동일한 모델을 자동으로 재시도합니다.
모델 폴백은 어떻게 다른가요?
공급자 장애 조치는 모델을 변경하지 않습니다. 모델 폴백은 모든 적격 채널이 실패한 후에만 구성된 백업 모델로 전환합니다.
어떤 실패가 장애 조치를 트리거할 수 있나요?
일반적인 트리거에는 타임아웃, 연결 실패, 재시도 가능한 5xx 응답, 속도 제한 및 응답이 시작되기 전의 일시적인 용량 오류가 포함됩니다.
장애 조치가 제로 다운타임을 보장하나요?
아니요. 상관된 공급자 실패, 게이트웨이 수준의 사건, 재시도 불가능한 오류 및 스트리밍이 시작된 후의 실패는 여전히 클라이언트에 도달할 수 있습니다.
애플리케이션 코드를 변경해야 하나요?
추가 라우팅 로직이 필요하지 않습니다. 애플리케이션은 AIHubMix OpenAI 호환 엔드포인트를 계속 사용하며, 백업 모델은 API 키 수준에서 구성할 수 있습니다.