2026년 8월 4일, DeepSeek 공식 상태 페이지에는 API 성능 저하 사고 두 건이 기록되었습니다.
첫 번째 사고는 UTC 기준 02:02부터 03:20까지 1시간 18분 동안 지속되었으며 DeepSeek V4 Flash, V4 Pro, Expert Mode에 영향을 미쳤습니다. 두 번째 사고는 UTC 기준 03:43부터 04:20까지 36분 동안 지속되었으며 DeepSeek V4 Flash API에 영향을 미쳤습니다.
두 사고 모두 이후 해결되었습니다. OpenCode는 전례 없는 수요로 인해 DeepSeek Flash에 용량 문제가 발생했다고도 보고했습니다. 다만 DeepSeek 공식 상태 페이지는 성능 저하만 확인했을 뿐 근본 원인은 공개하지 않았습니다.
요약
- DeepSeek 공식 상태 페이지에는 2026년 8월 4일 V4 Flash에 영향을 준 성능 저하 사고 두 건이 기록되었습니다.
- 제공자와 직접 연동하면, 같은 모델을 다른 곳에서도 사용할 수 있더라도 단일 장애 지점이 생깁니다.
- AIHubMix는 상위 경로가 재시도 가능한 오류를 반환하면 여러 제공자 채널에서 동일한 모델을 다시 시도할 수 있습니다.
- 기본 모델의 모든 제공자 채널이 실패하면, 키 단위 모델 폴백을 통해 요청을 설정된 백업 모델로 전환할 수 있습니다.
- 다중 제공자 라우팅은 하나의 엔드포인트에 대한 의존도를 줄여 주지만, 연쇄적인 장애나 게이트웨이 수준의 위험을 없애지는 못합니다.
이번과 같은 사고는 중요한 인프라 원칙을 보여 줍니다:
신뢰할 수 있는 모델이라도 단일 제공자 엔드포인트를 통해 접근한다면 그것만으로는 충분하지 않습니다.
하나의 모델이 반드시 하나의 제공자를 의미하지는 않습니다
애플리케이션이 하나의 제공자에 직접 연결되어 있으면, 그 엔드포인트가 단일 장애 지점이 됩니다.
제공자에 장애가 발생하거나, 속도 제한에 도달하거나, 지연 시간이 급증하면 애플리케이션은 요청을 보낼 다른 곳이 없습니다. 같은 모델이 다른 인프라 제공자를 통해 계속 사용 가능하더라도 사용자는 시간 초과와 오류를 보게 됩니다.
AIHubMix는 모델과 이를 제공하는 제공자를 분리합니다.
예를 들어 DeepSeek V4 Flash는 AIHubMix에서 DeepSeek, Baidu, DeepInfra, Alibaba Cloud 등 여러 제공자를 통해 이용할 수 있습니다. 애플리케이션은 하나의 OpenAI 호환 API 엔드포인트를 계속 사용하고, AIHubMix가 사용 가능한 상위 경로를 관리합니다.
이를 통해 두 가지 뚜렷한 안정성 계층이 만들어집니다.
1계층: 제공자 페일오버
제공자 페일오버는 요청된 모델을 그대로 유지하면서 그 뒤에서 모델을 제공하는 인프라 제공자만 전환합니다.
DeepSeek V4 Flash 요청이 AIHubMix에 도달하면 게이트웨이는 적격한 제공자 채널을 선택합니다. 해당 채널이 응답 시작 전에 재시도 가능한 오류를 반환하면, AIHubMix는 같은 모델을 제공하는 다른 사용 가능한 채널을 시도할 수 있습니다.
요청 경로는 다음과 같을 수 있습니다:
- 제공자 A를 통해 DeepSeek V4 Flash를 호출합니다.
- 제공자 A가 시간 초과, 5xx 오류 또는 재시도 가능한 용량 오류를 반환합니다.
- 같은 DeepSeek V4 Flash 모델을 제공자 B를 통해 호출합니다.
- 요청이 성공하거나 적격한 모든 채널이 소진될 때까지 계속합니다.
클라이언트는 여러 제공자의 SDK를 연동하거나, 별도의 API 키를 관리하거나, 자체 재시도 로직을 구현할 필요가 없습니다.
이것이 제공자 수준 페일오버입니다. 제공자는 바뀌지만 요청된 모델은 그대로 유지됩니다.
2계층: 모델 폴백
기본 모델을 제공하는 모든 제공자가 사용 불가능하다면 제공자 페일오버만으로는 도움이 되지 않습니다.
따라서 AIHubMix는 두 번째 안정성 계층인 모델 폴백도 지원합니다.
사용자는 API 키마다 백업 모델의 순서 목록을 설정할 수 있습니다. 기본 모델의 적격한 모든 채널이 재시도 가능한 실패를 반환하면, AIHubMix는 폴백 목록의 다음 모델로 넘어갑니다.
예를 들면 다음과 같습니다:
- 기본:
deepseek-v4-flash - 첫 번째 폴백:
gpt-5.4 - 두 번째 폴백:
gemini-3.1-pro-preview
폴백은 AIHubMix 게이트웨이 내부에서 수행됩니다. 기존 애플리케이션은 추가 라우팅 파라미터를 보내거나 클라이언트 코드를 변경할 필요가 없습니다.
과금은 최종적으로 성공 응답을 반환한 모델을 기준으로 합니다. 개발자는 응답 헤더를 통해 폴백 동작을 확인할 수 있습니다:
X-Aihubmix-Fallback: trueX-Aihubmix-Model: <final-model>
전체 설정과 트리거 규칙은 AIHubMix 모델 매핑 및 폴백 문서에 정리되어 있습니다.
자동 페일오버가 처리할 수 있는 상황
제공자 페일오버는 다음과 같은 상위 인프라 문제에서 복구하도록 설계되었습니다:
- 제공자 시간 초과
- 연결 실패
- 재시도 가능한 5xx 응답
- 제공자 속도 제한 및 용량 오류
- 상위 채널의 일시적인 사용 불가
이러한 실패가 응답 시작 전에 발생하면 AIHubMix는 사용자 모르게 다른 경로를 시도할 수 있습니다.
페일오버로 해결할 수 없는 상황
다중 제공자 라우팅은 가용성을 높이지만, 게이트웨이를 무오류로 만들지는 못합니다.
다음의 경우에는 폴백이 발동되지 않습니다:
- 사용자의 AIHubMix API 키가 유효하지 않거나, 만료되었거나, 할당량을 초과한 경우
- 요청 자체가 잘못된 경우
- 클라이언트 연결이 끊기거나 클라이언트 자체 시간 초과에 도달한 경우
- 스트리밍 응답이 이미 시작된 경우
- 특정 제공자 채널이 명시적으로 선택된 경우
- 모든 제공자 또는 게이트웨이 자체에 장애가 발생한 경우
제공자 장애는 서로 연관될 수도 있습니다. 여러 제공자가 같은 기반 인프라, 모델 출시, 또는 지역 네트워크에 의존할 수 있습니다. 이 때문에 다중 제공자 가용성은 제공자 수만으로 가정하지 말고 실제 트래픽으로 측정해야 합니다.
직접 엔드포인트보다 집계 게이트웨이가 더 안정적일 수 있는 이유
공식 API를 직접 호출하면 애플리케이션은 모델에 이르는 경로가 하나뿐입니다.
다중 제공자 게이트웨이는 여러 경로를 제공합니다.
이러한 제공자 경로들이 독립적으로 실패한다면, 게이트웨이는 애플리케이션에 장애를 노출하지 않고 성능이 저하된 엔드포인트를 우회할 수 있습니다. 이는 어느 한 제공자에 대한 의존도를 줄이며, 단일 제공자를 직접 연동하는 방식보다 높은 가용성을 제공할 수 있습니다.
차이는 아키텍처에 있습니다:
- 직접 API: 모델 하나, 제공자 하나, 장애 영역 하나
- AIHubMix: 모델 하나, 여러 제공자, 자동 페일오버
- 모델 폴백이 포함된 AIHubMix: 여러 제공자와 백업 모델
목표는 다음에 어느 제공자가 실패할지 예측하는 것이 아닙니다. 상위 장애를 고객에게 보이는 서비스 중단이 아니라 내부 라우팅 이벤트로 만드는 것입니다.
다음 제공자 장애에 대비한 설계
DeepSeek V4 Flash는 복구되었지만, 일시적인 용량 제약, 속도 제한, 상위 장애는 프로덕션 AI 인프라에서 흔한 일입니다.
제공자가 불안정해질 때마다 애플리케이션 코드를 바꿔야 하는 상황은 없어야 합니다.
AIHubMix를 사용하면 개발자는 하나의 API로 여러 제공자에 접근하고, 사용 가능한 채널 전반에서 같은 모델을 자동으로 재시도하며, 추가 보호를 위해 백업 모델을 설정할 수 있습니다.
사용 가능한 모델과 제공자는 aihubmix.com/models에서 확인하세요.
자주 묻는 질문
다중 제공자 페일오버란 무엇인가요?
현재 경로가 재시도 가능한 실패를 반환하면, 적격한 다른 제공자를 통해 같은 모델을 자동으로 다시 시도하는 기능입니다.
모델 폴백은 어떻게 다른가요?
제공자 페일오버는 모델을 그대로 유지합니다. 모델 폴백은 기본 모델의 적격한 모든 채널이 실패한 후에만 설정된 백업 모델로 전환합니다.
어떤 실패가 페일오버를 트리거할 수 있나요?
일반적인 트리거는 시간 초과, 연결 실패, 재시도 가능한 5xx 응답, 속도 제한, 응답 시작 전의 일시적 용량 오류입니다.
페일오버가 무중단을 보장하나요?
아니요. 연쇄적인 제공자 실패, 게이트웨이 수준의 사고, 재시도 불가능한 오류, 스트리밍 시작 후의 실패는 여전히 클라이언트에 전달될 수 있습니다.
애플리케이션 코드를 변경해야 하나요?
추가 라우팅 로직은 필요하지 않습니다. 애플리케이션은 계속 AIHubMix의 OpenAI 호환 엔드포인트를 사용하며, 백업 모델은 API 키 단위로 설정할 수 있습니다.
