Concurrent Kiro requests burn through retries on transient 429s #532

Client or integration

Codex App

Area

Provider adapter

English

Summary

Hi. While using Codex Desktop through OpenCodex 2.7.41 with kiro/gpt-5.6-sol, longer tasks are repeatedly interrupted by this error:

exceeded retry limit, last status: 429 Too Many Requests

The underlying Kiro response is a transient throttle rather than hard quota exhaustion:

ThrottlingException: USER_REQUEST_RATE_EXCEEDED: Too many requests, please wait before trying again.

It happens most often when several requests share the same Kiro account. Waiting for a proper cooldown and trying again usually succeeds, but OpenCodex exhausts its retry limit first and stops the whole Codex workflow. I then have to return and manually continue the task.

From the behavior, each request appears to back off independently. While one request is waiting, another can enter, hit the same account-level limit, and consume its own retry budget. A process-wide admission queue and shared cooldown deadline would prevent this burst. A request should also re-check the shared deadline after waking, because another in-flight request may have extended it.

Steps to reproduce

1. Run OpenCodex 2.7.41 on Windows and connect Codex Desktop.
2. Configure Kiro with kiro/gpt-5.6-sol.
3. Start more than one Codex request or tool-call workflow against the same Kiro account.
4. Observe a transient USER_REQUEST_RATE_EXCEEDED response.
5. One or more workflows exhaust their independent retry budgets and stop with exceeded retry limit, last status: 429 Too Many Requests.
6. Wait for the cooldown, continue manually, and observe that the request often succeeds.

Expected behavior

• Treat transient USER_REQUEST_RATE_EXCEEDED separately from hard quota exhaustion.
• Honor Retry-After when it is present.
• Coordinate request admission and cooldown across concurrent Kiro requests in the process.
• Re-check the shared cooldown after each wait.
• Keep retries bounded and show the final upstream error if Kiro does not recover.

I tested a local patch that used a shared admission queue, a shared cooldown deadline, and bounded retries. In a mocked concurrency test, a waiting request respected an extended cooldown instead of slipping through. Parallel Codex tool-call runs also completed normally, and my setup became much more stable. The patch modifies the installed npm package, so it will disappear on the next update; I would appreciate a fix in the project itself.

Environment

• OpenCodex: 2.7.41
• OS: Windows 11
• Provider/model: Kiro / kiro/gpt-5.6-sol

한국어

요약

안녕하세요. Windows에서 OpenCodex 2.7.41을 통해 Codex Desktop을 사용하고 있으며, 모델은 kiro/gpt-5.6-sol입니다.

작업이 길어질 때 아래 오류로 흐름이 자주 끊깁니다.

exceeded retry limit, last status: 429 Too Many Requests

실제 Kiro 응답은 할당량이 완전히 소진된 경우가 아니라 일시적인 요청 제한입니다.

ThrottlingException: USER_REQUEST_RATE_EXCEEDED: Too many requests, please wait before trying again.

같은 Kiro 계정을 사용하는 요청이 여러 개 겹칠 때 특히 자주 발생합니다. 충분히 기다렸다가 다시 보내면 대부분 성공하지만, OpenCodex가 먼저 재시도 횟수를 모두 소진하고 Codex 작업 전체를 중단합니다. 결국 제가 다시 돌아와 직접 작업을 이어줘야 합니다.

현재 동작을 보면 각 요청이 서로의 상태를 모른 채 개별적으로 대기하고 재시도하는 것 같습니다. 한 요청이 기다리는 동안 다른 요청이 들어오면 같은 계정 단위 제한에 다시 걸리고, 각자 재시도 횟수만 소모하게 됩니다. 프로세스 전체에서 Kiro 요청의 진입을 조율하는 공용 큐와 cooldown 종료 시각을 공유하면 이런 연속 요청을 줄일 수 있을 것 같습니다. 대기를 마친 요청도 그 사이 다른 요청이 cooldown을 연장했을 수 있으므로, 깨어난 뒤 공용 종료 시각을 다시 확인해야 합니다.

재현 방법

1. Windows에서 OpenCodex 2.7.41과 Codex Desktop을 연결합니다.
2. Kiro 모델로 kiro/gpt-5.6-sol을 설정합니다.
3. 같은 Kiro 계정을 사용하는 Codex 요청이나 도구 호출 작업을 둘 이상 동시에 실행합니다.
4. 일시적인 USER_REQUEST_RATE_EXCEEDED 응답이 발생하는지 확인합니다.
5. 각 요청이 개별 재시도 횟수를 소진하고 exceeded retry limit, last status: 429 Too Many Requests로 중단되는지 확인합니다.
6. cooldown이 지난 뒤 수동으로 작업을 이어가면 다시 성공하는 경우가 많습니다.

기대 동작

• 일시적인 USER_REQUEST_RATE_EXCEEDED와 실제 할당량 소진을 구분해 처리해야 합니다.
• Retry-After 헤더가 있으면 해당 값을 따라야 합니다.
• 동시에 들어오는 Kiro 요청들이 공용 admission queue와 cooldown 값을 공유해야 합니다.
• 대기가 끝난 뒤에는 공용 cooldown이 연장되었는지 다시 확인해야 합니다.
• 재시도 횟수는 제한하되, 끝까지 회복되지 않으면 마지막 upstream 오류를 그대로 보여줘야 합니다.

공용 요청 큐와 cooldown 종료 시각, 제한된 재시도를 적용한 로컬 패치로 테스트해봤습니다. 동시성 모의 테스트에서는 대기 중인 요청이 연장된 cooldown을 무시하고 통과하지 않았고, Codex 도구 호출을 병렬로 실행한 테스트도 정상적으로 끝났습니다. 실제 사용 중 끊기는 빈도도 크게 줄었습니다. 다만 설치된 npm 패키지를 직접 수정한 상태라 다음 업데이트 때 사라지므로, 프로젝트 자체에 정식으로 반영되면 좋겠습니다.

환경

• OpenCodex: 2.7.41
• 운영체제: Windows 11
• 제공자/모델: Kiro / kiro/gpt-5.6-sol

Checks

• I searched existing issues and documentation.
• I removed secrets, tokens, account details, request credentials, and personal data.

exceeded retry limit, last status: 429 Too Many Requests

ThrottlingException: USER_REQUEST_RATE_EXCEEDED: Too many requests, please wait before trying again.