并发设置
适用角色:主用户 更新日期:2026-07-21
「并发」指同一时刻能同时处理多少个请求。这篇说清楚:组织级的并发上限归平台管,你改不了;但给单个子用户,你可以自己设并发限制。
一、什么是并发
并发数 = 同一时刻允许同时进行的请求数量。并发越高,一瞬间能处理的请求越多,但对资源的瞬时占用也越大;超过限制的请求会被限流(先排队或直接被拒)。
二、组织级并发上限:平台定,你改不了
整个组织能达到的最大并行能力,是平台统一配置的,你在控制台里没有自助修改入口。要调整就联系平台申请。
在「个人资料」页顶部能看到「并发限制」这个指标,反映你当前的并发情况(是否直接显示上限数值以实际界面为准;不确定可在申请时向平台确认当前上限)。
仪表盘里也有性能指标区(RPM / TPM)反映实时的请求 / Token 速率:

三、子用户级并发:你可以自己设
和组织级不同,单个子用户的并发限制你可以自己设:在创建或编辑子用户时,有一个「并发限制」字段(可选),填了就限制这个子用户的 Key 同一时刻最多同时处理多少个请求,留空则不限。
同一位置还有「RPM 限制」(每分钟最多调用多少次)也是可选的。这两项都是给子用户做资源管控用的,详见 子用户管理。
小结:给某个子用户收紧并发 → 在子用户的编辑里设;想提高整个组织的并发天花板 → 联系平台。
四、什么时候找平台提组织并发上限
出现这些情况,可以申请提升组织级并发上限:
- 业务请求经常被限流,影响正常使用。
- 要接新业务,预计并发量明显上升。
- 高峰期并行调用需求超过当前上限。
申请方式:整理好组织名称、当前上限(如已知)、目标数值、业务背景,通过工单 / 商务 / 客服邮箱联系平台。生效后按新上限执行,不用重新登录或重建 Key。
请确认确有并发瓶颈再申请,避免过度申请。
五、常见问题
Q:我在控制台找不到改组织并发上限的地方? A:组织级并发上限是平台配置的,没有自助入口。要调按上文联系平台。
Q:能给不同子用户设不同并发吗? A:能。在创建 / 编辑子用户时设「并发限制」字段即可。
Q:并发上限调整后要重新登录或重建 Key 吗? A:不用。生效后后续请求就按新上限走。
Q:并发是不是越高越好? A:不是。并发越高瞬时资源占用越大,按实际需要申请就好。
Q:并发被限流和余额 / 额度不足是一回事吗? A:不是。并发限流是同一时刻请求太多;余额 / 额度不足是钱或配额的问题(见 余额预警与欠费)。两者报错和处理都不同。
