ChatGPT客户端近期频繁出现请求超时的说明
近期,ChatGPT客户端频繁出现请求超时的问题。经过排查,主要原因是OpenAI的gpt-3.5-turbo
模型响应速度太慢导致。
ChatGPT客户端默认使用gpt-3.5-turbo
模型。每次对话时,客户端会等待服务器响应,最长会等待20秒,如果20秒内没有获得服务器响应,就会提示请求超时。目前,客户端的超时时间(等待时间上限)已经修改,基本解决gpt-3.5-turbo
模型响应太慢导致请求超时的问题。
至于gpt-3.5-turbo
响应太慢的情况,客户端是无法解决的,因为这是OpenAI服务器的问题。 如果你想获得更快的响应速度,可以在设置中将模型更改为text-davinci-003
。
需要注意的是,
text-davinci-003
的内容生成能力没有gpt-3.5-turbo
强大,并且价格比gpt-3.5-turbo
贵10倍,也就是$0.02/1K tokens。
关于请求超时的更多解决方法请查看文章:ChatGPT客户端请求超时解决办法
使用微信扫一扫下面的二维码加入ChatGPT客户端交流群