AOAI 遇錯 – 該資源的 API 部署不存在

(created by Bing Image Creator)

在使用 Azure OpenAI Service (AOAI) 時，當我們要到 Playground 測試剛完成部屬的模型時，看到以下的訊息：

錯誤

該資源的 API 部署不存在。如果您在過去 5 分鐘內建立了部署，請稍等片刻，然後再試一次。| APIM 請求 ID：ff8xxxxx-xxxx-xxx-xxxxx-xxxxx1a9c29

剛部屬完成的模型有時會碰到這個問題，尤其是新建立的 AOAI 資源，通常只需稍等數分鐘後即可正常使用。

(等了兩、三分鐘後便可以使用了)

不過有時等候了數十分鐘還是看到同樣的訊息，那就有可能是因為其他因素造成這個原因，下面提供可以加速 debug 的方法實踐：

1. 在同一個服務下建立不同模型

假如我們要建立 「gpt-35-turbo-16k」，不過遇到上述問題，我們可以在同一個資源底下部屬其他模型，例如 gpt-4，並嘗試是否能使用

以上述例子來說，我在同一個資源底下部屬 “gpt-35-turbo-16k” 遇到bug，因此我又部屬了 “gpt-4” 模型，一開始也看到同樣的訊息

不過等了幾分鐘後兩個模型都能使用

這麼做得好處在於我們能排除到底是模型部屬的問題亦或是資源無法使用此模型的問題，如是後者我們則可以嘗試以下方式：

2. 嘗試到不同區域(region)去建立想要使用的模型

假設我在 美國東部2 部屬 “gpt-35-turbo-16k” 模型，不過卻無法使用，

這時我可以嘗試去別的區域並建立同個模型，如日本東部。

“gpt-35-turbo-16k”  可建立的區域如下(01/2024)：

(想知道模型可部屬的區域可以參考官方文件： Azure OpenAI 服務模型)

有時候會碰到官方文件有列，不過真正部屬時卻無法使用的情形，這時候也就可以再用這篇的方式嘗試進行debug。