Azure OpenAI Service FAQs
Azure OpenAI 服務常見問題集
這篇文章蒐集了幾個跟Azure OpenAI Service 有關的常見問題，沒列在上面的都可以至微軟官網獲得最新的消息:
Azure OpenAI 服務常見問題集 – Azure AI services
Azure OpenAI Service 和 OpenAI 的區別是?
Azure OpenAI 服務為客戶提供具有 Azure 安全性和企業承諾的 OpenAI GPT-4、GPT-3、Codex 和 DALL-E 模型的進階語言 AI。
Azure OpenAI 會使用 OpenAI 共同開發 API，以確保相容性，並且能夠兩個 API 之間順暢轉換。
透過 Azure OpenAI，客戶可享有 Microsoft Azure 的安全性功能，同時執行與 OpenAI 相同的模型。
Azure OpenAI 提供私人網路、區域可用性，以及負責任 AI 內容篩選。
大致可以整理成以下重點:
- Azure OpenAI 不會使用客戶資料來訓練模型。
- SLA 99.9%，有雲平台的穩定性、可靠度
- 原廠在地技術服務支援。
- 能輕易地搭配 Azure 平台的其他 Services 使用
如何在 Azure OpenAI Service 上使用 GPT-4 模型?
用戶通過審核才能使用 Azure OpenAI ，尚未申請過的用戶需填寫此表單:
Request Access to Azure OpenAI Service
經過核准的用戶需要填寫另一份表單來申請使用GPT-4權限:
通過審核時就會收到 Cognitive Services Gating Support 的來信:
Azure OpenAI Service 如何計算費用?
(截至2023/08)
Azure OpenAI 的費用可至官方文件查詢，請注意費用可能會隨著時間調整，建議在使用服務時至官方網站查詢最新的報價。
費用計算單位為token，如何計算費用?
企業要計算幾個token可以使用OpenAI提供的 Tokenizer Calculator
請注意中文與英文的token計算方式不同。
以 15 個 token 為例:
以 1萬 個 token 為例:
如需搭配其他 Azure 服務，如何計算費用?
微軟官方提供一個非常方便的計算工具: 定價計算機
1. 選取要加入估算的產品
2. 選取服務的規格
3. 查看預估每月成本
也可以匯出成excel檔案，使用的項目、規格及費用一目了然
Azure OpenAI Service 的配額?
想知道 Azure OpenAI Service 的配額可以參考官方文件，請注意額度可能會隨著時間調整，建議在使用服務時至官方網站查詢最新的配額。
Azure OpenAI Service 有哪些模型可以使用?
模型的發展日新月異，目前Azure平台上主要提供的模型有(截至2023/08):
更新的消息都可以至官方網站查詢:
Azure OpenAI Service 內容過濾
為了保證AI向善使用，Azure OpenAI服務存在內容審查機制，會遮罩包含暴力/色情/不道德/危害他人描述的請求。並針對內容過濾機制分三個等級: 高度、中度、輕度，目前預設程度為中度，使用者可以針對不同情境作調整，目前只提供輕度可以選擇，簡單來說，選擇輕度，審核機制會最嚴格，適用於兒童情境。
當觸發內容過濾機制時的畫面:
想要了解更詳細的判斷基準可以閱讀官方提供的文件檔: Content filtering
進一步措施
通常情況下，有兩種緩解措施。
- 一種是針對輸入的prompt進行修改，比如添加描述，告訴模型以下情況並非真實，或者通過預處理刪除居中的敏感詞。請注意，該方法可能無法應用在所有場景。
- 另一種方法是申請退出內容審查機制。如果您的應用場景不可避免的會遇到敏感詞語，建議您直接申請並退出審查機制，這種方法會更加穩定。
請注意，該申請由微軟csgate團隊人工審核，請務必認真填寫
申請表：Azure OpenAI Limited Access Review: Modified Content Filters and Abuse Monitoring
Azure OpenAI Service playground 的openai.api_version可以更改嗎?
Azure AI Studio 中，ChatGPT 遊樂場的 openai.api_version 預設是 2023-03-15-preview, 沒有提供更改的服務,客戶的API 則可以手動調整到任意版本。 (截至2023/08)
Azure OpenAI Service 實作範例參考
-
- 針對台灣開發人員修正版之 Azure OpenAI Quick Start
-
ChatGPT + Enterprise data with Azure OpenAI and Cognitive Search
-
-
GPT-Azure-Search-Engine
-
Azure OpenAI App Innovation Workshop
-
Knowledge Mining with OpenAI
近期留言