Azure 【Azure OpenAI Service】asyncioでAPI呼び出し並行処理
Azure OpenAI Serviceを使っていますが、特にGPT-4では応答に時間がかかります。そこで非同期でAPIを呼び出し、並行でcompletionを実行することで、全体の処理時間短縮を図りました。コード必要なライブラリをインスト...
Azure
Generative AI
ChatGPT
ChatGPT
Azure
ChatGPT
LangChain
LangChain
ChatGPT
ChatGPT