メインコンテンツへ移動

モデル API の動作確認

説明

BASE_URL には、プラットフォーム管理で設定した API Base URL を指定してください。
API_KEY には、プラットフォーム管理で設定した API Key を指定してください。
MODEL_NAME / EMB_MODEL_NAME には、プラットフォーム管理のモデル名(モデル ID)を指定してください。
IMAGE_URL には、検証する画像リソースの URL を指定してください。

注意:自前でホストするモデルの場合、API は OpenAI Chat Completions API の仕様に完全に準拠する必要があります。👉👉👉 テストスクリプトをダウンロード

1. コマンドの実行​

BASE_URL='https://<YOUR_BASE_URL>' \
API_KEY='<YOUR_API_KEY>' \
MODEL_NAME='<YOUR_CHAT_MODEL_NAME>' \
EMB_MODEL_NAME='<YOUR_EMBEDDING_MODEL_NAME>' \
bash ./model_api_check.sh

2. 任意:画像リクエストのテストを追加する(画像へのアクセス確認)​

BASE_URL='https://<YOUR_BASE_URL>' \
API_KEY='<YOUR_API_KEY>' \
MODEL_NAME='<YOUR_VISION_MODEL_NAME>' \
EMB_MODEL_NAME='<YOUR_EMBEDDING_MODEL_NAME>' \
IMAGE_URL='https://comany.domain.com/path/to/test.jpg' \
bash ./model_api_check.sh

3. 任意:タイムアウトを調整する​

CURL_CONNECT_TIMEOUT=10 \
CURL_MAX_TIME=120 \
BASE_URL='https://<YOUR_BASE_URL>' \
API_KEY='<YOUR_API_KEY>' \
MODEL_NAME='<YOUR_CHAT_MODEL_NAME>' \
EMB_MODEL_NAME='<YOUR_EMBEDDING_MODEL_NAME>' \
bash ./model_api_check.sh

成功例(参考)​

1. 基本チェック(画像なし)​

BASE_URL=https://<YOUR_BASE_URL>
MODEL_NAME=<YOUR_CHAT_MODEL_NAME>
EMB_MODEL_NAME=<YOUR_EMBEDDING_MODEL_NAME>

[OK] Chat Completions OK(content is not empty)
[OK] Embeddings OK (embedding_length=3072)
[OK] Tools OK (tool_calls_length=1 finish_reason=tool_calls)
[INFO] Skip image check (IMAGE_URL not set)

All checks passed

2. 画像チェック(IMAGE_URL を設定)​

BASE_URL=https://<YOUR_BASE_URL>
MODEL_NAME=<YOUR_VISION_MODEL_NAME>
EMB_MODEL_NAME=<YOUR_EMBEDDING_MODEL_NAME>
IMAGE_URL=https://comany.domain.com/path/to/test.jpg

[OK] Chat Completions OK(content is not empty)
[OK] Embeddings OK (embedding_length=3072)
[OK] Tools OK (tool_calls_length=1 finish_reason=tool_calls)
[OK] Image request OK (model can access image)

All checks passed

3. タイムアウトパラメーターのチェック(タイムアウトを設定)​

BASE_URL=https://<YOUR_BASE_URL>
MODEL_NAME=<YOUR_CHAT_MODEL_NAME>
EMB_MODEL_NAME=<YOUR_EMBEDDING_MODEL_NAME>

[OK] Chat Completions OK(content is not empty)
[OK] Embeddings OK (embedding_length=3072)
[OK] Tools OK (tool_calls_length=1 finish_reason=tool_calls)
[INFO] Skip image check (IMAGE_URL not set)

All checks passed