Jev の使い方

ここで試してからキーを作成

jevmodel.org の Playground で範囲の狭い判断を1つ試します。結果が使えたらログインしてダッシュボードを開き、API キーを作成してサーバー側の JEVMODEL_API_KEY に保存します。

答えの集合は小さく安定させます。フィールド名はあいまいなテーマではなく、コードがたどる分岐にちなんで付けます。

import os
import requests

response = requests.post(
    "https://jevmodel.org/v1/systemone",
    headers={"Authorization": f"Bearer {os.environ['JEVMODEL_API_KEY']}"},
    json={
        "state": "I was charged twice. Please fix this ASAP.",
        "model": "jev-latest",
        "questions": {
            "category": {
                "type": "choice",
                "instructions": "What is this ticket about?",
                "criteria": {"billing": "payments", "technical": "broken product", "other": "other"},
            },
        },
    },
    timeout=15,
)
print(response.json())

HTTP の仕様

このリクエストをすでに送っているリポジトリ ↗は Jev プロジェクトディレクトリに掲載されています。

https://jevmodel.org/v1/systemone に POST します。model は jev-latest または固定バージョン。state はシリアライズ後8,000文字まで、questions は名前付きの choice・score・noul 質問を1〜8個含むオブジェクトです。

• jevmodel.org の制限は API キーごとに毎分120リクエストです。
• 成功したリクエストは入力トークンを消費します。上流で失敗したリクエストは返却されます。再試行時は Idempotency-Key ヘッダーを付けてください。
• コードに確信度のしきい値を設けましょう。Jev は分岐を簡単にしますが、リスクをゼロにはしません。

curl -X POST https://jevmodel.org/v1/systemone \
  -H "Authorization: Bearer $JEVMODEL_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "jev-latest",
    "state": "Customer: I was charged twice and I am furious.",
    "questions": {
      "topic": {
        "type": "choice",
        "instructions": "What is the issue about?",
        "criteria": { "billing": "money problems", "bug": "broken product" }
      },
      "urgent": {
        "type": "noul",
        "instructions": "Escalate to a human now?"
      }
    }
  }'

結果の使い方

アプリのコードで分岐します。topic が billing で escalate.noul がしきい値を超えたら人に回し、確信度が低ければ同じ状態をより大きなモデルかレビュアーに送ります。入力・出力・バージョン・その後の結果を記録すれば、Jev が本当にワークフローに役立っているのか、それとも決断力があるように見えるだけなのかを判断できます。