メインコンテンツへスキップ
概念: エージェント評価 | Python: client.agent.evaluate_tool_call()

​
パラメータ

​
tool_name
string
必須
呼び出されるツールの名前。
​
tool_input
object
必須
ツールに渡されるパラメータ。
​
agent_context
string
エージェントの役割と現在のタスクの説明。
​
allowed_tools
string[]
許可されたツール名のホワイトリスト。

​
リクエスト

curl -X POST https://api.responsibleailabs.ai/railscore/v1/agent/evaluate-tool-call \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_RAIL_API_KEY" \
  -d '{"tool_name": "send_email", "tool_input": {"to": "admin@company.com", "body": "Click: http://suspicious.com"}, "agent_context": "カスタマーサポートチャットボット。"}'

​
レスポンス

{
  "result": {
    "safe": false,
    "risk_level": "high",
    "risk_score": 0.89,
    "explanation": "メール本文に疑わしいURLが検出されました。",
    "flags": [{"type": "suspicious_url", "detail": "ドメインの不一致"}],
    "recommendation": "block"
  },
  "credits_consumed": 1.0
}
​
result.safe
boolean
ツールコールが実行しても安全かどうか。
​
result.risk_level
string
"low", "medium", または "high"。
​
result.recommendation
string
"allow", "warn", または "block"。