エージェント評価

from rail_score_sdk import RailScoreClient

client = RailScoreClient(api_key="YOUR_RAIL_API_KEY")

# 1. ユーザー入力にインジェクションがないかチェック
injection = client.agent.detect_injection(text=user_input)
if injection.injection_detected:
    return "無効な入力が検出されました。"

# 2. 実行前にツール呼び出しを評価
tool_check = client.agent.evaluate_tool_call(
    tool_name="send_email",
    tool_input={"to": "user@example.com", "body": agent_draft},
    agent_context="カスタマーサポートエージェント",
)
if tool_check.recommendation == "block":
    return f"ツール呼び出しがブロックされました: {tool_check.explanation}"

# 3. ツールを実行し、結果をスキャン
tool_output = execute_tool(tool_name, tool_input)
result_scan = client.agent.scan_tool_result(
    tool_name="send_email",
    tool_result=tool_output,
)
if result_scan.pii_detected:
    tool_output = result_scan.redacted_result