Zum Hauptinhalt springen
Konzept: Agentenbewertung | Python: client.agent.evaluate_tool_call()

​
Parameter

​
tool_name
string
erforderlich
Name des aufgerufenen Tools.
​
tool_input
object
erforderlich
Parameter, die an das Tool übergeben werden.
​
agent_context
string
Beschreibung der Rolle des Agenten und der aktuellen Aufgabe.
​
allowed_tools
string[]
Whitelist der erlaubten Toolnamen.

​
Anfrage

curl -X POST https://api.responsibleailabs.ai/railscore/v1/agent/evaluate-tool-call \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_RAIL_API_KEY" \
  -d '{"tool_name": "send_email", "tool_input": {"to": "admin@company.com", "body": "Klicken Sie: http://suspicious.com"}, "agent_context": "Kundenservice-Chatbot."}'

​
Antwort

{
  "result": {
    "safe": false,
    "risk_level": "hoch",
    "risk_score": 0.89,
    "explanation": "Verdächtige URL im E-Mail-Text erkannt.",
    "flags": [{"type": "suspicious_url", "detail": "Domain stimmt nicht überein"}],
    "recommendation": "blockieren"
  },
  "credits_consumed": 1.0
}
​
result.safe
boolean
Ob der Toolaufruf sicher auszuführen ist.
​
result.risk_level
string
"niedrig", "mittel" oder "hoch".
​
result.recommendation
string
"erlauben", "warnen" oder "blockieren".