Zum Hauptinhalt springen
Konzept: Agentenbewertung | Python: client.agent.scan_tool_result()

​
Parameter

​
tool_name
string
erforderlich
Name des Tools, das dieses Ergebnis erzeugt hat.
​
tool_result
string
erforderlich
Die rohe Ausgabe, die vom Tool zurückgegeben wurde.
​
agent_context
string
Beschreibung der Rolle und der aktuellen Aufgabe des Agenten.
​
redact_pii
boolean
Standard:"true"
Wenn true, wird eine redigierte Version des Ergebnisses zurückgegeben, bei der PII durch Platzhalter ersetzt wird.

​
Anfrage

curl -X POST https://api.responsibleailabs.ai/railscore/v1/agent/scan-tool-result \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_RAIL_API_KEY" \
  -d '{
    "tool_name": "search_database",
    "tool_result": "Kunde John Smith (SSN: 123-45-6789) hat am 15.03.2026 angerufen.",
    "redact_pii": true
  }'

​
Antwort

{
  "result": {
    "pii_detected": true,
    "injection_detected": false,
    "risk_level": "medium",
    "pii_types": ["full_name", "ssn"],
    "redacted_result": "Kunde [NAME] (SSN: [REDACTED]) hat am 15.03.2026 angerufen.",
    "recommendation": "warn"
  },
  "credits_consumed": 0.5
}
​
result.pii_detected
boolean
true, wenn personenbezogene Daten im Tool-Ergebnis gefunden wurden.
​
result.injection_detected
boolean
true, wenn ein Injektionsversuch im Tool-Ausgang erkannt wurde.
​
result.pii_types
string[]
Arten von PII, die gefunden wurden: full_name, email, phone, ssn, credit_card, address, date_of_birth, usw.
​
result.redacted_result
string
Das Tool-Ergebnis mit PII, die durch Typ-Platzhalter ersetzt wurden. Nur vorhanden, wenn redact_pii=true.
​
result.recommendation
string
Vorgeschlagene Aktion: "allow", "warn" oder "block".