Passer au contenu principal
Concept : Évaluation des agents | Python : client.agent.scan_tool_result()

​
Paramètres

​
tool_name
string
requis
Nom de l’outil ayant produit ce résultat.
​
tool_result
string
requis
La sortie brute retournée par l’outil.
​
agent_context
string
Description du rôle de l’agent et de sa tâche en cours.
​
redact_pii
boolean
défaut:"true"
Si true, retourne une version expurgée du résultat avec les PII remplacées par des marqueurs de substitution.

​
Requête

curl -X POST https://api.responsibleailabs.ai/railscore/v1/agent/scan-tool-result \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_RAIL_API_KEY" \
  -d '{
    "tool_name": "search_database",
    "tool_result": "Customer John Smith (SSN: 123-45-6789) called on 2026-03-15.",
    "redact_pii": true
  }'

​
Réponse

{
  "result": {
    "pii_detected": true,
    "injection_detected": false,
    "risk_level": "medium",
    "pii_types": ["full_name", "ssn"],
    "redacted_result": "Customer [NAME] (SSN: [REDACTED]) called on 2026-03-15.",
    "recommendation": "warn"
  },
  "credits_consumed": 0.5
}
​
result.pii_detected
boolean
true si des informations personnelles identifiables ont été trouvées dans le résultat de l’outil.
​
result.injection_detected
boolean
true si une tentative d’injection de prompt a été détectée dans la sortie de l’outil.
​
result.pii_types
string[]
Types de PII détectés : full_name, email, phone, ssn, credit_card, address, date_of_birth, etc.
​
result.redacted_result
string
Le résultat de l’outil avec les PII remplacées par des marqueurs de type. Présent uniquement lorsque redact_pii=true.
​
result.recommendation
string
Action suggérée : "allow", "warn" ou "block".