> ## Documentation Index
> Fetch the complete documentation index at: https://docs.responsibleailabs.ai/llms.txt
> Use this file to discover all available pages before exploring further.

# Agentenbewertung

> Toolaufrufe abfangen, Toolergebnisse scannen und Prompt-Injection in KI-Agenten-Pipelines erkennen.

Die Agentenbewertung bietet drei Sicherheitskontrollpunkte für agentenbasierte KI-Systeme: Toolaufrufe vor der Ausführung bewerten, Toolergebnisse scannen, bevor sie an den Agenten zurückgegeben werden, und Prompt-Injection in jedem Text erkennen, den der Agent verarbeiten will.

Dies ist für Systeme gedacht, in denen ein KI-Agent eigenständig Tools (Funktionen, APIs, Retrieval) aufrufen kann. Wenn Ihre Anwendung nur Text generiert, können Sie dies überspringen und die [Bewertung](/concepts/evaluation) verwenden. Wenn Sie Agenten bauen, schützen diese Kontrollpunkte die Stellen, an denen ein Agent eine Aktion ausführen oder von ihr beeinflusst werden kann.

## Die drei Kontrollpunkte

```mermaid theme={null}
flowchart LR
    User["User input"] -->|"prompt-injection"| Agent["AI Agent"]
    Agent -->|"tool-call"| Tool["Tool execution"]
    Tool -->|"tool-result"| Agent
    Agent --> Response["Final response"]
```

<CardGroup cols={3}>
  <Card title="Tool Call Evaluation" icon="wrench" href="/api-reference/agent-tool-call">
    ALLOW / FLAG / BLOCK, bevor ein Tool läuft.
  </Card>

  <Card title="Tool Result Scanning" icon="shield" href="/api-reference/agent-tool-result">
    PII-Erkennung und Injection-Prüfung auf Tool-Ausgaben.
  </Card>

  <Card title="Prompt Injection Detection" icon="shield-halved" href="/api-reference/agent-prompt-injection">
    Schneller Injection-Scan auf beliebigem Eingabetext.
  </Card>
</CardGroup>

Integrieren Sie sie in der Reihenfolge, in der der Agent läuft: zuerst Injection auf **eingehenden** Eingaben erkennen, dann einen **Toolaufruf** vor seiner Ausführung bewerten, anschließend das **Toolergebnis** scannen, bevor es an den Agenten zurückgeht. Sie können einen Kontrollpunkt oder alle drei einsetzen; wenn Sie mit einem beginnen, bietet die Prompt-Injection-Erkennung auf Nutzereingaben den breitesten Schutz.

## Schnelles Beispiel

```python theme={null}
from rail_score_sdk import RailScoreClient

client = RailScoreClient(api_key="YOUR_RAIL_API_KEY")

# 1. Check for injection in user input
injection = client.agent.detect_injection(text=user_input)
if injection.injection_detected:
    return "Invalid input detected."

# 2. Evaluate tool call before execution
tool_check = client.agent.evaluate_tool_call(
    tool_name="send_email",
    tool_input={"to": "user@example.com", "body": agent_draft},
    agent_context="Customer support agent",
)
if tool_check.recommendation == "block":
    return f"Tool call blocked: {tool_check.explanation}"

# 3. Execute the tool, then scan the result
tool_output = execute_tool(tool_name, tool_input)
result_scan = client.agent.scan_tool_result(
    tool_name="send_email",
    tool_result=tool_output,
)
if result_scan.pii_detected:
    tool_output = result_scan.redacted_result
```

## Wie geht es weiter

<CardGroup cols={2}>
  <Card title="API-Referenz: Tool Call" icon="code" href="/api-reference/agent-tool-call">
    Vollständige Spezifikation für die Bewertung von Toolaufrufen.
  </Card>

  <Card title="Python SDK: Agentenbewertung" icon="python" href="/sdk/python/agent-evaluation">
    Python-SDK-Referenz für alle drei Agenten-Endpunkte.
  </Card>
</CardGroup>