統合の概要 - RAIL Score

RAIL Scoreは主要なLLMプロバイダーおよび可観測性ツールと統合されています。プロバイダーラッパーは、呼び出しロジックを変更することなく、すべてのLLMレスポンスに自動的にRAILスコアリングを追加します。

LLMプロバイダー

OpenAI

RAILOpenAI - GPT-4o、GPT-4o-mini、およびすべてのOpenAIチャットモデルをラップします。

Anthropic

RAILAnthropic - Claude 3.5、Claude 3、およびすべてのAnthropicモデルをラップします。

Google Gemini

RAILGemini - Gemini 1.5 Pro/FlashおよびVertex AIモデルをラップします。

可観測性

Langfuse

LangfuseでLLMトレースとともにRAILスコアをログします。

LiteLLM

RAILGuardrail - LiteLLMガードレールとしてのRAIL。

OpenTelemetry

RAILスコアをOTELスパンとしてエクスポートします。

インストール

必要なプロバイダーだけをインストールします：

pip install "rail-score-sdk[openai]"       # OpenAI
pip install "rail-score-sdk[anthropic]"    # Anthropic
pip install "rail-score-sdk[google]"       # Gemini
pip install "rail-score-sdk[litellm]"      # LiteLLM
pip install "rail-score-sdk[integrations]" # すべてのLLMプロバイダー

JavaScriptの場合：

npm install @responsible-ai-labs/rail-score openai          # + OpenAI
npm install @responsible-ai-labs/rail-score @anthropic-ai/sdk  # + Anthropic
npm install @responsible-ai-labs/rail-score @google/generative-ai  # + Gemini

OpenAI統合RAILOpenAI -- すべてのOpenAIレスポンスをスコアリングするドロップインラッパー。

⌘I

​LLMプロバイダー