メインコンテンツへスキップ
RAIL Scoreは主要なLLMプロバイダーおよび可観測性ツールと統合されています。プロバイダーラッパーは、呼び出しロジックを変更することなく、すべてのLLMレスポンスに自動的にRAILスコアリングを追加します。

​
LLMプロバイダー

OpenAI

RAILOpenAI - GPT-4o、GPT-4o-mini、およびすべてのOpenAIチャットモデルをラップします。

Anthropic

RAILAnthropic - Claude 3.5、Claude 3、およびすべてのAnthropicモデルをラップします。

Google Gemini

RAILGemini - Gemini 1.5 Pro/FlashおよびVertex AIモデルをラップします。

​
可観測性

Langfuse

LangfuseでLLMトレースとともにRAILスコアをログします。

LiteLLM

RAILGuardrail - LiteLLMガードレールとしてのRAIL。

OpenTelemetry

RAILスコアをOTELスパンとしてエクスポートします。

​
インストール

必要なプロバイダーだけをインストールします： 
pip install "rail-score-sdk[openai]"       # OpenAI
pip install "rail-score-sdk[anthropic]"    # Anthropic
pip install "rail-score-sdk[google]"       # Gemini
pip install "rail-score-sdk[litellm]"      # LiteLLM
pip install "rail-score-sdk[integrations]" # すべてのLLMプロバイダー
JavaScriptの場合： 
npm install @responsible-ai-labs/rail-score openai          # + OpenAI
npm install @responsible-ai-labs/rail-score @anthropic-ai/sdk  # + Anthropic
npm install @responsible-ai-labs/rail-score @google/generative-ai  # + Gemini