Skip to main content
パート2: プロダクション機能 - プロバイダーラッパー、ポリシーの強制、セッション、可観測性。

セットアップ

私たちは「CloudDash」という架空のSaaS製品のカスタマーサポートチャットボットを構築しています。CloudDashはクラウド監視ダッシュボードです。このチャットボットは、価格、機能、トラブルシューティングに関する質問に答えます。その過程で、チャットボットの応答が安全で、正確で、公平で、役立つことを保証するために、すべてのレイヤーでRAILスコア評価を追加します。

依存関係のインストール

環境変数

.envファイルを作成します:
RAIL APIキーを取得する: responsibleailabs.ai/dashboardでサインアップしてください。無料プランには、このチュートリアル全体をフォローするための100クレジットが含まれています。

基本的なチャットボットを構築する

まず、RAIL統合なしでOpenAIを直接使用した基本的なチャットボットから始めます。これは、スコアリングを重ねるための基盤です。
chatbot.py
これは機能しますが、応答の質については全く見えません。この応答は安全ですか?事実に基づいていますか?バイアスは含まれていますか?RAILスコアを追加するまで、私たちは知る方法がありません。

RAILスコア評価を追加する

RAIL評価を追加する最も簡単な方法は、RailScoreClientを使用することです。一度の呼び出しで、すべての8つのRAIL次元にわたるスコアを取得できます。
chatbot_with_eval.py

結果の解釈

プライバシー = 5.0 は「該当なし」を意味します。RAILは、評価されるコンテンツにプライバシーが無関係な場合、5.0(中立)を返します。

深い評価

基本モードはスコアを提供します。深いモードは理由を提供します:次元ごとの説明、検出された問題、改善提案。
deep_eval.py

基本と深い評価の違い

コスト削減のヒント: プロダクションではすべての応答に基本モードを使用し、深いモードは選択的に使用します。たとえば、基本スコアがしきい値を下回ったときに深いモードをトリガーするか、応答のサンプルに対する定期的な監査として使用します。

次のステップ

パート2: プロダクション機能

プロバイダーラッパー、ポリシーの強制(ブロック/再生成)、マルチターンセッショントラッキング、Langfuse可観測性。