ToTra – GDPR/EU AI Act準拠のオープンソースLLMゲートウェイ
ToTraは、クォータ管理、PIIブロック、コスト追跡、コンプライアンス(GDPR、EU AI Act)をすぐに利用できるオープンソースのAIゲートウェイ兼ガバナンスプラットフォームです。Goで記述されており、2ミリ秒未満のオーバーヘッドで複数のLLMプロバイダーをサポートし、コード変更なしで統合できます。
ToTra – GDPR/EU AI Act準拠のオープンソースLLMゲートウェイ
要約のみ
配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。