本文にスキップ
AI News HubLIVE
サイト内リライト6 分で読了

インデジーンがライフサイエンスにおける企業データ品質をどのように現代化し、拡張しているか

記事の要約

インデジーンはAWS上のNEXT統合データプラットフォーム内に、本番グレードのLLM駆動型データ品質エージェントを構築しました。このエージェントはコンテキストを考慮したデータ品質ルールを生成し、検証し、人間参加型のガバナンスの下で実行可能なSQLとPythonを生成します。これにより、ライフサイエンス組織は企業データ品質を大規模に拡張できます。

ソースAWS Machine Learning Blog著者: Bhagyashree Chandak
インデジーンがライフサイエンスにおける企業データ品質をどのように現代化し、拡張しているか
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

ライフサイエンス業界では、エンタープライズAIが商業、医療、市場アクセスなどの業務機能にわたる意思決定を改善する新たな機会を生み出しています。しかし、すべてのAIモデル、ダッシュボード、ビジネスインサイトの品質は、信頼できるデータという1つの要素に依存しています。企業データが複数のプラットフォーム、パイプライン、ビジネスドメインにまたがって増大するにつれ、一貫したデータ品質を維持することがますます困難になっています。手動によるデータ品質ルールの作成、断片化されたガバナンス、進化するビジネス定義により、企業全体でデータ品質を拡張することが難しくなっています。

インデジーン・リミテッドは、ライフサイエンス業界の戦略的オペレーティングパートナーであり、製品ライフサイクル全体にわたる商業、医療、研究開発、安全性オペレーションを統括しています。世界のトップ20バイオファーマ企業から信頼され、インデジーンは複雑で高度に規制されたワークフローをグローバル規模で実行するのを支援しています。インデジーンは、深いライフサイエンスの専門知識とAIを組み込んだプラットフォームおよびガバナンスされたオペレーティングモデルを組み合わせ、ミッションクリティカルなオペレーション全体でスピード、一貫性、コンプライアンスを向上させます。

従来のデータ品質プログラムが機能しなくなる理由は何でしょうか。ほとんどの組織はデータ品質プロセスを確立していますが、企業データエコシステムが進化するにつれて、その有効性を維持することがますます困難になっています。最大の課題の1つは、技術ルールとビジネスルールの所有権の分断です。データエンジニアは通常、データが構造的に正しいかどうかを確認する技術ルールを定義します。たとえば、HCP ID(医療専門家ID)がnullでないこと、必要な形式に従っていること、一意であること、有効な参照レコードにマッピングされていることを検証します。ビジネスチームは、データが運用コンテキストで意味をなすかどうかを判断するルールを定義します。たとえば、製品の市場シェアがテリトリー内で合計100%になること、またはHCPの処方活動がその専門分野と適格性基準に沿っていることを確認します。技術ルールはコードで維持され、ビジネスルールは用語集、SOP、主題専門知識に存在するため、データセットやプラットフォーム全体でそれらを整合させ、一貫してガバナンスすることが困難になります。

従来の検証手法には固有の限界もあります。null値、データ型、一意性、参照整合性のチェックは不可欠ですが、ビジネス固有のコンテキストを捉えることはできません。製品階層、顧客セグメンテーション、テリトリーアラインメント、商業ビジネスルールの検証には、静的検証ロジックでは容易に表現できないドメイン知識が必要です。データ品質ルールの作成と維持も同様に負荷が高いです。新しいデータセットごとにデータプロファイリング、ルール定義、SQL開発、検証、継続的なメンテナンスが必要です。これらのルールはしばしばSQLスクリプト、パイプラインコード、スプレッドシート、データカタログ、ツール固有の設定に分散しています。スキーマ、ビジネス定義、検証しきい値が変更されると、これらのルールを更新およびガバナンスするために必要な作業が大幅に増加します。

さらに、運用上の影響も重要です。新しいデータセットのオンボーディングは、多くのアクティビティが手動で繰り返されるため遅くなります。数百のデータセットにわたって品質ルールを維持することは、貴重なエンジニアリング労力を消費します。検証ルールが理解しにくく、追跡困難で、ビジネスコンテキストに関連付けにくい場合、ビジネスユーザーは信頼を失います。その結果、データ品質は継続的でスケーラブルな機能ではなく、定期的なガバナンス活動になることがよくあります。

インデジーンは、ライフサイエンス向けに特別に構築された最新のAI駆動型データプラットフォームであるNEXT統合データプラットフォーム(NEXT UDP)を通じてこれに対処しています。NEXT UDPは、断片化された商業、医療、臨床、企業データを単一のガバナンスされた環境に統合し、組織がデータ取り込みから分析までの完全なデータライフサイクルを管理できるようにします。NEXT UDPは、データ取り込みエージェント、データ品質エージェント、オーケストレーションエージェント、データカタログエージェント、SQL Botジェネレーターエージェントなど、いくつかのスタンドアロンAIエージェントを提供します。データパイプライン内で単独で使用することも、エージェント間通信のためにさらにカスタマイズすることもできます。

データ取り込み、変換、データ品質、ガバナンス、メタデータ管理、分析を統合プラットフォームに統合することにより、NEXT UDPは組織が断片化された企業データを信頼できる単一の情報源に統合し、ビジネスドメイン全体でデータ品質とガバナンスを標準化し、メタデータの可視性、系統、トレーサビリティを改善し、データエンジニアリングワークフロー全体の手動作業を削減し、企業分析と意思決定のために信頼できるAI対応データを提供するのに役立ちます。

インデジーンのライフサイエンス顧客は、厳格なガバナンス要件を満たしながら本番環境で確実に動作し、チームに構築方法の柔軟性を与えるエージェントを必要としていました。NEXT UDP内で、生成AIは既存のデータ品質プロセスを強化するインテリジェントなデータ品質エージェントを駆動します。このエージェントは、ルール作成の加速、検証の簡素化、企業規模での一貫したガバナンスの維持を支援することにより、データエンジニアとデータスチュワードの生産性を向上させます。

インデジーンは、Amazon Bedrock、Strands Agents、Amazon Bedrock AgentCoreを中核とする一連のAWSサービス上にデータ品質エージェントを構築しました。Amazon Bedrockは、セキュリティ、プライバシー、責任あるAI制御の基盤の上に構築された基盤モデル(FM)の選択肢を提供します。ライフサイエンス組織にとって、これは重要です。なぜなら、彼らのデータには機密の医療専門家や患者情報が含まれることが多いからです。Strands Agentsはエージェントの構築と更新を合理化し、その評価ツールはインデジーンが規制されたライフサイエンス環境で重要なルールの正確性をテストするのに役立ちます。エージェントはAmazon Bedrock AgentCore上で実行されます。これは、任意のフレームワークやモデルでエージェントを大規模に構築、接続、最適化するためのプラットフォームです。このソリューションは既存のAWSセキュリティと監査制御も継承するため、インデジーンはエージェントインフラストラクチャではなくデータ品質ロジックに集中できます。

データ品質エージェントの独自性は、コンテキストを考慮したデータ品質を強化する2つのナレッジベースにあります。どのデータ品質ツールでも、null値、重複、無効なデータ型をチェックできます。AWS Glue Data Qualityなどのサービスは、データ統計からこのようなルールをすでに推奨しており、これらは強力な基盤であり続けます。より難しい問題は、データがそのビジネス目的に対して意味をなすかどうかを判断することです。これに対処するため、データ品質エージェントは、厳選されたドメイン知識とガバナンスされた使用から得られた経験を組み合わせた2つの補完的なナレッジベースを使用します。

第一は内部企業ナレッジベースです。これは、内部ビジネス用語集、データ辞書、SOP、規制ガイダンス、承認されたデータ品質ルール、検証済みスクリプト、プロファイリング結果、過去の異常、主題専門家(SME)のフィードバックを組み合わせたものです。コンテンツは取り込み、ベクトル化され、検索拡張生成(RAG)を通じて取得され、企業標準と実証された結果に基づいたデータ品質ルールを生成します。

第二は外部参照ナレッジベースです。これは、承認された標準化されたデータ品質フレームワーク、Web検索、制御されたWebスクレイピングを使用して構築され、定期的に更新されます。データセットが選択されると、エージェントはテーブルと列のメタデータを分析し、信頼できるソースから関連するデータ品質標準、参照値、検証のベストプラクティスを取得します。たとえば、NPI(全国プロバイダー識別子)列の場合、適用可能な品質標準を特定し、形式(必要な10桁の数字形式)を推奨し、参照検証チェックを実行できます。

データ品質エージェントは、ユーザーをデータプロファイリングからルール作成とガバナンスまで単一のワークフローで導きます。ソースの選択(Amazon RedshiftやSnowflakeなどのサポートされているソースに接続)、データベースとスキーマの選択(利用可能なテーブルを参照し、各テーブルのルール数とアクティブルールステータスを確認)、データのプロファイリング(テーブルの品質指標と列パターンを計算し、ユーザーがレビュー)、異常の検出(履歴ベースラインに対して異常をフラグし、ユーザーが合計、クリティカル、警告の問題と影響を受けるレコードをレビュー)、ルールの管理(テーブルの既存ルールをレビューするか、新しいルールの作成を開始)、ルールモードの選択(列レベル、テーブルレベル、カスタムクエリ)、ルール提案の生成(エージェントはメタデータ、プロファイリング結果、異常、既存ルール、ナレッジベースコンテキストを使用して、技術ルールとビジネスルールをそれぞれの重大度とともに推奨)、レビュー、修正、適用(ユーザーが各推奨事項を編集または承認)、コードの生成と検証(エージェントは承認されたルールのSQLとPythonを生成し、検証ステップでチェック)、中央ルールリポジトリへの保存(承認されたルールは実行、監視、監査に利用可能)。

ソリューションアーキテクチャは、データスチュワードのリクエストからルール実行までのエンドツーエンドのフローを示しています。データスチュワードとデータ品質アナリストは、インデジーンアプリケーションからソリューションを呼び出します。APIおよびアクセス層は、AWS WAF、Amazon API Gateway、Amazon Cognitoを使用してセキュリティを確保します。データソース層は、Amazon Redshift、Snowflakeコネクタ、Amazon S3、JDBC/ODBCソースをサポートします。メタデータカタログ層は、AWS Glue Data Catalogとクローラを使用して自動スキーマ検出を行います。プロファイリングと異常検出層は、AWS Lambda(Python)を使用して列統計(null率、個別カウント、データ型準拠、パターン、値範囲、テーブルレベルのシグナルなど)を計算し、結果をAmazon DynamoDBに保存し、履歴ベースラインとの統計比較により予期しない変化(null率の急増など)をフラグします。

データ品質を統合データプラットフォームに埋め込むことにより、インデジーンはライフサイエンス組織がデータ品質を大規模に向上させ、手動作業を削減し、AIと分析が信頼できるデータに基づくことを保証するのを支援します。

要点と分析を開く

記事インテリジェンス

エンジニア中級

要点

  • インデジーンはAmazon Bedrock、Strands Agents、Amazon Bedrock AgentCoreを使用してデータ品質エージェントを構築
  • エージェントは内部企業ナレッジベースと外部参照ナレッジベースの2つを使用してコンテキストを考慮したルールを生成
  • ワークフローはデータプロファイリングからルール作成、コード生成、検証までをカバー
  • このソリューションは、従来のデータ品質プログラムにおけるルール所有の分断やメンテナンスの負荷などの課題に対処

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。