ノボの臨床データ分析AIがFoundryへ移行　数千人の研究者を支援

臨床試験のデータ分析は、あらかじめ決められた手順通りに進むとは限りません。

医療の専門家は、新たな仮説を試したり、患者集団を比較したり、トレンドを可視化したりと、さまざまな角度からデータを探索します。ノボ ノルディスクとマイクロソフトの共同開発チームは、こうした二次分析を支援するAIエージェントを構築し、「Microsoft Foundry」のホステッドエージェント環境へ移行しました。

移行で変わったスケーリングとセッションの隔離

最初の本番アーキテクチャは、「Azure Container Apps」と動的セッション、「PostgreSQL」を組み合わせた構成でした。すべてのコンポーネントを自前で制御できる一方、コンテナのスケーリングやセッションのライフサイクル、ネットワークなどを自チームで管理する必要がありました。

「Microsoft Foundry」のホステッドエージェントを利用すると、エージェントのロジックやモデル、ツールは引き続き制御できます。エンドポイントやセッションのコンピュート、状態の保存、スケーリングなどは、プラットフォーム側が管理します。主な変化は次の4点です。

• スケーリングがセッション単位になり、そのライフサイクルをプラットフォーム側が管理します。
• 各セッションが仮想マシン（VM）で隔離された環境で実行されます。
• プライベートネットワークに対応し、エージェント環境への出入りに対する制御を設計できます。
• トレース、評価、実験、モニタリング、最適化を同じプラットフォームでつなげられます。

ネットワークは初期段階で設計し、トレースも保護

移行プロジェクトで得られた知見として、プライベートネットワークは後回しにせず、初期段階で設計することが挙げられています。

ホステッドエージェントでは、アカウントやプロジェクト、同時セッション、エージェントのリビジョンなどがIP使用量に影響します。そのため、ピーク時の同時セッション数を見積もり、余裕を持って設計することが推奨されています。

現在のネットワークガイダンスでは、本番環境には/24のサブネットが推奨されています。小規模な環境では/27がサポートされる最小サイズです。

また、OpenTelemetryを活用したトレース機能では、ユーザーの入力やAIの出力、モデルの呼び出し、トークン使用量などを記録できます。臨床データを扱う場合、テレメトリーデータにもほかの機密データと同じように、アクセス制御や記録の最小化、秘匿化、保持のルールが必要です。

移行前と同じ評価セットで品質を確認

品質管理では、移行前と同じ評価セットや、専門家が用意した正解例と比較する評価方法を使い続けています。これにより、新しい環境での動作を検証し、システムの変更が品質に与える影響を確認しながら改善を続けられます。