NEDO懸賞金型プログラム「GENIAC-PRIZE」受賞（生成AIの安全性トライアル審査）

株式会社RAYVENは、国立研究開発法人 新エネルギー・産業技術総合開発機構（NEDO）が実施する懸賞金活用型プログラム「GENIAC-PRIZE」の「生成AIの安全性確保に向けたリスク探索およびリスク低減技術の開発」に係るトライアル審査において、受賞プロジェクトの一つとして選出されました。

設立1年4ヶ月のスタートアップながら、大手企業や大学と並び選出され、MCP（Model Context Protocol）技術の特許を活用した安全性対策が高く評価されました。

背景と目的

生成AIの急速な普及に伴い、AIエージェントが外部システムと連携する機会が増加しています。Anthropic社が2024年11月に発表したMCPは、AIモデルと外部ツール・データを接続するための共通規格として期待されています。

一方で、MCPの普及が進む一方で、AIエージェントによる意図しない情報アクセスや、権限の不適切な行使といったセキュリティリスクも顕在化しつつあります。企業の機密情報を扱うビジネス利用においては、AIの動作を適切に制御し、安全性を担保する仕組みが不可欠です。

技術の概要

RAYVENはMCP関連管理基盤技術の特許（特許第7731114号）を基盤とした「MCPサーバーの多層防御アーキテクチャ」を提案しました。本システムは3つの特徴を持ちます。

① 階層的権限制御機構

社内外の業務スタッフの役職・職種毎に、アクセスできる情報・機能を動的に制限し、業務内容に応じた最小権限での利用を実現します。

② リアルタイム異常検知

MCPサーバーへのアクセスパターンを監視し、通常と異なる挙動を即座に検知・遮断します。

③ 監査ログの統合管理

全てのAI操作を記録・可視化し、インシデント発生時の追跡を可能にする透明性を確保します。

これら技術により、企業が安心してAIエージェントを業務システムに統合でき、生成AIの利活用促進と安全性確保の両立を実現します。

今後の展望

本審査に向けた開発を推進し、トライアル審査で提案したプロトタイプを実用レベルのプロダクトへと進化させます。

• 実証実験パートナー企業の募集：MCPセキュリティ対策の実環境での検証
• Tumiki MCP Managerへの統合：当社プラットフォームへのセキュリティ機能実装
• オープンソース化の検討：開発者コミュニティへの技術還元と標準化推進

生成AIが社会インフラとして定着しつつある今、安全性の確保は最優先課題です。AIが働く世界を誰もが使えるものにするべく、技術開発と社会実装の両面から貢献していきます。