Research Activities研究活動紹介
AIを守る、AIで守る、AIを信頼する :
安全・安心なAIネイティブ社会の実現へ
AIセキュリティ研究センター（CREATE）は、AI技術を活用した次世代サイバーセキュリティ技術の研究開発を推進する中核拠点です。サイバー攻撃が巧妙化・多様化する現代において、私たちは「AIを守る（AIのセキュリティ）」「AIで守る（AIによるサイバーセキュリティ）」「AIを信頼する（AIの解釈性・プライバシー）」という三本柱のアプローチを掲げています。これらの研究を通じて、AIが社会の基盤として安心して利用される未来を描き、安全・安心なAIネイティブ社会の実現に貢献しています。
研究テーマ
01AIを守る
攻撃耐性と堅牢性を備えたAIへ
CREATEでは、AIそのものの安全性と信頼性を確保する研究を行っています。特に大規模言語モデル（LLM）をはじめとする生成AIは、社会や産業での利用が急速に拡大している一方で、外部からの攻撃や予期せぬ挙動といった新たなリスクが課題です。私たちはSafety（安全性）、Security（セキュリティ）、Robustness（ロバスト性）を重視し、攻撃に強く信頼できるAIの実現を目指しています。
その一環として、MITREが策定した世界標準フレームワーク「TTP（Tactics, Techniques, and Procedures）」を活用し、攻撃事例を体系的に整理・分析するAIセキュリティ評価基盤を構築しています。この評価基盤では、AIが直面し得る脅威の全体像を把握し、安全性・ロバスト性・プライバシー・公平性など多角的な観点から商用およびOSSのLLMを体系的に評価します。そこから得られた知見を基に、AIの弱点を明確化し、防御策の設計や改善指針を社会へ還元することで、安全で堅牢なAIシステムの実現に貢献しています。
また、LLMに対するバックドア攻撃や敵対的入力（Adversarial Examples）などの新たな攻撃手法の分析にも取り組み、AIが悪意ある操作にどのように影響を受けるかを解明しています。これにより、攻撃メカニズムの理解と防御技術の強化を進めています。
02AIで守る
膨大なセキュリティ情報を解析し、価値ある知見を創出
CREATEでは、AIとセキュリティ技術を融合させ、膨大なサイバーセキュリティ情報から価値ある知見を導き出す研究開発を推進しています。リアルタイムのビッグデータ解析により、未知の脅威やマルウェア、新たな攻撃キャンペーンを迅速に検知し、サイバー空間全体の安全性を高めます。また、人材不足という社会的課題に対応し、防御オペレーションの効率化・自律化を目指しています。
具体的には、AIによるセキュリティアラートの自動選別によって膨大な警告情報を整理し、解析者の負担を軽減するとともに、迅速なインシデント対応を可能にしています。さらに、マルウェア感染活動を早期に検知するため、ダークネット観測データを活用し、グローバルな脅威インテリジェンスの収集・分析を行っています。これらの研究を通じて、AIによるセキュリティ運用の自動化・高精度化を進め、社会インフラを支える次世代防御基盤の構築を目指しています。
03AIを信頼する
説明可能で透明なAIへ
AIの判断や検知結果を人が理解し、安心して活用できることも重要な課題です。CREATEでは、AIベース侵入検知システムに説明可能AI（XAI）を組み込み、AIの判断根拠を可視化する研究を進めています。特徴量の寄与度を解析し、検知理由を専門家が直感的に把握できる仕組みを開発することで、AIに対する透明性と説明責任を高めています。このような技術は、AIを「理解して使う」社会の実現を支える基盤となります。
