AISI（AI安全機関）とは？日本のJ-AISIの取り組みと企業への影響

AIの安全性を技術的に評価・担保するための専門機関「AISI（AI Safety Institute）」が、各国で相次いで設立されています。日本・英国・米国・韓国・シンガポール・カナダなど、複数の国・地域がAISI国際ネットワークに参加しています。AIの安全性評価は「企業の自主的な取り組み」から「国際的な標準」へと移行しつつあります。

本記事では、各国AISIの動向と、日本のJ-AISIが企業に与える影響を解説します。

また、AIガバナンスやAIセキュリティ支援を行うElithの視点から、企業がAISI/J-AISIの動向をどのように実務へ落とし込むべきかも整理します。

AISIとは何か

AISI（AI Safety Institute）は、AIの安全性を技術的に評価するために各国政府が設立した専門機関です。法規制を補完する実務的な組織であり、主に以下の3つの役割を担っています。

• 評価手法の開発: AIシステムの安全性をどう測るかの方法論を整備
• インシデント対応の標準化: AI関連の事故や問題への対応手順を共通化
• 国際的な情報共有: 各国間でのベストプラクティスや知見の共有

法律が「何をすべきか」を定めるのに対し、AISIは「どう実践するか」を具体化する役割を果たしています。

各国AISIの比較

各国のAISIは、それぞれ異なるアプローチで安全性評価に取り組んでいます。

アプローチは異なるものの、以下の方向性は各国に共通しています。

• 評価手法の開発と共有: 各国が独自の手法を開発しつつ、国際的な相互運用性を確保
• AIエージェントの安全性（Agent Security）: AIエージェントの評価が共通の最優先課題に
• ガイドライン先行: 新興分野ではまず実務的なガイドラインを整備し、成熟後に標準化

J-AISI（日本）の具体的な取り組み

J-AISI（Japan AI Safety Institute）は、関係省庁・関係機関と連携し、AIの安全性評価を横断的に推進する日本の中核機関です。2024年2月に設立され、産官学のステークホルダーによる実務的な取り組みを主導しています。

業界別サブワーキンググループ

J-AISIの特徴は、産官学のステークホルダーが集まる業界別のサブワーキンググループ（SWG）にあります。

「業界別の実務ガイド」と「横断的な基盤整備」の二段構えで、ベンチマーク・チェックリスト・テストベッドを整備し、実証から標準化へとつなげる方針です。

すでに具体的な成果も出ています。2026年4月には、ヘルスケアSWGが「ヘルスケア領域におけるAIセーフティ評価観点ガイド」を策定・公開しました。AIプロダクト開発を5つのフェーズに分類し、10項目の多角的な評価観点と想定リスクを併記したチェックリスト形式で、AI専門家が限定的な組織でも実装可能な構成となっています。

ガイドライン体系

J-AISIは包括的なガイドライン体系を整備しています。すべてのガイドラインは「リビングドキュメント」として、AIの技術進化に応じて継続的にアップデートされます。

特にクロスウォークは、国内対応と国際的な整合性確認を同時に進めるための実務的な基盤として有用です。

こうしたガイドライン群の全体像と、各国の規制動向との関係を把握しておきたい方は、ホワイトペーパー『AI規制の波：日本企業が生き残るために』で網羅的に整理しています。無料ダウンロードはこちら

企業にとって何が変わるのか

安全性評価が「標準」になる

各国AISIの動きは、AIの安全性評価が「あると望ましい」から「なければ困る」へと移行しつつあることを示しています。特にAIエージェントの安全性（Agent Security）は、各国共通の最優先課題となっています。

複数の調査が、AIエージェントを導入した企業の大半がテスト・PoC段階にとどまり、本番運用に到達した企業はまだ少数であることを指摘しています。プロンプトインジェクション（Prompt Injection）や外部ツール連携時の脆弱性など、従来のAIシステムにはなかった新種の脅威への対応が求められています。

特にAIエージェントは、外部ツールや社内データと接続して動作するため、プロンプトインジェクション、意図しない情報流出、権限逸脱といったリスクを事前に評価する必要があります。Elithでは、こうした生成AI・AIエージェント特有のリスクに対応するため、GENFLUX Securityを通じたセキュリティ評価・改善支援を行っています。

AIガバナンス体制の整備が求められる

J-AISIのガイドライン群は、AIモデル単体の技術評価だけでなく、AIを開発・提供・利用する組織のガバナンス体制にも関係します。企業は、AI利用ポリシー、リスク評価プロセス、利用部門への教育、インシデント対応、外部ベンダー管理などを整備し、継続的に運用することが求められます。

Elithでは、AIガバナンス体制の構築や、生成AI活用に伴うリスク評価・ルール整備を支援しています。J-AISIのガイドラインを参照しながら、自社のAI活用状況に合わせた実務的な対応を進めることが重要です。

取引先からの要請が増加

グローバルな取引先やパートナーから、AIの安全性評価やガバナンス体制に関する説明を求められるケースが増えています。J-AISIのガイドライン群に沿った体制を構築しておくことで、こうした要請にスムーズに対応できます。

ガイドラインの動向を追うことが最初のステップ

J-AISIのガイドライン群は継続的に更新されるため、これらの動向を定期的にチェックすることが、効果的なAI安全性対応の出発点になります。

AIガバナンス・AIセキュリティ対応を進めたい方へ

Elithでは、AIガバナンス体制の構築支援、生成AI・AIエージェントのリスク評価、GENFLUX Securityによるセキュリティ評価支援を提供しています。AISI/J-AISIの動向を踏まえ、自社のAI活用に必要な安全性評価やガバナンス整備を進めたい方は、ぜひご相談ください。

• AI規制・ガバナンスの全体像を知る：ホワイトペーパー『AI規制の波：日本企業が生き残るために』 無料ダウンロードはこちら
• 生成AI・AIエージェントの安全性を評価する： GENFLUX Security
• 自社のAIガバナンス体制について相談する： AIガバナンス認証支援サービスはこちら

まとめ

AISIの活動は、AIの安全性が国際的な共通課題として認識されつつあることを示しています。企業にとっては、ガイドラインの動向を把握し、自社のAI利用に対する安全性評価の体制を整えておくことが、将来への備えとなります。

ガイドラインに沿った安全性評価の始め方を知りたい方は、ホワイトペーパー『AI規制の波：日本企業が生き残るために』をご覧ください。無料ダウンロードはこちら

AIガバナンス体制の構築や認証対応については、AIガバナンス認証支援サービスもご覧ください。

出典

• AISI「ヘルスケア領域におけるAIセーフティ評価観点ガイド策定」
• IPA「AISI ヘルスケア領域AIセーフティ評価観点ガイド プレスリリース」
• IPA「AISI事業実証WG報告会」
• AISI 公開ドキュメント一覧