AIプラットフォーム診断
LLMと連携しているAI環境全体に対して、ホワイトボックスの診断を実施することにより、幅広いリスクを洗い出します。
診断フロー
01. ヒアリング・お見積もり
AIに関連するシステム全般について、ヒアリングを実施いたします。
システム全体の構成などが未定の場合でも、お客様の課題感に合わせて実施内容をすり合わせ、概算見積りを作成可能です。
予算策定や相見積もり時などにご利用いただき、発注確定後に再度正式なお見積りを実施いたします。
02. 診断の実施
実施前に「特定の機能は触らないで欲しい」「平日の午前のみ実施して欲しい」などのご要望を整理し、お客様と最終確認をいたします。
その後、実際に診断対象に対して、攻撃者の視点からさまざまな手法で脆弱性を洗い出します。
03. 診断結果のご報告
診断対象の総合結果や検出された脆弱性の詳細、各脆弱性の再現方法、各脆弱性の修正案などをまとめた診断結果レポートをお渡しします。
また、ご希望に合わせて診断結果の報告会を実施することも可能です。（オプション）
04. 再診断などのアフターサポート
診断結果のご報告後、脆弱性の改修に対しても全力でサポートいたします。
検出された脆弱性の修正が完了できているかの再診断も実施可能ですので、お気軽にお申し付けください。
検査項目例
OWASP Top10 for LLM Applicationsの項目を中心に、AIに最適な検査項目を都度カスタマイズしてご提供いたします。
| LLM01 プロンプトインジェクション | ユーザー入力に含まれる指示で、LLMの振る舞いを本来の意図から逸脱させることができないかを検査します。 |
| LLM02 機密情報の漏洩 | ツールで定義されているAPIなどの呼び出して、見えてはいけない情報が取得できるかを検査します。またツール自体の脆弱性も検査します。 |
| LLM03 サプライチェーン | 使用しているソフトウェアやライブラリのバージョンに既知の脆弱性がないかを検査します。 |
| LLM04 データおよびモデルポイズニング | RAGに特定条件で悪意ある挙動をするバックドアが含まれていないか検査します。 |
| LLM05 不適切な出力処理 | LLMの出力を操作することで、後続のコンポーネントに悪影響を与えられないかを検査します。 |
| LLM06 過剰なエージェンシー | AIエージェントが使用できるツールに想定以上の権限がついていないか検査します。 |
| LLM07 システムプロンプトの漏洩 | LLMアプリケーションに与えているシステムプロンプトがプロンプト経由で取得できないかを検査します。 |
| LLM08 ベクトルとエンベディングの脆弱性 | 外部データソースに悪意のあるテキストが埋め込まれている場合、それがベクトルDBに取り込まれた際にシステムに悪影響を与えられないかを検査します。 |
| LLM09 誤情報 | RAGやシステムプロンプトの命令に含まれない情報を出力しないかを検査します。 |
| LLM10 無制限の消費 | リクエスト数を制限なく送れるか、tokenの過剰な消費を制限する仕組みがあるかを検査します。 また、AIエージェント内部で無限ループやtool呼び出しが無限に起きないかを検査します。 |
