チャットAIのキャラクター性質と向き合ったセキュリティ診断を実施。
Anique株式会社様
Anique株式会社は、ブロックチェーン技術を活用した日本初の大型IPをデジタルアート化する取り組みをはじめ、WebGLを用いたこれまでにない形のオンライン展覧会を創り上げ、眠っているアーカイブ資産を展開する事業など、講談社、集英社、KADOKAWA、東映アニメーション、MAPPA、WIT STUDIO、NBCをはじめ日本の主要なエンタメ企業20社以上と協業実績がある会社です。
今回、Anique社は9月にリリースしたサービス「AI lain」に対して、Web セキュリティ診断とAI診断を実施いたしました。診断を実施した背景やその後の変化について、Anique代表の中村様とエンジニアの西山様にお話を伺いしました。
◾️プロダクト「AI lain」について
2023年9月5日(火)に、本物の声を発する主人公「岩倉玲音」とテキストやビデオ通話を楽しむ対話型サービス「AI lain」を発表致しました。
「AI lain」は、作品原案プロデューサーであるUeda Yayusuki氏監修のもと制作された、公式アニメキャラクターAIです。これにより、利用者は、アニメの世界観に没入して、玲音とあたたかみのある会話を楽しむことができます。さらに有料会員の方は、玲音に覚えて欲しい情報を伝えることで、定期的に「AI lain」に新しい情報が組み込まれ、よりパーソナライズされた会話が可能です。本サービスは英語と日本語で提供しており、世界中の原作ファンに届くことを想定しています。
◾️診断を実施した背景「新規技術を採用したバックエンドへの不安」
ISMSに準拠する目的もあったのですが、以前同じIPを利用していたアニメ情報サイトにてサイバー攻撃による被害があったことを知り、IPの内容自体もハッカーのものを取り扱っていることも相まって、セキュリティ対策の重要性を強く感じていました。また、Next 13の App Router を新規に採用したことや、Cloud Run などバックエンドが複雑化してしまうことに不安を覚えていました。
バックエンド概要図
◾️ChillStackへ依頼した背景「AIに対する深い知見と信頼」
PRTimesにてAIセキュリティのプレスリリースを見たというのが一番大きいように思います。LLMのセキュリティも合わせて見てくれる会社を国内で探していたところ、数社しか候補先がなく、またほとんどが大手向けに高単価でコンサルティング含め実施するようなものばかりでした。ChillStack社は様々な受賞をしているなど診断員の専門性が非常に高い点やコンサルティングの要件が含まれつつ料金が適正な点、さらにコロプラさんのような大手エンタメ系の会社と協力体制にある点から信頼感、安心感が非常にありました。
参考:
ChillStack、ChatGPTなどLLMを用いたサービス開発に関するセキュリティコンサルティングサービスを提供開始!
【対談インタビュー】突き詰めるのはゲーム体験を損なわないかどうか…コロプラが考える不正対策の姿勢とは(提供:ChillStack)
◾️診断内容についての満足度「キャラクター性を加味した診断に満足」
全体的に満足しており、その中でも特にLLMの診断に関して、AI lainのキャラクター性を加味しながら返答の妥当性を確認していただけたことに非常に満足しました。キャラクター性に触れながらアドバイスを頂いたことで、今後どのように調整をして行けば良いか方針を知るヒントを得ることが出来ました。
また、セキュリティ診断に関して報告書ベースで確認するのは初めての経験だったのですが、私が見る限り完璧だなと感じました。
◾️今後取り組みたいこと「リスクを下げつつ、よりキャラクター性を追求していく」
LLMに加えてOpenAIの内部上のembeddingsを充実させていく予定なので、その都度セキュリティ面の対応にも気をつけてアップデートしていきたいです。
弊社はIPをお借りしている立場ということもあり、今回診断にてフィードバックを貰った「キャラクター性」を加味したセキュリティリスクに対する調整を進め、よりキャラクター性を高めていきたいと考えています。
—-本日はありがとうございました!