AWSでは生成AIをはじめとするさまざまなAIサービスが提供されており 、業務への活用が期待されています。いち早く、導入を進めているＳＯＭＰＯホールディングス株式会社のＩＴ企画部企画グループ、土屋敏行様、鈴木陽星様にお話を伺いました。

＜お話を伺った方＞

ＳＯＭＰＯホールディングス株式会社　ＩＴ企画部企画グループ　土屋敏行様　鈴木陽星様

生成AI体験促進策として、生成AIを使用した社内情報検索システムのお試し環境を構築

土屋様：ＳＯＭＰＯグループは約130年の歴史を持つ企業グループで、現在は国内損保事業を中心に、海外保険事業、国内生保事業、介護事業など多角的に事業を展開しています。
弊社は持株会社としてグループ各社の管理業務に関わっており、ＩＴ企画部ではCCoEとしてグループ各社のクラウド活用を推進してきました。クラウドサービスのセキュリティ統制で共通の仕組みを提供し、グループ各社が安全にパブリッククラウドを利用できる環境づくりを行っています。

2023年の初め頃からChatGPTが話題になると、グループ内でも生成AIに注目し、使ってみたいとの声が聞こえてきました。大規模なグループ会社では早くから取り組みを始め、一部の業務で生成AIの活用を始めていましたが、中小規模の会社では、導入が難しい部分があります。そこで、グループ全体で生成AIの活用を推進する目的で、まずはお試し利用できる環境をCCoEからグループ会社向けに提供することにしました。

鈴木様： AWSマネージドサービスを活用した検索拡張生成を構築するハンズオンが提供されており、 それを社内でカスタマイズして、グループ会社向けに試験的な仕組みを用意したのが2024年2月でした。
生成AIに社内規定などの情報を読み込ませ、さまざまな社内情報から目的の回答を生成する仕組みです。
「生成AIを利用した社内情報検索をセキュアに体験できるようにする」という目的で構築したのですが、グループ内での利用をより拡大するには、回答精度を上げ、ユーザーインターフェースを改良する必要がありました。
また、LLM（大規模言語モデル）が短期間でバージョンアップしていくため、弊社で使用していた初期のLLMでは機能が不十分だと感じられ、上位モデルへ移行したいというニーズもありました。社内のメンバーだけではリソースやノウハウが不足していた事情もあり、かねてからお付き合いのあったNRIネットコムにお声掛けした次第です。

堤：NRIネットコムは、2021年〜2022年にＳＯＭＰＯホールディングス様のセキュリティガードレール構築・運用をご支援しました。CCoE活動のご支援としては、弊社の中でも規模の大きなプロジェクトです。
生成AIの活用は、弊社が注力している分野で、より多くの事例で貢献していきたいと考えていましたので、良いタイミングでご協力できたと思います。

鈴木様：社内的な事情から、お声掛けが3月末になり、6月にはリリースという短期間での依頼だったので、信頼できる技術力を持ち、スピーディーに対応していただけるだろうと期待してNRIネットコムにお願いしました。
生成AI活用の情報を技術ブログで積極的に発信されているのもよく見ています。

西本：ありがとうございます。確かにスピード感が必要なご支援でしたが、弊社には多数のAWSの認定資格者が在籍しており、AWSに詳しいメンバーをアサインしてプロジェクトを進めることができました。

AWSに精通した技術者が適切なシステム構築を支援

堤：今回は、使用されていたチャットツールに、新規で構築した検索システムを組み込みました。
チャットツールのベースになったのは元々ハンズオンで用意されたシステムのため、一般利用向けとして機能を拡張するには、ソースにかなり手を加える必要がありました。それよりも、使える機能は残して、キーとなる生成AI活用の部分を新たに作って組み込むほうがいいだろうと考えました。

土屋様：期間や工数が限られている中で、「これはやったほうが良い、これはやらなくても良いのではないか」と適切に切り分けてもらえたことは、非常に助かりました。
社内のメンバーのみで取り組んでいたら、そういった判断も難しかったし、私たちでは提案されたアプローチを思いつかなかっただろうと思います。 

堤：今後の運用を考えても、既存のシステムをカスタマイズしていくより、新規に構築したほうが効率的でしたから、早めに切り替えることをおすすめしました。

西本：4月から始めて完成したのが6月24日です。要件の検討など事前準備は必要でしたが、構築にはそれほど時間を要しませんでした。グループ企業全体に公開するということで、セキュリティを第一に考えました。

土屋様：セキュリティ以外にも、情報の切り分けにしっかりと対応していただきました。グループ企業は数十社ありますが、他の会社に見えてしまってはいけない固有情報がそれぞれにあります。
そういった情報は、別の会社からRAGで検索できない仕組みを作っていただきました。

堤：検索結果の出し分けは、「Amazon Kendra」というサービスのAccess Control Listで制御しました。
生成AIの活用については社内でも研究を重ねていましたし、AWSについての知見と実績もあったので、この機能をアタッチすれば上手くいくというアイデアはすぐに思いつきました。
実装するにあたり、技術的な懸念はいくつかありましたが、私と西本が中心となり、今後の運用も見据えたシステム構築が実現できたと思っています。

 鈴木様：最後の実用化のフェーズで、構築したシステムをチャットに組み込む部分では、NRIネットコムにご苦労をおかけしました。
リリースの10日前くらいに基盤に関わる問題が発覚したのですが、迅速に対応していただき、着手から3カ月かからずにリリースできました。
「こういう問題があります」と報告してから1日で、「Amazon ECSを使用して解決できそうです」とレスポンスが来て、対応の早さに驚きました。本当にすごい人たちだなと（笑）。

 西本：グループ各社で情報を切り分けるので、グループチャットの場としてのチャンネルは、組織やグループ会社単位で分けられていました。
各チャンネルは、参加するメンバーに限定された情報も含むために非公開に設定されていたのですが、その時点の基盤構成は非公開チャンネルが使えない仕様だったのです。
1週間くらいで基盤を変更し、アプリケーションを新しく組み替えたので、作業は立て込んでいたと思います。
ただ、使えないことがわかった当日に堤が検証を終えていて、「こうすればできる」という解決策はわかっていました。アプリケーションを１つ作り直す必要がありましたが、基盤構成の変更とともに、弊社では過去の実績から、かなり知見がある分野でしたので、スムーズに切り替えができました。

土屋様：リリースしたチャットツールは、現在、登録ユーザーが100名ほど、チャンネルは14で運用しています。今後さらに広く知ってもらい、利用者を増やしていきたいですね。

クラウドに特化した知見と技術力によりシステム開発を一気通貫でサポート

土屋様：2021年に弊社のセキュリティガードレール構築を支援していただいたときも、納得できる提案を出してもらって、満足できる結果が得られました。
今回は非常にタイトなスケジュールだったので、過去の実績からNRIネットコムにお願いしました。リリース直前のトラブルも「こういう問題があります」という報告を受けた翌日には「解決できそうです」ということになり、私としては悩む前に終わっていました（笑）。

鈴木様：レスポンスの早さは、それだけナレッジが豊富にあるということだと思います。また、必要があれば既存の基盤構成を変えたり、アプリケーションを作り直すといった、思い切った判断ができるのも、NRIネットコムに実績を伴う知見と技術力があるからこそだと思いました。

 堤：NRIネットコムはインフラからアプリケーションまで一気通貫でご支援できるのが強みだと自負しております。 特に私たちが所属するクラウド事業推進部は、AWS や Google Cloud を中心とするパブリッククラウドの活用はもちろんのこと、データ分析基盤の構築、Webアプリケーション開発、スマートフォンアプリ開発と幅広い案件に対応できるエンジニアが揃っています。 生成AIの活用はまだ実績が少ないので、今回構築した仕組みを実際に使っていただくことは私にとっても良い経験となりました。

 鈴木様：生成AIはどんどん進歩していて、プロジェクトの間にも大きなアップデートが2回ほどありました。
そういった状況もふまえて、パラメータを変更することで、生成AIで使用するモデルを変えられるようになっています。また、管理がしやすいように 、 AWS CloudFormationを利用したAWS環境を用意していただき、IaC（Infrastructure as Code）化も実現しています。 IaC化を依頼したわけではないのですが、NRIネットコムのほうで配慮して付加価値のある対応をしてくれていました。感心しました。
ドキュメンテーションも非常にしっかりしていて、優秀なエンジニアが集まっている印象を受けました。

 西本：依頼がなくとも、当たり前に必要になる機能を付加するのは、最低限、守るべきところだと意識しています。
今回、スケジュールはタイトでしたが、無理なご注文は一切なく、３カ月弱の間、お互いに協力しながらゴールを迎えられたと感じています。
生成AIの分野は今後さらに注力していきますので、また気になることがありましたら、ご相談下さい。