PROJECT 「大和証券生成AIチャット」
開発

大和証券が一般のお客様向けに提供しているFAQチャットを、2025年6月に生成AIを使って刷新しました。従来のチャットはあらかじめ決められた質問と回答を紐づける仕組みだったため、質問の言い回しが少し違うだけで探している答えにたどり着けず、ユーザビリティの観点で課題があったのです。今回はFAQや取引マニュアルなどの情報をまとめて保管し、AIが質問の意味に近い情報を探し出した上で、文章として組み立て直して表示する仕組みを構築しています。

単に検索するのではなく、「お客様は何を知りたいのか」を考えながら答える点がこれまでとの大きな違いです。今回は生成AIを活用した案件ということで、最初から完成形が明確に決まった状態で走り出したわけではありません。実際に動かしてみないと分からない部分も多く、検証と改善を繰り返しながら精度を高めていく必要がありました。特に一般のお客様向けサービスなので、「間違いがないこと」を最優先して開発しました。

このチャットサービスでは1つの質問に対して複数の情報を組み合わせて答えられる点が特徴です。以前は「この質問にはこの答え」という1対1の形でしたが、今回はAIが情報を読み比べて回答に近しい内容をまとめて返すほか、関連度が高いと思われる情報をサジェストする機能も。検索と会話の間のような体験を目指して開発しました。

一番の苦労は、人手と時間の制約です。開発期間は6ヶ月。会議や調整をしながら自分自身でも開発を進める必要があり、正直に言うと余裕はありませんでした。それでもすべてを抱え込まず、任せられる部分は周囲に頼ることで何とか乗り切りました。また、今回はコーディングにもAIを活用。その中では課題にもぶつかりましたが、おかげで開発期間を大幅に短縮することができました。

今回の生成AIチャットは、「表や画像」も用いた回答ができる点が他のチャットサービスと比べた時の大きな違いであり、苦労したポイントでもあります。画像は前処理として「Azure Storage Accounts」上に保存した上で、回答のもととなるインデックス内のテキストにファイルパスと画像タイトルを埋め込んでいます。そのため、LLM（大規模言語モデル）で回答を生成する際に、画像タイトルの意味をとらえた上で、必要に応じてテキスト以外の情報を出力できます。リンクや表・画像を用いたUIを実現することで、お客様に分かりやすい回答を意識しました。

要件が途中で変わることも多く、手戻りが発生する場面もありました。ただ、その都度チームで話し合い、「どうすれば良くなるか」に集中できたことが救いでしたね。ちなみに、私と太田くん・臼井くんは同期で全員入社6年目ですが、このクラスの若手メンバーが重要な役割を任されていたこともチャレンジングな部分でした。最近はこうした若手中心のプロジェクトがどんどん増えています。

私も初めはインフラチームのリーダーを任されると聞いて驚きましたし、少し不安でした。けれど、挑戦したからこそ普通なら数年がかりで吸収する知見をこの半年間で一気に習得できたと感じています。今回のプロジェクトでは、特定のクラウドサービスやRAG（Retrieval-Augmented Generation＝外部データベースや文書から関連情報を検索・取得して活用するAI技術）といった未経験の技術を短期間で理解し、設計に落とし込む必要がありました。社内の有識者に積極的に相談しながら、「分からないまま進めない」ことを徹底したことが印象に残っています。

生成AI技術を活用して、一般のお客様向けのサービスを形にできたことに大きなやりがいを感じました。AI案件は「これをつくれば必ずうまくいく」という確かな答えがない分、判断の一つひとつに責任が伴います。どこまで精度を高めるのか、どこから先は割り切るのか。その判断を任され、プロジェクト全体に影響を与える立場だったことは、プレッシャーでもあり、同時に大きなモチベーションでもありました。また、PoCや研究で終わることの多いAIの取り組みの中で、実際に多くのお客様に使われるサービスとして世に出せた点も印象に残っています。最先端技術を「試す」だけでなく、「社会に届く形にする」経験ができたことは、今後のキャリアにおいても大きな財産になったと感じています。

私がこれまでに携わった多くの案件は、社内や限られたユーザー向けのものが中心でした。今回は一般のお客様が使うサービスで、自分が関わった仕組みがたくさんの人々に届く喜びを初めて経験し、大きなやりがいを感じました。技術を通じて誰かの困りごとを解決できていると実感できたことが強く印象に残っています。開発中は忙しさに追われることもありましたが、使われている様子を知った時、「大変だったけどやってよかった」と素直に感じました。

インフラは「うまくいっていて当たり前」という世界。何も起きないこと自体が成果です。だからこそ、今回のように一般のお客様が使うサービスを支え、「止まらずに動き続けている」状態を作れたことには大きな達成感がありました。トラブルなくサービスが稼働し続けているのを見るたびに、「この基盤を任されてよかった」と静かに実感しています。

リリース後、コンタクトセンターの方から「問い合わせ対応の負担軽減につながった」と聞いた時は、正直ほっとしました。今回のプロジェクトは生成AIやAzureを用いた開発など初めて尽くしで、困難に直面する場面も少なくありませんでした。それでも、自分たちが作った仕組みが実際に使われ、誰かの役に立っていると分かった瞬間に、その苦労が報われた感覚があります。技術的な挑戦だけでなく、「社会の中できちんと機能するものを届けられた」という実感を持てたことが何よりのやりがいでした。

今後は現状のシステム改善と並行して、エージェントAIの導入なども検討しています。これによってさらにユーザビリティを向上させることが狙いです。生成AIの領域ではアウトプットの良し悪しを数値だけで判断することが難しく、最終的には人が責任を持って決める必要があります。技術的な正解だけでなく、「お客様にとってどうか」「社会に出して問題ないか」を考え続けた経験は、今後どのようなAI案件に携わる上でも軸になると感じています。

生成AIやクラウドといった新しい技術を実サービスの中で使い切れたことは、エンジニアとしての自信につながりました。今後もAIを活用するプロジェクトがいくつも立ち上がる予定なので、継続的に携われたらと考えています。私は大和総研内でクラウド技術のエキスパート認定を受けていますが、今後はAI開発のスペシャリストにもなれるように取り組んでいきたいです。

インフラリーダーとして、技術だけでなく「優先順位を決める力」が大きく鍛えられました。限られた期間の中で、何を先に作るべきか、どこを将来に残すか。その判断一つでプロジェクト全体のスピードが変わります。初めこそ大役に不安を感じていましたが、この経験を通じて、設計の正しさだけでなくタイミングを見極める視点も身につけられたことは、大きな成長だと感じています。

これまで以上にシステム全体を俯瞰して見る視点が身につきました。自分の担当領域だけでなく、「この処理はどこにつながっているのか」「ここでの判断が全体にどう影響するのか」を考えながら開発できたことは、大きな学びです。技術力だけでなくプロジェクト全体を支える意識が芽生えたことが、今回得られた成長だと感じています。

要件が固まりきらない中でも、まず動くものを作り、フィードバックを受けて改善する。そのサイクルを回し続けたことで、不確実な状況への耐性がつきました。「最初から完璧でなくていい」という感覚を、実体験として身につけられたのは大きいです。また、常に冷静な菅野さんや林さんの姿を間近に見る中で、将来的にチームを率いるようになった時のヒントももらえました。今後の拡張開発も楽しみです。