先行する知見をチーム全体の力に―LLMアプリケーション開発技術の体系的習得

私自身はお客様先にITディレクターとして常駐する立場であり、現在はLLMアプリケーションの PoC [*] 開発を担当し、NTTデータ側とお客様との連携を担っています。その業務の中で、ベクトル検索におけるベクトル化範囲の最適化や、 LangGraph [*] におけるノード分割の適切な単位、評価方法の検討などについて、基本的な部分でNTTデータ側のメンバーに対して指摘を行う場面がありました。

また、現在当チームではチャットボットの開発も行っていますが、主にルールベースのチャットボット開発が中心であり、LLMを活用した設計・開発については、さらなるスキル向上が必要であると認識しています。これらの課題を踏まえ、本研修を計画しました。

LLMの活用検証を開始したのは、2023年9月から10月頃となります。当時より「今後は ルールベース [*] のチャットボットではなく、LLMを活用したものが主流となる」という認識がお客様側でも共有されており、それに基づき様々な検証を開始しました。

現在は、その動きがさらに加速しています。すでにLLMを前提としたサービス設計やプロダクト開発の段階に移行していると認識しています。

また、現在はAIエディター系のツールも登場していますが、 Cursor [*] や Cline [*] といったAIコーディング支援ツールを効果的に活用するためには、生成AIの基本的な理解や適切なプロンプト設計、開発スキルの習得が必須であると考えています。

研修を受講してみて、業務でなんとなく理解していた部分を体系的に知識として学べたのがとても良かったです。上條さんはもともと知識レベルが他のメンバーと比較して突出していましたが、私自身は生成AI関連の初めての案件に取り組んでおり、周囲にも生成AI開発を実施しているチームが存在しない状況でした。そのため、とりあえず動くものを見てプロンプトを確認し、「こう書いているからこう動いているんだ」という見よう見まねで業務を進めていました。

また、通常の開発とLLMアプリケーションの開発では観点が異なるため、問題が発生した際に解決策が浮かばず、試行錯誤を繰り返しながら成功パターンを模索するという方法を取っていました。この点、今回の研修で座学による基礎知識の習得から実際の開発に取り組むことで、より効率的な開発が可能になると認識しています。

私も体系立てられた内容で、実際に手を動かして学べる時間が十分に確保されていた点が良かったと感じています。個人的には既知の内容も多かったものの、参加者のレベルに合わせて基本から確認できた点も有意義でした。3日間という期間については、事前に社内で「長い」という意見もありましたが、内容を考慮すると適切なボリュームであったと考えています。

LangSmith [*] などのツールについて、研修の場で知識を習得できた点は非常に有意義でした。特に実践してみたいのはデザインパターンの部分で、概念的な内容を実際のサービスにどのように落とし込んでいくか、機会があれば業務で実践してみたいと考えています。

今後の別案件でのPoC実施においても、今回の研修で得た知識は大いに活用できると考えています。個人的には、TeamsやGoogle Meetなどの会議の書き起こしから次のアクションアイテムを抽出し、それをバックログのチケット化するような機能を、自己研鑽を兼ねて実装してみたいと考えています。

このような機能を実装する際のタスク分割やワークフロー設計についても、今回学んだ内容を活用できると考えています。

今回特に印象に残ったデザインパターンの部分に加え、LangGraphなどコーディングの部分について、より深く学んでいきたいと考えています。

また、この業界は新しいモデルが次々と登場する状況にありますので、今後も継続的に学習を進めていきたいと考えています。一般的に興味深い内容だけでなく、IT技術者として把握すべき情報も存在しますので、それらをどのように取り入れていくかを考えていきたいです。

セキュリティやガバナンスの観点は避けて通れない重要な要素となりますので、この部分についてより深く考えていきたいです。

また、LLMアプリケーションの開発においては、 ドメインエキスパート [*] の存在が重要となりますが、大企業では部門ごとに縦割りになっているケースも多く、例えば情報システム部が開発を担当するものの、部内にビジネス領域のドメインエキスパートが不在であるといった状況が発生します。このような体制の中でプロダクトを成立させていく方法について、大企業における部門間の壁をどのように乗り越えていくべきか、さらに考えていきたいです。