みなさんこんにちは。CTOの寺田です。先日、2023年5月27日に、ChatGPTに関する社内ハッカソンを開催しました。社内の希望者で集まって、みんなでGPTアプリケーションを作ってみようという主旨です。休日にも関わらず、リモート参加も合わせると約４０名の参加となり、なかなかの盛況でした。（もちろん、参加者は休日出勤扱いです。）

今回のハッカソン特色としては、エンジニアだけでなく、バックオフィス部門など非エンジニアの人にも参加してもらったことです。GPT技術はあらゆる仕事に影響を及ぼしていくと予想されていますが、そのことに敏感に反応して参加してくれました。非エンジニアの人もAIを使いこなそうという意欲を持ってくれているのが心強いです。

LLM ワーキング・グループが主催

ハッカソンを実行したのは、前回の記事の直後に立ち上げた当社の LLM ワーキング・グループです。今急激に変化している LLM（大規模言語モデル）技術に対応すべく設立したチームです。これは当社でよくやる方法で、新しい状況に迅速に対応すべきときには、即座にこうしたチームを作ります。

当日のタイムテーブル

当日は、以下のようなタイムテーブルで進行しました。

１０：００　オープニング（Kさん）
１０：１０　GPT技術の基礎レクチャー（CTO寺田）
１１：１０　Azure OpenAI APIの基本操作ハンズオン（Mさん）

１２：００　ランチタイム（みんなで会社提供のお弁当を食べました）

１３：００　チームに分かれてハッカソン
１７：００　各チームの成果発表、ふりかえり
１８：００　終了（終了後に「感想戦」やっている人もいました！）

開発テーマは「ヘルプデスクAI」

今回のハッカソンは、Azure OpenAI 環境の GPTのAPIについて習熟することが目的の１つです。一般的なハッカソンでは、チームごとにアイデアを出してアプリケーションを開発することも多いですが、今回はこのAPIに初めて触れる人も多かったので、全体で統一したテーマで取り組むことにしました。

そのテーマは、”ヘルプデスクAI”です。これは社内でよく発生する業務上の問い合わせ――例えば細かな経費精算のルールなど――に対応できるチャットAIです。これがあればバックオフィス部門の業務負荷が軽減できるという実用的な狙いも含めてテーマとしてみました。

具体的には、当社の業務規定書類を３つほどピックアップし、その内容に関する問い合わせを、チャットAIに回答させることを目指しました。

技術課題とその対策

実際にAPIを動かしてみると、いくつかの技術課題に直面しました。一番大きな課題は「トークン数制限」でした。今回は一日という限られた時間内で実施するため、ファインチューニング(fine tuning)は使わず、ゼロショットラーニング(zero shot learning)／フューショットラーニング(few-shot learning)でアプローチしたためです。この場合、１回のプロンプトAPIコールについて入力できるトークン数には上限があり、その上限内のプロンプトで質問の前提となる情報を全て与えないといけません。一方、規定書類のサイズはその上限には収まらないのです。

この課題に対して各チームがそれぞれに工夫を凝らし、様々なアプローチで試行錯誤していました。アプローチの例としては、「文書を事前にGPT要約して圧縮する」、「パート毎の埋め込みベクトルを求めておいてマッチング」、「事前にキーワード辞書を作っておいて参照すべき文書ブロックを切り替える」、等々・・・最後にそれらを発表してもらいましたが、チームごとの個性が出ていて非常に面白かったです。

時間の制限もあり、きちんと動くところまで辿り着けなかったチームもありましたが、GPTへの問合せ方のコツや、システムに統合する上での課題などを、座学ではなく実体験で学べたのが収穫でした。

そして何より、みんな楽しそうでした！　技術を学ぶのが好きな当社らしさが溢れていたと思います。

今後について

今後は、今回の成果をブラッシュアップし、社内に導入できるレベルのアプリケーションを完成させたいと考えています。

・・・と思って準備していたところ、マイクロソフト社から「Azure OpenAI Service On Your Data」が発表されましたね。まだ詳しく分析できていないのですが、上記のハッカソンで取り組んでいた課題がこれで解決できてしまいそうです。今後は、こちらも試して行こうと思います。

---

著者プロフィール

名前: 寺田英雄

株式会社オープンストリーム　執行役員／CTO
技術創発推進室　室長

1980年代からプログラミングを始めて現在に至る現役プログラマ。BASIC・アセンブラ・C・C++など、今で言う低レイヤプログラミングから、MS-DOS、UNIX、Windows などのOSドライバやネイティブアプリケーション開発を経て、近年のWeb開発、クラウドシステム、モバイルアプリ開発まで幅広く実践。最近はPythonを使うことが多いが、Rustも研究中。

専門分野としては、画像処理、プラント・ロボット等の制御システム、画像認識、機械学習、AIなど。近年は、電気通信大学さんとの共同研究を通じて機械学習やAIの研究に重点を置いている。

---

ChatGPTハッカソン開催についてご相談ください

みなさんの職場や組織で、このようなChatGPTハッカソンを開催してみませんか？ご興味のある方は、ぜひこちらのお問い合わせフォームから、お問い合わせください。当社ではニーズに合わせて様々なアレンジによるハッカソン開催が可能です。

また、ChatGPTの業務活用のご相談や、Azure OpenAI を活用したシステム開発などももちろん承っています。お気軽にご相談いただければと存じます。

今回の記事は以上です。お読みいただきありがとうございました。