Kaigi on Rails 2024 に mov から kaiba が登壇します! mov Drinkupもやるので是非来てください!

こんにちは、kaibaと申します。 私はmovでLLM連携機能の開発を担当しており、Typo修正やFlakyなテストの修正、CIの改善など、幅広く対応しています。 今回は、LLM APIをRailsに組み込む話をお届けします皆さん、LLMは使ったことがありますか？ movでは、日常業務だけでなく、GoogleのVertex AIやChatGPTをサービスに統合して活用しています。 しかし、LLMをサービスにそのまま組み込むと、APIの応答が遅くなりがちです。ローディングイ