LayerX Blog Langfuse ClickHouse AWS Fargate

バクラク事業部 Platform Engineering 部 SRE グループの uehara です。 この記事では LLMOps プラットフォーム Langfuse のストレージとして利用する ClickHouse について、AWS Fargate で実現したクラスタ構成を紹介します。 背景 LayerX では行動指針を 「Bet Technology」から「Bet AI」へ変更 するなど、数あるテクノロジーの中でも AI や LLM に注力しています。 LLM を用いた機能開発や検証を進めるうえで LLMOps プラットフォームとして Langfuse を利用することとなりました。LLMO...