DeNA × AI Day

Specific Lane 16:30 ~

LLMの事業適用を加速させるLLMOps

  • #LLMOps
  • #AI
  • #llm
  • #rag

DeNAでは近頃生成 AI の案件が次々と立ち上がっています。 データサイエンティストと共同で開発をしていく中でシステム的な課題が多く発生します。 システム的な品質を担保しつつ開発をドライブしていくためには、どのようなアプローチが有効でしょうか。 LLMOps というのが何なのか、また MLOps との違いは何なのか独断と偏見で解説していきます。

  • Hiroshi Toyama
    Hiroshi Toyama
    外山 寛

    2018年に DeNA に中途入社。 入社後はデータ基盤部に配属され、データエンジニアリング、MLOps、SRE業務を転々とし現在はLLMOPSを生業としている。AWS, Azure, GCPの三刀流エンジニアを自負。