チューリングのMLOpsチームは、Amazon SageMaker HyperPod＋Slurm＋Lustreで構築したGPUクラスターを、us-east-1からus-west-2へ移行した。移行の背景には、データセットのあるS3がオレゴンにあり転送料が発生していた問題がある。移行後はGPUノード数が同じでもコストが想定の約2倍になり、割引対象インスタンスなしでクラスターを作成したため割引が無効化されていたことが分かった。
ABEJAの藤本氏が、Dynamixelモーターと3Dプリンタ部品で2足歩行ロボットを自作し、IsaacLabでのシミュレーションまでの流れを紹介する。関節は3つに限定し、姿勢認識はIMUのみで行う構成である。制御には強化学習（PPO）を採用し、URDFからUSDへの変換、rsl_rlを用いたプロジェクト作成、環境と報酬の設定を解説している。
ABEJA の筆者が NVIDIA の医療系 AI プラットフォーム「NVIDIA Clara」を試し、MONAI Toolkit で内臓セグメンテーション用モデル VISTA-3D をファインチューニングして CT 画像で推論した。学習には腹部 CT 画像 150 枚と 5 epoch を用い、GCP の T4 1 台で動作させた。創薬分野では BioNeMo Framework でタンパク質言語モデル ESM-2 の学習と推論も試している。
DeepSeek-R1は、DeepSeek-V3-Baseを数千個規模のCoT付きデータでファインチューニングした後、GRPOによる強化学習で品質を改善するモデルである。強化学習の報酬にはReward Modelではなく、数学やコーディングの正解判定に基づくルールベースの報酬を用いており、報酬ハッキングを避ける狙いがあると説明されている。
ABEJAのデータサイエンティストが、OpenAIのgpt-oss-120bに論理クイズや数学の問題、詰将棋を解かせ、思考過程のログを検証した。設定はtemperature 1.0、reasoning effort highである。嘘つき特定問題では、各証言の真偽を場合分けして検討し、Bobが犯人となる組み合わせに至る過程が確認できる。
ELYZAのSolution事業部は、複数プロジェクトで再利用するプロンプトの読み込みとレンダリングに特化した社内ライブラリの要件と設計を紹介している。プロンプト定義にはTOMLを、テンプレートエンジンにはJinja2を採用し、Rendererはプラグインで追加できる構造とした。利用者には PromptTemplate.from_path() で読み込み、render() でレンダリングする単一のFacadeを提供し、fail-closeの原則で検証を行うとともに、ログにプロンプトやデータの中身を出力しない。
ELYZAは自社LLMプロダクト「ELYZA Works」の開発で、WebサービスとLLM領域をMQ（メッセージキュー）で分離する構成を採用している。Web側はTypeScript、LLM側はPythonを用い、それぞれ得意な技術で開発する体制を取っている。開発では要件定義、UI/UXデザイン（Figma）、Design Docによる設計、AIコーディング（主にClaude Code）を経てリリースしており、1機能の開発期間は約2週間を目安としている。
ELYZAの中村氏が、npmで公開されたオープンソースのAI駆動タスク管理ツール「Task Master」をClaude Codeと連携させて試した。PRDからAIがタスクとサブタスクを自動生成し、タスクはtasks.jsonで管理される。Claude CodeからMCPツール経由で次のタスクを取得して着手でき、Notionへの一方向エクスポート用スラッシュコマンドも自作している。
Mistralは、Pixtral-12Bを衛星画像でファインチューニングすると、ベースモデルより大きな改善が得られるとしている。評価にはAerial Image Dataset（AID）を用い、8,000件の学習データと2,000件のテストデータに分けた。プロンプトのみでは曖昧なクラスの識別や、存在しないクラス名の出力が課題だった。
ELYZAは、vLLMの推論サーバにSpeculative Decodingを適用し、同一ハードウェアのまま推論throughputを最大約1.7倍に高めた。ELYZA-tasks-100での評価では、Llama3.2-1Bをdraft modelとし、num_speculative_tokens=4としたときに最も高いTPS（32.25）を記録し、Speculative Decoding無しの18.90を上回った。GPT-4oスコアはベースラインの4.03とほぼ同等で、性能劣化は見られなかったとしている。
ELYZAの社内勉強会資料として、Reasoning Modelの仕組みと、推論時に計算資源を増やすことで性能が向上する「Inference Time Scaling」の意味が解説されている。OpenAIはo1で、思考時間を長くするほどスコアが一貫して改善する結果を示したとされる。ELYZAはMCTSによる推論パス探索で約15万件の合成データを生成し、ELYZA-Thinking-1.0の開発に用いた。
Mistral AIは、LLM as a Judge方式でRAGシステムを評価する方法を解説し、評価枠組みとしてRAG Triad（Context Relevance、Groundedness、Answer Relevance）を挙げている。RAG Triadは検索された文書と回答の両方を評価でき、検索と生成の双方を端から端まで評価するのに役立つとされる。同社APIのカスタム structured outputs を使えば、評価基準とスキーマを定義し、機械可読な形式でスコアを出力できる。