募集要項

募集職種

【東京：リモート】LMモデル学習・分散学習最適化エンジニア

仕事内容

【職務概要】
同社にて、大規模言語モデル（LLM）開発における継続事前学習（CPT）、教師あり微調整（SFT）、強化学習（RL）の学習実行とパフォーマンス評価・改善業務を担当していただきます。
【職務詳細】
・大規模言語モデルの開発における継続事前学習（CPT）、教師あり微調整（SFT）、および強化学習（RL）の学習実行と検証
・WandBなどの実験管理ツールを用いた評価結果の調査、および各種ログ分析に基づく学習効率・性能のボトルネック特定
・特定したボトルネックに対する仮説ベースの改善策（ハイパーパラメータや分散トポロジーの調整等）の立案・検証・適用
・モデル学習の効率化や精度向上に向けた、合成データ生成を含むデータパイプラインの運用と評価
・分散学習フレームワークを用いた、モデルの学習安定性およびメモリ効率化に関する検証・チューニング
【プロジェクトのやりがい】
・計算資源の制約や順番待ちに縛られることなく、自身の立てた仮説に基づく大規模な実験・検証を迅速に実行できます。
・評価メトリクスやログといった定量データからボトルネックを紐解き、自身のチューニングによって学習効率やモデル性能が向上していく手応えをダイレクトに実感できます。

雇用形態

正社員（中途）

応募資格

【必須】
・深層学習モデル（特に大規模モデル）の CPT／SFT／RL 等学習実行経験、および実験管理ツールやログ（WandBなど）を用いたパフォーマンス評価・ボトルネックの改善経験
【尚可】
・AWS ParallelClusterやSlurmなどのHPC／クラスタ環境を用いた実務経験
・Megatron BridgeやNVIDIA-NeMo／RLなどの先端フレームワークを用いた最適化経験
・CPT、SFT、強化学習（RL／RLHF）のパイプライン構築や、データ処理（合成データ生成等）の効率化に関する知見
・GPU間通信（NCCL等）のチューニングや、インフラレイヤにおけるボトルネック解析の経験
・関連する技術ドキュメントや論文を読み解き、システム設計へ適用できる能力

勤務地

東京都港区芝浦1-1-1 BLUE FRONT SHIBAURA TOWER S 31階

勤務時間

始業10時00分、終業19時00分を基本とし、労働者の決定に委ねる
※9時間勤務したものとみなす

想定給与

※経験、スキルにより決定致します。

待遇・福利厚生

社員持株会制度（持株会奨励金として拠出金額の100％を補助）、社外活動費補助、語学研修補助、ビジネススキルアップサポート、資格取得補助、産業医によるメンタルヘルスサポート、ドリンク補助、書籍購入補助、キーボードなどの備品購入補助、子供手当、特別賞与、社外常駐手当

休日・休暇

完全週休2日制(土・日・祝日)、夏季休暇、年末年始休暇