NEW 株式会社Preferred Networks 大規模言語モデル 事前学習エンジニア

ブックマーク一覧

仕事内容	Preferred Networksでは大規模言語モデル(LLM)を中心としたマルチモーダルな基盤モデルの開発を進めています。LLM・生成AIの基盤モデル開発に加え、エンタメ、科学計算、ロボットといった自社事業領域を強化するための応用開発や、多様な産業への応用研究も行っています。 事前学習チームの役割は、LLMの大規模な事前学習を行い、高性能な事前学習モデルを構築することです。事後学習を終えた後のモデルが実用的で価値の高いものとなるようにLLMに知識や能力を学習させる必要があります。 強化学習などの手法の発展により、LLMは事後学習によって様々な能力を発揮させることができるようになっている一方で、事前学習で全く学習できていない能力を事後学習で発揮させることは難しいという報告もあります。事後学習で高い性能を発揮させるためには、事前学習での取り組みも重要です。 大規模言語モデル-事前学習エンジニアは、高性能なLLMの事前学習のために必要な研究開発に取り組みます。事前学習モデルの最終的な性能を決めるデータセット戦略・モデルアーキテクチャ・学習手法の研究開発以外にも、大規模・長期間の学習を効率よく安定して実行し続けるための取り組みなども行っています。 ＜業務例＞ ・事前学習において、大量の計算資源を効率良く用いるための最適化やソフトウェアの研究開発 ・長期間の学習を安定して動作させるための研究開発や運用 ・事前学習モデルの性能を正しく計測するための研究開発 ・事前学習モデルの性能を向上させるためのデータセットに関する研究開発 ・基盤モデルに獲得させたい知識や能力に応じた学習データの収集・構築の戦略検討および品質管理・運用 ・基盤モデルの能力を測るためのベンチマークの調査、必要に応じて新規ベンチマークの構築 ・事前学習モデルの性能を向上させるための学習手法(DNNアーキテクチャやoptimizerなど)の研究開発 実際の業務はこれに限定されるものではありません。入社後に実際にご担当いただく業務内容は、専門的知識・経験を考慮のうえ決定します。 事前学習LLMの開発に携わりたい方、熱意のある方のご応募をお待ちしています。
経験・資格	※求人情報の応募要件全てに該当しなくても、企業様に対して内々に打診したり相談することが可能な場合もございます。一つでも当てはまる方は前向きにご検討下さい。 【必須要件】 ・コンピュータサイエンスの知識や関心 ・コンピューターサイエンスのすべての分野への精通を目指し、常に最先端の技術を追いかけ続けていること ・特に、機械学習または自然言語処理に関する研究または実務の経験および実績 ・Pythonを使ったソフトウェア開発経験 ・コンピューターアーキテクチャーを理解し、ソフトウェアの実効効率や、計算量を意識したプログラムの作成が出来ること ・数学、自然科学(物理、化学など)に関する、大学卒業程度の知識(もしくは学習により習得可能なこと) ・チームでの課題解決の経験 【歓迎要件】 ・DNNの分散学習を行った経験 ・大規模なGPUクラスタを利用した際のトラブルシューティングなどの経験 ・速度性能ボトルネックの改善経験 ・大規模なデータ前処理の経験 ・大規模言語モデルの学習データセットやベンチマークの設計・構築経験 ・データ収集・生成・前処理・学習・評価までのパイプラインの構築経験 ・機械学習OSSへのコントリビューション経験 ・プログラミング競技コンテスト、ゲームAIコンテスト、データ分析コンテスト(Kaggleなど)などの実績・経験 ・研究に対する優れた実績 ・開発プロジェクトにおける3名以上のチームのリーダーシップ経験 ※更なる詳細事項は、カウンセリング（面談）時にお伝えします。
想定年収	※ご経験、スキルにより応相談
勤務地	東京都千代田区大手町 1 丁目 6 番 1 号 大手町ビル
勤務時間	専門労働型裁量労働制(みなし労働時間：8時間)もしくはフレックス制 ハイブリッド勤務(オフィス出社と在宅勤務を組み合わせての勤務)
休日・休暇	休日：土曜日、日曜日、国民の祝日、国民の休日、年末年始 当社規定による年次有給休暇制度（入社時26日付与） 育児休暇、慶弔休暇など
試用期間	試用期間3ヶ月、本採用と同条件
昇給・給与	年2回の人事評価及び会社業績に基づいて決定
加入保険	社会保険完備（厚生年金保険、健康保険、雇用保険、労災保険）
企業データ	会社名 株式会社Preferred Networks 事業内容 AIチップ、計算基盤、生成AI基盤モデルなどのAI関連技術を活用したソリューション・製品の開発・販売および研究開発 設立 2014年3月26日 従業員数 約 400 名
取材班による独自解説	独自技術でAIのバリューチェーンを垂直統合する国内屈指のディープテック集団。先端研究と事業化を両立し、AIアバター等の新サービスも展開。最先端技術で社会課題を解決したいエンジニア・ビジネス人材に絶好の環境である。 2014年3月設立のディープテック・スタートアップ。AI半導体の自社開発からスーパーコンピュータ等の計算基盤、生成AI基盤モデル（「PLaMo」シリーズ）、各種AIソリューションまで、AIのバリューチェーン全4レイヤーを垂直統合で自社開発する稀有な技術集団として知られる。 事業範囲は製造、材料、ライフサイエンス、ロボティクス、教育・エンタメまで多岐にわたる。ENEOSと共同開発した汎用原子レベルシミュレータ「Matlantis」は国内外100以上の企業・団体に導入され、外観検査ソフト「Preferred Networks Visual Inspection」は200社以上の導入実績を持つ。また、子会社による自律搬送ロボット「カチャカ」や全国900教室以上で導入されるプログラミング教材「Playgram」、AIアバターによるHRサービス「タレスカ」など、研究にとどまらない強固な社会実装力が魅力だ。直近では2026年6月に国産生成AI基盤モデルのフラッグシップ「PLaMo 3.0 Prime」を正式リリースするなど、先端技術のプロダクト化を加速させている。 =================== ＜出資企業(五十音順)＞ SBIグループ、NTT株式会社、ENEOSイノベーションパートナーズ合同会社、株式会社講談社、信越化学工業株式会社、SUMISEI INNOVATION FUND、積水ハウス投資事業有限責任組合、中外製薬株式会社、TBSイノベーション・パートナーズ3号投資事業組合、TEL Venture Capital, Inc.、東映アニメーション株式会社、トヨタ自動車株式会社、株式会社日本政策投資銀行、株式会社博報堂DYホールディングス、株式会社日立製作所、ファナック株式会社、株式会社みずほ銀行、三井住友信託銀行株式会社、三井物産株式会社、三菱商事株式会社、三菱UFJ信託銀行株式会社、株式会社ワコム　他
Recruiting No.	01009209000057