募集強化中
LLM深層学習エンジニア
Spiral.AI株式会社
- Python
- AWS
- 機械学習
- Docker
- PyTorch
- 強化学習
- BERT
- 言語モデル
- LoRA
- RLHF
- Poetry
- HuggingFace系ライブラリ
- Weights&Biases
- NVidia A100 GPUサーバー
- Int8
- adafactor
- GPUサーバーのメンテナンス
-
東京都
-
10名以下
-
企業ページ
■会社情報
Spiral.AI株式会社は、独自のLLMを開発し、LLMを中核に据えた「LLMネイティブな事業開発」を支援しています。ChatGPTは、RLHFにより、元々のLLMを矯正し、人間にとって役に立つ会話が実現される一方、様々な制約が発生しています。Spiral.LLMでは、独自モデルを開発し、制約を取り払ったLLMを構築し、会話体験の楽しさを追求しています。■仕事内容
Spiral.AI株式会社では、LLMを中核に据えた「LLMネイティブな事業開発」を支援するため、独自のLLMを開発する業務が求められます。具体的な業務内容は、学習データの収集・作成・クレンジング、アプリケーション開発、学習の実施・モニタリング、精度評価手法の検討・実装、学習記録の整理・可視化、プロジェクト全体の進捗管理、計算資源のメンテナンス、最新研究の調査・社内共有、対外発表・記事の掲載などが含まれます。また、LLMの性能改善サイクルを回すための仕組みづくりや、7Bモデルの学習データの追加、各種ハイパーパラメーターの調整、RLHFを行うためのアプリケーション開発なども行います。開発環境としては、Python、PyTorch、HuggingFace系ライブラリ、NVidia A100 GPUサーバー、AWS、Docker、Poetryなどが使用されます。■必須スキル
・自ら実験計画を立てることができる。仮説を持ち、それを検証するための方法を考え、実験することができる。
・実験結果をログとして記録し、複数を比較して考察することができる。それをチームにレポートして、認識を揃えることができる。
・BERTなどの言語モデルを学習させた経験がある。学習・推論させるだけなく、定量的な評価を行うことができる。
■歓迎スキル
・機械学習分野における修士・博士の学位
・機械学習分野における国際会議での発表
・OSSや技術コミュニティへの貢献の実績
・強化学習やRLHFを利用した経験
・LoRA, Int8, adafactorなどを用いた省メモリ環境でLLMを学習させた経験
・データ収集を立案・実行した経験。そのためのアプリケーションを開発した経験
・GPUサーバーのメンテナンス経験
この会社・ジョブについてのコメント
金重 幸人株式会社LabBase（ラボベース）
IPO経験のある元ニューラルポケットのCTO・COO・CFOが創業した会社。大規模言語モデル自体の開発を行っている。特にエンタメ領域に強みを持ちAIキャラクター事業に注力。
金重 幸人株式会社LabBase（ラボベース）
独自の大規模言語モデル（LLM）を構築する開発力を軸に、コミュニケーションに注力したAI開発を行う。自然なコミュニケーションを実現する「AIキャラクター事業」等を提供。
Spiral Capital株式会社
経験豊富な経営陣（前職AI企業で上場を実現した経営陣が揃っている）が魅力です。IQではなくEQに強い口語形式の独自LLMを開発し、芸能人やアニメキャラのAIボット化等をしています。