Job offer curation - ⁨レッドチーム⁩

AI Governance Leaderとして、国産大規模言語モデル（LLM）の研究開発および生成AIサービスシステムの開発におけるガバナンス全般を担当します。具体的には、LLMを含む生成AI開発に関わるリスク調査を行い、戦略を策定し、方針を検討します。また、生成AI開発に関連する各種ルールの策定やモニタリングを実施し、ガバナンスの管理を行います。さらに、ルールメイクに関わるステークホルダーとの折衝やロビイングを行い、R&Dや技術開発、管理部門など他部門との連携を図ります。これらの業務を通じて、AI開発におけるリスクを最小限に抑え、企業のガバナンス体制を強化することが求められます。

AI Governance Memberとして、国産大規模言語モデル（LLM）や生成AIサービスの開発におけるガバナンス全般に関わります。具体的には、LLMを含む生成AI開発に関連するリスク調査を行い、戦略を策定し、方針を検討します。また、生成AI開発に関する各種ルールの策定やモニタリングを実施し、ガバナンスの管理を行います。さらに、ルールメイクに関わるステークホルダーとの折衝やロビイングを行い、R&Dや技術開発、管理部門など他部門との連携を図ります。これにより、生成AIの安全性と信頼性を確保し、業界のリーダーとしての地位を築くことを目指します。

Research Scientist（Responsible AI）として、AI技術の安全性や信頼性を確保するための先駆的な研究開発を行います。具体的には、AI検査基盤の自動化や大規模化を目指した研究を進め、頑健で効率的なモデレーション技術やGuardrailの開発に取り組みます。また、プライバシー保護に関する機械学習の研究や、フェイクコンテンツの検知と対策技術の開発も重要な業務です。さらに、国内外の研究機関との共同研究を通じて、研究成果を発表し、知財化を推進することも求められます。これにより、AIの安全性に関する規制やガイドラインの策定において業界をリードする役割を果たします。

このポジションでは、AIの安全性、信頼性、セキュリティに関する課題を解決するための研究開発を行います。具体的には、AI検査基盤の構築や運用、自動化を通じて、AIモデルのモデレーションを行います。SFT、RLHF、RLAIFなどの手法を用いて、AIの出力を適切に管理し、Guardrailや異常検知の開発を行います。また、安全性に関するデータ基盤を構築し、TEEを活用したプライバシー保護機械学習基盤の設計にも関与します。これにより、AIが持つ潜在的なリスクを特定し、対策を講じることで、より安全なAI技術の実現を目指します。さらに、論文や特許を通じて知財化を進め、業界のリーダーとしての地位を確立することも重要な業務の一環です。