Connecting...

Banner Default Image

Senior LLM / Generative AI Engineer | RAG, Agents & LLMOps | JPY 10M-25M | Tokyo Hybrid

Company
Join a fast-growing AI and technology company specializing in digital transformation for Japan's financial services industry.
The company works with major banks, securities firms, asset managers and financial groups on enterprise AI and data initiatives.
The internal AI and Data organization is internationally diverse, while client-facing work is primarily conducted in Japanese.

What You’ll Do
You will act as the technical lead for enterprise Generative AI projects, taking responsibility from solution design through production deployment.
This is a player-coach role where you remain technically involved while leading a small team and owning overall delivery quality.

Key responsibilities include
  • Design enterprise applications using LLMs and Generative AI
  • Lead RAG and AI Agent architecture and implementation
  • Design prompts, model parameters and LLM API integration
  • Evaluate fine-tuning and other model adaptation approaches
  • Design LLM evaluation, monitoring and continuous improvement processes
  • Build and improve LLMOps practices
  • Work with AI Consultants and Data Engineers from requirements definition through implementation
  • Discuss technical solutions directly with enterprise customers
  • Review architecture, code and technical deliverables
  • Mentor junior and mid-level Data Scientists and AI Engineers
  • Lead technical delivery across small project teams
  • Turn reusable project knowledge into internal technical packages and AI products

What We’re Looking For
  • Strong professional experience across AI or Data Science
  • Hands-on experience delivering LLM / Generative AI projects
  • Experience building applications using commercial or cloud LLM APIs
  • Practical experience with RAG, fine-tuning, LLMOps or related Generative AI technologies
  • Experience leading small technical teams or AI projects
  • Strong customer-facing problem-solving capability
  • Business-level Japanese
  • Currently based in Japan
  • Professional working experience in Japan

会社について
金融業界に特化し、AI・データ活用とITコンサルティングを提供する成長中のテクノロジー企業です。
銀行、証券、資産運用会社、金融グループなど、大手金融機関を中心に生成AI・データ活用を支援しています。
社内には外国籍メンバーも在籍しており、英語を使用する機会もあります。

仕事内容
大手金融機関向けの生成AIプロジェクトにおいて、技術責任者として設計・開発・本番導入をリードします。
自ら技術に関わりながら、少人数のチームを率いてプロジェクト全体の技術品質と成果に責任を持つポジションです。

主な業務
  • LLMを活用した業務システム・アプリケーションの設計
  • プロンプト、パラメータ、API連携方針の設計
  • RAGシステムの設計・開発・改善
  • AIエージェントを活用した業務フローの設計・実装
  • ファインチューニングやモデル活用方法の検討
  • LLMの評価・監視・継続改善の仕組みづくり
  • 本番運用を見据えたLLMOpsの設計
  • AIコンサルタントやデータエンジニアと連携した要件定義
  • 顧客との技術的な議論・提案
  • ジュニア・ミドル層のメンバーへの技術支援
  • 設計・コード・成果物のレビュー
  • プロジェクト全体の技術品質・進行管理
  • プロジェクトで得た知見を技術パッケージや自社プロダクトへ還元

必須要件
  • AI・データ活用に関する実務経験
  • LLM・生成AIを活用したプロジェクト経験
  • LLM APIを利用したアプリケーション開発経験
  • RAG、ファインチューニング、LLMOpsなど生成AI関連技術への実務経験
  • 少人数チームの技術リードまたはプロジェクト推進経験
  • 顧客や利用部門と対話しながら課題を整理した経験
  • ビジネスレベル以上の日本語力
  • 現在日本国内に在住している方
  • 日本企業・日本国内での就業経験