Build an internal developer platform for ML and AI systems
Benjamin Tan, Shanoop Padmanabhan, Varun Mallya

#Machine_Learning
#Engineering
#AI
#BentoML
#ML
#MLFlow
#MLOps
#LLMOps
#IDP
#Python
🚀 تحویل دادن یک پروژه یادگیری ماشین موفق واقعاً کار سختی است، اما این کتاب این مسیر را برایت سادهتر میکند. در این کتاب، تو یک سیستم یادگیری ماشین (ML) قابل اعتماد را از پایه طراحی میکنی و مفاهیم MLOps و DevOps را با مجموعهای از ابزارهای زیرساختی اثباتشده مثل Kubeflow، MLFlow، BentoML، Evidently و Feast ترکیب میکنی.
🏗️ یک سیستم یادگیری ماشین که درست طراحی شده باشد، جریانهای کاری داده را ساده میکند، همکاری بین تیمهای داده و عملیات را بهبود میبخشد و ساختار لازم را برای هر دو بخش آموزش و استقرار مدل فراهم میکند. در این کتاب یاد میگیری که چطور یک سیستم یادگیری ماشین را از صفر طراحی و پیادهسازی کنی. با مطالعه این راهنمای کاربردی، خیلی زود متوجه ارزش زیرساختهای خودکار یادگیری ماشین و مزایای آن میشوی.
📚 در کتاب مهندسی پلتفرم یادگیری ماشین یاد میگیری که چطور:
🔹 یک پلتفرم MLOps راهاندازی کنی
🔹 مدلهای یادگیری ماشین را در محیط عملیاتی مستقر کنی
🔹 خط لولههای داده (Data Pipelines) سرتاسری بسازی
🔹 مانیتورینگ و تفسیرپذیری موثر داشته باشی
🛠️ درباره تکنولوژی
سیستمهای هوش مصنوعی و یادگیری ماشین بخشهای متحرک زیادی دارند؛ از کتابخانههای زبان برنامهنویسی و فریمورکهای اپلیکیشن گرفته تا زیرساختهای گردش کار و استقرار، و حتی مدلهای پیشرفتهای مثل LLMها. یک پلتفرم توسعه داخلی (IDP) که خوب طراحی شده باشد، مجموعه مشخصی از ابزارها و دستورالعملها را در اختیار توسعهدهندگان میگذارد که باعث سرعت بخشیدن به فرآیند توسعه، ثبات بیشتر، امنیت بالاتر و تجربه بهتر برای برنامهنویسها میشود.
📖 درباره کتاب
کتاب مهندسی پلتفرم یادگیری ماشین به تو نشان میدهد چطور یک IDP موثر برای اپلیکیشنهای یادگیری ماشین و هوش مصنوعی بسازی. هر فصل کتاب یکی از بخشهای حیاتی جریان کاری یادگیری ماشین را روشن میکند؛ از جمله تنظیم خط لولههای ارکستراسیون، انتخاب مدل، تخصیص منابع برای آموزش، استنتاج (Inference) و سرویسدهی مدل. در طول مسیر، تو یک پلتفرم مدرن و چندمنظوره با استفاده از ابزارهای متنباز مثل Kubeflow، MLFlow، BentoML، Evidently، Feast و LangChain خلق میکنی.
📑 آنچه در داخل کتاب است
• راهاندازی یک پلتفرم MLOps/LLMOps سرتاسری
• استقرار مدلهای یادگیری ماشین و هوش مصنوعی در تولید
• مانیتورینگ، ارزیابی و تفسیرپذیری موثر
👨💻 درباره مخاطب کتاب
برای دانشمندان داده یا مهندسان نرمافزار. مثالها به زبان Python هستند.
📋 فهرست مطالب
بخش ۱: بنا کردن پایه و اساس MLOps
1 شروع کار با MLOps و مهندسی یادگیری ماشین
2 MLOps چیست؟
3 ساخت اپلیکیشنها روی کوبرنتیز (Kubernetes)
بخش ۲: ساخت قابلیتهای اصلی پلتفرم یادگیری ماشین
4 طراحی سیستمهای یادگیری ماشین قابل اعتماد
5 مدیریت و ارکستراسیون خط لولههای یادگیری ماشین
6 عملیاتی کردن مدلهای یادگیری ماشین
بخش ۳: به کارگیری MLOps در عمل
7 تحلیل و آمادهسازی دادهها
8 آموزش و اعتبارسنجی مدل: بخش اول
9 آموزش و اعتبارسنجی مدل: بخش دوم
10 استنتاج و سرویسدهی مدل
11 مانیتورینگ و تفسیرپذیری
بخش ۴: گسترش MLOps برای مدلهای زبانی بزرگ
12 طراحی سیستمهای قدرت گرفته از LLM
13 طراحی سیستمهای LLM در مقیاس عملیاتی
ضمیمه الف: نصب و راهاندازی
ضمیمه ب: مبانی YAML
✍️ درباره نویسندگان
بنجامین تان وی هائو سرپرستی تیمی از مهندسان یادگیری ماشین و دانشمندان داده را در DKatalis بر عهده دارد. شانوپ پادمانابهان مدیر مهندسی نرمافزار در شرکت Continental Automotive است. وارون مالیا مهندس ارشد یادگیری ماشین در DKatalis است.
شانوپ پادمانابهان مدیر مهندسی نرمافزار در Continental Automotive است، جایی که تیمی از مهندسان نرمافزار را با تمرکز بر ادراک مبتنی بر یادگیری ماشین برای خودروهای خودران هدایت میکند.
وارون مالیا مهندس یادگیری ماشین در DKatalis است و مسئولیت راهاندازی و نگهداری پلتفرم یادگیری ماشین این بانک را بر عهده دارد.
Delivering a successful machine learning project is hard. This book makes it easier. In it, you’ll design a reliable ML system from the ground up, incorporating MLOps and DevOps along with a stack of proven infrastructure tools including Kubeflow, MLFlow, BentoML, Evidently, and Feast.
A properly designed machine learning system streamlines data workflows, improves collaboration between data and operations teams, and provides much-needed structure for both training and deployment. In this book you’ll learn how to design and implement a machine learning system from the ground up. You’ll appreciate this instantly-useful introduction to achieving the full benefits of automated ML infrastructure.
In Machine Learning Platform Engineering you’ll learn how to:
• Set up an MLOps platform
• Deploy machine learning models to production
• Build end-to-end data pipelines
• Effective monitoring and explainability
About the Technology
AI and ML systems have a lot of moving parts, from language libraries and application frameworks, to workflow and deployment infrastructure, to LLMs and other advanced models. A well-designed internal development platform (IDP) gives developers a defined set of tools and guidelines that accelerate the dev process, improving consistency, security, and developer experience.
About the Book
Machine Learning Platform Engineering shows you how to build an effective IDP for ML and AI applications. Each chapter illuminates a vital part of the ML workflow, including setting up orchestration pipelines, selecting models, allocating resources for training, inference, and serving, and more. As you go, you’ll create a versatile modern platform using open source tools like Kubeflow, MLFlow, BentoML, Evidently, Feast, and LangChain.
What's inside
• Set up an end-to-end MLOps/LLMOps platform
• Deploy ML and AI models to production
• Effective monitoring, evaluation, and explainability
About the Reader
For data scientists or software engineers. Examples in Python.
Table of Contents
Part 1 Laying the MLOps foundation
1 Getting started with MLOps and ML engineering
2 What is MLOps?
3 Building applications on Kubernetes
Part 2 Building core ML platform capabilities
4 Designing reliable ML systems
5 Orchestrating ML pipelines
6 Productionizing ML models
Part 3 Applying MLOps in practice
7 Data analysis and preparation
8 Model training and validation: Part 1
9 Model training and validation: Part 2
10 Model inference and serving
11 Monitoring and explainability
Part 4 Extending MLOps for large language models
12 Designing LLM-powered systems
13 Production LLM system design
Appendix A Installation and setup
Appendix B Basics of YAML
About the Authors
Benjamin Tan Wei Hao leads a team of ML engineers and data scientists at DKatalis. Shanoop Padmanabhan is a software engineering manager at Continental Automotive. Varun Mallya is a senior ML engineer at DKatalis.
Shanoop Padmanabhan is a software engineering manager at Continental Automotive, where he leads a team of software engineers focusing on machine learning based perception for autonomous vehicles.
Varun Mallya is a machine learning engineer working at DKatalis where he is responsible for the setup and maintenance of the Bank’s machine learning platform.









