هوش مصنوعی در سال‌های اخیر به قابلیت‌های شگفت‌انگیزی در درک و تولید زبان دست یافته است. با پیشرفت‌های سریع در یادگیری عمیق، سیستم‌های زبانی هوش مصنوعی اکنون می‌توانند متن را بهتر از همیشه بنویسند و بفهمند. این روند، زمینه‌ساز ویژگی‌ها، محصولات و حتی صنایع جدیدی شده است.

در این کتاب با رویکرد آموزشی بصری، خوانندگان با ابزارها و مفاهیم کاربردی برای استفاده از این قابلیت‌ها در دنیای واقعی آشنا می‌شوند.

شما خواهید آموخت که چگونه از مدل‌های زبانی بزرگ (LLMs) آموزش‌دیده از قبل برای کاربردهایی مانند تولید محتوا و خلاصه‌سازی متن استفاده کنید؛ چگونه سیستم‌های جستجوی معنایی بسازید که فراتر از تطبیق کلیدواژه‌ها عمل کنند؛ و چطور از کتابخانه‌ها و مدل‌های آماده برای طبقه‌بندی متن، جستجو و خوشه‌بندی بهره ببرید.

این کتاب همچنین به شما کمک می‌کند تا:

• معماری مدل‌های زبانی ترنسفورمر را درک کنید که در تولید و نمایش متن عملکردی خارق‌العاده دارند
• پایپ‌لاین‌های پیشرفته LLM برای خوشه‌بندی اسناد متنی و کشف موضوعات آن‌ها ایجاد کنید
• موتورهای جستجوی معنایی بسازید که فراتر از جستجوی کلیدواژه‌ای عمل می‌کنند، با استفاده از روش‌هایی مانند بازیابی چگال (dense retrieval) و بازمرتب‌سازها (rerankers)
• نحوه‌ی استفاده از مدل‌های مولد را از مهندسی پرامپت تا بازیابی تقویت‌شده با تولید (RAG) بررسی کنید
• درک عمیق‌تری از نحوه آموزش مدل‌های زبانی بزرگ و بهینه‌سازی آن‌ها برای کاربردهای خاص به دست آورید، از طریق تکنیک‌هایی مانند ریزتنظیم مولد (generative fine-tuning)، ریزتنظیم متضاد (contrastive fine-tuning)، و یادگیری درون-متنی (in-context learning)

نظرات

«جی و مارتن در کتاب جدیدشان نیز همچون گذشته، با ارائه توضیحاتی دقیق و بصری درباره‌ی مفاهیم پیچیده، درخشیده‌اند. این کتاب با کدهای اجرایی، تایم‌لاین‌ها و ارجاع به مقالات کلیدی تقویت شده و منبعی ارزشمند برای هر کسی است که می‌خواهد با تکنیک‌های اصلی ساخت مدل‌های زبانی بزرگ آشنا شود.»

— اندرو انگ (Andrew Ng)، بنیان‌گذار DeepLearning.AI

«نمی‌توانم کتابی را تصور کنم که در حال حاضر خواندنش مهم‌تر باشد. در هر صفحه، چیزی آموختم که برای موفقیت در عصر مدل‌های زبانی حیاتی است.»

— جاش استارمر (Josh Starmer)، StatQuest

«این کتاب راهنمایی استثنایی برای ورود به دنیای مدل‌های زبانی و کاربردهای عملی آن‌ها در صنعت است. پوشش بسیار تصویری آن از کاربردهای مولد، بازنمایی و بازیابی در مدل‌های زبانی، به خواننده کمک می‌کند تا درک، استفاده و بهینه‌سازی LLMها را به‌سرعت یاد بگیرد. به‌شدت توصیه می‌شود.»

— نیلس رایمرز (Nils Reimers)، مدیر یادگیری ماشین در Cohere | خالق Sentence-Transformers

«اگر به‌دنبال تسلط سریع بر هر آنچه به LLMها مربوط است هستید، این کتاب را از دست ندهید! جی و مارتن در این اثر فوق‌العاده شما را از صفر تا متخصص در تاریخچه و آخرین پیشرفت‌های مدل‌های زبانی بزرگ همراهی می‌کنند. با توضیحات شهودی، مثال‌های واقعی، نمودارهای روشن و آزمایشگاه‌های کد جامع، این کتاب پرده از پیچیدگی‌های مدل‌های ترنسفورمر، توکنایزرها، جستجوی معنایی، RAG و بسیاری فناوری‌های پیشرفته دیگر برمی‌دارد. یک اثر ضروری برای علاقه‌مندان به جدیدترین فناوری‌های هوش مصنوعی!»

— لوئیس سرانو (Luis Serrano), PhD، بنیان‌گذار و مدیرعامل Serrano Academy

«این کتاب برای هر کسی که به حوزه‌ی در حال تحول هوش مصنوعی مولد علاقه‌مند است، ضروری است. با تمرکز بر تعبیه‌های متنی و تصویری، ترکیبی عالی از تکامل الگوریتمی، دقت نظری و راهنمایی‌های عملی ارائه می‌دهد. چه دانشجو باشید، چه پژوهشگر یا متخصص صنعت، این کتاب ابزارها و راهکارهای لازم برای ارتقای دانش شما از هوش مصنوعی مولد را فراهم می‌کند. عالی بود!»

— کریس فرگلی (Chris Fregly)، معمار ارشد راهکارهای GenAI در AWS

AI has acquired startling new language capabilities in just the past few years. Driven by rapid advances in deep learning, language AI systems are able to write and understand text better than ever before. This trend is enabling new features, products, and entire industries. Through this book's visually educational nature, readers will learn practical tools and concepts they need to use these capabilities today.

You'll understand how to use pretrained large language models for use cases like copywriting and summarization; create semantic search systems that go beyond keyword matching; and use existing libraries and pretrained models for text classification, search, and clusterings.

This book also helps you:

• Understand the architecture of Transformer language models that excel at text generation and representation
• Build advanced LLM pipelines to cluster text documents and explore the topics they cover
• Build semantic search engines that go beyond keyword search, using methods like dense retrieval and rerankers
• Explore how generative models can be used, from prompt engineering all the way to retrieval-augmented generation
• Gain a deeper understanding of how to train LLMs and optimize them for specific applications using generative model fine-tuning, contrastive fine-tuning, and in-context learning

Table of Contents

Part I. Understanding Language Models

Chapter 1. An Introduction to Large Language Models

Chapter 2. Tokens and Embeddings

Chapter 3. Looking Inside Large Language Models

Part II. Using Pretrained Language Models

Chapter 4. Text Classification

Chapter 5. Text Clustering and Topic Modeling

Chapter 6. Prompt Engineering

Chapter 7. Advanced Text Generation Techniques and Tools

Chapter 8. Semantic Search and Retrieval-Augmented Generation

Chapter 9. Multimodal Large Language Models

Part Ill. Training and Fine-Tuning Language Models

Chapter 10. Creating Text Embedding Models

Chapter 11. Fine-Tuning Representation Models for Classification

Chapter 12. Fine-Tuning Generation Models

Review

"Jay and Maarten have continued their tradition of providing beautifully illustrated and insightful descriptions of complex topics in their new book. Bolstered with working code, timelines, and references to key papers, their book is a valuable resource for anyone looking to understand the main techniques behind how large language models are built."

- Andrew Ng, Founder of DeepLearning AI

"I can't think of another book that is more important to read right now. On every single page, I learned something that is critical to success in this era of language models."

-Josh Starmer, StatQuest

"This is an exceptional guide to the world of language models and their practical applications in industry. Its highly-visual coverage of generative, representational, and retrieval applications of language models empowers readers to quickly understand, use, and refine LLMs. Highly recommended!"

-Nils Reimers, Director of Machine Learning at Cohere | creator sentence-transformers

"If you're looking to get up to speed in everything regarding LLMs, look no further! In this wonderful book, Jay and Maarten will take you from zero to expert in the history and latest advances in large language models. With intuitive explanations, great real-life examples, clear illustrations, and comprehensive code labs, this book lifts the curtain on the complexities of transformer models, tokenizers, semantic search, RAG, and many other cutting-edge technologies. A must read for anyone interested in the latest AI technology!"

- Luis Serrano, PhD, Founder and CEO - Serrano Academy

"This book is a must-read for anyone interested in the rapidly-evolving field of generative AI. With a focus on both text and visual embeddings, it's a great blend of algorithmic evolution, theoretical rigor, and practical guidance. Whether you are a student, researcher, or industry professional, this book will equip you with the use cases and solutions needed to level-up your knowledge of generative AI. Well done!"

- Chris Fregly, Principal Solution Architect, Generative AI at AWS

About the Authors

Jay Alammar is Director and Engineering Fellow at Cohere (pioneering provider of large language models as an API). In this role, he advises and educates enterprises and the developer community on using language models for practical use cases). Through his popular AI/ML blog, Jay has helped millions of researchers and engineers visually understand machine learning tools and concepts from the basic (ending up in the documentation of packages like NumPy and pandas) to the cutting-edge (Transformers, BERT, GPT-3, Stable Diffusion). Jay is also a co-creator of popular machine learning and natural language processing courses on Deeplearning.ai and Udacity.

Maarten Grootendorst is a Senior Clinical Data Scientist at IKNL (Netherlands Comprehensive Cancer Organization). He holds master's degrees in organizational psychology, clinical psychology, and data science which he leverages to communicate complex Machine Learning concepts to a wide audience. With his popular blogs, he has reached millions of readers by explaining the fundamentals of Artificial Intelligence--often from a psychological point of view. He is the author and maintainer of several open-source packages that rely on the strength of Large Language Models, such as BERTopic, PolyFuzz, and KeyBERT. His packages are downloaded millions of times and used by data professionals and organizations worldwide.