Тихомиров М.М. - Обучение больших языковых моделей - 2. Механизм внимания, архитектура трансформер

Механизм внимания, архитектура трансформер Тихомиров Михаил Михайлович 00:17 Архитектура трансформер 02:31 Токенизация слоя 07:22 Позиционное кодирование 10:57 Преобразование векторов через трансформер-блоки 32:47 Итоговое предсказание слова линейным слоем 45:58 Transformer: первое впечатление 48:26 BERT 57:13 Некоторые практические аспекты работы с LLM 01:17:05 Домашнее задание Ссылка на плейлист Teach-In: https://teach-in.ru/course/fundamentals-of-training-llm-tihomirov Ссылка на плейлист YouTube: https://www.youtube.com/playlist?list=PLcsjsqLLSfNAz_J4tGrLSI--CzdYyhnj3 Ссылка на плейлист VK: https://vkvideo.ru/playlist/-176441665_866 Ссылка на плейлист RuTube: https://rutube.ru/plst/1513656 #teach_in #МГУ #MSU #Artificial_intelligence #искусственный_интеллект #ИИ #AI #лекция #lecture #Тихомиров #Tikhomirov #LLM #языковое_моделирование #language_modeling #архитектура_Трансформер #Transformer_Architecture #BERT