- Регистрация
- 26 Март 2018
- Сообщения
- 84.312
Название: Прикладной LLM для инженеров [Rebrain] [Василий Озеров]
Описание:
Разберись с LLM на практике: от запуска моделей на собственном железе с дообучением до RAG и написания собственных агентов и MCP серверов
Фундаментальный цикл LLM-инженерии
От инференса и квантования моделей на своём железе до продвинутых RAG-пайплайнов, тонкой настройки и создания агентов. Освойте весь стек технологий для создания AI-приложений.
Практическая оптимизация и экономика
Научитесь рассчитывать VRAM, выбирать между API и self-hosting, применять LoRA и квантизацию. Принимайте взвешенные инженерные и финансовые решения для развёртывания моделей.
RAG и агенты — новый стандарт
Создавайте умные ассистенты по своим данным и автоматизируйте задачи. Без этих технологий современные LLM не имеют доступа к актуальной информации и не могут действовать.
Немного отехнологиях практикума
Агенты: Автоматизация вместо генерации
Это переход от чат-бота к автономному сотруднику. Агенты с Function Calling сами выполняют задачи в CRM, ERP и других системах, экономя сотни человеко-часов.
RAG: «Память» для LLM
Любая модель без доступа к вашим данным бесполезна для бизнеса. RAG — основной способ заставить LLM работать с вашей документацией, базами знаний и актуальной информацией.
Fine-Tuning: Уникальное поведение модели
Никакие промпты не заставят модель говорить именно так, как нужно вам. Только LoRA/QLoRA позволяют адаптировать стиль, тон и структуру ответов под ваши продукты и процессы.
Квантизация: Запуск на железе потребителя
Без квантизации 7B-модель не запустить даже на RTX 4090. Эта технология позволяет развернуть мощный ИИ на ноутбуке или сервере без дорогих A100, радикально снижая стоимость владения.
N8N: Визуальная оркестрация LLM
N8N позволяет быстро создавать сложные LLM-пайплайны без переписывания кода. Вы визуально соединяете RAG, API-вызовы и базы данных, превращая идеи в работающие прототипы за часы, а не дни. Это мост между быстрым прототипированием и продакшен-решением.
Кому подойдёт
DevOps и SRE
Специалисты, которым нужно развертывать и масштабировать LLM-инфраструктуру. Получите практические навыки работы с vLLM, мониторингом и оптимизацией для production-сред
Data Scientist-исследователи
Аналитики данных, стремящиеся перейти от экспериментов к production-решениям. Курс научит инженерным аспектам: тонкой настройке, развертыванию моделей и построению RAG-систем.
Backend-разработчики
Программисты, желающие интегрировать LLM в свои приложения. Освоите создание AI-агентов, работу с векторными базами и облачными API для сложных продуктовых задач.
Продуктовые IT-архитекторы
Архитекторы, проектирующие системы с ИИ. Курс даст глубокое понимание всего стека LLM-технологий для принятия взвешенных решений о выборе инструментов и архитектуры.
Спойлер: Программа практикума Введение
Введение в LLM: Ландшафт, Архитектура и Инференс
Серверы Инференса
Запуск LLM на ноутбуке
Облачные модели
Fine-Tuning: Адаптация модели под себя
Работа с промптами: Инженерия запросов
Безопасность и Этика LLM: Защита и «Галлюцинации»
Векторные базы: Память для LLM
RAG: Создаём ассистента по своим данным
Продвинутые RAG-пайплайны: Повышаем качество
LlamaIndex: Фреймворк для RAG
Агенты и Function Calling
MCP (Model Context Protocol)
LangChain: Фреймворк-оркестратор
N8N: Low-code
Заключение
Эксперт практикума: Василий Озеров
Сооснователь Rebrain. — Участвовал в 50+ проектах — от технологических стартапов до крупных госпроектов. — Построил карьеру до позиции SVP of Infrastructur
Продажник:
Описание:
Разберись с LLM на практике: от запуска моделей на собственном железе с дообучением до RAG и написания собственных агентов и MCP серверов
Фундаментальный цикл LLM-инженерии
От инференса и квантования моделей на своём железе до продвинутых RAG-пайплайнов, тонкой настройки и создания агентов. Освойте весь стек технологий для создания AI-приложений.
Практическая оптимизация и экономика
Научитесь рассчитывать VRAM, выбирать между API и self-hosting, применять LoRA и квантизацию. Принимайте взвешенные инженерные и финансовые решения для развёртывания моделей.
RAG и агенты — новый стандарт
Создавайте умные ассистенты по своим данным и автоматизируйте задачи. Без этих технологий современные LLM не имеют доступа к актуальной информации и не могут действовать.
Немного отехнологиях практикума
Агенты: Автоматизация вместо генерации
Это переход от чат-бота к автономному сотруднику. Агенты с Function Calling сами выполняют задачи в CRM, ERP и других системах, экономя сотни человеко-часов.
RAG: «Память» для LLM
Любая модель без доступа к вашим данным бесполезна для бизнеса. RAG — основной способ заставить LLM работать с вашей документацией, базами знаний и актуальной информацией.
Fine-Tuning: Уникальное поведение модели
Никакие промпты не заставят модель говорить именно так, как нужно вам. Только LoRA/QLoRA позволяют адаптировать стиль, тон и структуру ответов под ваши продукты и процессы.
Квантизация: Запуск на железе потребителя
Без квантизации 7B-модель не запустить даже на RTX 4090. Эта технология позволяет развернуть мощный ИИ на ноутбуке или сервере без дорогих A100, радикально снижая стоимость владения.
N8N: Визуальная оркестрация LLM
N8N позволяет быстро создавать сложные LLM-пайплайны без переписывания кода. Вы визуально соединяете RAG, API-вызовы и базы данных, превращая идеи в работающие прототипы за часы, а не дни. Это мост между быстрым прототипированием и продакшен-решением.
Кому подойдёт
DevOps и SRE
Специалисты, которым нужно развертывать и масштабировать LLM-инфраструктуру. Получите практические навыки работы с vLLM, мониторингом и оптимизацией для production-сред
Data Scientist-исследователи
Аналитики данных, стремящиеся перейти от экспериментов к production-решениям. Курс научит инженерным аспектам: тонкой настройке, развертыванию моделей и построению RAG-систем.
Backend-разработчики
Программисты, желающие интегрировать LLM в свои приложения. Освоите создание AI-агентов, работу с векторными базами и облачными API для сложных продуктовых задач.
Продуктовые IT-архитекторы
Архитекторы, проектирующие системы с ИИ. Курс даст глубокое понимание всего стека LLM-технологий для принятия взвешенных решений о выборе инструментов и архитектуры.
Спойлер: Программа практикума Введение
Введение в LLM: Ландшафт, Архитектура и Инференс
Серверы Инференса
Запуск LLM на ноутбуке
Облачные модели
Fine-Tuning: Адаптация модели под себя
Работа с промптами: Инженерия запросов
Безопасность и Этика LLM: Защита и «Галлюцинации»
Векторные базы: Память для LLM
RAG: Создаём ассистента по своим данным
Продвинутые RAG-пайплайны: Повышаем качество
LlamaIndex: Фреймворк для RAG
Агенты и Function Calling
MCP (Model Context Protocol)
LangChain: Фреймворк-оркестратор
N8N: Low-code
Заключение
Эксперт практикума: Василий Озеров
Сооснователь Rebrain. — Участвовал в 50+ проектах — от технологических стартапов до крупных госпроектов. — Построил карьеру до позиции SVP of Infrastructur
Продажник:
Скрытый контент для пользователей All-dar.