Глубокое обучение с подкреплением. AlphaGo и другие технологии

Максим Лапань

Серия: Для профессионалов

Эта книга — подробное руководство по новейшим инструментам глубокого обучения с подкреплением и их ограничениям. Мы реализуем и проверим на практике методы кросс-энтропии и итерации по ценностям (Q-learning), а также градиенты по стратегиям. Для экспериментов используются самые разные среды обучения с подкреплением (RL), начиная с классических CartPole и GridWorld и заканчивая эмуляторами Atari и средами непрерывного управления (на основе PyBullet и RoboSchool). Множество примеров основано на нестандартных средах, в которых мы с нуля разработаем модель окружения.
В этой книге:
• вы узнаете, какое место в контексте глубокого обучения занимают методы RL, реализуете сложные модели глубокого обучения;
• изучите основу RL: марковские процессы принятия решений;
• рассмотрите примеры реализации методов RL: метод кросс-энтропии, DQN, A3C, TRPO, PPO, DDPG, D4PG и других;
• узнаете, как работать с дискретными и непрерывными пространствами действий в различных средах.
• увидите, как разработать систему, обучающуюся играм Atari, используя обучение с подкреплением;
• создадите собственную среду по модели OpenAI Gym для обучения биржевого агента;
• реализуете метод AlphaGo Zero для игры в Connect4;
• познакомитесь с применением RL в обработке речи: узнаете, как обучить диалогового бота на фразах из кинофильмов.