Этот пост написан в соавторстве с Зденко Эсток, облачным архитектором в Accenture, и Сакаром Селимканом, DeepRacer SME в Accenture.
С ростом использования искусственного интеллекта (ИИ) и машинного обучения (МО) в подавляющем большинстве отраслей (от здравоохранения до страхования, от производства до маркетинга) основное внимание смещается на эффективность при построении и обучении моделей в масштабе. Ключевым моментом является создание масштабируемой и удобной среды для обработки данных. Запуск и настройка среды, адаптированной для конкретного варианта использования, может занять значительное время, а еще труднее настроить коллег на совместную работу.
По Accenture, компании, которым удается эффективно масштабировать ИИ и машинное обучение, могут почти втрое увеличить окупаемость своих инвестиций. Тем не менее, не все компании получают ожидаемую отдачу от своего пути AI/ML. Наборы инструментов для автоматизации инфраструктуры становятся необходимыми для горизонтального масштабирования усилий AI/ML внутри корпорации.
AWS Deep Racer — это простой и интересный способ начать работу с обучением с подкреплением (RL), методом машинного обучения, при котором агент обнаруживает оптимальные действия, которые необходимо предпринять в данной среде. В нашем случае это будет автомобиль AWS DeepRacer, пытающийся быстро мчаться по трассе. Вы можете быстро начать работу с RL с помощью практических руководств, которые проведут вас по основам обучения моделей RL и протестируют их в захватывающей, опыт гонок на автономных автомобилях.
В этом посте показано, как компании могут использовать инфраструктуру как код (IaC) с Комплект для разработки облачных сервисов AWS (AWS CDK), чтобы ускорить создание и тиражирование инфраструктуры с широкими возможностями переноса и легко конкурировать за масштабные мероприятия AWS DeepRacer.
«Комбинация IaC с управляемой средой Jupyter дала нам лучшее из обоих миров: воспроизводимые, легко переносимые среды обработки данных, которые мы могли использовать на борту наших конкурентов AWS DeepRacer, чтобы сосредоточиться на том, что у них получается лучше всего: быстром обучении быстрых моделей».
– Селимкан Сакар, AWS DeepRacer SME, Accenture.
Обзор решения
Организация всех необходимых сервисов занимает значительное время, когда речь идет о создании масштабируемого шаблона, который можно применять для различных вариантов использования. В прошлом, AWS CloudFormation созданы шаблоны для автоматизации создания этих сервисов. Благодаря достижениям в области автоматизации и настройки с повышением уровня абстракции для настройки различных сред с помощью инструментов IaC, AWS CDK получил широкое распространение на различных предприятиях. AWS CDK — это среда разработки программного обеспечения с открытым исходным кодом для определения ресурсов облачных приложений. Он использует знакомые и выразительные возможности языков программирования для моделирования ваших приложений, обеспечивая при этом ресурсы безопасным и воспроизводимым образом.
В этом посте мы включаем предоставление различных компонентов, необходимых для выполнения анализа журнала, с помощью Создатель мудреца Амазонки на AWS DeepRacer через AWS CDK конструкции.
Хотя график анализа, представленный в консоли DeepRacer, эффективен и прост в отношении предоставленных наград и достигнутого прогресса, он не дает представления о том, насколько быстро автомобиль движется через путевые точки или какую линию предпочитает автомобиль на трассе. . Здесь в игру вступает расширенный анализ журнала. Наш расширенный анализ журнала направлен на то, чтобы ретроспективно повысить эффективность обучения, чтобы понять, какие функции вознаграждения и пространства действий работают лучше, чем другие, при обучении нескольких моделей, и не является ли модель переобученной, чтобы гонщики могли тренироваться более разумно и достигать лучших результатов с меньшим количеством тренировок.
В нашем решении описывается конфигурация среды AWS DeepRacer с использованием AWS CDK для ускорения работы пользователей, экспериментирующих с анализом журналов SageMaker и обучением с подкреплением в AWS для мероприятия AWS DeepRacer.
Администратор может запустить сценарий AWS CDK, предоставленный в Репо GitHub через Консоль управления AWS или в терминале после загрузки кода в их среде. Шаги следующие:
- Откройте Облако AWS9 на консоли.
- Загрузите модуль AWS CDK из GitHub в среду AWS Cloud9.
- Настройте модуль AWS CDK, как описано в этом посте.
- Откройте файл cdk.context.json и проверьте все параметры.
- При необходимости измените параметры и запустите команду AWS CDK с предполагаемым пользователем, чтобы запустить настроенную среду, подходящую для этого пользователя.
Следующая диаграмма иллюстрирует архитектуру решения.
С помощью AWS CDK мы можем управлять версиями наших подготовленных ресурсов и иметь легко переносимую среду, которая соответствует передовым практикам на уровне предприятия.
Предпосылки
Чтобы подготовить среды ML с помощью AWS CDK, выполните следующие предварительные условия:
- Иметь доступ к учетной записи AWS и разрешениям в регионе для развертывания необходимых ресурсов для разных пользователей. Убедитесь, что у вас есть учетные данные и разрешения для развертывания стека AWS CDK в вашей учетной записи.
- Мы рекомендуем следовать некоторым передовым методам, которые выделены с помощью концепций, подробно описанных в следующих ресурсах:
- Клонировать Репо GitHub в вашу среду.
Разверните портфолио в своем аккаунте
В этом развертывании мы используем AWS Cloud9 для создания среды обработки данных с помощью AWS CDK.
- Перейдите к консоли AWS Cloud9.
- Укажите тип среды, тип экземпляра и платформу.
- Укажите свой Управление идентификацией и доступом AWS (IAM), VPC и подсеть.
- В вашей среде AWS Cloud9 создайте новую папку с именем DeepRacer.
- Выполните следующую команду, чтобы установить AWS CDK, и убедитесь, что у вас есть правильные зависимости для развертывания портфолио:
- Чтобы убедиться, что AWS CDK установлен, и получить доступ к документации, выполните следующую команду в своем терминале (она должна перенаправить вас к документации AWS CDK):
- Теперь мы можем клонировать репозиторий AWS DeepRacer из GitHub.
- Откройте клонированный репозиторий в AWS Cloud9:
После просмотра содержимого в DeepRacer_cdk
каталог, там будет файл с именем package.json
со всеми необходимыми модулями и зависимостями. Здесь вы можете определить свои ресурсы в модуле.
- Затем установите все необходимые модули и зависимости для приложения AWS CDK:
Это позволит синтезировать соответствующий шаблон CloudFormation.
- Чтобы запустить развертывание, либо измените файл context.json с именами параметров, либо явно определите их во время выполнения:
Следующие компоненты создаются для анализа журнала AWS DeepRacer на основе запуска скрипта:
- An Роль IAM для блокнота SageMaker с управляемой политикой
- A Экземпляр записной книжки SageMaker с типом экземпляра, явно добавленным как параметр контекста cdk, или значением по умолчанию, хранящимся в файле context.json.
- VPC с CIDR, как указано в файле context.json, вместе с четырьмя настроенными общедоступными подсетями.
- Новая группа безопасности для экземпляра ноутбука Sagemaker, позволяющая обмениваться данными внутри VPC.
- Политика жизненного цикла SageMaker со сценарием bash, который предварительно загружает содержимое другого Репозиторий GitHub, который содержит файлы, которые мы используем для запуска анализа журнала на моделях AWS DeepRacer.
- Вы можете запустить стек AWS CDK следующим образом:
- Перейдите в консоль AWS CloudFormation в регионе, где развернут стек, чтобы проверить ресурсы.
Теперь пользователи могут начать использовать эти сервисы для работы с анализом журналов и углубленным обучением модели RL в SageMaker для AWS DeepRacer.
Модульное тестирование
Вы также можете запустить некоторые модульные тесты перед развертыванием стека, чтобы убедиться, что вы случайно не удалили какие-либо необходимые ресурсы. Модульные тесты находятся в DeepRacer/test/deep_racer.test.ts
и может быть запущен с помощью следующего кода:
Создание диаграмм с помощью cdk-dia
Для создания диаграмм выполните следующие шаги:
- Установите
graphviz
с помощью инструментов вашей операционной системы:
Это устанавливает приложение cdk-dia.
- Теперь запустите следующий код:
Графическое представление вашего стека AWS CDK будет сохранено в формате .png.
После выполнения предыдущих шагов вы должны увидеть процесс создания экземпляра записной книжки со статусом В ожидании. Когда состояние экземпляра записной книжки В сервисе (как показано на следующем снимке экрана), вы можете перейти к следующим шагам.
- Выберите Открытый Юпитер чтобы запустить скрипт Python для выполнения анализа журнала.
Дополнительные сведения об анализе журналов с использованием AWS DeepRacer и соответствующих визуализаций см. Использование анализа журналов для проведения экспериментов и победы в гонке AWS DeepRacer F1 ProAm Race.
Убирать
Чтобы избежать текущих списаний, выполните следующие действия:
- Используйте cdk destroy для удаления ресурсов, созданных с помощью AWS CDK.
- В консоли AWS CloudFormation удалите стек CloudFormation.
Заключение
Мероприятия AWS DeepRacer — отличный способ повысить интерес и расширить знания в области машинного обучения на всех уровнях и уровнях организации. В этом посте мы рассказали, как настроить динамическую среду AWS DeepRacer и выборочные сервисы, чтобы ускорить переход пользователей на платформу AWS. Мы обсудили, как создавать сервисы Amazon SageMaker Notebook Instance, роли IAM, конфигурацию жизненного цикла SageMaker Notebook с использованием лучших практик, VPC и Эластичное вычислительное облако Amazon (Amazon EC2) на основе определения контекста с помощью AWS CDK и масштабирования для разных пользователей с помощью AWS DeepRacer.
Настройте среду CDK и запустите блокнот расширенного анализа журналов, чтобы повысить эффективность работы модуля. Помогите гонщикам добиться лучших результатов за меньшее время и получить подробную информацию о функциях вознаграждения и действиях.
Рекомендации
Более подробная информация доступна на следующих ресурсах:
- Автоматизация установки Amazon SageMaker Studio с помощью AWS CDK
- Справочник по API AWS SageMaker CDK
Об авторах
Зденко Эсток работает облачным архитектором и инженером DevOps в Accenture. Он работает с AABG над разработкой и внедрением инновационных облачных решений и специализируется на инфраструктуре как коде и облачной безопасности. Зденко любит ездить в офис на велосипеде и любит приятные прогулки на природе.
Селимкан «Кан» Сакар — первый разработчик облачных технологий и архитектор решений в Accenture, специализирующийся на искусственном интеллекте и страстно любящий наблюдать за схождением моделей.
Шихар Кватра является специалистом по разработке решений AI/ML в Amazon Web Services, работающим с ведущим глобальным системным интегратором. Шихар помогает в проектировании, создании и обслуживании экономичных, масштабируемых облачных сред для организации и поддерживает партнера GSI в создании стратегических отраслевых решений на AWS. Шикар любит играть на гитаре, сочинять музыку и практиковать осознанность в свободное время.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- Платоблокчейн. Интеллект метавселенной Web3. Расширение знаний. Доступ здесь.
- Источник: https://aws.amazon.com/blogs/machine-learning/configure-an-aws-deepracer-environment-for-training-and-log-analysis-using-the-aws-cdk/
- 10
- 100
- 11
- 7
- 9
- a
- в состоянии
- ускорять
- Accenture
- доступ
- случайно
- Учетная запись
- Достигать
- достигнутый
- через
- Действие
- действия
- добавленный
- дополнительный
- принял
- продвинутый
- достижения
- После
- Агент
- AI
- AI / ML
- пособие
- Цель
- Все
- Позволяющий
- Amazon
- Amazon EC2
- Создатель мудреца Амазонки
- Студия Amazon SageMaker
- Amazon Web Services
- количество
- анализ
- и
- Другой
- API
- приложение
- Применение
- Приложения
- прикладной
- архитектура
- около
- искусственный
- искусственный интеллект
- Искусственный интеллект (AI)
- помощь
- связанный
- автоматизировать
- автоматизация
- доступен
- избежать
- AWS
- Облако AWS9
- AWS CloudFormation
- AWS Deep Racer
- основанный
- колотить
- Основы
- становиться
- до
- не являетесь
- ЛУЧШЕЕ
- лучшие практики
- Лучшая
- приносить
- Строительство
- под названием
- Может получить
- автомобиль
- случаев
- случаев
- определенный
- изменение
- расходы
- облако
- Cloud Security
- Cloud9
- код
- сотрудничать
- коллеги
- сочетании
- Связь
- Компании
- конкурировать
- конкурентов
- полный
- компоненты
- Вычисление
- понятия
- Конфигурация
- значительный
- Консоли
- содержит
- содержание
- контекст
- контроль
- сходиться
- КОРПОРАЦИЯ
- соответствующий
- Создайте
- создали
- Создающий
- создание
- Полномочия
- данным
- наука о данных
- глубоко
- ДипРейсер
- По умолчанию
- определенный
- развертывание
- развернуть
- развертывание
- развертывание
- описано
- уничтожить
- подробный
- подробнее
- развивать
- Застройщик
- Развитие
- DevOps
- диаграммы
- различный
- Обнаруживает
- обсуждается
- документации
- не
- управлять
- в течение
- динамический
- легко
- Эффективный
- затрат
- эффективно
- усилия
- или
- включить
- инженер
- корпоративного уровня
- предприятий
- Окружающая среда
- средах
- существенный
- Эфир (ETH)
- Даже
- События
- События
- захватывающий
- ожидаемый
- выразительный
- f1
- фамильярность
- БЫСТРО
- Файл
- Файлы
- First
- Фокус
- после
- следующим образом
- формат
- Рамки
- от
- fun
- Функции
- Gain
- порождать
- получить
- GitHub
- Дайте
- данный
- Глобальный
- предоставленный
- график
- большой
- группы
- инструкция
- практический
- здравоохранение
- помощь
- Выделенные
- очень
- горизонтальный
- Как
- How To
- HTML
- HTTPS
- МАК
- IAM
- идентифицирующий
- Личность
- осуществлять
- in
- Увеличение
- повышение
- промышленности
- промышленность
- информация
- Инфраструктура
- инновационный
- понимание
- размышления
- устанавливать
- установлен
- пример
- страхование
- Интеллекта
- интерес
- Вложения
- IT
- путешествие
- JSON
- Основные
- Вид
- знания
- Языки
- запуск
- ведущий
- изучение
- уровни
- линия
- погрузка
- расположенный
- машина
- обучение с помощью машины
- Большинство
- сделать
- управлять
- управляемого
- управление
- способ
- производство
- Маркетинг
- Встречайте
- Внимательность
- ML
- модель
- моделирование
- Модели
- модуль
- Модули
- движется
- с разными
- Музыка
- имена
- природа
- почти
- необходимо
- необходимый
- Новые
- следующий
- ноутбук
- Офис
- Onboard
- постоянный
- с открытым исходным кодом
- Программное обеспечение с открытым исходным кодом
- операционный
- операционная система
- оптимальный
- заказ
- организация
- Другое
- параметр
- параметры
- партнер
- страсть
- мимо
- выполнения
- Разрешения
- Платформа
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- Играть
- игры
- политика
- «портфель»
- После
- мощностью
- практиками
- предпосылки
- первичный
- процесс
- Программирование
- языки программирования
- Прогресс
- при условии
- обеспечение
- что такое варган?
- Питон
- быстро
- Гонки
- гонщиков
- гоночный
- повышение
- ранжирование
- рекомендовать
- переориентировать
- по
- область
- усиление обучения
- удаление
- повторяемый
- копирование
- хранилище
- представление
- обязательный
- Полезные ресурсы
- Итоги
- возвращают
- Возвращает
- обзоре
- Предложение
- Награды
- Роли
- роли
- Run
- Бег
- безопасный
- sagemaker
- масштабируемые
- Шкала
- масштаб ай
- масштабирование
- Наука
- безопасность
- селективный
- Услуги
- набор
- установка
- общие
- Смены
- должен
- показанный
- Шоу
- просто
- умнее
- EMS
- So
- Software
- разработка программного обеспечения
- Решение
- Решения
- некоторые
- пространства
- специалист
- специализируется
- конкретный
- указанный
- стек
- Начало
- и политические лидеры
- Статус:
- Шаги
- По-прежнему
- хранить
- простой
- Стратегический
- студия
- подсети
- подсеть
- Поддержка
- система
- с учетом
- взять
- принимает
- шаблон
- шаблоны
- Терминал
- тестXNUMX
- тестов
- Ассоциация
- Основы
- их
- Через
- время
- в
- инструменты
- трек
- Train
- Обучение
- Тройной
- учебные пособия
- понимать
- Ед. изм
- us
- использование
- прецедент
- пользователей
- ценностное
- различный
- Огромная
- автомобиль
- проверить
- версия
- контроль версий
- с помощью
- наблюдение
- Web
- веб-сервисы
- Что
- будь то
- который
- в то время как
- широко
- будете
- выиграть
- в
- Работа
- работает
- работает
- мире
- бы
- ВАШЕ
- зефирнет