Этот пост написан в соавторстве с Чаояном Хэ, Аль Неваресом и Салманом Авестимером из FedML.
Многие организации внедряют машинное обучение (ML), чтобы улучшить процесс принятия бизнес-решений за счет автоматизации и использования больших распределенных наборов данных. Благодаря расширению доступа к данным, машинное обучение может предоставить беспрецедентную бизнес-информацию и возможности. Однако обмен необработанной, неочищенной конфиденциальной информацией в разных местах создает значительные риски для безопасности и конфиденциальности, особенно в регулируемых отраслях, таких как здравоохранение.
Чтобы решить эту проблему, федеративное обучение (FL) — это децентрализованная и совместная методика обучения машинному обучению, которая обеспечивает конфиденциальность данных, сохраняя при этом точность и достоверность. В отличие от традиционного обучения ML, обучение FL происходит в изолированном клиентском местоположении с использованием независимого безопасного сеанса. Клиент передает только параметры своей выходной модели централизованному серверу, известному как координатор обучения или сервер агрегации, а не фактические данные, используемые для обучения модели. Этот подход решает многие проблемы конфиденциальности данных, обеспечивая при этом эффективное сотрудничество при обучении моделей.
Хотя FL является шагом на пути к повышению конфиденциальности и безопасности данных, он не является гарантированным решением. Небезопасные сети, в которых отсутствует контроль доступа и шифрование, все равно могут предоставлять конфиденциальную информацию злоумышленникам. Кроме того, локально обученная информация может раскрыть конфиденциальные данные, если их реконструировать с помощью атаки вывода. Чтобы снизить эти риски, модель FL использует персонализированные алгоритмы обучения, а также эффективное маскирование и параметризацию перед передачей информации координатору обучения. Строгий сетевой контроль в локальных и централизованных точках может еще больше снизить риски ложных выводов и утечки информации.
В этом посте мы поделимся подходом FL, используя FedML, Амазон Эластик Кубернетес Сервис (Amazon EKS) и Создатель мудреца Амазонки улучшить результаты лечения пациентов, одновременно решая проблемы конфиденциальности и безопасности данных.
Необходимость федеративного обучения в здравоохранении
Здравоохранение в значительной степени полагается на распределенные источники данных, чтобы делать точные прогнозы и оценки ухода за пациентами. Ограничение доступных источников данных для защиты конфиденциальности отрицательно влияет на точность результатов и, в конечном итоге, на качество лечения пациентов. Таким образом, машинное обучение создает проблемы для клиентов AWS, которым необходимо обеспечить конфиденциальность и безопасность распределенных объектов без ущерба для результатов лечения пациентов.
При внедрении решений FL медицинские организации должны соблюдать строгие нормативные требования, такие как Закон о переносимости и подотчетности медицинского страхования (HIPAA) в США. Обеспечение конфиденциальности, безопасности и соответствия требованиям становится еще более важным в здравоохранении, требуя надежного шифрования, контроля доступа, механизмов аудита и безопасных протоколов связи. Кроме того, наборы данных здравоохранения часто содержат сложные и разнородные типы данных, что затрудняет стандартизацию и совместимость данных в условиях Флориды.
Обзор вариантов использования
Вариант использования, описанный в этом посте, касается данных о сердечных заболеваниях в различных организациях, на основе которых модель ML будет запускать алгоритмы классификации для прогнозирования сердечных заболеваний у пациента. Поскольку эти данные распространяются по организациям, мы используем федеративное обучение для сопоставления результатов.
Ассоциация Набор данных о сердечных заболеваниях Репозиторий машинного обучения Калифорнийского университета в Ирвине — это широко используемый набор данных для сердечно-сосудистых исследований и прогнозного моделирования. Он состоит из 303 образцов, каждый из которых представляет пациента, и содержит сочетание клинических и демографических признаков, а также наличие или отсутствие заболеваний сердца.
Этот многомерный набор данных содержит 76 атрибутов информации о пациенте, из которых 14 атрибутов чаще всего используются для разработки и оценки алгоритмов машинного обучения для прогнозирования наличия заболеваний сердца на основе заданных атрибутов.
Структура FedML
Существует широкий выбор FL-фреймворков, но мы решили использовать Структура FedML для этого варианта использования, поскольку он имеет открытый исходный код и поддерживает несколько парадигм FL. FedML предоставляет популярную библиотеку с открытым исходным кодом, платформу MLOps и экосистему приложений для FL. Это облегчает разработку и внедрение решений FL. Он предоставляет комплексный набор инструментов, библиотек и алгоритмов, которые позволяют исследователям и практикам реализовывать и экспериментировать с алгоритмами FL в распределенной среде. FedML решает проблемы конфиденциальности данных, связи и агрегирования моделей в FL, предлагая удобный интерфейс и настраиваемые компоненты. Сосредоточив внимание на сотрудничестве и обмене знаниями, FedML стремится ускорить внедрение FL и стимулировать инновации в этой развивающейся области. Платформа FedML не зависит от модели, включая недавно добавленную поддержку больших языковых моделей (LLM). Для получения дополнительной информации см. Выпуск FedLLM: создавайте свои собственные большие языковые модели на основе собственных данных с помощью платформы FedML.
Федмл Осьминог
Системная иерархия и неоднородность являются ключевыми проблемами в реальных случаях использования FL, когда разные хранилища данных могут иметь разную инфраструктуру с процессорами и графическими процессорами. В таких случаях вы можете использовать Федмл Осьминог.
FedML Octopus — это межсистемная платформа FL промышленного уровня для межорганизационного и межаккаунтного обучения. В сочетании с FedML MLOps он позволяет разработчикам или организациям безопасно осуществлять открытое сотрудничество из любого места и в любом масштабе. FedML Octopus запускает парадигму распределенного обучения внутри каждого хранилища данных и использует синхронное или асинхронное обучение.
MLOps от FedML
FedML MLOps позволяет локально разрабатывать код, который впоследствии можно развернуть где угодно с помощью фреймворков FedML. Прежде чем начать обучение, вы должны создать учетную запись FedML, а также создать и загрузить серверные и клиентские пакеты в FedML Octopus. Для получения более подробной информации см. шага и Представляем FedML Octopus: масштабирование федеративного обучения в производство с помощью упрощенных MLOps.
Обзор решения
Мы развертываем FedML в нескольких кластерах EKS, интегрированных с SageMaker, для отслеживания экспериментов. Мы используем Схемы Amazon EKS для Terraform развернуть необходимую инфраструктуру. EKS Blueprints помогает создавать полноценные кластеры EKS, полностью оснащенные операционным программным обеспечением, необходимым для развертывания и управления рабочими нагрузками. С помощью EKS Blueprints конфигурация желаемого состояния среды EKS, например плоскости управления, рабочих узлов и надстроек Kubernetes, описывается как схема инфраструктуры как кода (IaC). После настройки схемы элементов ее можно использовать для создания согласованных сред в нескольких учетных записях AWS и регионах с использованием автоматизации непрерывного развертывания.
Содержимое, представленное в этом посте, отражает реальные ситуации и опыт, но важно отметить, что развертывание этих ситуаций в разных местах может различаться. Хотя мы используем одну учетную запись AWS с отдельными VPC, важно понимать, что индивидуальные обстоятельства и конфигурации могут различаться. Таким образом, предоставленная информация должна использоваться в качестве общего руководства и может потребовать адаптации с учетом конкретных требований и местных условий.
На следующей диаграмме показана архитектура нашего решения.
В дополнение к отслеживанию, обеспечиваемому FedML MLOps для каждого сеанса обучения, мы используем Эксперименты с Amazon SageMaker отслеживать производительность каждой клиентской модели и централизованной (агрегаторной) модели.
SageMaker Experiments — это возможность SageMaker, которая позволяет создавать, управлять, анализировать и сравнивать эксперименты ML. Записывая детали, параметры и результаты эксперимента, исследователи могут точно воспроизвести и подтвердить свою работу. Это позволяет эффективно сравнивать и анализировать различные подходы, что приводит к принятию обоснованных решений. Кроме того, отслеживание экспериментов облегчает итеративное улучшение, предоставляя понимание развития моделей и позволяя исследователям учиться на предыдущих итерациях, что в конечном итоге ускоряет разработку более эффективных решений.
Для каждого запуска мы отправляем в SageMaker Experiments следующее:
- Метрики оценки модели – Потери при обучении и площадь под кривой (AUC)
- гиперпараметры – Эпоха, скорость обучения, размер партии, оптимизатор и снижение веса.
Предпосылки
Чтобы следовать этому посту, у вас должны быть следующие предварительные условия:
Разверните решение
Для начала клонируйте репозиторий, в котором размещен пример кода, локально:
Затем разверните инфраструктуру вариантов использования, используя следующие команды:
Полное развертывание шаблона Terraform может занять 20–30 минут. После развертывания выполните действия, описанные в следующих разделах, чтобы запустить приложение FL.
Создайте пакет развертывания MLOps.
В рамках документации FedML нам необходимо создать пакеты клиента и сервера, которые платформа MLOps будет распространять на сервер и клиенты, чтобы начать обучение.
Чтобы создать эти пакеты, запустите следующий скрипт, расположенный в корневом каталоге:
Это создаст соответствующие пакеты в следующем каталоге в корневом каталоге проекта:
Загрузите пакеты на платформу FedML MLOps.
Чтобы загрузить пакеты, выполните следующие действия:
- В пользовательском интерфейсе FedML выберите Мои Приложения в навигационной панели.
- Выберите Новое приложение.
- Загрузите пакеты клиента и сервера со своей рабочей станции.
- Вы также можете настроить гиперпараметры или создать новые.
Запустить федеративное обучение
Чтобы запустить федеративное обучение, выполните следующие действия:
- В пользовательском интерфейсе FedML выберите Список проектов в навигационной панели.
- Выберите Создание нового проекта.
- Введите имя группы и имя проекта, затем выберите OK.
- Выберите вновь созданный проект и выберите Создать новый запуск чтобы запустить тренировочный забег.
- Выберите пограничные клиентские устройства и центральный сервер-агрегатор для этого обучающего запуска.
- Выберите приложение, которое вы создали на предыдущих шагах.
- Обновите любой из гиперпараметров или используйте настройки по умолчанию.
- Выберите Start начать обучение.
- Выберите Статус обучения и дождитесь завершения обучающего прогона. Вы также можете перейти к доступным вкладкам.
- По завершении обучения выберите Система вкладка, чтобы увидеть продолжительность обучения на ваших пограничных серверах и события агрегации.
Просмотр результатов и деталей эксперимента
По завершении обучения вы сможете просмотреть результаты с помощью FedML и SageMaker.
В пользовательском интерфейсе FedML на Модели на вкладке вы можете увидеть агрегаторную и клиентскую модель. Вы также можете скачать эти модели с сайта.
Вы также можете войти в Студия Amazon SageMaker , а затем выбрать Эксперименты в навигационной панели.
На следующем снимке экрана показаны зарегистрированные эксперименты.
Код отслеживания эксперимента
В этом разделе мы исследуем код, который интегрирует отслеживание экспериментов SageMaker с обучением платформы FL.
В выбранном вами редакторе откройте следующую папку, чтобы просмотреть изменения в коде для внедрения кода отслеживания эксперимента SageMaker в рамках обучения:
Для отслеживания обучения мы создать эксперимент SageMaker с параметрами и метриками, зарегистрированными с помощью log_parameter
и log_metric
команду, как показано в следующем примере кода.
Запись в config/fedml_config.yaml
файл объявляет префикс эксперимента, на который ссылаются в коде для создания уникальных названий экспериментов: sm_experiment_name: "fed-heart-disease"
. Вы можете обновить это значение до любого значения по вашему выбору.
Например, см. следующий код для heart_disease_trainer.py
, который используется каждым клиентом для обучения модели на собственном наборе данных:
Для каждого запуска клиента детали эксперимента отслеживаются с помощью следующего кода в файле heart_disease_trainer.py:
Аналогичным образом вы можете использовать код в heart_disease_aggregator.py
для запуска теста на локальных данных после обновления весов модели. Подробности регистрируются после каждого общения с клиентами.
Убирать
Когда вы закончите работу с решением, обязательно очистите используемые ресурсы, чтобы обеспечить эффективное использование ресурсов и управление затратами, а также избежать ненужных расходов и потери ресурсов. Активная очистка среды, такая как удаление неиспользуемых экземпляров, остановка ненужных служб и удаление временных данных, способствует созданию чистой и организованной инфраструктуры. Вы можете использовать следующий код для очистки ваших ресурсов:
Обзор
Используя Amazon EKS в качестве инфраструктуры и FedML в качестве платформы для FL, мы можем предоставить масштабируемую и управляемую среду для обучения и развертывания общих моделей, соблюдая при этом конфиденциальность данных. Благодаря децентрализованному характеру FL организации могут безопасно сотрудничать, раскрывать потенциал распределенных данных и улучшать модели машинного обучения без ущерба для конфиденциальности данных.
Как всегда, AWS будет рад вашим отзывам. Пожалуйста, оставляйте свои мысли и вопросы в разделе комментариев.
Об авторах
Рэнди ДеФо — старший главный архитектор решений в AWS. Он получил степень MSEE в Мичиганском университете, где работал над компьютерным зрением для автономных транспортных средств. Он также имеет степень MBA Университета штата Колорадо. Рэнди занимал различные должности в сфере технологий, от разработки программного обеспечения до управления продуктами. Он вошел в сферу больших данных в 2013 году и продолжает исследовать эту область. Он активно работает над проектами в сфере ML и выступал на многочисленных конференциях, включая Strata и GlueCon.
Арнаб Синха — старший архитектор решений AWS, выступающий в качестве технического директора на местах, помогающий организациям проектировать и создавать масштабируемые решения, обеспечивающие бизнес-результаты в области миграции центров обработки данных, цифровой трансформации и модернизации приложений, больших данных и машинного обучения. Он поддерживал клиентов в различных отраслях, включая энергетику, розничную торговлю, производство, здравоохранение и медико-биологические науки. Арнаб имеет все сертификаты AWS, включая сертификат по специальности ML. До прихода в AWS Арнаб был технологическим лидером, а ранее занимал руководящие должности архитектора и инженера.
Прачи Кулкарни — старший архитектор решений в AWS. Ее специализация — машинное обучение, и она активно работает над разработкой решений с использованием различных предложений AWS ML, больших данных и аналитики. Прачи имеет опыт работы в различных областях, включая здравоохранение, льготы, розничную торговлю и образование, а также работал на различных должностях в области разработки продуктов и архитектуры, управления и успеха клиентов.
Тамер Шериф — главный архитектор решений в AWS. Имеет обширный опыт работы в сфере технологий и корпоративных консалтинговых услуг и более 17 лет работы в качестве архитектора решений. Сосредоточив внимание на инфраструктуре, опыт Тамера охватывает широкий спектр отраслей промышленности, включая коммерцию, здравоохранение, автомобилестроение, государственный сектор, производство, нефть и газ, медиа-услуги и многое другое. Его знания распространяются на различные области, такие как облачная архитектура, периферийные вычисления, сети, системы хранения данных, виртуализация, продуктивность бизнеса и техническое лидерство.
Ганс Несбитт — старший архитектор решений в AWS из Южной Калифорнии. Он работает с клиентами на западе США, создавая масштабируемые, гибкие и отказоустойчивые облачные архитектуры. В свободное время он любит проводить время с семьей, готовить и играть на гитаре.
Чаоян Хэ является соучредителем и техническим директором FedML, Inc., стартапа, созданного для сообщества, создающего открытый и совместный искусственный интеллект из любой точки мира и в любом масштабе. Его исследования сосредоточены на распределенных и объединенных алгоритмах, системах и приложениях машинного обучения. Он получил степень доктора компьютерных наук в Университете Южной Калифорнии.
Аль Неварес является директором по управлению продуктами в FedML. До FedML он был менеджером группы продуктов в Google и старшим менеджером по науке о данных в LinkedIn. У него есть несколько патентов, связанных с информационными продуктами, и он изучал инженерное дело в Стэнфордском университете.
Салман Авестимер является соучредителем и генеральным директором FedML. Он был профессором декана Университета Южной Калифорнии, директором Центра надежного искусственного интеллекта Университета Южной Калифорнии и Amazon и стипендиатом Amazon в области Alexa AI. Он является экспертом в области федеративного и децентрализованного машинного обучения, теории информации, безопасности и конфиденциальности. Он является членом IEEE и получил докторскую степень в области EECS в Калифорнийском университете в Беркли.
Самир Лад — опытный корпоративный технолог AWS, который тесно сотрудничает с руководителями высшего звена клиентов. Как бывший руководитель высшего звена, который руководил преобразованиями в нескольких компаниях из списка Fortune 100, Самир делится своим бесценным опытом, чтобы помочь своим клиентам добиться успеха на их собственном пути трансформации.
Стивен Кремер — советник совета директоров и исполнительного директора, а также бывший руководитель AWS. Стивен выступает за культуру и лидерство как основу успеха. Он считает, что безопасность и инновации являются движущими силами облачной трансформации, обеспечивающей высококонкурентные организации, управляемые данными.
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://aws.amazon.com/blogs/machine-learning/federated-learning-on-aws-using-fedml-amazon-eks-and-amazon-sagemaker/
- :имеет
- :является
- :нет
- :куда
- $UP
- 10
- 100
- 14
- 17
- 20
- 2013
- 247
- 300
- 7
- 90
- a
- в состоянии
- О нас
- отсутствие
- ускорять
- ускоряющий
- доступ
- Доступ к данным
- выполнено
- Учетная запись
- отчетность
- Учетные записи
- точность
- точный
- точно
- достижение
- через
- Действие (Act):
- действующий
- активный
- активно
- фактического соединения
- адаптация
- Добавить
- добавленный
- дополнение
- Дополнительно
- адрес
- адреса
- адресация
- регулировать
- Принятие
- советник
- адвокаты
- влияет
- После
- агрегирование
- Агрегатор
- AI
- Цель
- AL
- Alexa
- алгоритмы
- Все
- позволяет
- вдоль
- причислены
- Несмотря на то, что
- всегда
- Amazon
- Создатель мудреца Амазонки
- Amazon Web Services
- an
- анализ
- аналитика
- анализировать
- и
- любой
- откуда угодно
- Применение
- Приложения
- подхода
- подходы
- архитектура
- архитектуры
- МЫ
- ПЛОЩАДЬ
- AS
- оценки
- At
- атаковать
- Нападавшие
- Атрибуты
- Auc
- аудит
- автоматизация
- автомобильный
- автономный
- автономные транспортные средства
- доступен
- избежать
- AWS
- фон
- основанный
- BE
- , так как:
- становится
- было
- до
- начинать
- Преимущества
- Беркли
- Лучшая
- большой
- Big Data
- план
- доска
- бутстрапируемых
- широкий
- строить
- Строительство
- бизнес
- но
- by
- С-люкс
- Калифорния
- CAN
- возможности
- сердечно-сосудистый
- заботится
- случаев
- случаев
- Центр
- центральный
- централизованная
- Генеральный директор
- Сертификация
- сертификаты
- вызов
- проблемы
- выбор
- Выберите
- обстоятельства
- классификация
- чистым
- клиент
- клиентов
- Клинический
- тесно
- облако
- Соучредитель
- код
- сотрудничать
- сотрудничество
- совместный
- Колорадо
- сочетание
- Комментарии
- коммерческая
- обычно
- Связь
- сообщество
- общественное строительство
- Компании
- сравнить
- сравнение
- конкурентоспособный
- полный
- комплекс
- Соответствие закону
- компоненты
- комплексный
- компромат
- компьютер
- Информатика
- Компьютерное зрение
- вычисление
- Обеспокоенность
- Условия
- Проводить
- конференции
- Конфигурация
- Конфигурации
- настроить
- последовательный
- состоит
- консалтинг
- содержать
- содержит
- содержание
- продолжается
- (CIJ)
- способствует
- контроль
- контрольная
- приготовление
- Координатор
- Цена
- Управление затратами
- соединенный
- чехлы
- ЦП
- выработать
- Создайте
- создали
- создает
- критической
- решающее значение
- CTO
- Культура
- кривая
- клиент
- Успех клиентов
- Клиенты
- настраиваемый
- CXO
- данным
- Центр обработки данных
- конфиденциальность данных
- Конфиденциальность и безопасность данных
- наука о данных
- управляемых данными
- Наборы данных
- децентрализованная
- решенный
- Принятие решений
- заявляет,
- По умолчанию
- демографический
- развертывание
- развернуть
- развертывание
- развертывание
- описано
- Проект
- проектирование
- желанный
- уничтожить
- подробнее
- Дев
- застройщиков
- развивающийся
- Развитие
- устройство
- Устройства
- диаграмма
- отличаться
- различный
- Интернет
- цифровое преобразование
- директор
- каталог
- Болезнь
- распространять
- распределенный
- распределенное обучение
- Разное
- документации
- доменов
- сделанный
- скачать
- управлять
- управляемый
- драйверы
- каждый
- экосистема
- Edge
- краевые вычисления
- редактор
- Обучение
- Эффективный
- эффективный
- появление
- включить
- позволяет
- позволяет
- шифрование
- энергетика
- Проект и
- повышать
- обеспечивать
- обеспечение
- вошел
- Предприятие
- лиц
- запись
- Окружающая среда
- средах
- эпоха
- эпохи
- особенно
- Эфир (ETH)
- оценки
- оценка
- Даже
- События
- пример
- исполнительный
- руководителей высшего звена.
- эксфильтрации
- расходы
- опыт
- Впечатления
- эксперимент
- Эксперименты
- эксперту
- опыта
- Больше
- продолжается
- содействовал
- облегчает
- семья
- федеративный
- Обратная связь
- человек
- верность
- поле
- Файл
- результаты
- гибкого
- Фокус
- фокусируется
- следовать
- после
- Что касается
- Бывший
- Fortune
- найденный
- Устои
- Рамки
- каркасы
- от
- полностью
- функция
- далее
- ГАЗ
- Общие
- GitHub
- данный
- Графические процессоры
- группы
- гарантированный
- инструкция
- Есть
- he
- Медицина
- медицинское страхование
- здравоохранение
- Сердце
- Болезнь сердца
- сильно
- Герой
- помощь
- помогает
- ее
- иерархия
- очень
- его
- имеет
- хостинг
- Однако
- HTML
- HTTPS
- i
- МАК
- ICS
- IEEE
- if
- иллюстрирует
- осуществлять
- Осуществляющий
- важную
- улучшать
- улучшение
- in
- Инк
- В том числе
- расширились
- независимые
- individual
- промышленности
- промышленность
- информация
- сообщил
- Инфраструктура
- инициирование
- вводить
- Инновации
- небезопасный
- внутри
- размышления
- случаев
- страхование
- интегрированный
- Интегрируется
- Интерфейс
- Взаимодействие
- в
- неоценимый
- изолированный
- вопрос
- IT
- итерации
- ЕГО
- присоединение
- путешествие
- JPEG
- JPG
- Основные
- знания
- известный
- Kubernetes
- недостающий
- язык
- большой
- новее
- лидер
- Наша команда
- ведущий
- УЧИТЬСЯ
- изучение
- Оставлять
- Lets
- библиотеки
- Библиотека
- ЖИЗНЬЮ
- Медико-биологическая промышленность
- ограничивающий
- локальным
- в местном масштабе
- расположение
- места
- журнал
- Войти
- от
- машина
- обучение с помощью машины
- сохранение
- сделать
- Создание
- управлять
- управляемого
- управление
- менеджер
- способ
- производство
- многих
- Май..
- MBA
- механизмы
- Медиа
- Метрика
- Мичиган
- минут
- смягчать
- ML
- Алгоритмы машинного обучения
- млн операций в секунду
- модель
- моделирование
- Модели
- модернизация
- модуль
- БОЛЕЕ
- самых
- с разными
- должен
- имя
- имена
- природа
- Откройте
- Навигация
- Необходимость
- необходимый
- отрицательно
- сеть
- сетей
- сетей
- Новые
- вновь
- следующий
- узлы
- в своих размышлениях
- многочисленный
- of
- предлагающий
- Предложения
- Предложения
- .
- Масло
- Нефть и газ
- on
- те,
- только
- открытый
- с открытым исходным кодом
- работать
- оперативный
- Возможности
- or
- организации
- Организованный
- наши
- внешний
- Результаты
- изложенные
- выходной
- за
- собственный
- пакеты
- хлеб
- парадигма
- парадигмы
- параметры
- часть
- Прохождение
- Патенты
- пациент
- уход за пациентом
- производительность
- Персонализированные
- кандидат наук
- самолет
- Платформа
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- игры
- пожалуйста
- Популярное
- портативность
- представляет
- позиции
- После
- потенциал
- предсказывать
- Predictions
- интеллектуального
- предпосылки
- присутствие
- представлены
- предыдущий
- предварительно
- Основной
- Предварительный
- политикой конфиденциальности.
- Конфиденциальность и безопасность
- частная
- Продукт
- Управление продуктом
- Менеджер по продукции
- Производство
- производительность
- Профессор
- прогрессия
- Проект
- проектов
- ( изучите наши патенты),
- для защиты
- протоколы
- обеспечивать
- при условии
- приводит
- обеспечение
- что такое варган?
- Вопросы
- ассортимент
- ранжирование
- ранг
- Обменный курс
- Сырье
- область
- получила
- недавно
- запись
- уменьшить
- относиться
- ссылка
- отражает
- районы
- регулируемых брокеров
- регулируемые отрасли
- правила
- полагается
- удаление
- хранилище
- представляющий
- требовать
- обязательный
- Требования
- исследованиям
- исследователи
- упругий
- ресурс
- Полезные ресурсы
- относительно
- те
- результат
- Итоги
- розничный
- рисках,
- надежный
- роли
- корень
- год
- Run
- Бег
- работает
- sagemaker
- Салман
- образец
- масштабируемые
- Шкала
- масштабирование
- Сценарии
- Ученый
- Наука
- НАУКА
- скрипт
- Раздел
- разделах
- сектор
- безопасный
- безопасно
- безопасность
- посмотреть
- выбор
- Отправить
- старший
- чувствительный
- отдельный
- сервер
- Серверы
- Услуги
- Сессия
- настройки
- несколько
- Поделиться
- общие
- Акции
- разделение
- она
- должен
- Шоу
- значительный
- силосы
- упрощенный
- одинарной
- обстоятельства
- Размер
- Software
- разработка программного обеспечения
- Решение
- Решения
- Источник
- Источники
- южный
- Space
- напряженность
- Специальные
- конкретный
- Спектр
- Расходы
- стандартизация
- Стэнфорд
- Стэнфордский университет
- Начало
- ввод в эксплуатацию
- Область
- Области
- Шаг
- Стивен
- Шаги
- По-прежнему
- остановка
- диск
- строгий
- сильный
- учился
- быть успешными
- успех
- такие
- suite
- поддержка
- Поддержанный
- поддержки
- Поддержка
- Убедитесь
- системы
- взять
- Технический
- техника
- технолог
- Технологии
- шаблон
- временный
- Terraform
- тестXNUMX
- который
- Ассоциация
- информация
- их
- тогда
- теория
- следовательно
- Эти
- этой
- Через
- время
- в
- инструменты
- к
- трек
- гусеничные
- Отслеживание
- традиционный
- Train
- специалистов
- Обучение
- тренинги
- трансформация
- преобразований
- вызвать
- заслуживающий доверия
- Типы
- ui
- В конечном счете
- под
- понимать
- созданного
- Объединенный
- США
- Университет
- Университет Калифорнии
- Мичиганский университет
- Университет Южной Калифорнии
- В отличие от
- отпереть
- ненужный
- беспрецедентный
- неиспользованный
- Обновление ПО
- обновление
- us
- использование
- прецедент
- используемый
- удобно
- использования
- через
- использование
- использовать
- VALIDATE
- Проверка
- ценностное
- разнообразие
- различный
- меняться
- Транспорт
- вертикалей
- Вид
- видение
- ждать
- законопроект
- we
- Web
- веб-сервисы
- Вебсайт
- вес
- приветствует
- ЧТО Ж
- западный
- который
- в то время как
- КТО
- широкий
- широко
- будете
- в
- без
- Работа
- работавший
- работник
- работает
- работает
- рабочая станция
- лет
- являетесь
- ВАШЕ
- зефирнет