Завдяки машинному навчанню (ML) стали доступними потужніші технології, які можуть автоматизувати завдання виявлення візуальних аномалій у продукті. Однак впровадження таких рішень ML займає багато часу та коштує, оскільки передбачає керування та налаштування складної інфраструктури та володіння відповідними навичками ML. Крім того, програми ML потребують нагляду з боку людини, щоб забезпечити точність виявлення аномалій, допомогти забезпечувати постійні вдосконалення та перенавчати моделі з оновленими прогнозами. Однак вам часто доводиться вибирати між системою лише для ML або системою, призначеною лише для людини. Компанії шукають найкраще з обох світів, інтегруючи системи машинного навчання у ваш робочий процес, стежачи за результатами, щоб досягти вищої точності.
У цій публікації ми покажемо, як можна легко налаштувати Amazon Lookout For Vision щоб навчити модель візуального виявлення аномалій за допомогою набору даних друкованої плати, використовуйте робочий процес людини в циклі, щоб переглянути прогнози за допомогою Розширений ШІ в Амазонці (Amazon A2I), розширте набір даних, щоб включити вхід людини, і перенавчіть модель.
Огляд рішення
Lookout for Vision — це служба ML, яка допомагає виявляти дефекти продукту за допомогою комп’ютерного бачення для автоматизації процесу перевірки якості на ваших виробничих лініях, не потребуючи досвіду ML. Ви можете розпочати лише з 30 зображень продуктів (20 звичайних, 10 аномальних), щоб навчити свою унікальну модель ML. Lookout for Vision використовує вашу унікальну модель ML для аналізу зображень ваших продуктів майже в реальному часі та виявлення дефектів продукту, що дозволяє персоналу вашого заводу діагностувати та вживати заходів для виправлення.
Amazon A2I - це служба відмивання коштів, яка полегшує побудову робочих процесів, необхідних для огляду людьми. Amazon A2I надає всім розробникам можливість людського огляду, усуваючи недиференційований важкий підйом, пов'язаний зі створенням систем огляду людей або керуванням великою кількістю рецензентів, незалежно від того, працюють вони на AWS чи ні.
Щоб розпочати роботу з Lookout for Vision, ми створюємо проект, створюємо набір даних, навчаємо модель і запускаємо висновки на тестових зображеннях. Після виконання цих кроків ми покажемо вам, як ви можете швидко налаштувати процес перевірки людиною за допомогою Amazon A2I та перенавчити свою модель за допомогою розширених наборів даних або наборів даних, перевірених людьми. Також надаємо супровід Блокнот Юпітера.
Огляд архітектури
Наступна діаграма ілюструє архітектуру рішення.
Рішення має такий робочий процес:
- Завантажити дані з джерела в Служба простого зберігання Amazon (Amazon S3).
- Запустіть Lookout for Vision, щоб обробити дані з шляху Amazon S3.
- Зберігайте результати висновків в Amazon S3 для подальшого перегляду.
- Використовуйте Lookout for Vision, щоб визначити, чи вхідне зображення пошкоджено, і переконайтеся, що рівень достовірності перевищує 70%. Якщо нижче 70%, ми запускаємо людський цикл для працівника, щоб вручну визначити, чи пошкоджено зображення.
- Приватна робоча сила досліджує та перевіряє виявлені збитки та надає відгук.
- Оновіть дані навчання відповідним відгуком для подальшого перенавчання моделі.
- Повторіть цикл перенавчання для постійного перенавчання моделі.
Передумови
Перш ніж розпочати, виконайте наведені нижче дії, щоб налаштувати блокнот Jupyter:
- Створіть екземпляр блокнота in Amazon SageMaker.
- Коли блокнот активний, виберіть Відкрийте Юпітер.
- На інформаційній панелі Jupyter виберіть Нові, і вибрати термінал.
- У терміналі введіть наступний код:
- Відкрийте блокнот для цього повідомлення:
Amazon-Lookout-for-Vision-and-Amazon-A2I-Integration.ipynb
.
Тепер ви готові до запуску клітинок блокнота.
- Виконайте крок налаштування середовища, щоб налаштувати необхідні Python SDK і змінні:
На першому кроці вам потрібно визначити наступне:
- регіон – Регіон, де розташований ваш проект
- Назва проекту – Назва вашого проекту Lookout for Vision
- відро – Назва сегмента Amazon S3, куди ми виводимо результати моделі
- модель_версія – Ваша версія моделі (налаштування за замовчуванням – 1)
- Створіть відра S3 для зберігання зображень:
- Створіть файл маніфесту з набору даних, запустивши клітинку в розділі Створіть файл маніфесту з набору даних в зошиті.
Lookout for Vision використовує цей файл маніфесту для визначення розташування файлів, а також міток, пов’язаних із файлами.
Завантажте зображення друкованих плат на Amazon S3
Щоб навчити модель Lookout for Vision, нам потрібно скопіювати зразок набору даних із нашого локального блокнота Jupyter до Amazon S3:
Створіть проект Lookout for Vision
У вас є кілька варіантів створення проекту Lookout for Vision: консоль Lookout for Vision, Інтерфейс командного рядка AWS (AWS CLI) або Boto3 SDK. У цьому прикладі ми вибрали Boto3 SDK, але настійно рекомендуємо вам також перевірити метод консолі.
За допомогою SDK ми виконуємо такі кроки:
- Створіть проект (назва була визначена на початку) і вкажіть своєму проекту, де знайти ваш навчальний набір даних. Це робиться за допомогою файлу маніфесту для навчання.
- Повідомте своєму проекту, де знайти тестовий набір даних. Це робиться за допомогою файлу маніфесту для перевірки.
Цей другий крок необов’язковий. Загалом, весь код, пов’язаний з тестуванням, необов’язковий; Lookout for Vision також працює лише з навчальним набором даних. Ми використовуємо обидва, тому що навчання та тестування є звичайною (найкращою) практикою під час навчання моделей AI та ML.
Створіть файл маніфесту з набору даних
Lookout for Vision використовує цей файл маніфесту для визначення розташування файлів, а також міток, пов’язаних із файлами. Перегляньте наступний код:
Створіть проект Lookout for Vision
Наступна команда створює проект Lookout for Vision:
Створення та навчання моделі
У цьому розділі ми розглянемо етапи створення навчальних і тестових наборів даних, навчання моделі та розміщення моделі.
Створюйте навчальні та тестові набори даних із зображень в Amazon S3
Після створення проекту Lookout for Vision ми створюємо набір даних проекту, використовуючи зразки зображень, які ми завантажили в Amazon S3 разом із файлами маніфесту. Перегляньте наступний код:
Тренуйте модель
Після того, як ми створимо проект Lookout for Vision і набори даних, ми зможемо навчити нашу першу модель:
Після завершення навчання ми можемо переглянути доступні показники моделі:
Ви повинні побачити результат, подібний до наведеного нижче.
Метрика | Model Арн | Статус Повідомлення | продуктивність | Продуктивність моделі |
Оцінка F1 | 1 | НАВЧАНИЙ | Навчання успішно завершено. | 0.93023 |
Точність | 1 | НАВЧАНИЙ | Навчання успішно завершено. | 0.86957 |
Згадувати | 1 | НАВЧАНИЙ | Навчання успішно завершено. | 1 |
Ведіть модель
Перш ніж ми зможемо використовувати нашу нещодавно навчену модель Lookout for Vision, нам потрібно розмістити її:
Налаштуйте Amazon A2I для перегляду прогнозів від Lookout for Vision
У цьому розділі ви налаштовуєте цикл людської перевірки в Amazon A2I для перегляду висновків, які є нижчими за поріг надійності. Спершу ви повинні створити приватну робочу силу та створити інтерфейс користувача для завдань людини.
Створіть робочу силу
Вам потрібно створити робочу силу через консоль SageMaker. Зверніть увагу на АРН робочої сили і введіть його значення в клітинку зошита:
На наступному знімку екрана показано деталі приватної команди з назвою lfv-a2i
і його відповідний ARN.
Створіть інтерфейс людського завдання
Тепер ви створюєте ресурс інтерфейсу користувача для завдань людини: шаблон інтерфейсу користувача в рідкому HTML. Ця HTML-сторінка відображається працівникам кожного разу, коли потрібен людський цикл. Понад 70 попередньо створених інтерфейсів користувача див amazon-a2i-зразок-завдання-uis Репо GitHub.
Виконайте кроки, наведені в розділі блокнота Створіть інтерфейс людського завдання щоб створити веб-форму, ініціалізувати API Amazon A2I та перевірити вихідні дані:
Створіть робочий процес із завданнями людини
Визначення робочого циклу дозволяють вказати наступне:
- Робочий шаблон або інтерфейс людського завдання, створені вами на попередньому кроці.
- Робоча сила, до якої надсилаються ваші завдання. Для цієї публікації це приватна робоча сила, яку ви створили за необхідних кроків.
- Інструкції, які отримує ваша робоча сила.
Ця публікація використовує Create Flow Definition
API для створення визначення робочого процесу. Результати перевірки людиною зберігаються у сегменті Amazon S3, доступ до якого може отримати клієнтська програма. Запустіть клітинку Створення робочого циклу завдань людини у зошит і перевірте вихідні дані:
Зробіть прогнози та запустіть людський цикл на основі порогового рівня достовірності
У цьому розділі ми переглядаємо масив нових зображень і використовуємо Lookout for Vision SDK, щоб визначити, чи пошкоджені наші вхідні зображення чи ні, і якщо вони вище або нижче визначеного порогу. Для цієї публікації ми встановили пороговий рівень достовірності на рівні 70. Якщо наш результат нижче 70, ми запускаємо людський цикл для працівника, щоб вручну визначити, чи є наше зображення нормальним чи аномальним. Перегляньте наступний код:
Ви повинні отримати результат, показаний на наступному знімку екрана.
Завершіть перевірку та перевірте статус людського циклу
Якщо результати висновку нижчі за визначене порогове значення, створюється людський цикл. Ми можемо переглянути статус цих завдань і дочекатися результатів:
Робоча група бачить наступний знімок екрана, щоб вибрати правильну мітку для зображення.
Перегляньте результати робочого процесу Amazon A2I і перемістіть об’єкти до потрібної папки для повторного навчання
Після того, як члени робочої групи виконали завдання людського циклу, давайте використаємо результати завдань, щоб відсортувати наші зображення в правильні папки для навчання нової моделі. Перегляньте наступний код:
Перенавчіть свою модель на основі доповнених наборів даних від Amazon A2I
Навчання нової версії моделі можна запустити як пакетне завдання за розкладом, за потреби вручну, залежно від кількості нових зображень, доданих до навчальних папок тощо. У цьому прикладі ми використовуємо Lookout for Vision SDK, щоб перенавчити нашу модель за допомогою зображень, які ми зараз включили до нашого зміненого набору даних. Дотримуйтеся супровідного блокнота Jupyter, який можна завантажити з [GitHub-LINK], щоб отримати повний блокнот.
Ви повинні побачити результат, подібний до наведеного нижче.
Тепер, коли ми навчили нову модель за допомогою щойно доданих зображень, давайте перевіримо показники моделі! Ми показуємо результати першої та другої моделі одночасно:
Ви повинні побачити результат, подібний до наведеного нижче. У таблиці показано дві моделі: розміщена модель (ModelVersion:1
) та перекваліфікована модель (ModelVersion:2
). Ефективність оновленої моделі краща з зображеннями, які перевіряються людиною та мають позначки.
Метрика | ModelVersion | Статус | StatusMessage | Продуктивність моделі |
Оцінка F1 | 2 | НАВЧАНИЙ | Навчання успішно завершено. | 0.98 |
Точність | 2 | НАВЧАНИЙ | Навчання успішно завершено. | 0.96 |
Згадувати | 2 | НАВЧАНИЙ | Навчання успішно завершено. | 1 |
Оцінка F1 | 1 | ВИСТАВЛЕНО | Модель біжить. | 0.93023 |
Точність | 1 | ВИСТАВЛЕНО | Модель біжить. | 0.86957 |
Згадувати | 1 | ВИСТАВЛЕНО | Модель біжить. | 1 |
Прибирати
Запустіть Зупиніть модель і ресурси очищення клітинку для очищення ресурсів, які були створені. Видаліть будь-які проекти Lookout for Vision, які ви більше не використовуєте, і видаліть об’єкти з Amazon S3, щоб заощадити кошти. Перегляньте наступний код:
Висновок
У цьому дописі продемонстровано, як можна використовувати Lookout for Vision і Amazon A2I для навчання моделей виявляти дефекти в об’єктах, унікальних для вашого бізнесу, і визначати умови для надсилання прогнозів у робочий процес людини з етикетувальниками для перегляду та оновлення результатів. Ви можете використовувати вихідні дані, помічені людиною, щоб розширити набір навчальних даних для повторного навчання, щоб покращити точність моделі.
Почніть свій шлях до виявлення та ідентифікації промислових аномалій, відвідавши веб -сайт Посібник розробника Lookout for Vision і Посібник розробника Amazon A2I.
Про автора
Денніс Турмон є архітектором рішень в AWS, захоплюється штучним інтелектом і машинним навчанням. Перебуваючи в Сіетлі, штат Вашингтон, Денніс працював інженером із розробки систем у команді Amazon Go та Amazon Books, а потім зосередився на допомозі клієнтам AWS реалізувати свої робочі навантаження в AWS Cloud.
Аміт Гупта є архітектором рішень AI Services Solutions в AWS. Він захоплений тим, щоб надавати клієнтам добре розроблені масштабні рішення для машинного навчання.
Ніл Сендас є старшим технічним менеджером облікових записів Amazon Web Services. Neel спільно з корпоративними клієнтами розробляє, розгортає та масштабує хмарні програми для досягнення своїх бізнес-цілей. Він працював над різними варіантами використання БД, починаючи від виявлення аномалій і закінчуючи прогнозуванням якості продукції для виробництва та оптимізації логістики. Коли він не допомагає клієнтам, він займається гольфом і танцями сальси.
- '
- "
- 100
- 11
- 7
- 9
- рахунки
- активний
- AI
- ВСІ
- Дозволити
- Amazon
- Amazon Go
- Amazon Web Services
- виявлення аномалії
- API
- Інтерфейси
- додаток
- застосування
- архітектура
- штучний інтелект
- Штучний інтелект і машинне навчання
- AWS
- КРАЩЕ
- рада
- книги
- будувати
- Створюємо
- бізнес
- випадків
- зміна
- хмара
- Обласні додатки
- код
- загальний
- Компанії
- компонент
- Комп'ютерне бачення
- довіра
- зміст
- витрати
- Пара
- створення
- Поточний
- Клієнти
- приладова панель
- дані
- дизайн
- Виявлення
- Розробник
- розробників
- розробка
- інженер
- підприємство
- корпоративні клієнти
- Навколишнє середовище
- очей
- Перший
- потік
- стежити
- форма
- формат
- майбутнє
- Загальне
- Git
- GitHub
- тут
- хостинг
- Як
- How To
- HTTPS
- Ідентифікація
- зображення
- промислові
- Інфраструктура
- Інтелект
- IT
- робота
- Джобс
- Jupyter Notebook
- зберігання
- етикетки
- великий
- вивчення
- рівень
- Лінія
- Рідина
- місцевий
- розташування
- логістика
- навчання за допомогою машини
- виробництво
- члени
- Метрика
- ML
- модель
- рухатися
- номера
- Опції
- продуктивність
- Персонал
- Портал
- Точність
- Прогнози
- приватний
- Product
- Якість продукції
- проект
- проектів
- Python
- якість
- RE
- ресурс
- ресурси
- відповідь
- результати
- перепідготовка
- Умови повернення
- огляд
- прогін
- біг
- мудрець
- шкала
- Sdk
- Сіетл
- бачить
- Послуги
- комплект
- установка
- простий
- навички
- So
- Рішення
- Spot
- старт
- почалася
- Статус
- зберігання
- зберігати
- субдомен
- система
- Systems
- технічний
- Технології
- тест
- Тестування
- Джерело
- час
- Навчання
- ui
- Оновити
- значення
- вид
- бачення
- чекати
- Вашингтон
- Web
- веб-сервіси
- в
- Work
- робочі
- робочий
- Трудові ресурси
- працює