Deeplite привлекает $6 млн для развертывания машинного обучения на периферии с меньшим количеством вычислительных ресурсов

Одна из проблем с развертыванием приложения машинного обучения заключается в том, что оно, как правило, дорогое и требует больших вычислительных ресурсов. Диплайт, стартап из Монреаля, хочет изменить это, предоставив способ уменьшить общий размер модели, позволяя ей работать на оборудовании с гораздо меньшими ресурсами.

Сегодня компания объявила о стартовых инвестициях в размере 6 миллионов долларов. Бостонская венчурная компания PJC возглавила раунд при поддержке Innospark Ventures, Differential Ventures и Smart Global Holdings. Также приняли участие Somel Investments, BDC Capital и Desjardins Capital.

Ник Романо, генеральный директор и соучредитель Deeplite, говорит, что компания стремится использовать сложные глубокие нейронные сети, для работы которых требуется много вычислительной мощности, которые имеют тенденцию использовать много памяти и могут быстро расходовать батареи, и помочь они работают более эффективно с меньшими ресурсами.

«Нашу платформу можно использовать для преобразования этих моделей в новый форм-фактор, чтобы иметь возможность развертывать их на ограниченном периферийном оборудовании», — объяснил Романо. Эти устройства могут быть такими же маленькими, как сотовый телефон, дрон или даже Raspberry Pi, а это означает, что разработчики могут использовать ИИ способами, которые в большинстве случаев сейчас просто невозможны.

Компания создала продукт под названием Neutrino, который позволяет вам указать, как вы хотите развернуть свою модель и насколько вы можете ее сжать, чтобы уменьшить общий размер и ресурсы, необходимые для ее запуска в рабочей среде. Идея состоит в том, чтобы запустить приложение машинного обучения на чрезвычайно малом пространстве.

Дэвис Сойер, директор по продукции и соучредитель, говорит, что решение компании вступает в силу после того, как модель построена, обучена и готова к производству. Пользователи предоставляют модель и набор данных, а затем могут решить, как построить модель меньшего размера. Это может потребовать немного снижения точности, если есть допуск на это, но в основном это предполагает выбор уровня сжатия — насколько меньше вы можете сделать модель.

«Сжатие уменьшает размер модели, поэтому ее можно развернуть на гораздо более дешевом процессоре. В некоторых случаях мы говорим о снижении размера с 200 мегабайт до 11 мегабайт или с 50 мегабайт до 100 килобайт», — пояснил Дэвис.

Роб Мэй, руководитель отдела инвестиций PJC, говорит, что его впечатлила команда и технология, которую пытается создать стартап.

«Развертывание искусственного интеллекта, особенно глубокого обучения, на устройствах с ограниченными ресурсами является серьезной проблемой в отрасли, где мало талантов и ноу-хау в области искусственного интеллекта. Автоматизированное программное решение Deeplite принесет значительную экономическую выгоду, поскольку Edge AI продолжает расти как основная вычислительная парадигма», — говорится в заявлении Мэй.

Идея компании возникла в инкубаторе TandemLaunch в Монреале. Официально компания была запущена в середине 2019 года, и сегодня в ней работают 15 сотрудников, и к концу этого года планируется удвоить их число. По словам Романо, при создании компании ее основатели сосредоточены на создании разнообразной и инклюзивной организации.

«У нас есть стратегия, которая позволит найти нам нужных людей, но сделать это абсолютно разнообразным и инклюзивным способом. Это все часть ДНК организации», — сказал он.

Когда появится возможность вернуться к работе, планируется открыть офисы в Монреале и Торонто, которые станут центрами для сотрудников, но при этом не будет необходимости приходить в офис.

«Мы уже обсуждали, что общий подход будет заключаться в том, что люди смогут приходить и уходить, когда им заблагорассудится, и мы не думаем, что нам понадобится такая большая площадь офиса, как в прошлом. У людей будет возможность работать удаленно и виртуально по своему усмотрению», — сказал Романо.

Источник: https://techcrunch.com/2021/04/13/deeplite-raises-6m-seed-to-deploy-ml-on-edge-with-fewer-compute-resources/