Стартап в Израиле изменил взгляд на модели машинного обучения

В недавнем опросе McKinsey большинство респондентов заявили, что их компании опираются на ИИ при разработке продукта. Искусственный интеллект актуален и в клиентских сервисах, маркетинге, продажах. В Израиле в индустрии ИИ работает 1110 стартапов. А в 2020 году появилась ИИ-платформа Aporia для мониторинга технологий искусственного интеллекта.

Израиль совершил прорыв в сфере машинного обучения

Платформа наводит специалистов по большим данным на осознания, необходимые для понимания проблемы. Эксперты, которые работают с большим объемом данных, теперь разрабатывают легко настраиваемые экраны, чтобы отслеживать слабые зоны. Подразумеваются ошибочные суждения, неприемлемые изменения в структуре входящих данных или падение показателей производительности модели. По сути, Aporia демонстрирует компаниям, как модели работают в реальной жизни.

Роль инструментов Aporia в машинном обучении заключается в том, чтобы показать, как каждый из входящих параметров влияет на принятие решений. Также демонстрируется, как меняется прогноз, в зависимости от перемен во входящих данных. Подобные решения актуальны для систем искусственного интеллекта Black Box, где входящие данные и операции невидимы для пользователей. В качестве примера можно привести ИИ-приложения для займов и кредитов: эти программы, по законодательству, обязаны объяснять клиентам процесс принятия решений.

Зачем мониторить инструменты машинного обучения?  

Когда мы имеем дело с машинным обучением, необходимо защищать всю компьютерную систему и сеть, в частности, от хакерских атак. Ведь мы доверяем этим машинам важную информацию, которая касается нашей жизни, личных интересов, корпоративных ценностей. Поэтому, как пишет VPN-провайдер ExpressVPN, при любой работе с данными трафик необходимо защищать. Для этого, к примеру, подойдет шифрование трафика с помощью включенного VPN-приложения. Это защитит трафик от цензуры, чужого вмешательства и трекинга со стороны “левых” сайтов и приложений.

Мониторинг систем искусственного интеллекта, как правило, применяется к двум категориям - линейной и логистической регрессии. Линейная регрессия подразумевает, что объекты лежат на одной линии, или могут быть описаны линейной зависимостью.

Логистическими регрессиями можно описать классификации. Имеется в виду, что существуют объекты трех классов, и мы намерены узнать, к какой группе относится новый объект, который раньше был недоступен нашему восприятию. Такое задание мы и даем модели, которую тренируем посредством машинного обучения. Главным условием использования логистической регрессии является размещение данных по разным сторонам прямой линии. И насколько корректно это удалось сделать, как раз и является вопросом, который помогают нам решить технологии мониторинга ИИ и МО. 

Или возьмем, к примеру, следующую категорию. В начале работы алгоритма, лежащего в основе линейной регрессии, мы в качестве основной величины обозначаем линейную комбинацию. Но ситуация может повернуться по-другому. Ведь часто перед нами встает задача прогнозирования. Самый простой шаг при тренировке модели для машинного обучения — выбор линейной регрессии. В таком случае можно начать тренировку и посмотреть, достаточно ли ресурсов для тренировки. К выводам мы приходим в соответствии с определенными метриками качества. Либо же доверяем технологиям мониторинга суждение о том, насколько хорошо показали себя метрики. Исходя из этого, делаем вывод, что алгоритм работает достаточно, и нам не нужно искать что-то еще. Но если эта метрика нас не устраивает, появляется повод продолжать тренировки. И как раз в определении корректности этих тренировок и помогают инструменты для мониторинга.