Регистрация на Хакатон по Azure ML

21-22 мая 2016 года пройдет очередная практическая конференция «Хакатон по Azure Machine Learning».

В течение двух дней Вы будете работать над:

  • прогнозированием остатков и оборота по кредитным картам клиентов одного из крупнейших банков;
  • решением реальных бизнес-задач других компаний.

У Вас будет уникальная возможность:

  • попробовать создать и развернуть аналитическое решение с помощью облачной службы машинного обучения Azure Machine Learning;
  • научиться применять R, Python или .NET в задачах машинного обучения с Azure ML;
  • обработать и визуализировать данные с помощью сервиса облачной аналитики Power BI.

Лучшие проекты получат ценные призы: смартфоны Nokia Lumia 640 и Nokia Lumia 930.

Место проведения: Москва, офис Майкрософт. ул. Крылатская 17/1

Стоимость участия: бесплатно.

Ссылка для регистрации

hackathon-ml

02.03.2016. Встреча Advanced Analytics User Group

Приглашаем Вас принять участие во встрече Advanced Analytics User Group по теме «Предварительный анализ и очистка данных. Отбор и создание признаков», которая пройдет 2-го марта в Microsoft Technology Сenter.

Предварительная обработка является важным этапом, позволяющим повысить качество данных, а следовательно, эффективность обучения и, следовательно, точность предсказания. На данной встрече мы разберем, как в Azure ML:

  • осуществлять предварительный анализ данных и пользоваться описательной статистикой
  • отфильтровывать или исправлять поврежденные данные
  • работать с неполными данными и «аутсайдерами»
  • создавать новые признаки, оценивать «полезность» признаков и преобразовывать их.

Вышеперечисленные возможности будут рассмотрены на примере заданий первого и второго Хакатона с использованием встроенных блоков (SQL Transformation и другие), а также с помощью блоков R script и Python script.

Для того, чтобы принять участие в мероприятии, пожалуйста, зарегистрируйтесь по ссылке.

Дата: 2 марта 2016 г
Время: 17.00-20.00
Место проведения: МТС, ул. Лесная, 9 «Деловой Центр Белые Сады», 5-й этаж, аудитория «Патриаршие пруды»
Язык встречи: русский
Докладчик: Алексей Пешехонов

rubi-aa

Регистрация на Хакатон по Azure Machine Learning

28-29 ноября 2015 года пройдет практическая конференция «Хакатон по Azure Machine Learning». Конференция рассчитана на разработчиков и людей, понимающих математические модели, которые хотят научиться или продемонстрировать свои умения:

  • разрабатывать на R или Python;
  • анализировать и готовить данные к обработке;
  • показывать результаты в понятном виде.

В течение двух дней на конференции можно будет поработать над решением практических задач от партнёров Microsoft. При наличии вопросов можно будет посоветоваться с экспертами Microsoft и техническими специалистами MVP.

Место проведения: Москва / Санкт-Петербург / Краснодар / Казань / Екатеринбург / Новосибирск.

Начало регистрации и сбор участников в 10:00. Начало мероприятия в 11:00.

Стоимость участия: бесплатно.

Ссылка для регистрации

hackathon-ml

Мониторинг и прогнозирование неполадок автомобилей с помощью Cortana Analytics Suite

Давайте рассмотрим сценарий продвинутой аналитики, демонстрирующий как авто-дилеры, страховые компании и производители автомобилей могут использовать Cortana Analytics Suite включая Power BI в решении для получения аналитики реального времени и предсказаний работоспособности автомобилей и поведенческих шаблонов при вождении для улучшения качества езды, улучшения автомобилей и маркетинговых компаний.

Архитектура решения приведена на следующем рисунке:

CCArchitecture

Потоковые данные с датчиков автомобиля по сети Интернет поступают в Event Hub. Далее они поступают на вход Azure Stream Analytics (ASA).

В ASA настроены три постоянных запроса над входным потоком данных, каждый из которых обогащаются информацией о параметрах автомобилей из каталога автомобилей, хранящегося в Azure Blob Storage:

  1. Запрос №1 содержит данные по каждому автомобилю для отражения в реальном времени в Power BI.
  2. Запрос №2 отправляет данные по автомобилям в хранилище Blob Storage (это «большие данные» с точки зрения объемов информации; такие объемы выгодно хранить в Azure Blog Storage, т.к. в этом случае стоимость хранения минимальна).
  3. Запрос №3 агрегирует информацию по каждой модели и городу для сохранения в реляционном хранилище Azure DW для последующего отражение исторической отчетности.

Компонент решения Azure Data Factory выполняет интеграционную задачу. На основании файла, сгенерированного в ходе выполнения запроса №2 в ASA, в Blob Storage формируются три таблицы с выделением сведений об эффективности использования горючего, об агрессивности вождения и о возможных аномалиях.

CC-demo-ADF

За формирование этих дополнительных таблиц отвечают скрипты Hive, в которых задается структура таблиц над CSV-файлами, а затем выполняется агрегирование информации с помощью INSERT-запросов.

CC-demo-ADF-hive

Выборка данных об аномалиях направляется в сервис Azure Machine Learning, где формируется прогноз по возможному выходу автомобилей из строя. Благодаря этому прогнозу можно проактивно заказывать требуемые компоненты на замену и выполнять техническое обслуживание автомобилей (это сводит к минимуму простои оборудования).

Пример пакета по выбору и обучению модели для обнаружения аномалий приведен на следующем снимке экрана.

CC-demo-AML

Далее информация из файлов в Blob Storage направляется в хранилище Azure Data Warehouse и отражается на информационных панелях Power BI. Другая часть данные поступает напрямую из ASA и отражается в Power BI в «реальном времени».

CC-demo-powerbi

Используемые в сценарии технологии: Event Hub, Azure Stream Analytics, Azure Machine Learning, Azure Data Factory, HDInsight, Azure Storage, Azure DW, и Power BI.

Задание по Azure ML для участников конференции Хакатон 2015

Необходимо решить всего две задачи: первую — обязательно, и одну из задач (вторую или третью) — на выбор. Если получится сделать три задачи еще лучше!

Вопросы к заданию и отзывы по функциональности Azure ML можно также писать в этом блоге (в комментариях).

Параметры подключения к данным

Параметры подключения к данным заданий для конференции Hackathon 2015 ML приведены ниже. Это Blob Storage, к которому можно обратиться через Reader в рамках эксперимента Azure ML.

STORAGE ACCOUNT NAME: hackathon2015ml

PRIMARY ACCESS KEY (нужно объединить символы в одну строку):

ZD/Ad7agUVGkYay2hoLE6saxvJGum8hAmWj42QKh87sOz 8VGMwpXR4bdyZR842lsijFjCPfnrzq55DarQ/VMZw==

Задание 1. Предсказание выплат по авариям

Предсказать маленькая или большая сумма выплаты при попадания водителя в аварию (исходя из имеющейся информации: штрафы, марки авто). Прогнозируем значение колонки «Возмещено» (1 — мало выплат по авариям, 2 — много выплат по авариям). Модель должна предсказывать значение поля «Возмещено» для всех строк набора данных.

Исходные файлы:

  • 5wheel/auto-insurance-train.csv (для обучения модели)
  • 5wheel/auto-insurance-task.csv (проверочный набор при оценке модели — для информации)

Замечание. В первый набор данных искусственно внесли зависимости, так как для решения реальной задачи в исходном наборе данных было недостаточно информации. Цель первого задания — оценить стандатные средства Azure ML для обнаружения сильных зависимостей в простом наборе данных.

Для участников с продвинутой моделью подготовили дополнительный набор данных (без внесенной зависимости). Если интересно, можете попробовать свою модель на данном наборе: 5wheel/auto-insurance-2-… Если есть значимый результат, высылайте и этот график.

Критерий оценки: точность предсказания на проверочном наборе данных (…-task) при сопоставлении с реальным значением прогнозируемой колонки «Возмещено». Первичный критерий — максимизация значения показателя AUC. Вторичный критерий — плавность графика ROC.

evaluate

Публикация результатов задания 1 для оценки жюри: выслать снимок экрана с графиком ROC и значением AUC на следующие Live ID: Ivan.Kosyakov@live.com, Yuri.A.Popov@hotmail.com, prootq@xakep.ru, AAChizhova@gmail.com. Графический файл необходимо назвать «Auto Insurance Trained Model ##«, где ## — номер команды.

При формировании графика нужно использовать файл 5wheel/auto-insurance-check.csv.

Наиболее точную модель потом отдельно посмотрим — как она настроена в Azure ML.

evaluate-viz

Задание 2. Товары по поисковым запросам

По тексту поискового запроса, названию товара, описанию товара предсказать наиболее релевантный порядок отображения результатов поиска (товары, на которые пользователь кликнет с большей вероятностью). Предсказать нужно колонку «Clicks». Предсказывать в виде диапазонов или конкретных значений — на ваше усмотрение. То есть товар могут купить на любом уровне иерархии (он может попасть в любую категорию).

Критерий оценки: первый приоритет — значение показателя RMSE; второй приоритет — качество обоснования и реализации модели.

Исходные файлы:

  • ozon/ozon-search-rus-train.csv
  • ozon/ozon-search-rus-task.csv (проверочный набор данных для оценки точности модели)

Публикация результатов задания 2 для оценки жюри: необходимо выслать параметры доступа к набору данных с предсказанием на следующие адреса: Ivan.Kosyakov@live.com, Yuri.A.Popov@hotmail.com, prootq@xakep.ru, AAChizhova@gmail.com. Имя файла: ozon/ozon-search-rus-task-##.csv, где ## — номер команды.

Задание 3. Прогнозирование спроса на товары

Необходимо по истории за 5 недель предсказать сколько будет куплено товаров через неделю за неделю. Каждый товар лежит в нескольких каталогах, ID товаров и каталогов хэшированы. Набор данных собран в день расчета прогноза. Будем называть его сегодняшним днем.

  • pv_last_1w — (product views) просмотры товара за прошедшую неделю [today — 7, today]
  • pv_last_2w — просмотры товара за прошедшие 2 недели [today — 14, today]
  • ca_last_1w — (cart additions) добавления товара в корзину за прошедшую неделю [today — 7, today]

Предсказать необходимо колонку ca_future_1w_after_1w — сколько товаров положили в корзину через неделю от сегодняшнего дня на протяжении недели, т.е. покупки за период [today + 7, today + 14]. Прогнозирование с запаздыванием из-за задержки поставщиков в 7 дней. Проверять предсказание модели будем по набору данных с другими товарами. Есть предположение, что категория товара при этом может повлиять на тенденцию приобретения клиенами.

Критерий оценки: первый приоритет — значение показателя RMSE; второй приоритет — качество обоснования и реализации модели.

Исходные наборы данных:

  • ozon/ozon-demand-train.csv (для обучения модели)
  • ozon/ozon-demand-task.csv (проверочный набор данных для оценки точности модели)

Комментарий по наборам данных Наборы данных …-test — для обучения вашей модели. На наборах …-task будет тестироваться качество работы алгоритма.

Публикация результатов задания 3 для оценки жюри: необходимо выслать параметры доступа к набору данных с предсказанием на следующие адреса: Ivan.Kosyakov@live.com, Yuri.A.Popov@hotmail.com, prootq@xakep.ru, AAChizhova@gmail.com. Имя файла: ozon/ozon-demand-task-##.csv, где ## — номер команды.

Как подключать набор данных?

На портале http://portal.windowsazure.com подклаемся под своим live ID (связанным предварительно с подпиской). В левой части выбираем Azure Machine Learning (символ пробирки), подключаемся в Azure ML Studio. В Azure ML Studio создать новый эксперимент. В эксперименте из панели инструментов слева перетащить Reader, и в нем настроить параметры подключения к файлу.

reader

Полезные ссылки:

Azure Machine Learning как развитие технологий интеллектуального анализа данных

Последнее обновление: 09.12.2015

Мы долго ждали развития технологии интеллектуального анализа данных (SSAS Data Mining) и наконец то дождались! 18 февраля 2015 года на конференции «Strata + Hadoop World» было объявлено о доступности официальной версии технологии Azure ML (Machine Learning). В контексте объявленной там же доступности технологии Storm на базе HDInsight это говорит о продолжении активного инвестирования компанией Майкрософт в технологии извлечения знаний из «больших данных».

С использованием Azure ML разработчики и аналитики могут в сжатые сроки построить и внедрить решения для улучшения сервиса для клиентов, предсказания и предотвращения сбоев оборудования, повышения операционной эффективности, предотвращения мошенничества и решения огромного количества других задач.

В дополнение к стандартным алгоритмам, можно использовать Machine Learning Marketplace для поиска программных интерфейсов (API) и готовых сервисов, таких как движок рекомендаций, обнаружение аномалий и прогнозирование, с целью повышения скорости внедрения.

Преимущества Azure ML:

  1. Уменьшение сложности использования: доступность через веб-браузер, наличие среды совместной работы Azure workspace; решение строится в виде графа компонентов; используются лучшие алгоритмы, возможности расширения и поддержки R OSS.
  2. Ускоренное построение экспериментов для создания наилучших моделей: возможности поиска и повторного использования моделей; возможность быстро и одновременно использовать различные алгоритмы машинного обучения и стратегии моделирования.

Как начать работать с Azure ML?

Чтобы быстро начать использовать Azure ML вы можете использовать большое количество готовых примеров экспериментов, подготовленных в Майкрософт. samples Можно также использовать примеры из галереи экспериментов, которая пополняется не только силами Майкрософт, но и участниками сообщества. Примеры экспериментов из галереи также можно публиковать через Twitter и LinkedIn. gallery2 gallery

Процесс работы с Azure ML

Работа с Azure ML состоит из следующих шагов. logic При доступе к данным в качестве источников данных могут использоваться текстовые файлы (CSV, TSV и с другими разделителями), файлы HDFS, таблицы Hive из Hadoop, таблицы SQL Azure, объекты и таблицы в Azure, потоки данных OData и JSON, веб-страницы

Для изучения данных можно использовать набор модулей для извлечения примеров данных (случайные, Top-N, диапазоны, расслоения), модули статистического анализа данных (распределение, корреляция, тестирование гипотез), а также очень полезна возможность визуализации наборов данных.

Для создания и выбора признаков можно использовать блоки масштабирования и функциональные преобразования, группировка цифровых характеристик, двоичное кодирование категориальных функций, выделение признаков с помощью скриптового языка R, выбор компонентов с использованием фильтров (корреляция, частота, взаимная информация, хи-квадрат) и упаковщиков (пошаговый выбор характеристик).

При разработке модели используются алгоритмы классификации (Boosted Decision Trees, Random Forests, Logistic Regression, SVM, Averaged Perceptron, Neural networks), регрессии (Linear Regression, Boosted Decision Trees, Neural networks), рекомендаций (SVD, Non-negative matrix factorization) и кластеризации (K-means). Новый алгоритм «Learning with Counts», позволяет извлекать знания из терабайт информации путем решения задач классификации и регрессии с использованием нейронных сетей и деревьев принятия решений (boosted decision trees). Алгоритмы машинного обучения в Azure ML автоматически масштабируются в HDInsight для Azure в зависимости от обрабатываемых объемов данных. В частности, можно использовать очень мощный статистический скриптовый пакет R, который использует инфраструктуру Hadoop (HDInsight), и язык программирования Python.

Для экспериментирования и оценки работы алгоритмов можно применять несколько методов разделения набора данных (случайное, диапазонное, расслоением), поддерживается «K-fold» кросс-валидация, операционные метрики (Confusion matrix, Precision/Recall, True/False positives/negatives и т.д.) и глобальные метрики (ROC, AUC, Lift chart, RMSE, r-squared и т.д.) experiment Исследователи данных могут публиковать готовые в веб-сервисе Azure ML для последующего потребления пользователями организаций. Преимущества использования веб-сервисе Azure ML:

  • может автоматически масштабироваться в ответ на объемы использования (это позволяет экономить аппаратные ресурсы);
  • его можно использовать как в пакетном, так и в интерактивном режиме;
  • активно отслеживает изменения используемых моделей;
  • есть функции телеметрии (отслеживания качества работы используемых алгоритмов) и управления моделями (возврат произведенных изменений, повторная тренировка моделей).

Открытый программный интерфейс (API) позволяет обновлять модели Azure ML непосредственно из приложений. Это актуально для автоматического переобучения модели при появлении новых данных, что может улучшить качество ее работы.

Демонстрация

В этой демонстрации мы будем использовать Azure ML для автоматической генерации рекомендаций для клиентов магазина розничной торговли.

Надстройка Azure ML для Excel

Надстройка доступна из меню Excel «Insert — My Add-int — See all…», позволяет подключить опубликованный в виде веб-сервиса эксперимент и делать предсказания на базе наборов данных в Excel.

excel-addin

Заключение

Azure ML гибко встраивается в решения на базе платформы данных Майкрософт в «облачном» или гибридном варианте размещения. В качестве источников данных могут использоваться «облачные» HDInsight, SQL Server (виртуальные машины или база данных), Document DB, Blob-файлы и таблицы, данные из которых можно готовить в нужный формат с помощью Data Factory. Локальные ресурсы (текстовые файлы, таблицы Excel и т.д.) можно хранить в пространстве хранения (Storage Space). Эксперименты машинного обучения готовятся в Azure ML Workspace и публикуются в течение минут в Azure Portal. Далее с использованием портальных решений, таких как Office 365 и Power BI, и приложений результаты анализа можно отображать на различных устройствах.

architecture

Примеры внедрений Azure ML (18 февраля 2015 года): Pier 1, Carnegie Mellon, eSmart Systems, Mendeley и ThyssenKrupp.

Информационные ресурсы по Azure ML:

  1. Документация по Azure ML
  2. Microsoft Azure. Машинное обучение
  3. Machine Learning Blog
  4. Голосование на новые функции Azure ML (страница команды разработки Azure ML, где можно повлиять на приоритеты новых разрабатываемых функций)

Книги

  1. Microsoft Azure Essentials: Azure Machine Learning
  2. Data Science in the Cloud with Azure ML and R

Дополнительные материалы по Azure ML:

  1. Создание простого эксперимента в Azure Machine Learning Studio
  2. Анализ оттока клиентов с помощью машинного обучения Microsoft Azure
  3. New Azure services help more people realize the possibilities of big data
  4. Announcing the General Availability of Azure Machine Learning
  5. Azure Machine Learning Frequently Asked Questions (FAQ)
  6. Microsoft Azure Machine Learning Algorithm Cheat Sheet
  7. Блог Сергея Мастицкого. R: Анализ и визуализация данных 
  8. MSDN: статья Дмитрия Петухова Azure Machine Learning для Data Scientist
  9. MSDN: статья Алексея Романова Анализ тональности текста с помощью Azure Machine Learning
  10. Неизвестный автор: Обработка русских текстов в Azure ML на языках Python и R
  11. 100 лучших видео (вебкастов) про Azure ML
  12. Execute Python machine learning scripts in Azure Machine Learning Studio

Дополнительные компоненты Azure ML:

  1. Azure Machine Learning Excel Add-In