Мониторинг и прогнозирование неполадок автомобилей с помощью Cortana Analytics Suite

Давайте рассмотрим сценарий продвинутой аналитики, демонстрирующий как авто-дилеры, страховые компании и производители автомобилей могут использовать Cortana Analytics Suite включая Power BI в решении для получения аналитики реального времени и предсказаний работоспособности автомобилей и поведенческих шаблонов при вождении для улучшения качества езды, улучшения автомобилей и маркетинговых компаний.

Архитектура решения приведена на следующем рисунке:

CCArchitecture

Потоковые данные с датчиков автомобиля по сети Интернет поступают в Event Hub. Далее они поступают на вход Azure Stream Analytics (ASA).

В ASA настроены три постоянных запроса над входным потоком данных, каждый из которых обогащаются информацией о параметрах автомобилей из каталога автомобилей, хранящегося в Azure Blob Storage:

  1. Запрос №1 содержит данные по каждому автомобилю для отражения в реальном времени в Power BI.
  2. Запрос №2 отправляет данные по автомобилям в хранилище Blob Storage (это «большие данные» с точки зрения объемов информации; такие объемы выгодно хранить в Azure Blog Storage, т.к. в этом случае стоимость хранения минимальна).
  3. Запрос №3 агрегирует информацию по каждой модели и городу для сохранения в реляционном хранилище Azure DW для последующего отражение исторической отчетности.

Компонент решения Azure Data Factory выполняет интеграционную задачу. На основании файла, сгенерированного в ходе выполнения запроса №2 в ASA, в Blob Storage формируются три таблицы с выделением сведений об эффективности использования горючего, об агрессивности вождения и о возможных аномалиях.

CC-demo-ADF

За формирование этих дополнительных таблиц отвечают скрипты Hive, в которых задается структура таблиц над CSV-файлами, а затем выполняется агрегирование информации с помощью INSERT-запросов.

CC-demo-ADF-hive

Выборка данных об аномалиях направляется в сервис Azure Machine Learning, где формируется прогноз по возможному выходу автомобилей из строя. Благодаря этому прогнозу можно проактивно заказывать требуемые компоненты на замену и выполнять техническое обслуживание автомобилей (это сводит к минимуму простои оборудования).

Пример пакета по выбору и обучению модели для обнаружения аномалий приведен на следующем снимке экрана.

CC-demo-AML

Далее информация из файлов в Blob Storage направляется в хранилище Azure Data Warehouse и отражается на информационных панелях Power BI. Другая часть данные поступает напрямую из ASA и отражается в Power BI в «реальном времени».

CC-demo-powerbi

Используемые в сценарии технологии: Event Hub, Azure Stream Analytics, Azure Machine Learning, Azure Data Factory, HDInsight, Azure Storage, Azure DW, и Power BI.

Визуализация данных на мобильных устройствах и ПК

В последнее время по теме визуализации данных на мобильных устройствах (планшетах и смартфонах) в платформе Microsoft BI появилось множество новых компонентов. При этом архитектура решения значительно усложнилась. В связи с этим считаю нужным прояснить на каких устройствах какие компоненты и на базе каких источников можно использовать.

Актуальная архитектура аналитического решения приведена на следующем рисунке. В левой части показаны аналитические модели (табличная и многомерная), которые рекомендуется использовать в качестве единого источника правды с расчетными показателями. В правой части рисунка показаны доступные компоненты для визуализации данных.

architecture

Для визуализации данных можно использовать три компонента:

  • Информационные панели и отчеты Power BI;
  • Отчеты и информационные панели SharePoint Insights;
  • Портал и приложения Datazen для планшетов и смартфонов.

Информационные панели и отчеты Power BI

С помощью облачного сервиса Power BI можно настроить аналитический портал с отчетами, позволяющий в том числе отображать данные из табличных аналитических моделей через Analysis Services коннектор. Таким образом, данные организации хранятся на собственных серверах, а в облаке содержится только описание структуры отчетов.

power-bi-arch

Создавать отчеты Power BI можно либо непосредственно с портала (через веб-браузер), либо с помощью специального приложения Power BI для Windows (развитие технологии PowerPivot для Excel).

На портале создаются интерактивные отчеты (развитие технологии Power View) и построенные на их основе информационные панели. Информационные панели составляются из фрагментов интерактивных отчетов. С каждого фрагмента информационной панели можно перейти на соответствующий интерактивный отчет (развитие технологии Power View).

Данные отчеты можно просматривать либо с помощью веб-браузера, либо с помощью специальных приложений для iOS, Android, Windows.

power-bi-devices

Бизнес-аналитика SharePoint для мобильных устройств

В SharePoint 2013 (в комбинации с SQL Server 2012 SP1 и старше) поддерживаются практически все инструменты визуализации с мобильных устройств iOS, Android и многих других.

Устройства Windows, естественно, поддерживают все существующие возможности). Поэтому ниже мы будем говорить об устройствах других производителей.

Относительно поддержки стандартных инструментов визуализации на устройствах iOS, Android и т.д.:

  • PerformancePoint Services — поддерживается все кроме дерева декомпозиции (Silverlight);
  • Reporting Services в интегрированном режиме SharePoint – работает все, но есть ограничение на использование фильтра по дате (календарь);
  • Excel Services — поддерживается все;
  • PowerPivot для SharePoint – поддерживается все кроме галереи отчетов PowerPivot;
  • Visio Services – поддерживается все, включая комментирование, аннотирование и совместное редактирование.

Для работы с устройствами малого размера (мобильными телефонами) в SharePoint 2013 есть возможность создания альтернативных шаблонов мастер-страницы.

Отчеты Datazen для мобильных устройств

Отчеты Datazen предназначены для мобильных устройств. Для обеспечения работы отчетов в ЦОД организации разворачивается Datazen Enterprise Server.

datazen-arch

Для создания отчетов Datazen служит приложение Publisher App для Windows. При этом для каждого отчета можно создать отдельные раскладки для отображения на мобильном телефоне, планшете и персональном компьютере.

Просмотр отчетов Datazen возможен на приложениях для различных мобильных платформ, а также через веб-браузер.

datazen-devices

Подробнее об инструментах Power BI и Datazen я расскажу в ближайшее время.

Визуализация и анализ затрат на электроэнергию

Актуальная задача для организаций (например, с точки зрения финансовых подразделений) — оптимизация расходов. Для компаний, имеющих много зданий, в том числе очень важно уметь оптимизировать затраты на электроэнергию.

Данная задача решается в Майкрософт в рамках инициативы Microsoft Smart Buildings («умные здания»). В рамках инициативы, в том числе, собирается информация с сенсоров и сохраняется в виде текстовых файлов в облачном сервисе HDInsight for Azure. С помощью Excel и надстройки Power Query эту информацию можно объединить с данными об изменении температуры в регионе (из Википедии) .

В демонстрации показано, как с помощью Power View и Power Map можно визуализировать эту информацию. Также показаны возможности по построению запросов на естественном языке к данным отчетов, размещенных в Power BI для Office 365, а также новые возможности по анализу данной информации на любых устройствах (HTML5) и прогнозированию с использованием алгоритмов временных рядов (функции предсказательной аналитики через веб-браузер).