Семантическая модель аналитических данных (BISM)

Последнее обновление: 16.04.2014

В SQL Server в составе аналитических сервисов (SQL Server Analysis Services) доступна для использования семантическая модель бизнес-аналитики (BISM – Business Intelligence Semantic Model), которая объединяет в себе многомерную модель аналитических данных (ранее носившую название UDM – Unified Dimensional Model) и табличную модель аналитических данных (также известную как модель данных PowerPivot).

Табличная (tabular) модель может быть самостоятельно создана офисными сотрудниками в Excel (с помощью компонента PowerPivot).

Табличная модель в Excel позволяет:

  • включить в модель данные из произвольных источников;
  • быстро работать с объемыми данных в десятки миллионов строк, что достугается сжатием данных на уровне колонок с помощью движка xVelocity или VertyPaq;
  • создавать вычисления с помощью языка запросов DAX (Data Analysis Expressions).

Табличную модель Excel можно преобразовать в табличный проект SQL Server Data Tools (SSDT) – по сути проект Visual Studio для бизнес-аналитики, а затем опубликовать в табличном экземпляре аналитических сервисов.

Табличный проект позволяет дополнительно использовать секционирование и разграничение доступа к объектам модели вплоть до уровня данных. С точки зрения хранения данных это может быть хранение в ОЗУ сервера (режим xVelocity, объемы данных ограничены только объемом ОЗУ сервера) и хранение непосредственно в базе SQL Server (Direct Query; при этом рекомендуется использовать индексы хранения на уровне колонок – ColumnStore Indexes).

Возможна организация циклического процесса разработки моделей, когда офисные пользователи (аналитики) модифицируют модель в Power Pivot, а сотрудники ИТ-подразделения импортируют модель в Visual Studio (SSDT), публикуют ее и применяют к ней дополнительные XMLA-скрипты для прописывания прав доступа и других расширений модели.

Многомерный проект создается как и раньше в Visual Studio (SQL Server Data Tools), для вычислений использует язык запросов MDX (Multi-Dimensional Expressions), позволяет использовать различные стратегии доступа к данным (ROLAP, MOLAP, HOLAP), различные стратегии агрегирования и так далее. В конечном итоге многомерный проект позволяет реализовать наиболее сложные аналитические модели на максимально возможных объемах данных. Недостатки многомерной модели – требуется высокая квалификация разработчика модели, а для создания модели должно быть предварительно подготовлено хранилище данных – нет возможности на лету подключать дополнительные источники данных.

В следующем докладе рассказывается подробнее о многомерных моделях и показаны демонстрации работы с такими моделями.

Про оптимизацию производительности многомерных кубов можно посмотреть доклад на TechDays.ru.

Вне зависимости от используемого типа модели данных, на основании BISM можно строить отчеты, карты показателей и информационные панели с помощью широкого спектра пользовательских инструментов (табличные модели при публикации для приложений выглядят так же, как многомерные модели).

Дополнительная информация:

  1. MSDN. Introducing the BI Semantic Model in Microsoft® SQL Server® 2012
  2. MSDN. Choosing a Tabular or Multidimensional Modeling Experience in SQL Server 2012 Analysis Services
  3. MSDN. Analysis Services MOLAP Performance Guide for SQL Server 2012 and 2014
  4. MSDN. Securing the Tabular BI Semantic Model
  5. MSDN. Using DirectQuery in the Tabular BI Semantic Model

Практические рекомендации по SSAS OLAP:

Полезные ссылки по табличной модели BISM:

Виртуальная машина SQL Server 2012 CTP3

Виртуальная машина SQL Server 2012 CTP3 («Denali» CTP3) содержит полностью сконфигурированные сервисы и интеграцию с SharePoint 2010 и Office 2010. Судя по дате публикации, ей можно будет пользоваться до середины апреля 2012 года.

На виртуальной машине, в том числе, доступы такие компоненты как DQS и новый MDS. Можно посмотреть 2 примера модели BISM  и соответствующих отчетов Power View (Crescent).

Ссылка для скачивания: http://www.microsoft.com/download/en/details.aspx?id=27740

Дополнительная информация:

  1. MicrosoftBI.ru. Новые возможности в SQL Server 2012 CTP3 для бизнес-аналитики (Microsoft BI)
  2. One Click BI Blog. Getting Started with the SQL Server “Denali” CTP3 Image

Новые возможности в SQL Server 2012 CTP3 для бизнес-аналитики (Microsoft BI)

В этой статье рассмотрим, какие новые наиболее значимые функции появились в SQL Server 2012 CTP3 для задач бизнес-аналитики. Но сначала давайте рассмотрим, каким образом реализуются с помощью новой версии SQL Server различные уровни аналитического решения: персональная, коллективная и корпоративная аналитика.

  1. Персональная аналитика – это когда пользователи используютExcel с надстройкой PowerPivot в их каждодневной самостоятельной работе. Например, менеджер по продажам анализирует результаты своей работы.
  2. Коллективная аналитика – когда одни пользователи создают отчеты (например, в Excel, либо над моделью BISM с помощью Power View) и предоставляют эти отчеты в пользование другим сотрудникам. Например, директор департамента использует отчет, созданный другим сотрудником, или на основании модели BISM (например, опубликованной с помощью файла Excel) создает самостоятельно отчет Power View.
  3. Корпоративная аналитика – когда процесс создания аналитической модели  и отчетов берет на себя служба информационных технологий. При этом разрабатываются интеграционные пакеты по загрузке и очистке данных (с помощью Integration Services и Data Quality Services), формируются выверенные аналитические модели с едиными в пределах организации показателями, формируются согласованные между подразделениями отчеты.

Давайте рассмотрим наиболее важные нововведения в SQL Server 2012 CTP3. На следующем рисунке приведены компоненты SQL Server, а розовым цветом выделены наиболее значимые изменения.

Business Intelligence Semantic Model (BISM)

В составе аналитических сервисов введена семантическая модель бизнес-аналитики (BISM), которая объединяет в себе многомерную (ранее — UDM) и табличную модель данных (ранее – модель данных PowerPivot).

К BISM можно строить запросы с помощью языков MDX и DAX. Нужно только иметь в виду, что хотя с помощью DAX можно делать запросы к многомерной модели BISM (ранее — UDM), с помощью DAX в этой модели нельзя будет создавать новые показатели (в табличной модели BISM, разумеется, можно)…

В части доступа к данным для многомерной модели данных используются варианты хранения данных ROLAP, MOLAP и промежуточные. Для табличной модели используется режим VertiPaq (при этом в «Denali» на несколько порядков увеличились объемы данных, которые можно обрабатывать на сервере) и новый вариант доступа в виде прямого запроса к реляционной базе данных (при этом можно использовать индексы хранения колонок (ColumnStore indexes), о которых речь пойдет в дальнейшем.

Соответственно, модель можно формировать на основании большого набора источников данных, в том числе, потоков данных и данных из облачных сервисов (SQL Azure DataMarket).

Вне зависимости от используемого типа модели данных, на основании BISM можно строить отчеты, карты показателей и информационные панели с помощью широкого спектра пользовательских инструментов, к которым в Denali добавился Power View (ранее известный как «Crescent»).

Power View для интерактивного анализа данных

Новый компонент Power View позволяет обычным пользователям самостоятельно строить интерактивные отчеты и информационные панели на основании BISM.

Построение отчетов в Power View интуитивно понятно для обычных пользователей и характеризуется высокой интерактивностью и богатыми возможностями представления информации для анализа. Компонент автоматически связывает между собой различных части отчета, при выборе определенного элемента отчета показывает те же данные в других частях отчета, позволяет просматривать изменение данных в динамике и многое другое.

В следующем демонстрационном ролике показаны основные функции Crescent на примере организации по продаже товаров.

Отчеты Crescent также можно интегрировать в презентации PowerPoint и менять запросы к данным непосредственно в этом офисном продукте.

Data Quality Services для управления качеством данных

Новый компонент SQL Server 2012 CTP3 под названием Data Quality Services предназначен для очистки и/или устранения дубликатов в данных, загружаемых из источников.

Процесс работы с DQS состоит из двух основных этапов.

  1. Создается база знаний DQS, в которой задаются домены (анализируемые атрибуты данных) и правила очистки доменных значений (правила очистки, список правильных значений и альтернативных значений для переименования, внешние данные для сравнения). Далее по мере использования эта база знаний постоянно дополняется.
  2. На основании базы знаний создаются проекты DQS по очистке входных данных. При этом указывается входной
    источник, соответствия полей источника и доменов, данные из источника проходят автоматическую и ручную обработку, а затем могут быть экспортированы в SQL Server или CSV-файл.

Проекты DQS также можно использовать в пакетах Integrations Services для обработки новых записей в автоматическом режиме.

Улучшения в Master Data Services

В Master Data Services также есть множество значительных улучшений, среди которых:

  • надстройка MDS для Excel, позволяющая быстро создавать новые модели данных и осуществлять групповые изменения данных;
  • интеграция с проектами по управлению качеством данных (DQS);
  • для импорта информации для каждой сущности создается отдельная таблица, что значительно упрощает интеграцию (например, с помощью SSIS);
  • удобный веб-интерфейс с использованием технологии Silverlight.

В результате этих нововведений архитектура MDS в SQL Server 2012 принимает следующий вид.

Другие улучшение в SQL Server 2012 CTP3 для бизнес-аналитики
(Microsoft BI)

В числе других улучшений входят:

  • индексы хранения колонок (ColumnStore indexes) в реляционной базе данных позволяют на порядки ускорить операции JOIN на схеме базы данных тика «звезда», что значительно увеличивает производительность хранилищ данных;
  • SSRS в «Denali» работает как сервис общего доступа в SharePoint, что облегчает настройку и управление (резервное копирование, восстановление, ULS-журналирование, PowerShell), а также позволяет масштабировать решение;
  • благодаря возможности создания нотификаций в SSRS, интегрированных с SharePoint, пользователь интуитивно может для имеющихся отчетов задать условия, когда эти отчеты должны приходить по электронной почте;
  • появилась работать с SSRS в «облаке» (SQL Azure), благодаря чему операционная отчетность организаций может формироваться на базе данных SQL Azure, и можно встраивать отчеты в приложения Windows Azure или в пределах организации;
  • многое другое (об этом – в следующих публикациях).