Microsoft Fabric – La nueva Solución de Analytics

Impactos: 96

Microsoft Fabric finalmente ha sido anunciado como Public Preview durante Microsoft Build 2023.

Y esencialmente, es una nueva herramienta, o bien una especie de nueva herramienta dentro todo el ecosistema de la plataforma de Datos de Microsoft.

Debido a que el anuncio fue de una magnitud importante, es conveniente separar un poco la visión general de Microsoft sobre el mundo de datos y bajar a tierra cada concepto de esta nueva herramienta.

Lo que nos lleva a tratar de responder algunas preguntas iniciales:

  • ¿Qué es Microsoft Fabric?
  • ¿Cómo funciona?
  • ¿Por qué nos debería importar?
  • ¿Realmente todos lo vamos a usar?
  • ¿Lo vamos a usar de repente sin darnos cuenta de que realmente lo hemos activado?
  • ¿Cómo encaja en el mundo existente?
  • ¿Dónde encaja Synapse Analytics?
  • ¿Dónde encaja Power BI?

¿Qué es Microsoft Fabric?

Bien, para comenzar tomando la definición oficial de Microsoft, Fabric se define como como “la plataforma de datos en la era de la IA”.

Es una nueva plataforma de tipo SaaS (Software as a Service) que encapsula todos los diferentes tipos de cargas de trabajo y cómputo que había Synapse analytics en una versión “SaaSificada”, sumado a la agradable facilidad de uso que tenemos en Power BI.

Agrega toda la capacidad de un Lake-House más todas las piezas de Synapse Analytics, traídos a la misma plataforma SaaS que Power BI. Eso es lo que proclama ser Microsoft Fabric.

Si ya somos usuarios de la versión premium de Power BI, algunas de estas características se encontrarán habilitadas a partir de este lanzamiento.

En resumen, Fabric es una plataforma SASS que encapsula Power BI más muchos de los componentes de Synapse Analytics y otras nuevas capacidades.

Haciendo un paralelo, la forma en que se definió a Fabric sería como hablar de Microsoft Office, pero para el mundo de datos.

Por lo que asumiendo los costos (y claramente habrá algunos), sería como usar Office 365. Entonces, si tengo que hacer una presentación podemos utilizar PowerPoint, o Word para componer un documento o si tenemos que hacer cálculos utilizaríamos Excel.

Tomando esta idea como concepto, deberíamos pensar en agrupar bajo un mismo portal todas las actividades de datos. Por ejemplo, un Pipeline de Copy en Data Factory o quizás empezar a trabajar directamente desde un Reporte de Power BI con un conjunto de datos, que a su vez otro usuario puede haber trabajado con un Notebook de Python o mediante un Dataflow.

Un único almacenamiento para gobernarlos a todos

Todas estas cargas de trabajo que mencionamos, si bien pertenecen a productos que ya existían y claramente estaban orientadas a diferentes roles de usuario, ahora se encuentran bajo una misma Suite y cuyo soporte de almacenamiento es común a todas a ellas.

Este es un pilar de Fabric, todo el almacenamiento es un único tipo de storage de tipo Lake.

Microsoft ha presentado este concepto de almacenamiento tipo Lake unificado como si fuese el concepto de OneDrive, pero orientado a cargas de datos.

Hoy todos conocemos el servicio de OneDrive, donde hay Teams y también carpetas de Sharepoint. Y siempre tenemos una copia en sincronía local en nuestros equipos, por lo que toda la organización puede trabajar y compartir los archivos que necesitan.

Y esencialmente, Microsoft está tratando de imitar esta funcionalidad con este almacenamiento Lake, basado en Cloud Storage.

Hasta ahora si teníamos que trabajar con diferentes tipos de archivos o fuentes de datos, incluso en diferentes ubicaciones o nubes, la integración de estos silos de datos requería mucha complejidad para poder conectarnos, copiar o masajear la información.

Esta situación terminaba inevitablemente requiriendo tareas de Data Engineering, pipelines de ETL/ELT o simplemente una de-duplicación de estos datos múltiples veces para poder trabajar con ellos.

Pues bien, ahora Fabric con el almacenamiento unificado de tipo Lake, quiere poner fin a estas tareas complejas presentando una “única” copia de los datos con los que todos los usuarios vamos a poder trabajar.

Y este es un gran concepto, ya que teniendo un único punto de donde parten los datos, se simplifica en una gran medida el trabajo con la seguridad, para decidir quién puede acceder a qué datos, y toda la integración con el resto de las herramientas.

Por otro lado también, se ofrecerá una interfaz similar a OneDrive, llamada OneLake donde podremos interactuar con este almacenamiento para subir, modificar u obtener archivos tan fácilmente como conectarnos con nuestras credenciales incluso desde un desktop.

Un motor para cada tarea

La evolución de las diferentes cargas de trabajo, hacen que un único motor de procesamiento no sea suficiente.

Y es por esto que MS Fabric, nos permite utilizar el poder de los diferentes tipos de motores bajo una misma interfaz y sin tener que preocuparnos de aprovisionar o configurar previamente una capacidad de cómputo específica.

Data Factory

En Fabric nos encontramos con una “evolución” de los pipelines y Mapping Dataflows de Synapse Analytics, que ahora utiliza Power Query para copia y transformación de flujos de datos.

Data Engineering

En cuanto a ingeniería de datos, esencialmente nos encontramos con el motor de Spark que teníamos en Synapse, donde vemos la versión 1.1 que incluye Spark 3.3 y Delta 2.2 y se espera que el ritmo de actualización sea más constante y con una experiencia más continua y que sea completamente transparente con el resto de las piezas de Fabric.

Data Science

Por el lado de Ciencia de Datos, tenemos la capacidad de crear Modelos y Experimientos y luego incluir éstos dentro de un Pipeline con Spark Jobs.

Data Warehousing

Luego llegamos al componente de Data Warehousing, el mundo un poco más conocido para los que trabajamos con T-SQL.

En este motor, tenemos la capacidad de escribir SQL y ejecutar Stored Procedures con cargas de trabajo transaccionales.

Lo que realmente estamos viendo con Fabric es que no vamos a tener que elegir si trabajar con un SQL Pool dedicado y un SQL Pool Serverless. Ahora vamos a tener un único motor SQL que operará con un único almacenamiento de datos que ya se encuentra previamente configurado.

Es quiere decir que todo el almacenamiento de nuestras tablas y registros se encontrará dentro del OneLake y nuevamente con formato Delta.

Real Time Analytics

Este motor de análisis en tiempo real, toma la forma de lo que teníamos en Azure Data Explorer con lenguaje Kusto, para realizar ingesta y consulta de eventos en tiempo real. Este motor permite trabajar y analizar grandes volúmenes de registros en formato de series temporales, que pueden desde luego ser conectados a Power BI.

Data Activator

Este motor quizás sea la pieza de Fabric mas novedosa y permite tomar acciones automáticamente basadas en los datos.

Normalmente para automatizar acciones sobre los datos, se require el desarrollo de código y esto suele ser costoso en tiempo y recursos. Es por esto Fabric ofrece dentro de sus motores a Data Activator con una experiencia “No-Code” para poder tomar acciones directamente desde los datos y sus cambios.

Basado en modelos de datos, reglas de negocio y Triggers que se pueden configurar en forma visual, se crean acciones que pueden desencadenar procesos, alertas y llamadas a otras aplicaciones. Desde un simple email hasta interactuar con Power Automate para crear flujos mas complejos.

Conclusión

Microsoft ha fijado con Fabric una dirección unificada de dónde visualiza sus servicios en términos de datos y análisis en la nube.

Y esto parece ser algo serio, ya que de alguna manera Fabric parece ser el punto de convergencia de las múltiples iniciativas y servicios que existían en el ecosistema de Azure y On Premises de los productos de Microsoft hasta hoy.

Es verdad que aún falta mucho camino y en toda unificación habrá cosas que se perderán y otras se ganarán. Cada pieza de Fabric aún está en desarrollo y otras que aún no han sido anunciadas pero lo importante es que finalmente tenemos una dirección que permite tener una historia consistente de punta a punta con los datos.

[Lanzamiento] SQL Server 2022 en Disponiblilidad General

Impactos: 96

SQL Server 2022 finalmente ya está aquí, y está repleto de innovaciones en materia de bases de datos e integración con Microsoft Azure.

Esta nueva versión, promete que el Query Engine sea más eficiente y consistente, y que pueda ejecutar se tanto On-Premises como en la nube o incluso en el Edge con su versión para IoT Devices.

En esta nueva versión, Microsoft se centró en facilitar el traslado de las cargas de trabajo de SQL Server hacia Azure con la integración de SQL Managed Instance, así como en simplificar la recuperación en caso de desastre.

SQL Server 2022 y Azure SQL Managed Instance

Configurar la recuperación de desastres siempre requiere de un gran esfuerzo y complejidad para cualquier infraestructura, especialmente cuando se requiere utilizar una máquina virtual de Azure u otro servidor fuera del datacenter principal.

Ahora con Azure SQL Managed Instance, esta tarea se encuentra simplificada. A partir de SQL Server 2022, una instancia SQLMI se puede convertir en pocos clicks en un sitio de recuperación de desastres.

Las instancias SQLMI de Azure ofrece muchos beneficios sobre las implementaciones tradicionales de SQLServer. No solo es más fácil de configurar, sino que, al ser un servicio gestionado, no hay necesidad de mantenimiento sobre la infraestructura de DR.

Una vez configurado el DR sobre Azure SQL MI, se puede ver directamente desde el SSMS un grupo de disponibilidad y un grupo de disponibilidad distribuido desplegado automáticamente. Y como se encuentra vinculado a la instancia de Azure SQLMI, también podremos verlo desde el portal de Azure.

Copias de seguridad y restauraciones de SQL MI

SQL Server 2022 introduce una nueva función que permite restaurar una versión de una base de datos de instancia gestionada de Azure SQL a SQL Server. Esto le permite migrar fácilmente sus datos de Azure a su instancia local de SQL Server. Para utilizar esta función, haga una copia de seguridad de su base de datos Azure SQL en una cuenta de almacenamiento Azure Blob utilizando la función de copia de seguridad en URL. A continuación, cambie a su instancia local de SQL Server y utilice T-SQL para restaurar el archivo de copia de seguridad.

Synapse Link

A partir de esta versión, Microsoft nos ofrece la posibilidad de eliminar los silos entre sus cargas de trabajo operativas y analíticas. SQL Server 2022 nos permite dar por finalizados los días en los que había que desarrollar ETLs para extraer los datos operativos para luego llevarlos a una plataforma analítica y ejecutar análisis e informes. Con la integración de Azure Synapse Link, ahora se pueden realizar análisis e informes casi en tiempo real, eliminando la necesidad de construir ETLs.

Además, todos los datos de SQL Server pueden ser catalogados y gobernados mediante la integración con Azure Purview.

Intelligent Query Processing

El motor de Inteligencia de Querys incorporado SQL Server 2022 realmente agiliza el rendimiento y elimina la necesidad de realizar cambios en el código. Por ejemplo, cuando se ejecuta un procedimiento almacenado, pueden existir dos tipos de planes dependiendo de la cantidad de datos que SQL necesite procesar. Un Index Seek es ideal para las consultas que devuelven sólo unas pocas filas. Pero un Index Scan es más adecuado para consultas que devuelven muchos más datos.

Dicho esto, sólo el primer plan ejecutado puede ser almacenado en caché y este permanecerá en la caché a menos que algo sea desalojado de la memoria.

De esta forma, las sucesivas ejecuciones del mismo procedimiento almacenado utilizarían el mismo plan, tomando más tiempo ejecutar la consulta.

Así que ahora, en lugar de realizar un tunning constante de las consultas y procedimientos, el motor de IQP realizará esto por nosotros.

En lugar de tener un solo plan caché por cada procedimiento almacenado, activando la optimización de Parameter Sensitive Plan Optimization, SQL Server puede ahora almacenar en caché múltiples planes contra el mismo procedimiento almacenado a medida que se ejecutan numerosas consultas contra él.

Así que no nos queda más remedio que actualizar y probar todas estas nuevas ventajas:

Microsoft Reactor NYC – All Around Azure | Unlocked: Cloud Scale Analytics

Impactos: 77

Microsoft Reactor NYC - All Around Azure | Unlocked: Cloud Scale Analytics

Microsoft Reactor – All Around Azure | Unlocked: Cloud Scale Analytics!

Recientemente recibí una invitación especial del equipo de Azure para hablar sobre Scalable data management and analytics en el Microsoft Reactor New York y un gran grupo de Microsoft MVPs de las comunidades globales: José Portillo, Mariano Kovo, y Dave Rendón. Durante la sesión, nos centramos en los obstáculos para obtener valor de sus datos que luego impulsa a los equipos a desarrollar y optimizar las estrategias de datos.

También mantuvimos un debate enriquecedor sobre por qué las empresas están buscando una malla de datos para capacitar a los equipos con el autoservicio, al tiempo que implementan una gobernanza y una gestión sólidas.

Al final, hablamos sobre el diseño fundacional para la gobernanza y la gestión, que se alinea tanto con la malla de datos como con el marco de adopción de la nube de Microsoft.

Agradecimiento al Equipo Organizador

Quiero agradecer al equipo que llevó a cabo este excelente evento: Ionne Corey, Rebecca Karrim, Gwyneth Peña-Siguenza y Glauter Jannuzzi.

Link a la grabación: All Around Azure | Disponibilidad de análisis a escala de nube – Parte 1 – YouTube

Azure Synapse Analytics – Análisis de Datos Ilimitados

Impactos: 654

Nuevo Viejo Producto?

Durante el evento de Ignite de 2019, Microsoft anunció el cambio del servicio SQL Datawarehouse para pasar a llamarlo Synapse Analytics.

Mas allá del mero cambio de nombre, durante el anunció también dieron una muestra de una capacidad dentro de este servicio que llamaron Synapse Workspaces. Unificando así el mundo relacional con Big Data, Inteligencia Artificial y Power BI.

Ref: https://azure.microsoft.com/es-es/services/synapse-analytics/?WT.mc_id=DP-MVP-5003124

Rohan Kumar presentando en Ignite

Synapse Workspaces Componentes

Ahora bien, dentro de esta plataforma Microsoft hizo un relanzamiento del ya conocido Azure SQL Datawarehouse, pero a la vez agregando nuevos componentes que llevan el análisis de datos más allá de un repositorio relacional para un Enterprise DataWarehouse.

Ahora con Synapse se pueden unificar los mundos Relacionales, No Relacionales, Big Data y Machine Learning en un solo lugar

Cómputo

En esta plataforma podemos aprovisionar dos tipos de cómputo, es decir crear un Pool de Recursos para SQL o bien de tipo Spark.

Un Pool de tipo SQL, nos permitirá ejecutar cargas de trabajo símil T-SQL con la opción de aprovisionar los recursos de capacidad (Provisioned – aka DWUs) o utilizar una versión Serverless (On Demand).

La novedad ocurre con los Spark Pools, que permiten ejecutar cargas de trabajo de tipo Analíticas y de Machine Learning con Notebooks de tipo Jupiter y múltiples lenguajes como Phyton, Scala, SparkSQL y .NET para Spark.

Estos últimos al momento de este post, solo pueden ser creados de forma aprovisionada.

Integración

Dentro la plataforma, contamos también con una sección de Integración, que se basa en Azure Data Factory y que permite realizar pipelines de integración (ELT/ETL) sin escribir código.

Almacenamiento

Como repositorio no relacional, Synapse se apoya en el ya bien establecido Azure Data Lake (Gen2) obteniendo así escalabilidad casi ilimitada, pero a la vez con el control que ofrece este componente en cuanto a seguridad y administración (ACLs, Keys, etc.)

Administración

Finalmente como punto de ingreso a esta plataforma, Microsoft nos ofrece Synapse Studio, una interfaz Web que une todos los componentes en un solo lugar y que permite tanto a Administradores como Desarrolladores y Usuarios gestionar todas las actividades.

Y porque no… POWER BI

El mundo de analytics ya no solo pertenece a las areas de sistemas, sino cada vez mas a los usuarios del negocio, que a partir de Synapse podrán ver sus Workspaces de Power BI integrados en la misma consola aprovechando así los datos que otros sectores de la organización hayan podido preparar con los otros componentes de Synapse.

Recap

Microsoft pudo reunir en un solo lugar todas las capacidades de análisis de información y para toda una variedad de perfiles de usuarios.

Si bien hasta el momento se encuentra en Public Preview, este servicio promete muchísima capacidad y a la vez revalorizando el capital ya existente en las organizaciones.

En próximos post, analizaremos cada componente, costos y funcionalidades.

[Presentación] LightUP Conference 2020 – Covid-19

Impactos: 171

El pasado 14 de Julio tuve el grato honor de presentar mi charla de Synapse Analytics, en esta gran iniciativa para recaudar fondos para UNICEF USA.

Durante 24 se dictaron sesiones en Inglés y Español sobre tecnologías de Microsoft.

https://www.2020twenty.net/lightup/

Agradezco a todos los organizadores, y en especial a Daniel Villamizar por la parte de LATAM, por haberme permitido participar y colaborar.

Les dejo el link al material de mi presentación como así también al recording del evento: