Observability: Gestión de Sistemas Distribuidos y Complejos

Observability u Observabilidad es un concepto que en Tecnologías de la Información (TI) se refiere a la capacidad de comprender el estado interno de los sistemas de software a partir de su salida o datos generados, como logs, métricas y trazas. 

Es similar a cómo un médico diagnostica a un paciente basándose en síntomas y datos clínicos. En el mundo de TI, Observability permite a los equipos no solo identificar cuándo algo va mal, sino entender por qué ocurre y cómo solucionarlo de manera eficiente. 

En el siguiente artículo hablaremos sobre la definición de observabilidad, la importancia de esta práctica para el negocio, y las mejores prácticas y principios clave en el observability, junto con ejemplos de diversas industrias. 

Importancia de la Observabilidad para el negocio

En un entorno tecnológico cada vez más complejo la observabilidad consiste en una serie de procesos que aseguran que el negocio funcione sin interrupciones y pueda seguir innovando de manera segura. Prueba de esto, son los resultados del tercer informe anual Observability Forecast de New Relic, donde la firma examinó  cómo evolucionó la práctica de la observabilidad en 2023 con una muestra de  1700 profesionales de la tecnología. Estos fueron algunos de los resultados:

1.- Las interrupciones se producen con menos frecuencia año tras año

Las interrupciones aún ocurren con bastante frecuencia, pero la proporción de encuestados que dijeron que ocurren una vez por semana o más disminuyó año tras año (YoY) en un 36% para interrupciones de alto impacto comercial, en un 52% para interrupciones de mediano impacto y en un 63% para interrupciones de bajo impacto comercial.

2.- El costo medio anual de una interrupción es de $7,75 millones, pero la observabilidad ayuda

Las interrupciones son costosas: un tercio (32 %) de los encuestados afirmó que las interrupciones de aplicaciones empresariales críticas cuestan más de 500 000 USD por hora de inactividad. Pero aquellos con capacidad de observación completa experimentan un costo de interrupción promedio que es un 37 % menor que aquellos sin ella.

3.- La observabilidad de pila completa se correlaciona nuevamente con mejores resultados

La mayoría de las organizaciones (67 %) aún no han logrado la observabilidad de pila completa, pero las que la han logrado han mejorado las métricas de nivel de servicio. Los resultados muestran que la observabilidad de pila completa puede generar menos interrupciones y de menor duración, y menores costos por interrupciones.

Mejores prácticas y principios clave de la observabilidad

Según el centro de conceptos de Amazon Web Services, la observabilidad brinda un alcance y una visibilidad más amplios a las herramientas de monitoreo tradicionales, al incorporar datos históricos y situacionales adicionales e interacciones del sistema. Permite investigar la causa raíz de las alertas de monitoreo, junto con la capacidad de investigar los problemas que surgen debido a interacciones de varios componentes.

A continuación detallamos los principios clave de la observabilidad asociados a mejores prácticas para su ejecución:

1. Procesos

• Integración Continua y Despliegue Continuo (CI/CD): Observability debe estar integrado en el ciclo de vida del desarrollo de software. Desde el desarrollo hasta el despliegue, los equipos deben garantizar que se recojan y analicen datos relevantes.
• Monitoreo Proactivo: Más allá de reaccionar ante problemas, los equipos deben establecer un monitoreo continuo para identificar patrones anómalos antes de que se conviertan en incidentes.
• Gestión de Incidentes: Cuando se detecta un problema, el proceso de resolución debe estar bien definido, con roles claros y herramientas que faciliten la respuesta rápida y efectiva.
• Retroalimentación y Mejora Continua: Los datos obtenidos a través de la observabilidad deben utilizarse para mejorar los procesos y sistemas continuamente, reduciendo el tiempo de respuesta y aumentando la resiliencia.

2. Roles

• Ingenieros de Confiabilidad del Sitio (Site Reliability Engineers - SREs): Son responsables de garantizar que los sistemas sean confiables y escalables. Gestionan la observabilidad asegurando que los datos necesarios se recopilen y utilicen para mantener la estabilidad del sistema.
• Ingenieros DevOps: Integran herramientas y prácticas de observabilidad en el ciclo de desarrollo y operaciones, garantizando que los sistemas sean monitoreados y optimizados desde el desarrollo hasta la producción.
• Equipos de Seguridad: Utilizan la observabilidad para monitorear y detectar amenazas en tiempo real, asegurando que los sistemas estén protegidos.
• Gerentes de TI y Arquitectos de Sistemas: Definen la estrategia de observabilidad, seleccionando las herramientas y estableciendo los KPIs que medirán el éxito.

3. Sistemas y Herramientas

• Herramientas de Monitoreo y Logging: Herramientas como Prometheus, Grafana, ELK Stack (Elasticsearch, Logstash, Kibana), Datadog, y New Relic se utilizan para recopilar y visualizar logs, métricas y trazas.
• Plataformas de Observabilidad Completa: Plataformas como Splunk o Dynatrace permiten un enfoque integral, centralizando datos de diferentes fuentes y proporcionando análisis avanzados para entender el comportamiento del sistema.
• Alertas y Notificaciones: Los sistemas de observabilidad deben incluir mecanismos de alerta que notifiquen a los equipos en tiempo real cuando se detecten problemas o anomalías.

4. Métricas

• Métricas de Disponibilidad: Como el tiempo de actividad (uptime) y el tiempo medio entre fallos (MTBF) para garantizar que los sistemas estén disponibles.
• Métricas de Rendimiento: Incluyen la latencia, el tiempo de respuesta, y el uso de recursos (CPU, memoria) para monitorear el rendimiento del sistema.
• Métricas de Errores: Tasa de errores, incidentes por unidad de tiempo, y tiempo medio de resolución (MTTR) son fundamentales para medir la estabilidad del sistema.
• Métricas de Capacidad: Utilización de la infraestructura, escalabilidad y eficiencia del uso de recursos.

5. Frameworks y Mejores Prácticas

• Google SRE (Site Reliability Engineering): Este enfoque integra la observabilidad como un pilar para mantener la confiabilidad de los sistemas. Google define principios como el uso de presupuestos de error (error budgets) para balancear entre la innovación y la estabilidad.
• Observability-Driven Development (ODD): Este enfoque sugiere que la observabilidad debe ser una consideración desde el diseño del software, garantizando que los sistemas sean construidos con capacidades de monitoreo y análisis.
• Three Pillars of Observability: Este framework enfatiza el uso de Logs, Metrics y Traces como los tres pilares fundamentales para una observabilidad efectiva.
• ITIL 4: Aunque más amplio, ITIL 4 incluye prácticas que apoyan la observabilidad, como la gestión de incidentes, el monitoreo y la mejora continua de servicios.
• DevOps Maturity Models: Estos modelos evalúan la integración de la observabilidad en el ciclo de desarrollo y operaciones, ayudando a las empresas a medir su madurez en la implementación de prácticas de DevOps y observabilidad.

6. Principios Clave

• Visibilidad Completa: Todos los componentes del sistema deben ser monitoreados, y los datos deben ser accesibles y analizables en tiempo real.
• Acción Proactiva: La observabilidad no solo se trata de identificar problemas, sino de anticiparlos y evitar que ocurran.
• Automatización: Para escalar la observabilidad, es crucial automatizar la recopilación de datos, la detección de anomalías, y las respuestas a incidentes.
• Cultura de Colaboración: La observabilidad debe ser una responsabilidad compartida entre desarrollo, operaciones y seguridad, promoviendo una cultura de colaboración.

7. Drivers de Gestión

1. Reducción del Tiempo de Inactividad: Minimizar el tiempo que los sistemas están fuera de servicio para proteger los ingresos y la reputación de la empresa.
2. Mejora de la Experiencia del Cliente: Asegurar que los sistemas sean rápidos, estables y estén disponibles para mantener altos niveles de satisfacción del cliente.
3. Optimización de Recursos: Usar datos observables para optimizar la infraestructura y reducir costos operativos.
4. Facilitación de la Innovación: Permitir que los equipos desarrollen y desplieguen nuevas funcionalidades de manera segura y eficiente.

Observabilidad para la Optimización del Rendimiento y la Experiencia Digital

A medida que las empresas crecen y sus activos digitales se expanden, es fundamental implementar soluciones escalables que gestionen la complejidad sin comprometer el rendimiento. La observabilidad  es una herramienta que responde a estas necesidades porque mantiene la disponibilidad, el rendimiento y la eficiencia de sistemas críticos en empresas que dependen de la tecnología en su modelo operativo.

La integración fluida de herramientas dentro del ecosistema digital permite una observabilidad cohesiva, combinando datos de la web, móviles y sistemas back-end. Esto proporciona una visión unificada, optimiza la toma de decisiones y fomenta la colaboración eficiente entre equipos, mejorando la experiencia del usuario. Al seguir un enfoque escalonado, desde la infraestructura básica hasta las capas más complejas, se asegura una base sólida para el rendimiento continuo de la TI. Empresas líderes como Netflix, Airbnb, Uber y Amazon han adoptado estas prácticas, estableciendo altos estándares de observabilidad en entornos TI modernos.