v7 – Rsync + Ec2 + EBS backups en la nube para tus vServers

Después buscar alternativas y posibilidades para la estrategia de backup para la data y maquinas virtuales de vClouden al final encontré una solución simple, financieramente viable y rápida, la cual paso a detallar:

Donde almacenar ?

Aunque como mencione las maquinas EC2 no son precisamente baratas si las comparamos con otros servicios de VPS, lo cierto es que Amazon ofrece uno de las mejores y más económicas soluciones de almacenamiento disponibles (S3 y EBS), la primera para el almacenamiento de objetos y la segunda para el almacenamiento de volumenes para instancias de maquinas EC2, y particularmente importa la segunda por 2 razones:

1) precio:

  • $0.10 por cada GB/mes
  • $0.10 por 1 millón I/O requests

2) redundancia: cada unidad EBS es automáticamente replicada dentro de la zona de disponibilidad en la que se encuentre el datacenter, previniendo perdida de datos por problemas de hardware.

Que mecanismo ?

timemachine

Sigue leyendo

v7 – recogiendo data del visor HTML

Con el visor HTML de la v7 se pueden hacer infinidad de cosas en cuanto a visualización de data e inclusión de controles gráficos de diferentes tipos pero algunos casos el verdadero lió es lograr recoger la data que esos controles generan, como son editores, calendars, planificadores, UIs complejos, etc. así que utilizar este tipo de librerías genera mucho dinamismo pero tienen dos problemas que hay resolver para tomar la data generada o procesada por estas herramientas y guardarlas en la base de datos, ahora voy a detallar y solucionar estos 2 problemas:

1) Como recoger data generada dinámica mente y guardarla en la DB de V7:

El primer el problema es como lograr tomar la data que generan diferentes controles HTML y guardarla en nuestra DB, el asunto es que desde v7 tenemos acceso al código fuente del control HTML pero durante la ejecución del contenido html normalmente se genera más data y elementos que se adicionan al DOM y que no podemos leerlos desde v7 pues v7 solo ve el código fuente original, así que como recoger esta data que esta en memoria pues has sido generada dinámicamente ?

Pues lo primero que me percaté es que si bien la adición de elementos al DOM por medio de JQuery no aparece en el código fuente del documento, la inclusión de los mismo mediante Javascript puro y duro si lo hace, en este ejemplo estoy tomando el codigo html generado por ace editor y lo estoy guardando en un div especifico para luego recogerlo desde v7:

Contenedor:

<div id='html' style='display:none'></div>

Sigue leyendo

v7 – Enlaces a hermano y saldos acumulados

Uno de los problemas más comunes que nos podemos encontrar en las aplicaciones de gestión es el arrastre de saldos como ocurre en los inventarios basados en Kardex, libros mayores contables y flujos de caja, en este post voy a pasar a detallar metodología que uso en mis aplicaciones para solventar dicho problema.

Caso de estudio:

Para hacer la explicación más práctica abordemos el caso de una tabla de libro mayor contable que almacene por año, mes, tercero y cuenta  los saldos y movimientos:

saldos

Punteros y el indice HERMANO:

Quien haya trabajado con punteros a hermano en Velneo sabe que el éxito de la implementación depende de una clara definición del indice que se usara para indicar cuales registros son “hermanos” entre sí, en nuestro caso tenemos un indice llamado “HERMANO” que agrupa los indices por los que queremos realizar el arrastre => Cuenta (PUC), Tercero (Comercial), Año y Mes;  la importancia de este orden radica en que queremos que sean considerados como “hermanos” los registros que compartan la misma cuenta y tercero y que al recorrer dicho indice sea haga en orden por año y mes, esto ultimo para hacer más eficiente el código de actualización que veremos adelante. Sigue leyendo

Screencast Cirrus.js

En esta presentación veras el funcionamiento y caracteristicas de cirrus.js para darle accesso web a tus apps Velneo v7.

GitHub Repo

Tips:

- Para utilizar los archivos html de ejemplo de esta open App debes de descomprimir el archivo nginx.rar que está dentro del directorio cache de tu vClient.

- Para desarrollo web con v7 te recomiento usar cports para verificar el estado de tus puertos TCP y Fiddler para interceptar y hacer debug de todas las peticiones web-http logrando revisar el request y el response desde diferentes ángulos.

- En la fase de desarrollo es preferible levantar el servidor TCP desde el vClient, por cuanto si lo levantas desde el vServer y haces cambios en tu instancia cuando reinicies instancia el puerto queda abierto pero desligado del vServer y tienes que reiniciar el vserver.

Descarga: Puedes descargar la open app aqui, esta será enviada al catalogo oficial en los próximos días.

Saas en v7(II) – come on Cloud !!

Tal como indique en mi anterior entrada sobre Saas en v7(I), el modelo para despliegue que elegí es uno que permitiera “empaquetar” aplicaciones v7 + el vServer dentro de una Sandbox y que ese paquete constituyese una instalación y cada cliente puede obtener tantas instalaciones como desee dentro de su cuenta pagando exclusivamente por su uso.

Asi que primero lo primero, como se indico en el post de análisis este tipo de arquitectura requiere de un servicio cloud que permita abstraer los recursos de computo, a hoy el mercado de IaaS ofrece muchas potenciales soluciones y el primer filtro son aquellas IaaS que cuentan con una API completa que me permita manejar la creación de servidores, ips, almacenamiento, etc. asi que analize Amazon EC2, RackSpace con sus CloudServers y GoGrid, despúes de contrastar servicios, costes, seguridad y librerías disponibles, me decante por Amazon (una sorpresa escoger al lider mundial jejeje).

que nos ofrece amazon:

  1. Amazon ofrece un despliegue de infraestructura al rededor del mundo con multiples regiones y diferentes zonas de disponibilidad en esas regiones.
  2. Caracteristicas que crecen semana tras semana (solo hay que ver el NewsLetter).
  3. Elastic Compute (EC2), creación de servidores al vuelo pudiendo escoger entre diferentes tamaños y rendimientos usando plantillas (AMIs) para crear servidores pre-configurados.
  4. Elastic Block Storage (EBS), una razón super importante por rendimiento y seguridad, ya que las EBS se replican en las diferentes zonas de disponibilidad dentro de la region seleccionada ademas tener varios niveles de rendimiento en E/S.
  5. Costos bastante razonables.
  6. una API super completa ademas de la disponibilidad de una librearía Cloud para Ruby.
  7. Simple Storage System (S3), el sistema de almacenamiento cloud de Amazon.
  8. Elastics IPs, la posibilidad de mapear direcciones IP fijas a diferentes instancias EC2, importantisimo para realizar reconstrucciones que sean transparentes para los usuarios.

ok, ya tenemos los recurso de computo asi que, ¿ que arquitectura montamos ?, esta es la propuesta de vClouden:

En primera instancia esta la aplicación Web, esta desarrollada en Ruby on Rails y tiene la interfaz necesaria para administrar la solución Saas (crear Aplicaciones y añadir versiones, administrar los soportes, crear la documentación de tus apps y personalizar la interfaz de logeo), también el interfaz para los clientes finales quienes en ultimas utilizaran las soluciones v7 (login, soporte, documentación, instalaciones, etc.), esta webapp además se encarga de la administración de la infraestructura creando y configurando servidores, realizando las instalaciones que soliciten los clientes, backups diarios y demás tareas de adminsitrativas.

En segunda instancia esta Nimbus, esta es una aplicación pre-instalada en cada servidor que crea vClouden y que tiene la capacidad de crear SandBoxs e indicarle sus limites de rendimiento, en esta sandbox se instalara un vServer monopuesto y le instalara la aplicación v7 indicada, realizara las actualizaciones de versiones, desinstalaciones, mapeo de red para redirigir las comunicaciones hacia y desde las sandbox y realizar backup de data a pedido de los clientes.

Como puede observarse las maquinas EC2 tienes dos niveles, la maquina pura (la parte superior en amarillo) es solo la estructura de computo (CPU + Ram + FileSystem+ nimbus), la parte inferior contiene las Sandboxs y los datos de los vServers, esto es importante porque al estar estas dos estructuras separadas hace que los recursos de computo sean “desechables” y en el caso de un mealtdown o que una instancia este corriendo sobre hardware degradado simplemente se descontecta la parte de datos y se le conecta a una instancia nueva remapeando las ips para que el proceso sea transparente para el usuario.

Las SanBoxes

Son unidades aisladas en disco y rendimiento donde se instala un Velneo-vSever con tu aplicación, estas sandbox permiten otorgarle a cada aplicación lo que requiere para funcionar ademas de agregarle una capa de seguridad a todo el esquema añadiendo total aislamiento, cabe resalta que dentro de cada sandbox cada vserver es monitoreado para mantenerlo corriendo y vigilado por los perfiles de seguridad para que no haga mas de lo que debe hacer; este tipo de aislamiento además tiene una ventaja de futuro: tus apps podrán ser declaradas con dependencias (curl, libxml, Rmagick, etc), mismas que serán instaladas solo en las Sandbox de tus aplicaciones sin afectar a las demás.

y en cuanto seguridad ?

con esta arquitectura vClouden cuenta con 4 nivles de seguridad:

  1. El firewall y las propias medidas de seguridad de Amazon que no son pocas, aqui puedes ver un presentación muy completa sobre seguridad en AWS.
  2. El nivel de asilamiento que proveen las Sandbox, en lo que a tu aplicación y vServer respecta tiene un servidor solo para el solo, con un rendimiento fijo y su propio filesystem.
  3. Perfiles AppArmor para las Sanbox para evitar que acciones en las mismas intenten ejecutar comandos en el host como tal.
  4. Dentro de las sandbox, ademas de que el vServer no se corre como un usuario con privilegios de Root, cada vServer es monitoreado por un perfil AppArmor para asegurar a nivel de aplicación que no va a acceder a mas de lo que le corresponde.

y la Alta disponibilidad ?

Cada instancia de EC2 es monitoreada por Monit, este demonio revisa intervalos si los vServers estan arriba y de no estarlo se encarga de arrancarlo nuevamente, asi que si tu vserver cae por algun error en un proceso (que es lo mas común) será levantado automáticamente a los 10 segundos, y esto lo hará 5 veces consecutivas, a la sexta nos será notificado.

Deployment con vClouden

En vClouden las aplicaciones se almacenan como un cabecera que indica los datos básicos de la aplicación (Nombre, logo, cantidad de ram necesario y dependencias) y una serie de versiones que son las que realmente contienen el código fuente de las apps, en cada versión se incluye un archivo tar.gz que contiene la carpeta Velneo (Cajas + Datos server), la indicación de la version de V7 sobre la corre la app y el conscutivo de la versión. Cada versión podrá ser descargada de nuevo, borrada (si no tiene instalaciones asociadas) y por supuesto desplegada en producción.

aquí un video de como trabaja:

Algunas FAQ sobre el almacenamiento y despliegue de soluciones con vClouden:

¿Donde queda almacenado el codigo fuente de mi app ?

El código fuente de tu app queda almacenado dentro el servicio de almacenamiento de Amazon S3 en un repositorio privado el cual se encuentra protegido por todo el sistema de seguridad lógico, físico y de red de Amazon, si quieres hacerte una idea del nivel de seguridad de Amazon AWS esta presentación es mas que completa (http://www.youtube.com/watch?v=hEQIG_6B3VE&feature=plcp).

¿ Que sucede durante un Deployment ?

La secuencia de eventos despúes de que das click en “deploy” es: el servidor revisara todas las instalaciones que tus clientes hayan hecho de tu app y las agrupara por servidor, posteriormente creara una tarea para cada servidor indicandole que instalaciones debe actualizar y a que versión instalar, estas tareas se ejecutaran en 2do plano por un grupo de workers que se encargan de las tareas de despliegue en paralelo.

¿ y si me equivoco en el Deployment ?

Dado que Velneo V7 tiene la característica que al reiniciar instancias reconstruye el área de datos y hace las modificaciones que hayas hecho sobre la estructura de tablas, es posible que te equivoques y que consecuencia de esos cambios de estructura se pierden datos, por ello antes de cada deployment se hace un backup dentro de cada Sandbox (que dura 48 horas) para que puedas realizar un rollback inmediatamente sin perder nada.

¿ Porque debo indicar la cantidad de RAM que consume mi app ?

Porque esa cantidad de RAM será asignada a cada sandbox que correrá tu aplicación, de esta forma se aísla el consumo de memoria para que tu app no afecte el rendimiento de otras instalaciones que corren en el mismo servidor  y viceversa, ademas en función de ese consumo te serán facturadas tus instalaciones una vez establecida la estructura de tarifas de vClouden.

¿ Mi app tiene dependencias de librerías externas, puedo indicarlas ?

Si, aunque de momento se esta probando a nivel de código, vas a poder indicar las librería que necesitas (curl, libxml, Rmagick, etc) y serán instaladas únicamente en cada Sandbox donde se instale tu app.

¿ Que se viene en el tema de deployment ?

- Pues bien, por inquietudes y sugerencias de algunos Velneadores y dado que la arquitectura de vClouden lo permite, en el futuro podrás realizar instalaciones de forma manual desde la interfaz de administración, algo así como un mini sistema de hosting teniendo en tu cuenta un listado de Sandboxs de las que podrás disponer.

- A mediano plazo se esta contemplando el despliegue de deployments basandos en Git, para hacer mas efectivo el control de versiones.

- También se esta probando el poder ver desde el interfaz los logs de tu Velneo vServer y ayudarte así con el debug de posibles problemas que puedas llegar a tener.

bueno esto esto es todo, un saludo.

vServers con alta disponibilidad con Monit

Monit

Monit es una herramienta Linux para monitorizar diferentes componentes de un servidor tales como demonios, archivos, directorios, servicios de red ,etc. pero con una gran diferencia Monit puede tomar acciones por ejemplo cuando el servicio cae y ademas avisarte de lo acontecido, asi que vamos a utilizar esta herramienta para monitorizar un vserver, levantarlo en caso de caida y que nos avise por mail cuando suceda y vamos a hacerlo en un Ubuntu 12.04 LTS.

Primero lo primero installemos Monit:

sudo apt-get install monit

Ahora para monitorizar un proceso Monit necesita que indiquemos un pidfile, pero la instrucciones de arranque de los vServer no tiene la opción “–pidfile”, asi como ejecutamos un Velneo vServer  pudiendo identificar su PID ?, tiempo atras tome unas lineas de codigo de un hilo del foro para crear un script de auto inicio y terminación de un vServer de tal forma que se inicie al igual que los servicios mas comunes para Linux y lo unico que hice fue añadir el codigo para asociarle un pidfile:

#/etc/init.d/vserver_init.sh
#!/bin/bash
 export PIDFILE=/ruta_donde_esta_vserver/vserver.pid
 case "$1" in
 start)
 /ruta_donde_esta_vserver/vServer.sh -s
 ps -e | grep vServer | cut -d" " -f 2 > ${PIDFILE}
 ;;
 stop)
 /ruta_donde_esta_vserver/vServer.sh -t
 rm ${PIDFILE}
 ;;
 restart)
 /ruta_donde_esta_vserver/vServer.sh -t
 rm ${PIDFILE}
 /ruta_donde_esta_vserver/vServer.sh -s
 ps -e | grep vServer | cut -d" " -f 2 > ${PIDFILE}
 ;;
 esac
 exit $?
<strong>

Ok ahora si tenemos un script que podemos usar para iniciar y parar nuestro vServer usando el comando:  “sudo ./vserver_init.sh start”, básicamente lo que este script hace es iniciar el vserver y despues de iniciado lo busca en la lista de procesos activos y guarda su numero de proceso en el archivo .pid especificado en la ruta (PATH), yo personalmente escogí que el pidfile estuviera en la misma carpeta del vserver pero esto es opcional.

Procedamos a configurar Monit, para hacer esto vamos a ir a /etc/monit/monitrc lo abrimos con un editor (vim por ejemplo) y buscamos la siguientes lineas y las editamos:

set daemon 30 #revisa los servicios en intervalos de 30 segundos

#asignemos un servidor de mail via SMTP, intentalo con tu cuenta de Gmail

set mailserver smtp.gmail.com port 587

username “MYUSER” password “MYPASSWORD”

using tlsv1

set alert pedro_perez@mail.com #asignemos a quien enviar los correos

#Monitorizar tu vserver

check process vServer with pidfile /ruta_donde_esta_vserver/vserver.pid

start program = “/etc/init.d/vserver_init.sh start”

stop program = “/etc/init.d/vserver_init.sh stop”

if failed host 127.0.0.1 port 690 type tcp then alert

if 5 restarts within 5 cycles then timeout

Basicamente lo que hicimos fue decirle a monit: revisa mi vserver cada 30 segundos, estos son los comandos para inciarlo y detenerlo, en caso de caida levántalo y  notifícame a mi correo usando el servidor de correo de Gmail, si se cae mas 5 veces durante 2 minutos y medio terminalo.

no es Genial …

por supuesto Monit tiene mas para dar: un servidor web embebido para que puedas acceder via http y revisar el estado de los servicios, monitorizar carpetas (muy util para los vServers Express así obtendríamos notificaciones cuando se este acabando el espacio en disco), monitorizar archivos, comunicaciones TCP, etc.

pdta: en vClouden cada Sandbox tiene su propio Monit para cuidar el server.