Monthly Archives: marzo 2011

Algo de tuning con grandes cantidades de documentos (II)

Este es el segundo artículo sobre tuning cuando se encuentran muchos documentos dentro del mismo nivel o espacio de trabajo y es continuación del artículo anterior: http://fegor.blogspot.com/2011/03/algo-de-tuning-con-grandes-cantidades.html

Seguimos con la configuración de un sistema con 60 mil documentos (muy pequeños) en el el mismo nivel de espacio de trabajo. Se me olvidó decir que las pruebas se han realizado sobre una máquina virtual en Virtual Box.

Partimos de la última cadena de configuración que usamos en el artículo anterior añadiendo también los parámetros para poder conectar vía JMX con la utilidad jconsole que es la usada para monitorizar los arranques:

export IP_ADDR=”`hostname -i`”
export JAVA_OPTS=”-server”
export JAVA_OPTS=”${JAVA_OPTS} -Xms720m -Xmx720m -Xss128k -XX:NewSize=256m -XX:MaxPermSize=128m”
export JAVA_OPTS=”${JAVA_OPTS} -XX:+UseConcMarkSweepGC -XX:+CMSIncrementalMode -XX:CMSInitiatingOccupancyFraction=80″
export JAVA_OPTS=”${JAVA_OPTS} -Dalfresco.home=${ALF_HOME} -Dcom.sun.management.jmxremote”
export JAVA_OPTS=”${JAVA_OPTS} -Djava.rmi.server.hostname=${IP_ADDR}”

Seguidamente se “optimiza” más la propia configuración de Alfresco ECM añadiendo al fichero alfresco-global.properties lo siguiente:

# Desconectar auditorías
audit.enabled=false
audit.useNewConfig=false

# Conexiones máximas a la BD
db.pool.max=275

# Reducción de conexión (8 por defecto)
db.pool.idle=-1

# Tamaño de filas para consultas (10 por defecto)
hibernate.jdbc.fetch_size=150

# Límite de tiempo mínimo para indexar en background
lucene.maxAtomicTransformationTime=0

# Tiempo para el tracking
index.tracking.cronExpression=0/5 * * * * ?

Cortesía de las Alfresco Master Classes y Toni  de la Fuente.

Los resultados han sido los siguientes: (Tiempo de arranque: 565879 ms)

Ahora cambiamos en contentModel.xml en el tipo cm:content la propiedad “atomic” a “false”, y remodificamos los parámetros de la JVM y volvermos a probar por última vez…

export JAVA_OPTS=”-server”
export JAVA_OPTS=”${JAVA_OPTS} -Xms720m -Xmx720m -Xss128k -XX:NewSize=128m -XX:MaxPermSize=128m”
export JAVA_OPTS=”${JAVA_OPTS} -XX:+UseConcMarkSweepGC -XX:+CMSIncrementalMode -XX:CMSInitiatingOccupancyFraction=50″
export JAVA_OPTS=”${JAVA_OPTS} -XX:MaxGCPauseMillis=1500 -XX:GCTimeRatio=9″
export JAVA_OPTS=”${JAVA_OPTS} -Dalfresco.home=${ALF_HOME} -Dcom.sun.management.jmxremote”
export JAVA_OPTS=”${JAVA_OPTS} -Djava.rmi.server.hostname=${IP_ADDR}”

El resultado final es: (Tiempo de arranque: 520523 ms)

Bien, Pero ¿que pasa si queremos introducir 150 mil documentos o más por nivel? Para esto antes modificaremos los valores de ehcache-context.xml para que puedan almacenar valores muy elevados así como en el fichero ehcache-transactional.xml subiremos el número de elementos en memoria  (maxElementsInMemory=”150000″) y el parámetro de JVM “-XX:NewSize” lo ajustaremos según las necesidades.

Por ejemplo:

Fichero: ehcache-transactional.xml

[…]

     
        
     
     
        
     
     
         org.alfresco.cache.contentDataTransactionalCache
     
     
         150000
     
  
[…]

     
        
     
     
        
     
     
         org.alfresco.storeAndNodeIdTransactionalCache
     
     
         150000
     
  
[…]

Un script para crear documentos de prueba podría ser:

Fichero: crear_documentos.js
var doc;
for(var i=1; i<150000; i++)
{
    doc = companyhome.createFile(“doc-” + i + “.txt”);
    doc.content = “Texto-” + i + “. Esto es una prueba de creación de documento para comprobar la capacidad de indexación, recuperación, etc. ABCDEFGHYJKLMNÑOPQRSTUVWXYZ0123456789 ABCDEFGHYJKLMNÑOPQRSTUVWXYZ0123456789 “;
    doc.save();
}

El principal problema que nos encontramos aquí es que al crearse objetos dentro de un bucle, estos no son liberados tan rápidamente y pasan a la parte de “CMS Old Gen” de la heap que es la que recibe más carga por lo que habrá que ajustar tanto los tiempos de pasadas del GC como el tamaño de la memoria “a corto plazo” o “New Gen”, esto puede establecerse con el parámetro -XX:NewSize.

También hay que tener en cuenta la configuración y optimización de MySQL.

Finalmente, una cadena de arranque para la JVM que es bastante útil en el caso de cargas masivas para plataformas 32 bit (para 64 bit se puede incrementar la heap al doble o al triple) sería:

export IP_ADDR=”`hostname -i`”
export JAVA_OPTS=”-server”
export JAVA_OPTS=”${JAVA_OPTS} -Xms1384m -Xmx1384m -Xss128k -XX:MaxPermSize=128m -XX:NewRatio=2″
export JAVA_OPTS=”${JAVA_OPTS} -XX:+OptimizeStringConcat -XX:+UseLargePages -XX:+UseFastAccessorMethods -XX:+AggressiveOpts -XX:-UseParallelGC”
export JAVA_OPTS=”${JAVA_OPTS} -XX:+UseConcMarkSweepGC -XX:+CMSIncrementalMode -XX:CMSInitiatingOccupancyFraction=80″
export JAVA_OPTS=”${JAVA_OPTS} -XX:GCTimeRatio=9″
export JAVA_OPTS=”${JAVA_OPTS} -Dalfresco.home=${ALF_HOME} -Dcom.sun.management.jmxremote”
export JAVA_OPTS=”${JAVA_OPTS} -Djava.rmi.server.hostname=${IP_ADDR}”
export JAVA_OPTS=”${JAVA_OPTS} -Djava.io.tmpdir=${ALF_HOME}/tomcat/temp”

La memoria asignada a la máquina virtual (Virtual Box) es de 1GB. y la de la JVM es más de 1GB. (1385 MB.) por lo que esta hará “swaping” a disco.

En resumen, el tema de optimización de la JVM y Alfresco ECM con cargas masivas de documentos o creación de estos y más en el mismo nivel no es trivial pero siempre se puede “forzar” para que al menos realice el trabajo inicial y posteriormente ir descargando los espacios de trabajo en estructuras de más profundidad para disminuir la carga en memoria de tantas referencias.

Algo de tuning con grandes cantidades de documentos (I)

Cuando se tienen grandes cantidades de documentos a un mismo nivel de espacio de trabajo, del orden de 60000 por ejemplo, a la hora de indexar completamente o de requerir un listado, la JVM hace un uso intensivo de la memoria, sobre todo de la heap y en concreto de la llamada “Old Gen” (o “Tenured Gen”, según casos) ya que son bucles donde se crean muchos objetos que tardan en ser liberados.

Las pruebas se han realizado en una máquina virtual con 1GB de RAM con CentOS 5 (i386), JVM 1.6.0_22 y Alfresco Enterprise 3.3.4

Todos los arranques se hacen borrando previamente el directorio “lucene-indexes” y estableciendo en alfresco-global.properties la propiedad “index.recovery.mode=FULL”.

La primera prueba es arrancar con los parámetros normales que se suelen poner:

export JAVA_OPTS=”-server”
export JAVA_OPTS=”${JAVA_OPTS} -Xms128m -Xmx512m -XX:MaxPermSize=256m”

El resultado es el siguiente: (Tiempo de arranque: 630614 ms)

Se pueden observar las caídas en las gráficas cuando es lanzado el recolector de basura…

Además, al poner tantos elementos obtenemos avisos de la ehcache al sobrepasar los elementos posibles, bien, usamos la configuración que explico en el artículo http://fegor.blogspot.com/2011/01/avisos-de-alfresco-sobre-saturacion-de.html para evitar estos avisos y poder cargar más en la caché.

Además vamos a mejorar los parámetros de memoria, por un lado comprobamos que la “Perm Gen” está demasiado dimensionada con lo que la vamos a acortar para tener más posibilidades de asignarla a la heap. Además usaremos un menor tamaño de “New Gen” para adaptar mejor el tamaño a la parte “Tenured Gen”, y dejaremos el tamaño de heap como está…

export JAVA_OPTS=”-server”
export JAVA_OPTS=”${JAVA_OPTS} -Xms512m -Xmx512m -XX:NewGen=128m -XX:MaxPermSize=128m”

 El resultado mientras se arranca y reindexa, estando al rededor del 70% de reindexación completa es el siguiente: (Tiempo de arranque: 702462 ms)

Como observamos, no se aprecian grandes diferencias con respecto a la primera configuración, simplemente hemos eliminado los avisos de llenado de la ehcache pero ha tardado más en arrancar. Bien, sigamos, ahora vamos a realizar una configuración más “agresiva” usando los siguientes parámetros:

export JAVA_OPTS=”-server”
export JAVA_OPTS=”${JAVA_OPTS} -Xms640m -Xmx640m -Xss128k -XX:NewSize=320m -XX:MaxPermSize=128m”
export JAVA_OPTS=”${JAVA_OPTS} XX:+UseConcMarkSweepGC -XX:+CMSIncrementalMode -XX:CMSInitiatingOccupancyFraction=80″

Este es el resultado:(Tiempo de arranque: 670572 ms)

Se observa un mejor comportamiento de la memoria, si bien, la parte de “Old Gen” está algo elevada. También se ha recogido la muestra mientras indexaba sobre el 70%.

Por último vamos a retocar un poco los parámetros de la JVM y eliminar la modificación sobre el fichero hibernate-context.xml que se ha seguido en el artículo anterior.

Los parámetros establecidos quedan como:

export JAVA_OPTS=”-server”
export JAVA_OPTS=”${JAVA_OPTS} -Xms720m -Xmx720m -Xss128k -XX:NewSize=256m -XX:MaxPermSize=128m”
export JAVA_OPTS=”${JAVA_OPTS} -XX:+UseConcMarkSweepGC -XX:+CMSIncrementalMode -XX:CMSInitiatingOccupancyFraction=80″

Y el resultado es: (Tiempo de arranque: 568476 ms)

En este último caso, la reindexación y arranque ha tardado menos tiempo si bien la memoria parece que está más aprovechada ya que se observa una mayor carga de instancias y ocupación de esta sin llegar en ningún momento a colapsarse.

Como se observa, existen múltiples configuraciones y aunque a priori parezca que no haya grandes diferencias, en muchas ocasiones puede optimizar el trabajo tanto a la hora de reindexar muchos documentos como de respuesta hacia el interface gráfico.

También se observa que Alfresco ECM cada vez se comporta mejor con grandes cantidades de documentos (obsérvese que se han creado con un tamaño pequeño y tipo texto solamente) dentro del mismo espacio de trabajo.

En la segunda parte se tocarán no solo parámetros de la JVM sino también de Alfresco ECM para acortar estos tiempos de arranque así como mejorar la gestión de la memoria.

Para obtener más información se pueden consultar los siguientes enlaces:

http://wiki.alfresco.com/wiki/JVM_Tuning#Maximum_JVM_Heap_Size_32.2F64bit
http://www.oracle.com/technetwork/java/javase/tech/vmoptions-jsp-140102.html
http://fegor.blogspot.com/2011/01/avisos-de-alfresco-sobre-saturacion-de.html

Forzar el HOST en JMX (RMI) para Alfresco ECM

En algunas ocasiones necesitamos forzar el HOST para las conexiones JMX vía RMI de Alfresco.

En la configuración (alfresco-shared.properties) encontramos dos propiedades que son las siguientes:

alfresco.rmi.services.port=50500
alfresco.rmi.services.host=localhost

Pero en realidad hacen referencia a la parte de “virtualización” de servidor de Alfresco y no de los servicios que este proporciona. Para ello hay que recurrir a una propiedad en la llamada a la JVM que es java.rmi.server.hostname

En efecto, si necesitamos forzar una IP determinada de “escucha” para conectar alguna consola tipo jconsole, VisualVM, etc. necesitaremos hacer uso de esta variable.

Lo mejor es ponerla en el script de arranque de Alfresco, por ejemplo en Linux, esta sería una forma:

[…]
export IP_ADDR=”`hostname -i`”
export JAVA_OPTS=”-Xms256m -Xmx524m -Xss128k -XX:PermSize=196m -XX:MaxPermSize=196m -server”
export JAVA_OPTS=”${JAVA_OPTS} -Dalfresco.home=${ALF_HOME} -Dcom.sun.management.jmxremote -Djava.rmi.server.hostname=${IP_ADDR} -Djava.rmi.server.port=50500″
[…]

Ahora solo queda arrancar y probar que se está listando correctamente el puerto y desde la dirección IP adecuada con:

netstat -putan | grep java

Y el resultado sería algo así:

tcp        0      0 ::ffff:192.168.1.112:50500  :::*                        LISTEN      5560/java          
tcp        0      0 ::ffff:127.0.0.1:8005       :::*                        LISTEN      5560/java          
tcp        0      0 :::50501                    :::*                        LISTEN      5560/java          
tcp        0      0 :::50502                    :::*                        LISTEN      5560/java          
tcp        0      0 :::55142                    :::*                        LISTEN      5560/java          
tcp        0      0 :::50503                    :::*                        LISTEN      5560/java          
tcp        0      0 :::50504                    :::*                        LISTEN      5560/java          
tcp        0      0 :::8009                     :::*                        LISTEN      5560/java          
tcp        0      0 :::50505                    :::*                        LISTEN      5560/java          
tcp        0      0 :::50506                    :::*                        LISTEN      5560/java          
tcp        0      0 :::50507                    :::*                        LISTEN      5560/java          
tcp        0      0 :::139                      :::*                        LISTEN      5560/java          
tcp        0      0 :::50508                    :::*                        LISTEN      5560/java          
tcp        0      0 :::53453                    :::*                        LISTEN      5560/java          
tcp        0      0 :::8080                     :::*                        LISTEN      5560/java          
tcp        0      0 :::41715                    :::*                        LISTEN      5560/java          
tcp        0      0 :::38324                    :::*                        LISTEN      5560/java          
tcp        0      0 :::445                      :::*                        LISTEN      5560/java          
tcp        0      0 ::ffff:127.0.0.1:42540      ::ffff:127.0.0.1:3306       ESTABLISHED 5560/java          
tcp        0      0 ::ffff:127.0.0.1:42541      ::ffff:127.0.0.1:3306       ESTABLISHED 5560/java          
tcp        0      0 ::ffff:127.0.0.1:42542      ::ffff:127.0.0.1:3306       ESTABLISHED 5560/java          
tcp        0      0 ::ffff:127.0.0.1:42543      ::ffff:127.0.0.1:3306       ESTABLISHED 5560/java          
tcp        0      0 ::ffff:127.0.0.1:42544      ::ffff:127.0.0.1:3306       ESTABLISHED 5560/java          
tcp        0      0 ::ffff:127.0.0.1:42545      ::ffff:127.0.0.1:3306       ESTABLISHED 5560/java          
tcp        0      0 ::ffff:127.0.0.1:42546      ::ffff:127.0.0.1:3306       ESTABLISHED 5560/java          
tcp        0      0 ::ffff:127.0.0.1:42547      ::ffff:127.0.0.1:3306       ESTABLISHED 5560/java          
tcp        0      0 ::ffff:192.168.1.112:50508  ::ffff:192.168.1.103:53427  ESTABLISHED 5560/java          
tcp        0      0 ::ffff:192.168.1.112:50508  ::ffff:192.168.1.103:53428  ESTABLISHED 5560/java          
udp        0      0 :::137                      :::*                                    5560/java          
udp        0      0 :::7500                     :::*                                    5560/java          
udp        0      0 :::7500                     :::*                                    5560/java

Crear módulos AMP para share (Alfresco)

Mi amigo Toni de la Fuente ha modificado un componente en WebScript (repository) para visualizar todas las consolas de que disponemos en la versión Enterprise de Alfresco: http://blyx.com/2011/03/07/anade-mas-utilidades-de-administracion-en-alfresco-share/ y ha creado un proyecto en google code a partir de este en: http://code.google.com/p/alfresco-useful-admin-links/

Para instalar este WebScript solo hay que copiarlo en la ruta indicada directamente (ver información en su proyecto) o bien, también se puede crear un módulo AMP para que pueda ser instalado dentro del fichero share.war

Bien, eso es lo que vamos a hacer, crearemos un fichero AMP con los ficheros de WebScript para que pueda dejarlo para descarga en su proyecto.

La creación de módulos para “share” de Alfresco es la misma que cuando se crean módulos para el “explorer”. Evidentemente cambian las localizaciones, dónde vamos a dejar los ficheros y que en este caso la mayoría de las veces serán archivos relacionados con WebScripts más que clases Java.

Si tenemos el SDK de Alfresco se puede realizar una copia de su “SDK Basic AMP” y a partir de ahí continuar, si no es así se puede crear un proyecto Java en Eclipse y dotarlo de la siguiente estructura:


En build/dist se creará el fichero de módulo, este se generará a partir de un fichero .jar generado, a su vez, a partir de lo que se tenga en el directorio source; así como también de los ficheros que hay en el directorio config.

Dentro del directorio config podemos crear la estructura misma que usa Alfresco (share) para almacenar los componentes y en concreto los de la consola para el administrador; y que está en alfresco/site-webscripts/org/alfresco/components/console

Lo más importante aquí es tener un buen fichero de ant para que pueda ser “compilado” todo correctamente.

Mi fichero ant para esto (build.xml) es el siguiente:

   
   
   

   
   
   
   

   
       
       
       
   

   
       
       
       
   

   
       
   

   
       
       
           
               
               
               
           
       
   

   
       
           
       
   

   
       
           
           
           
           
               
               
               
               
               
           
           
       
   

Una vez que todos los componentes están en su sitio solo hay que ejecutar el archivo build.xml (botón derecho encima del fichero build.xml en Eclipse y elegir “Run as…->Ant Build”) y comprobar el resultado.

 ¿Ventajas de tener un módulo?, creo que están claras, mejora la administración y mantenimiento del producto, mayor facilidad para instalación, etc. Por supuesto es lo aconsejado por Alfresco.

¿Desventajas?, pue sí, como con todo, también las hay, la más importante es que copiando los ficheros directamente en el despliegue de la aplicación solo hay que “refrescar” el “inventario” de WebScripts para tenerlos disponibles y en caliente, mientras que de la otra forma aunque no paremos el servidor o la aplicación share, al modificar el .war se autodesplegará produciendo al menos que tengámos que volver a autenticarnos, siempre y cuando no tengamos activado el Single Sign On (SSO)… 😉

Resetear contraseñas

Entrar como root en Linux:

En lilo:
1. Teclear: linux single
2. Cambiar la contraseña con: passwd
En grub:
1. Pulsar E en Grub.
2. Añadir a la línea “kernel…” lo siguiente: init=/bin/sh Single
3. Pulsar B para arrancar.
4. Remontar en lectura/escritura: mount / -o rw,remount

Cambiar password del root de MySQL:
1. Parar MySQL
2. Ejecutar MySQL como: mysqld --skip-grant-tables --user=root &

3. Entrar en la bd mysql: mysql mysql

4. UPDATE user SET Password=PASSWORD('clavenueva') WHERE user='root';
  flush privileges;
  exit; 
5. Arrancar MySQL