ANÁLISIS DE DESEMPEÑO DE HASKELL EN LA EJECUCIÓN DE ALGORITMOS PARALELIZADOS CON PRIMITIVAS PERFORMANCE ANALYSIS OF HASKELL IN THE EXECUTION OF ALGORITHMS PARALLELIZED WITH PRIMITIVE Alex Puertas González 1, Jorge Gabriel Hoyos Pineda 2 1 Universidad Santo Tomás Seccional Tunja, Colombia,
[email protected], Calle 19 No 11-64 Tunja 2 Universidad Santo Tomás Seccional Tunja, Colombia,
[email protected]
RESUMEN: Este documento presenta el análisis de los resultados de las pruebas de desempeño realizadas con Haskell en la ejecución de algoritmos en paralelo, utilizando las primitivas proporcionadas por este lenguaje de programación funcional. Este análisis se constituye en un resultado parcial de un proyecto de investigación que tiene como objetivo evaluar el desempeño de aplicaciones desarrolladas mediante programación funcional sobre hardware multicore. Para la prueba de desempeño se utilizó el algoritmo de generación de la serie Fibonacci paralelizado mediante primitivas, y se hicieron pruebas con diferente número de núcleos en una misma máquina. El análisis de los resultados obtenidos permitió comprobar la optimización del tiempo de procesamiento, hasta los límites permitidos por el programa y la máquina de pruebas. También se logró observar las implicaciones que esta clase de procesamiento tiene en el uso de las memorias primaria y secundaria en un computador. Palabras Clave: Programación funcional, Procesamiento paralelo, Haskell.
ABSTRACT: This paper presents the analysis of the results of performance tests conducted with Haskell in executing parallel algorithms, using the primitives provided by this functional programming language. This analysis constitutes a partial result of a research project that aims to evaluate the performance of applications developed using functional programming on multicore hardware. The performance tests were made with the algorithm for generating the Fibonacci series, which was parallelized using primitives, and their execution with different number of cores in a single machine. The analysis of the result allowed to verify the optimization of processing time, to the extent permitted by the program and the test machine. It was also possible to observe the implications in primary and secondary memory use, that this kind of processing have in the computer. KeyWords: Functional programming, Parallel processing, Haskell.
1. INTRODUCCIÓN El grupo de investigación GIDINT de la Universidad Santo Tomás seccional Tunja, viene desarrollando el proyecto denominado “Evaluación del desempeño de la programación funcional en hardware multicore”. El objetivo del proyecto es evaluar el desempeño de aplicaciones desarrolladas mediante programación funcional sobre hardware multicore, para el
logro del cual se propone desarrollar una investigación de tipo exploratoria cuasi experimental, compuesta por cuatro fases. La segunda fase contempla la realización de un estudio comparativo de los lenguajes de programación funcional. En el desarrollo de esta fase se seleccionaron cinco lenguajes de programación funcional para realizar el estudio comparativo, dos considerados puros (Haskell y Erlang) y tres considerados hibridos (Scala, Lisp y F#). Una vez realizada la comparación en términos
“III Conferencia Internacional en Ciencias Computacionales e Informáticas”
Puertas, A.; Hoyos, J. | “ANÁLISIS DE DESEMPEÑO DE HASKELL EN LA EJECUCIÓN DE ALGORITMOS PARALELIZADOS CON PRIMITIVAS”
de sintaxis, codificación, compilación y ejecución, se procedió a examinar los mecanismos existentes en cada uno de los lenguajes, que hacen posible la paralelización de algoritmos. En el caso de Haskell, se evidencio la existencia de extensiones orientadas al procesamiento paralelo, que han surgido en respuestas a diferentes aspectos que afectan el desempeño de algoritmos que corren en paralelo. Sin embargo el equipo de investigación, considero importante utilizar las primitivas proporcionadas por el lenguaje, en las pruebas de desempeño iniciales. En la primera parte, se hace una breve introducción a la programación funcional y su relación con la programación paralela. En una segunda parte se habla del lenguaje funcional Haskell y se presentan los resultados parciales de las pruebas de desempeño en la ejecución de algoritmos en paralelo, que se han realizado hasta el momento con dicho lenguaje.
2. LA PROGRAMACIÓN FUNCIONAL La programación funcional es un paradigma de programación cuya esencia es la construcción de funciones como método de abstracción. El concepto de función aquí utilizado se acerca más a la noción matemática de función, que al concepto utilizado comúnmente en los lenguajes de programación [1]. En este paradigma las funciones son ciudadanas de primera clase, ya que en este paradigma un programa es una función en sí mismo, que puede estar compuesto de otras funciones que pueden utilizar a su vez otras funciones como parámetros o como resultado de la evaluación de las mismas [2]. Son muchas las bondades que se le atribuyen a la programación funcional y a los lenguajes de programación funcionales, entre ellas que son de más alto nivel que los lenguajes tradicionales, son más cercanos a la especificación, ausencia de efectos laterales, de rápida escritura, más concisos, facilitan la modularidad y el reuso, y además pueden ser ejecutados más fácilmente en arquitecturas paralelas [1],[3],[4]. Estas ventajas y las características propias de la programación funcional, se constituyen en herramientas que hacen posible que los programadores enfrenten de mejor forma la complejidad creciente del desarrollo de software [2].
2.1 La programación funcional paralela Una de las aplicaciones dónde se ha advertido una gran potencialidad para la implementación de la programación funcional, es la programación paralela a través de varios núcleos, en función de mejorar el rendimiento en el hardware moderno [5], lo que constituye un gran reto para los desarrolladores, quienes ahora tienen que pensar con la complejidad
adicional de este enfoque de programación. La gran mayoría de los lenguajes funcionales incluyen primitivas que facilitan la labor de paralelización. Se pueden utilizar dos tipos de paralelización, implícita y explicita. Adiconalmente, la paralelización puede generar efectos no deseados en cuanto al desempeño de los programas, por lo que han surgido para los diferentes lenguajes, librerías o complementos especializados en las tareas propias de paralelización.
3. HASKELL COMO LENGUAJE FUNCIONAL Haskell es un lenguaje de programación funcional de propósito general, que incorpora muchas de las innovaciones recientes en el diseño de lenguajes de programación [6]. Incorpora las características propias de los lenguajes funcionales como son las funciones de alto orden, los tipos de datos algebraicos, el emparejamiento de patrones, la evaluación perezosa, entre otras. Haskell surgió a partir del consenso de la comunidad de la programación funcional, sobre la necesidad de crear un lenguaje común, que recogiera el poder expresivo y los fundamento semánticos existentes en más de una docena de lenguajes funcionales puros existentes en el momento (1987), que posibilitara un uso más generalizado de los lenguajes funcionales en el desarrollo de todo tipo de aplicaciones [6]. La relevancia de Haskell radica en que se ha constituido en un estándar de facto, respaldado por la comunidad de programación funcional, ha sido uno de los lenguajes sobre los que más se ha investigado en la última década, y ha dado origen a muchas variantes, o nuevos lenguajes construidos sobre sus bases.
3.1 Haskell y paralelismo En [7] se mencionan dos elementos fundamentales para la implementación de la programación paralela en Haskell. En primer lugar, la granuralidad que busca dar un tamaño lógico a las subdivisiones de código, para así aprovechar las capacidades de los procesadores, y en segundo lugar, las dependencias de datos en la secuencialización de los programas en tiempo de ejecución, bien sea de forma explícita o implícita. Para el caso de [8] se enuncia el aprovechamiento de las ventajas de Haskell como lenguaje aplicable a soluciones multicore, en este caso teniendo en cuenta la vectorización de datos, en donde se transforma un programa que use datos en paralelismo anidado a otro que implemente datos paralelizados de tipo plano. Se conocen por lo menos dos extensiones para
“III Conferencia Internacional en Ciencias Computacionales e Informáticas”
Puertas, A.; Hoyos, J. | “ANÁLISIS DE DESEMPEÑO DE HASKELL EN LA EJECUCIÓN DE ALGORITMOS PARALELIZADOS CON PRIMITIVAS”
Haskell orientadas al procesamiento paralelo, las cuales utilizan diferentes enfoques para aprovechar una arquitectura multicore. En [7] se presenta una comparación de dos implementaciones diferentes. La primera de ellas conocida como GpH, usa un mecanismo de memoria heap compartida físicamente. La segunda conocida como Eden, está diseñada para el uso en máquinas paralelas de memoria distribuida, donde existe una memoria heap independiente por cada núcleo y la comunicación entre núcleos se realiza mediante el intercambio de mensajes. Adicionalmente, en [9] se proponen cuatro constructos orientados a la arquitectura como una extensión orientada al procesamiento paralelo creada para el lenguaje Haskell, que aprovecha la información acerca del tamaño de las tareas, para controlar los datos de forma local y distribuir el trabajo.
4. PRUEBAS DE DESEMPEÑO DE HASKELL EN LA EJECUCIÓN DE ALGORITMOS EN PARALELO Con el fin de realizar la prueba de implementación de la programación funcional paralela, como se ha mencionado anteriormente, se ha seleccionado el lenguaje de programación Haskell, teniendo en cuenta el algoritmo del par Fibonacci usando primitivas básicas de paralelismo, como puede apreciarse a continuación:
4.1 Algoritmo de prueba
donde se introduce al programa, el número para la ejecución del cálculo, en este caso como parámetro del mismo. En (3) se pueden observar las asignaciones para medir el tiempo inicial y final del proceso, y finalmente (4) muestra las dos líneas de impresión por pantalla del programa: la primera, en donde se ve el resultado de la operación Fibonacci y la segunda para el tiempo de procesamiento del mismo. Teniendo en cuenta lo anterior es posible observar el siguiente comportamiento en la consola de ejecución:
Figura. 2: Muestra de la ejecución del programa usando un núcleo
Para este particular, en (5) puede apreciarse la entrada del programa, compuesta por el nombre del mismo y dos parámetros de uso, el primero demarcado con +RTS, que especifica una variable para el compilador de Haskell, en este caso N1, en donde el número representa la cantidad de núcleos usados para el procesamiento del programa. El segundo, especificado con –RTS que define un parámetro de usuario para su utilización dentro del algoritmo codificado. Para este particular se usó el número 50 como base para el cálculo del par Fibonacci (GHC, 2014). Ahora bien, en (6) pueden observarse las dos líneas de impresión del programa, por un lado está el resultado de la operación para el número 50 y por el otro, el tiempo en segundos, de duración del procesamiento.
4.2 Condiciones iniciales
Figura. 1: Detalle del programa Fibonacci Paralelo Funcional
Para explicar el código de implementación del par Fibonacci desarrollado, en este caso denominado pfib.hs, se han numerado las secciones importantes de la siguiente forma: en (1) se encuentra la función principal para el cálculo del número, se ha implementado el algoritmo recursivo, dada la naturaleza de Haskell y la estandarización del código, en relación a las pruebas futuras en otros lenguajes de este tipo. En (2) se desarrolla una secuencia en
Por otro lado, para el desarrollo de la prueba se han seleccionado las siguientes condiciones iniciales, tanto de Hardware, como de software en función del procesamiento del algoritmo: Para el procesador se usó un AMD FX(tm)-8150 con cuatro procesadores físicos y un Reloj de CPU de 3600 MHz a 64 bits. Para la memoria principal se contó con una DDR3 de 8192 MB de capacidad en un solo canal a 1600 MHz. En cuanto al sistema operativo base, se usó un Microsoft Windows 7 Ultimate 6.1.7601 Service Pack 1 Compilación 7601 y finalmente la versión de Haskell implementada fue la GHC 7.10.2 del 29 de Julio de 2015.
4.3 Resultados de la prueba En función de desarrollar la prueba del algoritmo en paralelo usando Haskell, se procedieron a ejecutar 10 pruebas para cada uno de los procesadores,
“III Conferencia Internacional en Ciencias Computacionales e Informáticas”
Puertas, A.; Hoyos, J. | “ANÁLISIS DE DESEMPEÑO DE HASKELL EN LA EJECUCIÓN DE ALGORITMOS PARALELIZADOS CON PRIMITIVAS”
teniendo en cuenta, tanto la paralelización mediante primitivas del lenguaje de programación, como las condiciones de máquina y software anteriormente citadas, teniendo en cuenta el cálculo estadístico correspondiente y la medida del tiempo de procesamiento en segundos:
condiciones iniciales de la prueba, se pudo observar el siguiente comportamiento respecto de estas variables:
Tabla I: Tiempos generales de ejecución por núcleo
P1 P2 P3 P4 P5 P6 P7 P8 P9 P10 Promedio
N1 2334,63 2280,13 1783,87 2119,51 2048,41 1978,12 1814,41 1854,45 2303,04 2283,89 2080,05 204,51 41824,87
N2 1193,82 1192,05 1192,49 1176,00 1180,60 1157,49 1167,53 1166,60 1177,57 1163,42 1176,76 12,35 152,59
N3 990,76 952,76 925,37 915,33 913,75 908,61 938,47 959,21 946,96 963,14 941,44 24,84 617,11
N4 762,88 823,78 810,44 771,71 770,31 761,90 764,44 820,76 760,86 865,46 791,25 34,54 1193,33
Es importante observar el ahorro en tiempo de procesamiento usando paralelización del proceso de acuerdo a los núcleos utilizados. También se puede notar la homogeneidad de las muestras tomadas para N2, de acuerdo a sus medidas de varianza y desviación estándar, las cuales, durante el desarrollo de la prueba, fueron las más bajas de todas las calculadas. Por otra parte es relevante decir que se evidencia la estabilización del proceso y aleja la noción de que un proceso, al ser procesado por N procesadores, será N veces más rápido en cuanto a su ejecución. Por otra parte, por cada una de las muestras tomadas, se tomaron medidas de la cantidad de procesadores usados por el proceso, el porcentaje de uso general de CPU, los subprocesos creados para el procesamiento, las memorias virtual, principal, compartida y privada para cada una de las iteraciones, como puede apreciarse a continuación: Tabla III: Datos de procesador y memoria por muestra
Con base en lo anterior y teniendo en cuenta las
Figura. 3: Uso de CPU y asignación de núcleos y subprocesos
En lo respectivo al procesamiento, el comportamiento es proporcional a la cantidad de núcleos utilizados por Haskell, ya que oscila entre el 13% lo cual representa un core de la máquina, hasta un 50% que evidencia el uso de todos los núcleos físicos de procesamiento. Es de notar también, la cantidad de subprocesos creados por el lenguaje de programación, dado su mecanismo de paralelización, de hecho se crea uno por cada N especificado. Lo anterior teniendo en cuenta la exclusión de los subprocesos propios de Haskell (5 en total). Con relación a los datos respectivos a la memoria usada por el algoritmo, se obtuvieron los comportamientos referenciados en la figura 4. Es de notar el comportamiento lineal de la memoria virtual asignada, la cual crece proporcionalmente a la creación de subprocesos para la ejecución del algoritmo. También puede notarse la asignación constante de memoria compartida para el proceso, debido a que su diferencia entre ejecuciones es relativamente pequeña, independientemente de los núcleos involucrados. Finalmente puede observarse un aumento en la cantidad de memoria privada asignada para el
“III Conferencia Internacional en Ciencias Computacionales e Informáticas”
Puertas, A.; Hoyos, J. | “ANÁLISIS DE DESEMPEÑO DE HASKELL EN LA EJECUCIÓN DE ALGORITMOS PARALELIZADOS CON PRIMITIVAS”
proceso en función de los cores involucrados en este, lo cual corrobora el hecho de trabajar de forma paralela, de hecho, es posible realizar la suma entre la memoria compartida y la privada y se obtendría un dato relativo a la memoria principal asignada para cada caso.
Ahora bien, en función de observar el comportamiento del procesamiento paralelo, se ha generado el siguiente gráfico en donde se observa el promedio del tiempo de ejecución, contra la cantidad de núcleos de la máquina de prueba:
Figura. 5: Tiempo promedio de procesamiento por núcleo
Como puede apreciarse en la gráfica, existe un ahorro de tiempo sustancial entre las medidas tomadas para N1 y N2, en este caso de 1120,47 segundos, lo cual representa la mitad del tiempo de ejecución en estos dos casos, de hecho, es de notar que la suma de las diferencias de tiempo, entre núcleos a partir de N2 hasta N4 no es superior a la presentada entre los dos primeros, lo cual elimina la idea de un comportamiento directamente proporcional entre el tiempo de ejecución del proceso y los núcleos utilizados para la operación. Para observar la aceleración del proceso, se tendrá en cuenta el cociente entre la menor de las aplicaciones para un procesador (N1P4 =1783,87) y el resto de muestras. Para después realizar un promedio con los diez resultados por cada uno de los núcleos, derivando en la siguiente tabla: Tabla IIIII: Aceleraciones para el algoritmo recursivo de Fibonacci Paralelo N1 P1 P2 P3 P4 P5 P6 P7 P8 P9 P10 Promedio
Figura. 4: Uso de Memoria principal y secundaria
N2 0,76 0,78 1,00 0,84 0,87 0,90 0,98 0,96 0,77 0,78 0,87 0,09 0,01
N3 1,49 1,50 1,50 1,52 1,51 1,54 1,53 1,53 1,51 1,53 1,52 0,02 0,00
N4 1,80 1,87 1,93 1,95 1,95 1,96 1,90 1,86 1,88 1,85 1,90 0,05 0,00
2,34 2,17 2,20 2,31 2,32 2,34 2,33 2,17 2,34 2,06 2,26 0,10 0,01
Como puede verse, la aceleración promedio en el
“III Conferencia Internacional en Ciencias Computacionales e Informáticas”
Puertas, A.; Hoyos, J. | “ANÁLISIS DE DESEMPEÑO DE HASKELL EN LA EJECUCIÓN DE ALGORITMOS PARALELIZADOS CON PRIMITIVAS”
procesamiento del algoritmo, es creciente hasta el estado N4 en donde se puede notar la máxima de la prueba, sin embargo no es directamente proporcional al número de núcleos de la máquina de cómputo, como puede apreciarse a continuación:
Figura. 6: Aceleración promedio de procesamiento por núcleo
Es así que se puede comprobar la optimización en el procesamiento del algoritmo Fibonacci usando programación paralela funcional a través de las herramientas de Haskell, sin tener en cuenta otras técnicas de desarrollo adicionales. Puede apreciarse que el crecimiento no es necesariamente lineal y que al final de la implementación tiende a estabilizarse, sin tener en cuenta la cantidad de núcleos involucrados en la operación.
5. CONCLUSIONES En este trabajo se ha podido desarrollar un algoritmo recursivo de forma funcional utilizando Haskell. Realizando esta prueba se ha podido comprobar la optimización del tiempo de procesamiento, hasta los límites permitidos por el programa y la máquina de pruebas. También se han observado las implicaciones que esta clase de procedimientos tienen en las memorias primarias y secundarias en un computador. Se ha podido comprobar la aceleración en el proceso y su comportamiento matemático. Por último se ha determinado el uso de procesador, la cantidad de subprocesos asociados al paralelismo mediante primitivas de Haskell en función del tiempo de procesamiento. También se puede anotar que se ha desarrollado un marco de trabajo para las futuras fases del proyecto de investigación, dados otros lenguajes funcionales puros e híbridos y las comparaciones respectivas entre ellos.
6. REFERENCIAS BIBLIOGRÁFICAS 1. Henderson P:"Software Engineer’s Reference Book", Elsevier;, 1991. 2. Gónzalez Osorio FA:"Programacion funcional: conceptos", Ing e Investig., pp. 65–71, . 3. Hudak P:"Conception, evolution, and application of functional programming languages", ACM Comput Surv [Internet]., Vol. 21, No. 3, pp. 359– 411, 1989 Sep 1;Available from: http://portal.acm.org/citation.cfm?doid=72551.72554 4. Hughes J:"Why Functional Programming Matters", Addison-Wesley;, 1990. 5. Pankratius V, Schmidt F, Garret G:"Combining Functional and Imperative Programming for Multicore Software : An Empirical Study Evaluating Scala and Java", pp. 123–33, 2012; 6. Marlow S:"Haskell 2010 Language Report", p. 1–3292010. 7. Berthold J, Marlow S, Hammond K, Zain A Al:"Comparing and Optimising Parallel Haskell Implementations for Multicore Machines", 2009 Int Conf Parallel Process Work [Internet]., Ieee;, pp. 386–93, 2009 Sep [cited 2015 Sep 25];Available from: http://ieeexplore.ieee.org/lpdocs/epic03/wrapper.htm ?arnumber=5364479 8. Jones SP, Leshchinskiy R, Keller G, Chakravarty MMT:"Harnessing the Multicores : Nested Data Parallelism in Haskell", In: Hariharan, R.; Mukud M ;Vina. V., editor. FSTTCS., Bangalore;, p. 1–322008. 9. Aswad MK, Trinder PW, Loidl HW:"Architecture aware parallel programming in Glasgow Parallel Haskell (GPH)", Procedia Comput Sci [Internet]., Elsevier Masson SAS;, Vol. 9, No. 1, pp. 1807–16, 2012;Available from: http://dx.doi.org/10.1016/j.procs.2012.04.199
7. SÍNTESIS CURRICULARES DE LOS AUTORES Alex Puertas González. Nacido en Tunja/Colombia el 2 de septiembre de 1978 Ingeniero de Sistemas de la Universidad Católica de Colombia (Bogotá/Colombia) en 2007 Especialista en Seguridad de la Información de la Universidad de los Andes (Bogotá/Colombia) en 2009 Ha trabajado como docente universitario desde el año 2002 en programas de Ingeniería de sistemas, en modalidad presencial, semipresencial y en línea, orientando asignaturas, tanto de ciencias básicas, en la línea de formación en matemáticas: Cálculos, álgebras y métodos numéricos, como en el campo aplicado,
“III Conferencia Internacional en Ciencias Computacionales e Informáticas”
Puertas, A.; Hoyos, J. | “ANÁLISIS DE DESEMPEÑO DE HASKELL EN LA EJECUCIÓN DE ALGORITMOS PARALELIZADOS CON PRIMITIVAS” haciendo especial énfasis en asignaturas del área de las redes y comunicaciones y administración de recursos. En el ámbito laboral, ha trabajado en la implementación de soluciones de internetworking en calidad de diseñador y personal de soporte. Actualmente labora en la Universidad Santo Tomás, como docente de tiempo completo, con participación en proyectos de investigación y la dirección del semillero de seguridad informática de la facultad. Se le puede contactar al correo electrónico
[email protected] y a la dirección postal Calle 19 No. 11-64 Tunja - Boyacá (Colombia)
Ciencias de la Información y las Comunicaciones en la Universidad Distrital “Francisco José de Caldas”. Desde hace siete años es profesor de tiempo completo e investigador en la Facultad de Ingeniería de Sistemas de la Universidad Santo Tomás Seccional Tunja. Como producto de su participación en diferentes proyectos de investigación ha sido autor y coautor de varios artículos publicados en revistas científicas y trabajos presentados a eventos nacionales e internacionales. Ha participado también como miembro del comité editorial, científico y de árbitros en diferentes publicaciones y eventos científicos y académicos. Se le puede contactar al correo electrónico
[email protected], y a la dirección postal Calle 19 No. 11-64 Tunja - Boyacá (Colombia)
Jorge Gabriel Hoyos Pineda. Ingeniero de Sistemas de la Universidad Antonio Nariño, en el 2009 se graduó como Magister en
“III Conferencia Internacional en Ciencias Computacionales e Informáticas”