Evolution strategies as an option for optimizing non linear functions with restrictions

Diana M. Ortiz*; Juan David Velásquez H**; Patricia Jaramillo***

^* Universidad Nacional de Colombia. Escuela de Sistemas. Grupo de Computación Aplicada. Carrera 80 No. 65-223, Bloque M8A, Oficina 201, Medellín, Colombia. Tel.: + 57 + 4 4255350. E-mail: dmortiz@unal.edu.co
^** Autor para correspondencia. Universidad Nacional de Colombia. Escuela de Sistemas. Grupo de Computación Aplicada. Carrera 80 No. 65-223, Bloque M8A, Oficina 206, Medellín, Colombia.Tel.: + 57 + 4 4255370. E-mail: jdvelasq@unal.edu.co
^*** Universidad Nacional de Colombia. Escuela de Sistemas. Grupo de Computación Aplicada. Carrera 80 No. 65-223, Bloque M8A, Oficina 213, Medellín, Colombia.Tel.: + 57 + 4 4255222. E-mail: gpjarami@unal.edu.co

Estrategias de evolución es una técnica bio-inspirada, eficiente y robusta para resolver problemas de optimización donde el espacio de soluciones es no restringido. Sin embargo, esta suposición es irreal en muchos casos porque el espacio de soluciones es limitado por fronteras complejas en la forma de restricciones tanto lineales como no lineales. En este artículo de investigación, se propone una modificación al algoritmo original de estrategias de evolución para optimizar problemas donde el espacio de soluciones es limitado usando restricciones complejas. El método propuesto es basado en el uso de una función de penalización la cual es cero dentro de la región factible, e igual al máximo valor dentro de la región factible cuando se considera un punto que es no factible. La aproximación propuesta es probada usando seis problemas de prueba bien conocidos. En todos los casos, esta aproximación encontró un punto óptimo igual o menor que los valores reportados en la literatura.

Evolution Strategies is a bio-inspired, robust, and efficient technique for solving optimization problems where the solution space is unrestricted. However, this assumption is unreal in many cases because the solution space is limited by complex boundaries in the form of linear and non-linear restrictions. In this paper, a modification of the original algorithm of Evolution Strategies for optimizing problems where the solution space is bounded using complex restrictions is proposed. The proposed method is based on the use of a penalization function which is zero inside of the feasible region and equal to the maximum value inside of the feasible region when an unfeasible point is considered. The proposed approach is proved using six benchmark problems. In all cases, our approach found an optimal point equal or lower than the values reported in the literature.

INTRODUCCIÓN

Es indudable la importancia de contar con metodologías eficientes para la solución de problemas de optimización, de tal forma que no es sorprendente que se haya desarrollado un número importante de metodologías durante las últimas décadas [1]. En el caso general, donde se consideran variables continuas, el problema de optimización puede ser planteado como:

Sujeto a unas restricciones, que pueden ser lineales o no lineales:

donde:

• representa una función objetivo escalar multivariable.
• representa un conjunto de igualdades, lineales y no lineales, que deben satisfacerse.
• representan un conjunto de desigualdades, lineales y no lineales, que deben satisfacerse.

En el caso en que las variables x son continuas y tanto la función objetivo como las restricciones son lineales, el modelo se reduce a un problema de programación lineal que puede ser resuelto eficientemente por diferentes métodos [2]. Cuando no existen restricciones, y la función f() es no lineal, el modelo representa un problema de optimización global continua, cuya solución se ve dificultada cuando la función f() no es diferenciable o presenta una superficie compleja con múltiples puntos de óptima [3]; en este último caso, la búsqueda del mínimo global podría hacerse mediante técnicas determinísticas [4] o mediante técnicas que vinculan elementos estocásticos en el proceso de búsqueda, tales como la búsqueda lineal adaptativa [5], el temple simulado [6, 7], la búsqueda aleatoria dinámica [8], o la búsqueda tabú [9].

Entre las técnicas estocásticas, los algoritmos evolutivos forman un conjunto de técnicas que basan su funcionamiento en modelar procesos evolutivos fundamentados en la supervivencia de los individuos más aptos en la población[10]. Son utilizados con frecuencia en problemas del mundo real donde la complejidad y la dimensionalidad son considerables, y las técnicas basadas en gradientes son de poca utilidad. Entre sus mayores ventajas se encuentran su elegancia conceptual, su amplia aplicabilidad, y su superioridad a las técnicas tradicionales en muchos problemas reales. Al basarse en el principio de evolución, son robustos a cambios dinámicos y proporcionan el potencial para incorporar conocimiento sobre el dominio y para hibridarse con otras técnicas de optimización [11]. La calidad de la solución depende principalmente de la transformación de la función objetivo para que pueda ser analizada dentro de la región factible y llegar a la región de la solución óptima (individuo más apto).

Las estrategias evolutivas (EE) hacen parte de los algoritmos evolutivos, por lo que utilizan el mismo concepto básico; a diferencia de los algoritmos genéticos, la solución es codificada directamente por sus valores reales; su operador principal es la mutación, y el secundario el cruce; la selección es determinada con base en la aptitud; y sus parámetros son auto-adaptativos [10]. En su desarrollo original, permiten realizar la búsqueda del óptimo global del problema definido en (1) cuando no existen restricciones. Por ejemplo, se sabe que la estimación de los parámetros de modelos de redes neuronales es un problema difícil debido a la complejidad de la superficie de error, y la existencia de múltiples puntos de óptima local, de ahí que algoritmos estocásticos como EE puedan ser ventajosos en la estimación de dichos modelos. Particularmente, en [12] se compara EE con el algoritmo tradicional de backpropagation, mientras que en [13] se compara las EE con el algoritmo basado en gradientes RPROP.

Tal como ya se indicó anteriormente, la incorporación de restricciones, definidas en (2) y (3), dificulta la búsqueda de la solución de (1), por lo que se han propuesto diferentes algoritmos para ello. Dichas técnicas incluyen: funciones de penalización, representaciones y operadores especiales, algoritmos de reparación, separación de restricciones y objetivos, y métodos híbridos. Una amplia discusión es presentada en [14, 15]. El objetivo de este artículo es presentar una modificación a la metodología de EE que permite el manejo de restricciones generales, tales como las definidas en (2) y (3). La modificación consiste en el uso de la función de penalización propuesta en [16], la cual hace que en un problema de minimización, la función objetivo tome un valor igual al máximo de la región factible más el cuadrado de la violación de las restricciones. El efecto de esta forma de penalización es que cualquier punto dentro de la región factible tenga un valor inferior a cualquier punto por fuera, forzando a que el algoritmo de búsqueda no pueda explorar regiones no factibles.

1 ESTRATEGIAS EVOLUTIVAS

Esta técnica de optimización basada en el principio de evolución de Darwin, fue originalmente desarrollada por Rechenberg [17, 18] y llevada a su forma actual por Schwefel [19, 20].En EE [10], cada individuo a_k está formado por:

• Un conjunto de variables objeto: x_i, i=1,...,n
• Un conjunto de mutaciones: σi, i=1,...,n
• Un conjunto de ángulos de rotación: αj, j=1,...,n(n-1)/2

La optimización es realizada sobre una población conformada por μ individuos siguiendo el algoritmo descrito en la figura 1.

La población de μ individuos es inicializada de la siguiente forma: las variables objeto x_i toman un valor aleatorio inicial; las variables de estrategia σ_i toman un valor de 3.0 según la sugerencia dada por Bäck [10]; los ángulos de rotación α_j se inician en un valor aleatorio entre -π y π . La población inicial es evaluada calculando el valor de la función objetivo f() para cada individuo de la población inicial. El proceso de evolución se realiza dentro del ciclo while. Una población de λ hijos P′(t) es obtenida al aplicar el operador de recombinación r() a la población actual de padres P(t); la recombinación puede darse en tres formas: por clonación del padre, por recombinación sexual entre dos padres (local), y por recombinación sexual entre toda la población (global). La recombinación opera sobre las variables objeto, las variables de estrategia y sobre los ángulos de rotación. Así, cada componente (variable objetivo, variable de estrategia o ángulo de rotación) del nuevo individuo, _ci, en la población de hijos, puede ser calculada, dependiendo del tipo de recombinación:

• Discreta:

• Panmítica o global discreta:

• Intermedia:

• Panmítica o global intermedia:

• Reproducción global o panmítica intermedia:

Los subíndices S y T representan a dos padres seleccionados al azar de la población de μ individuos. Todos los padres tienen la misma probabilidad de ser seleccionados. El valor χ _i representa un número aleatorio uniforme entre cero y la unidad.

Una vez se ha obtenido la población de λ hijos, se procede a mutar cada uno de ellos; esto se hace de la siguiente forma:

Donde N [0, 1] representa un número aleatorio normal con media cero y desviación estándar unitaria, y los símbolos τ', τ y β representan constantes.

Las EE poseen la propiedad de auto-adaptación, lo cual implica que no sólo evolucionan las variables del problema, sino también los parámetros mismos del algoritmo (variablesde estrategia)

2 INCORPORACIÓN DE LAS RESTRICCIONES

El algoritmo presentado en la sección anterior corresponde a la versión tradicional de EE, y permite la búsqueda del óptimo global para una función no lineal. Una de sus desventajas es que no permite la optimización de problemas más generales, tal como el definido por (1), (2) y (3). En esta sección se describe el mecanismo de penalización desarrollado por [14] y su integración dentro del algoritmo presentado en la figura 1.

Hoffmeister y Sprave [16] proponen introducir una penalización dentro de la función objetivo f() que permita medir el grado en que las restricciones descritas por (2) y (3) son violadas. Así, el algoritmo descrito en (1) debe operar sobre una nueva función F() definida como:

Donde: Ω representa la región factible; M_c es el máximo conocido en la región factible; y d_c es una medida de penalización de las restricciones que no se cumplen. En esta implementación, d_c se define como:

Donde H_i es una variable que toma el valor de uno si la i-ésima restricción ha sido violada, y cero en caso contrario; y R_i es el valor que toma g_i(x) o h_i(x) en el punto x.

3 CASOS DE ESTUDIO Y ANÁLISIS

Para validar el algoritmo propuesto, se hizo la estimación del mínimo para seis funciones sujetas a restricciones, las cuales han sido ampliamente utilizadas en la literatura para la evaluación de algoritmos de optimización.

Los problemas presentados, que son descritos en la tabla 1, incluyen variedad en la cantidad de restricciones con ecuaciones e inecuaciones tanto lineales como no lineales, de variables, de puntos de inicio tanto factibles como no factibles y límites superior e inferior para las diferentes variables; además de poseer funciones-objetivo no lineales. El problema 1 posee dos restricciones: una inecuación no lineal y una ecuación lineal [4], y su punto de inicio es no factible; el problema 2 no posee restricciones [21]; el problema 3 fue diseñado con un punto estacionario no óptimo en lo que puede causar una convergencia prematura [22]; el problema 5 posee 5 variables, está sujeto a 6 inecuaciones no lineales y 10 límites sobre las variables independientes. Nótese que en la función objetivo los coeficientes de x₂y x₄ son cero, es decir, x₂yx₄ no están incluidos en la definición de y el problema 6 está sujeto a dos restricciones: una ecuación no lineal y una inecuación no lineal [4].

Los problemas de la tabla 1, fueron optimizados con los siguientes parámetros:

• Generaciones: 1000
• Tamaño de la población de hijos (λ): 500 ]]> • Tamaño de la población de padres (μ: 50
• Tipo de selección: +
• Tipo de recombinación para x , σ y α: panmítica.

En la tabla 1, se presentan los resultados obtenidos para los casos de estudio propuestos; la evidencia empírica aportada en esta investigación muestra que el algoritmo propuesto permite encontrar el mínimo para cada caso de estudio. Más aún, nuestra implementación logra obtener puntos de óptima inferiores a los reportados en la literatura para los problemas 1, 4, 5 y 6. Para los problemas 2 y 3, los puntos obtenidos son iguales a los alcanzados por otras técnicas. En el problema 3, el algoritmo propuesto supera el punto estacionario no óptimo, y llega al óptimo global.

4 CONCLUSIONES

En este artículo se presenta una modificación al algoritmo de estrategias de evolución para minimizar problemas sujetos a restricciones generales, basada en una función de penalización. Este mecanismo asegura que la función objetivo en cualquier punto externo a la región factible tiene un valor superior a cualquier punto en su interior. Los seis problemas de optimización utilizados en este artículo fueron resueltos satisfactoriamente por el algoritmo propuesto, y en algunos de los casos se encontraron soluciones en las cuales el valor de la función objetivo es inferior al reportado en la literatura.

Como trabajo futuro se plantea hacer una evaluación del comportamiento del algoritmo propuesto en la estimación de los parámetros de modelos de redes neuronales artificiales.

REFERENCIAS

[1] P. M. Pardalos, y M. G. C. Resende, ed, "Handbook of Applied Optimization," New York: Oxford University Press, 2002, 1077 p.         [ Links ]

[2] M. Bazaraa et al., Nonlinear Programming: Theory & Applications, Hoboken, NJ: Wiley, 1994, 872 p.         [ Links ]

[3] L. T. Biegler , y I. E. Grossmann, "Retrospective on Optimization," Computers & Chemical Engineering, vol. 28, no. 8, pp. 1169-1192, 2004.         [ Links ]

[4] J. Bracken, y G. P. McCormick, Selected Applications of Nonlinear Programming, New York: Jhon Wiley & Sons, Inc, 1968, 122 p.         [ Links ]

[5] H. A. Bremermann, "A method for unconstrained global optimization," Mathematical Biosciences, no. 1970, pp. 1-15, 1970.         [ Links ]

[6] S. Kirkpatrick et al., "Optimization by simulated annealing," Science, vol. 220, no. 4598, pp. 671-680, 1983.         [ Links ]

[7] W. L. Goffe et al., "Global Optimization of Statistical Functions with Simulated Annealing," Journal of. Econometrics, vol. 60, pp. 65-99, 1994.         [ Links ]

[8] C. Hamzacebi, y F. Kutay, "Continuous functions minimization by dynamic random search technique," Applied Mathematical Modelling, vol. 31, pp. 2189-2198, 2007.         [ Links ]

[9] A. R. Hedar, y M. Fukushima, "Tabu search directed by direct search methods for nonlinear global optimization," European Journal of Operations Research, vol. 170, no. 2, pp. 329-349, 2006.         [ Links ]

[10] T. Bäck, Evolutionary algorithms in theory and practice: evolution strategies, evolutionary programming, genetic algorithms, New York: Oxford University Press, 1996, 328 p.         [ Links ]

[11] C. A. Coello Coello, "Constraint-handling using an evolutionary multiobjective optimization technique," Civil Engineering and Environmental Systems, vol. 17, no. 4, pp. 319-346, 2000.         [ Links ]

[12] M. Mandischer, "Comparison of evolution strategies and backpropagation for neural network training," Neurocomputing, vol. 42, no. 1-4, pp. 87-117, 2002.         [ Links ]

[13] D. Ortiz et al., "Una Comparación entre Estrategias Evolutivas y RPROP para la Estimación de Redes Neuronales," Avances en Sistemas e Informatica, vol. 4, no. 2, pp. 135-144, 2007.         [ Links ]

[14] C. A. Coello et al., "Constraint-handling in genetic algorithms through the use of dominance-based tournament selection," Advanced Engineering Informatics, vol. 16, no. 3, pp. 193-203, 2002.         [ Links ]

[15] Z. Michalewicz, y M. Schoenauer, "Evolutionary Algorithms for Constrained Parameter Optimization Problems," Evolutionary Computation, vol. 4, no. 1, pp. 1-32, 1996.         [ Links ]

[16] F. Hoffmeister, y J. Sprave, "Problem-independent handling of constraints by use of metric penalty functions," en Proceedings of the Fifth Annual Conference on Evolutionary Programming (EP'96), San Diego: pp. 289-294, 1996.         [ Links ]

[17] I. Rechenberg, Cybernetic solution path of an experimental problem, Reporte Technical Report 1122, Royal Aircraft Establishment, Library translation, Farnborough, Hants., UK, 1965.         [ Links ]

[18] I. Rechenberg, Evolutionsstrategie: Optimierung technischer Systeme nach Prinzipien der biologischen Evolution, Stuttgart: Frommann-Holzboog, 1973, p.         [ Links ]

[19] H.-P. Schwefel, "Kybernetische Evolution als Strategie der experimentellen Forschung in der Stromungstechnik," tesis de Ingeniero, Technische University Berlin, Berlin, 1965.         [ Links ]

[20] H.-P. Schwefel, "Evolutionsstrategie und numerische Optimierung," tesis de Doctorado, Technische Universität Berlin, Berlin, 1975.         [ Links ]

[21] H. H. Rosenbrock, "An Automatic Method for Finding the Greatest and Least value of a Function," Computer Journal, vol. 3, pp. 175-184, 1960.         [ Links ]

[22] A. R. Colville, A comparative study on nonlinear programming codes, Reporte 320-2949, IBM New York Science Center, New York, 1968.         [ Links ]

Recibido: 28/07/2009
Aceptado: 11/05/2011