Exact methods for variable selection in linear regression with sub-sets: analysis of different tools and strategies

• JOAQUÍN ANTONIO PACHECO BONROSTRO ^[1] ; SILVIA CASADO YUSTA ^[1]
  1. [1] Universidad de Burgos

     Universidad de Burgos

     Burgos, España

     
• Localización: Rect@: Revista Electrónica de Comunicaciones y Trabajos de ASEPUMA, ISSN-e 1575-605X, Vol. 18, Nº. 1, 2017, págs. 71-92
• Idioma: español
• Enlaces
  • Texto completo (pdf)
• Resumen
  • español

    En este trabajo se analiza un problema de selección de variables para regresión lineal. En este caso el conjunto de variables independientes se particiona en grupos disjuntos. El problema consiste en la selección de variables, pero con la restricción consistente en que el conjunto de variables que se seleccione debe de tener al menos una variable de cada grupo. Este problema tiene múltiples aplicaciones, concretamente el diseño de los indicadores sintéticos en diferentes áreas (sociología y economía entre otras). Los diferentes grupos de variables corresponden a los diferentes puntos de vista del problema que se está analizando. Por lo tanto estos indicadores deben de contener variables de todos los grupos. Para resolver este problema se propone un método de Branch & Bound que obtiene soluciones exactas. Además, se proponen y analizan diferentes estrategias para reducir los tiempos de cálculo de este método. Se han realizado diferentes experimentos computacionales que muestran los buenos resultados de ambas estrategias, (tanto por separado como conjuntamente): consiguen reducir notablemente los tiempos de cálculo del método Branch & Bound y permiten resolver problemas de tamaño mayor.

  • English

    The abstract should summarise the context, contents and conclusions of the paper in less than 200 words preferably in less than 150 words. It should not contain any references or displayed equations. Typeset the abstract in Times New Roman and indent the text. Type similarly the keywords below. A variable selection problem in the context of Linear Regression is analyzed. In this case, the set of original independent variables is partitioned into disjoint groups. The problem consists in the selection of independent variables, but with one restriction: the set of variables that is selected should at least have one variable from each group. This problem has a wide scope of application, specifically the design of composite indicators in different areas (sociology, and economy, among others). The different groups of variables correspond to different viewpoints of the problem under analysis. Therefore, these indicators should contain independent variables from all the groups. For this problem, a Branch & Bound method is proposed to obtain optimal solutions. Moreover, two strategies are proposed and analyzed, to reduce the calculation times of this method. Different computational experiments were completed that showed the good results of both strategies, (both separately and jointly): they managed to reduce the calculation times of the Branch and Bound method considerably, thereby offering solutions to moderated-sized problems.