Regresión Polinomial – Teoría
La Regresión Polinomial es un caso especial de la Regresión Lineal y es muy parecido a ella, la diferencia es que los datos acá no son lineales por lo que se debe implementar polinomios de grado n para obtener el modelo.
Expliquemos mejor esto.
Definición
La realidad es que la Regresión Polinomial extiende el modelo lineal al agregar predictores adicionales, que se obtienen al elevar cada uno de los predictores originales a una potencia. Por ejemplo, una regresión cúbica utiliza tres variables independientes, como predictores. Este enfoque proporciona una forma sencilla de proporcionar un ajuste no lineal a los datos.
El método estándar para extender la Regresión Lineal a una relación no lineal entre las variables dependientes e independientes, ha sido reemplazar el modelo lineal con una función polinomial.
Este algoritmo es un ensayo y error en donde se debe probar con distintos grados de polinomios para obtener el que mejor se adecue a los datos.
Aunque considera que no siempre aumentar el grado del polinomio hará que el modelo mejore, en ocasiones hace más bien que se empeore el algoritmo por lo que esto es un proceso de experimentación para obtener el más adecuado y que reduzca los errores entre el modelo y los datos.
Representación matemática de la regresión polinomial
Si puedes recordar la ecuación de la Regresión Lineal con 1 sola variable (X1) será la siguiente:
Por su parte, la ecuación para Regresión Polinomial será la siguiente:
Estas son las ecuaciones respectivas cuando se este manejando una sola variable, pero en la mayoría de los casos utilizaremos como mínimo 2 variables (X1 y X2), por lo tanto, la ecuación para la Regresión Lineal será está:
Ahora, la ecuación para la Regresión Polinomial será la siguiente:
Como puedes observar observar para la Regresión Polinomial se crean características adicionales que no se encuentran en la Regresión Lineal.
Un término polinomial, bien sea cuadrático o cúbico, convierte un modelo de Regresión Lineal en una curva, pero como los datos de “X” son cuadráticos o cúbicos pero el coeficiente “b” no lo es, todavía se califican como un modelo lineal.
Esto hace que sea una forma agradable y directa de modelar curvas sin tener que modelar modelos complicados no lineales.
Un patrón común dentro de Machine Learning es usar modelos lineales entrenados en funciones no lineales de los datos. Este enfoque mantiene el rendimiento generalmente rápido de los métodos lineales mientras les permite ajustarse a un rango de datos mucho más amplio.
Al considerar los ajustes lineales dentro de un espacio de mayor dimensión construido con estas funciones básicas, el modelo tiene la flexibilidad de adaptarse a una gama de datos mucho más amplia.
Desventajas de la Regresión Polinomial
Desafortunadamente, la Regresión Polinomial también tiene un buen número de problemas, a medida que aumentamos la complejidad de la fórmula, el número de características también aumenta, lo que a veces es difícil de manejar.
Además, la Regresión Polinomial tiene una tendencia a ajustarse drásticamente, incluso es un simple conjunto de datos unidimensional. Si bien podamos tener una tentación de ajustar un polinomio de mayor grado para obtener un error menos, esto puede resultar en un ajuste excesivo, por esa razón siempre se debe trazar las relaciones para ver el ajuste y concentrarnos de que la curva se ajuste a la naturaleza del problema.
Tienes que prestar especial atención a la curva hacia los extremos y ver si las formas y tendencias tienen sentido, los polinomios superiores pueden terminar produciendo resultados extraños en la extrapolación.
Hay otros problemas con la Regresión Polinomial, por ejemplo, es inherentemente no local, es decir, cambiar el valor de “y” en un punto del conjunto de entrenamiento puede afectar el ajuste del polinomio para puntos de datos que están muy lejos. Por lo tanto, para evitar el uso de polinomios de alto grado en todo el conjunto de datos, podemos sustituirlo con muchas funciones de pequeño grado diferentes.
La Regresión Polinomial es muy similar a la Regresión Lineal, con una ligera desviación en la forma en que tratamos nuestro espacio de características.
Respuesta a la pregunta del video
Opción 1: Predecir si una persona esta enferma tomando en cuenta su altura, peso y temperatura. Respuesta Incorrecta. Con este algoritmo no se puede predecir esto, ya que este es un algoritmo de regresión por lo que la predicción es un número, en cambio en este problema se debe predecir si la persona está enferma o no por lo que es un problema de clasificación.
Opción 2: Predecir el precio de una acción de la bolsa de valores, utilizando los valores históricos. Respuesta Correcta. Con este algoritmo se puede calcular el precio tomando la data antigua de la acción, acá se observa las subidas y bajadas de la misma para poder predecir el precio.
Opción 3: Predecir la distancia en que un auto se detiene de acuerdo a la velocidad del mismo. Respuesta Correcta. Con este algoritmo se puede calcular la distancia en que un auto se detiene, acá se observa la velocidad del auto y las distancias recorridas para predecir el valor.
Si te llamo la atención todo este contenido y te animaste a empezar a estudiar Inteligencia Artificial, he desarrollado un curso que te ayudará, de igual forma a iniciar tu camino dentro de está tecnología. Este curso te sentará las bases y te dará más claridad para poder seleccionar el enfoque o área que más te interese sobre la Inteligencia Artificial, de igual forma te ayudará tener más claridad en muchos conceptos que seguramente en estos momentos te parece confusos. Este curso es ideal si apenas estás empezando. Si quieres más información puedes ingresar a este enlace.
Post muy bueno!
Hola.
Tienes algún artículo de investigación donde resalten las desventajas de la regresión polinomial?
Hola, no tengo algo como tal de ventajas y desventajas pero a lo largo de los contenidos de este algoritmos podrás encontrar info sobre esto.
que pasa con los datos atipicos? afectan a mi regresión polinomíal o los puedo ignorar?
Hola Daniela, por supuesto que afectan por eso es importante realizar un procesamiento de datos antes de aplicar cualquier algoritmo de ML. Saludos.
Hola, no tienes un ejemplo?
Hola Brayan, si acá lo tienes: https://bit.ly/35Use9b. Saludos.
Excelente video..
Hola Ricardo, me alegra que te haya gustado esta información. Saludos.