• IA General: Trata de desarrollar un sistema que presenta la flexibilidad y versatilidad de la inteligencia humana para resolver un amplio rando de problemas cognitivos complejos.
• IA Especializada: Trata de desarrollar sistemas que pueden ser usados solo para las tareas para los que fueron diseñados.

Es una rama de la IA que trata de desarrollar algoritmos que permitan a las máquinas aprender. Se busca desarrollar modelos computacionales que sean capaces de resolver problemas complejos usando como base ejemplos.

• Si no se tiene suficiente conocimiento explícito para obtener un algoritmo para resolver el problema, pero se tienen ejemplos de como se resuelve.
• Si el problema a resolver varía con el tiempo.
• Si los datos llegan continuamente y contienen nueva información que permite mejorar el sistema con el tiempo.

Término usado para describir la capacidad de un modelo para clasificar o predecir nuevos datos correctamente. Hay 2 conceptos importantes relacionados con la generalización:

• Underfitting: El modelo no trabaja bien con los datos.
• Overfitting: El modelo trabaja demasiado bien con los datos, los memoriza, pero hace predicciones poco fiables con datos nuevos.

Hay que encontrar un balance entre estos 2 conceptos.

Antes de usar datos para entrenar un modelo, suele ser necesario realizar ciertas preparaciones de los datos como:

• Normalizar los datos (Scaling)
• REcodificar las variables no-numéricas
• Eliminación de ruido y datos sin sentido
• Imputación de datos

Primero debemos conocer las notaciones y definiciones:

• Vectores: Vienen como matrices en columna
  • Producto de vectores:

• Norma de un vector

Tienen como objetivo predecir una o más variables continuas dado el valor de un set explicativo de variables repesentado por un vector $X$ con dimensión $m$

Para predecir los valores de las variables tenemos los siguientes elementos clave:

• Variables explicativas: variables de entrada del modelo
• Ejemplos de entrenamiento: Un grupo de $n$ datos $x_1 ... x_n$ de las variables explicativas para el cual el valor de la variable a ser predecido es conocido $t_1,...,t_n$
• Un Modelo: Es una función parametrizable $W$ que representa la relación entre $x$ y $t$
• Función objetivo (o error o coste) que indica como de bien tiene que aproximar el modelo los datos de entrenamiento
• Un método de optimización para encontrar el modelo óptimo minimizando la función objetivo.

• Proceso de entrenamiento: El objetivo es construir el modelo para obtener los parámetros $W$ óptimos para predecir el valor de $t$ para un nuevo valor de $x$. Esti requiere un dataset de entrenamiento compuesto por $n$ observaciones $x_1 ... x_n$ y un set de valores predecidos $t_1,....,t_n$ (Aprendizaje supervisado)

Es similar a la regresión excepto en que el valor predecido toma valores dentro de un pequeño set discreto de datos. En el caso específico de clasificación binarias solo hay 2 posibles valores para cada item, por ejemplo:

• $t_i=0$ para datos de clase negativa
• $t_i=1$ para datos de clase positiva

Es una clasificación supervisada por que las etiquetas están disponibles para los datos entrenados.

• Métodos de aprendizaje lineal: Las superficies de decisión generadas son funciones lineales de datos (hyperplanos)
• Métodos de aprendizaje no lineal: Las superficies de decisión que generan son funciones no lineales de los datos.

• Least Squares: No es una buena elección en general para clasificaciones ya que es muy sensible a los desbalances
• Regresión logística: El método más robusto ya que no es sensible a desbalances.

Primero es necesario diferenciar entre error de función y métrica de evaluación:

• La función de pérdida es la función usada para optimizar el modelo. Minimizada durante el entrenamiento y, en general, es diferenciable en los parámetros del modelo
• Las Métricas de evaluación son utilizadas para juzgar el rendimiento del modelo. No interviene durante la optimización del proceso del modelo y no necesita ser diferenciable.

• Mean Squared Error (MSE): Es la siguiente función donde $y_i$ es la salida del modelo y $t_i$ es la salida actual para el dato $i$. Pesa los errores grandes de forma más pesada debido al uso del error cuadrado.

• Root Mean Squared Errors (RMSE): Ventaja sobre MSE, facilita la interpretación ya que el error obtenido es relativo a las unidades de los datos.

• Mean Absolute Error (MAE): Trata todos los errores de la misma forma, mientras que MSE y RMSE le dan una mayor penalización a los errores altos. Poco adecuada si se quiere prestar atención a errores de predicción potencialmente grandes.

• Mean Absolute Percentage Error (MAPE): Tiene como ventajas que, al ser un procentaje, es independiente de la escala de los datos, es fácil de interprettar, aunque su valor puede ser mayor del 100% y que es resistente a los errores de outlier. También tiene varios puntos negativos, por ejemplo, hay problemas con la división si hay valores a ser predecidos equivalentes 0, si los valores son pequeños puede tener valores demasiado grandes y no es fiable frente a predicciones sistemáticamente mñas pequeñas que los valores actuales.

• Symmetric Mean Absolute Percentaje Error (SMAPE):
  • Ventajas:
    • Interpretación clara al ser procentajes
    • No afectado por outliers
    • Genera valores entre 0% y 100% solucionando el problema de MAPE
    • Es simétrico con respecto a predicciones bajas o altas.
  • Desventajas:
    • Tiene problemas con la división si la predicción y el valor actual son equivalentes a 0
    • No es simétrico ya que las sobrepredicciones e infrapredicciones no se tratan de forma equivalente.