• IA General: Trata de desarrollar un sistema que presenta la flexibilidad y versatilidad de la inteligencia humana para resolver un amplio rando de problemas cognitivos complejos.
• IA Especializada: Trata de desarrollar sistemas que pueden ser usados solo para las tareas para los que fueron diseñados.

Es una rama de la IA que trata de desarrollar algoritmos que permitan a las máquinas aprender. Se busca desarrollar modelos computacionales que sean capaces de resolver problemas complejos usando como base ejemplos.

• Si no se tiene suficiente conocimiento explícito para obtener un algoritmo para resolver el problema, pero se tienen ejemplos de como se resuelve.
• Si el problema a resolver varía con el tiempo.
• Si los datos llegan continuamente y contienen nueva información que permite mejorar el sistema con el tiempo.

Término usado para describir la capacidad de un modelo para clasificar o predecir nuevos datos correctamente. Hay 2 conceptos importantes relacionados con la generalización:

• Underfitting: El modelo no trabaja bien con los datos.
• Overfitting: El modelo trabaja demasiado bien con los datos, los memoriza, pero hace predicciones poco fiables con datos nuevos.

Hay que encontrar un balance entre estos 2 conceptos.

Antes de usar datos para entrenar un modelo, suele ser necesario realizar ciertas preparaciones de los datos como:

• Normalizar los datos (Scaling)
• REcodificar las variables no-numéricas
• Eliminación de ruido y datos sin sentido
• Imputación de datos

Primero debemos conocer las notaciones y definiciones:

• Vectores: Vienen como matrices en columna
  • Producto de vectores:

• Norma de un vector

Tienen como objetivo predecir una o más variables continuas dado el valor de un set explicativo de variables repesentado por un vector $X$ con dimensión $m$

Para predecir los valores de las variables tenemos los siguientes elementos clave:

• Variables explicativas: variables de entrada del modelo
• Ejemplos de entrenamiento: Un grupo de $n$ datos $x_1 ... x_n$ de las variables explicativas para el cual el valor de la variable a ser predecido es conocido $t_1,...,t_n$
• Un Modelo: Es una función parametrizable $W$ que representa la relación entre $x$ y $t$
• Función objetivo (o error o coste) que indica como de bien tiene que aproximar el modelo los datos de entrenamiento
• Un método de optimización para encontrar el modelo óptimo minimizando la función objetivo.

• Proceso de entrenamiento: El objetivo es construir el modelo para obtener los parámetros $W$ óptimos para predecir el valor de $t$ para un nuevo valor de $x$. Esti requiere un dataset de entrenamiento compuesto por $n$ observaciones $x_1 ... x_n$ y un set de valores predecidos $t_1,....,t_n$ (Aprendizaje supervisado)

Es similar a la regresión excepto en que el valor predecido toma valores dentro de un pequeño set discreto de datos. En el caso específico de clasificación binarias solo hay 2 posibles valores para cada item, por ejemplo:

• $t_i=0$ para datos de clase negativa
• $t_i=1$ para datos de clase positiva

Es una clasificación supervisada por que las etiquetas están disponibles para los datos entrenados.

• Métodos de aprendizaje lineal: Las superficies de decisión generadas son funciones lineales de datos (hyperplanos)
• Métodos de aprendizaje no lineal: Las superficies de decisión que generan son funciones no lineales de los datos.

• Least Squares: No es una buena elección en general para clasificaciones ya que es muy sensible a los desbalances
• Regresión logística: El método más robusto ya que no es sensible a desbalances.

Primero es necesario diferenciar entre error de función y métrica de evaluación:

• La función de pérdida es la función usada para optimizar el modelo. Minimizada durante el entrenamiento y, en general, es diferenciable en los parámetros del modelo
• Las Métricas de evaluación son utilizadas para juzgar el rendimiento del modelo. No interviene durante la optimización del proceso del modelo y no necesita ser diferenciable.

• Mean Squared Error (MSE): Es la siguiente función donde $y_i$ es la salida del modelo y $t_i$ es la salida actual para el dato $i$. Pesa los errores grandes de forma más pesada debido al uso del error cuadrado.

• Root Mean Squared Errors (RMSE): Ventaja sobre MSE, facilita la interpretación ya que el error obtenido es relativo a las unidades de los datos.

• Mean Absolute Error (MAE): Trata todos los errores de la misma forma, mientras que MSE y RMSE le dan una mayor penalización a los errores altos. Poco adecuada si se quiere prestar atención a errores de predicción potencialmente grandes.

• Mean Absolute Percentage Error (MAPE): Tiene como ventajas que, al ser un procentaje, es independiente de la escala de los datos, es fácil de interprettar, aunque su valor puede ser mayor del 100% y que es resistente a los errores de outlier. También tiene varios puntos negativos, por ejemplo, hay problemas con la división si hay valores a ser predecidos equivalentes 0, si los valores son pequeños puede tener valores demasiado grandes y no es fiable frente a predicciones sistemáticamente mñas pequeñas que los valores actuales.

• Symmetric Mean Absolute Percentaje Error (SMAPE):
  • Ventajas:
    • Interpretación clara al ser procentajes
    • No afectado por outliers
    • Genera valores entre 0% y 100% solucionando el problema de MAPE
    • Es simétrico con respecto a predicciones bajas o altas.
  • Desventajas:
    • Tiene problemas con la división si la predicción y el valor actual son equivalentes a 0
    • No es simétrico ya que las sobrepredicciones e infrapredicciones no se tratan de forma equivalente.

Tenemos una matriz de confusión para dos clases de problemas:

• Error de tipo I: Falsos positivos (FP)
• Error de tipo II: Falsos Negativos (FN)

• Precisión: Tasa global de aciertos del sistema. Es problemática cuando se trabaja con datasets desbalanceados.

• Sensibilidad: de todos los ejemplos positivos cuantos fueron predecidos como positivos.

• Especificdad: De todos los casos negativos, cuantos fueron predecidos como negativos.

• Precisión: De todos los ejemplos clasificados como positivos, cuantos eran de verdad positivos.

• Puntuación F-1: Media harmónica entra la Exactitud y la sensibildiad. Ventaja: mejor mñetrica que exactitud si hay desbalance. Desventaja: no tiene en cuenta los verdaderos negativos.

• Curva ROC (Receiver Operating Characteristics): Muestra gráficamente la sensibilidad en comparación con los falsos positivos como función del clasificador de discriminación.
• Aárea bajo la curva ROC (AUC): Calcula el área bajo la ROC, su valor se encuentra entre 0 (peor caso) y 1 (Mejor caso)
• Macro Media: Calcula la media de las métricas de todas las clases

• Media pesada: Calcula la media de la metrcica pero pesada por el número de casos por clase.

• Micromedia: Para cada métrica de verdaderos positivos individuales, pfalsos positivos y falsos negativos, se suman juntos para cada clase:

Los métodos de aprendizaje no lineales permten la creación de regiones de decisión complejas para separar datos de diferentes clases. En general suelen rendir mejor que los modelos lineales.

Muchos modelos de Machine Leargin están inspirados por la biología. Las redes neuronales artificiales definen funciones de las entradas que son calculadas por las neuronas. El modelo matemático de una neurona artificial sería el siguiente:

Las neurona están organizadas en una serie de capas que definen la arquitectura de la red:

• Feed Forward Networks: Unidireccional, solo se puede avanzar a la siguiente capa, no se puede ir para atrás
• Recurrent Networks: Bidireccionales, pueden avanzar en ambas direcciones.

El entrenamiento de las redes trata de encontrar el peso óptimo $W^*$

$t_i$ es la salida deseada e $y_i$ es la salida para los datos $i$. Las funciones de error más utilizadas son: