Conceptos Generales de Inteligencia Artificial

Machine learning

Es un campo de estudio de la inteligencia artificial que estudia y desarrolla conceptos asociados con algoritmos estadísticos. El objetivo de estos algoritmos es que pueden aprender de los datos y obtener un tipo de abstracción (generalization) donde desde las propiedades de los datos de entrada analizados, se puede llegar a generalizaciones de esos conceptos.

De la generalización pueden surgir “modelos conceptuales” sobre el tópico de los datos de entrada.

Este concepto de generalización es muy simular al concepto usado en el paradigma de OO y por lo tanto, del análisis de los datos de entrada se generan modelos conceptuales basados en las características de los datos procesados, para luego ser usado en forma más generica.

Volviendo al concepto de Machine Learning, los algoritmos estadísticos generan modelos conceptuales usando el concepto de generalización y con eso un modelo de ML puede ejecutar tareas sin instrucciones explicitas.

Dentro del campo de ML se han desarrollado 2 ramas complementarias, una en el campo del Deep Learning, el cual permitió el avance en las llamadas “redes neuronales” (neural networks), que son una especialización de los algoritmos estadísticos para mejorar y sobrepasar algunas limitaciones de los modelos de ML tradicionales.

[!note] Como conclusión, Machine learning se enfoca en la predicción, basado en el conocimiento de las propiedades aprendidas del set de datos de entrenamiento.

Referencias:

Deep Learning

Es una especialización del ML que se enfoca en la utilización de múltiples cadas de redes neuronales para ejecutar tareas tales como:

Clasificación: mecanismos de clasificación usando algoritmos estadísticos:
Regresión: método estadísticos para estimar la relación entre una variable independientes sobre otro conjunto de variables.

aprendizaje de representación (representation learning): es una técnica que permite a un sistema de forma automática descubrir representaciones o clasificaciones de los datos crudos.

El Deep Learning toma inspiración de la neurociencia, al tomar el concepto de neurona, aquí, neurona digital que pueden ser entrenadas para procesar datos. Deep (profundo) se refiere al hecho de usar múltiples capas en la red. Existen 3 grandes grupos o categorías de entrenamiento:

Supervisado: datos etiquetados: => se usan para clasificación y regresión.
Semi-supervisado, datos CON y SIN etiquetas: se usan en algoritmos generativos, análisis de voz, clasificación de contenido y secuencias de proteínas.
Sin supervisión: datos SIN etiquetas, los algoritmos agrupan y clasifican;
Aprendizaje por refuerzo: los algoritmos aprenden por pruebas y error, se usan en robótica y videojuegos.

Algunas de las arquitecturas de redes de deep learning incluyen:

CNN - Convolutional neural networks
Transformers

Existen múltiples usos para este tipos de redes de deep learning, basando en el problema a resolver y la arquitectura seleccionada, como un ejemplo sencillo, supongamos un problema de reconocimiento de “caras” en imágenes. Para resolver este problema vamos a utilizar hipotéticamente un esquema de 4 capas de redes neuronales. Luego del obtener el input, el cual corresponde a una imagen en formato RAW, se pre-procesa como un Tensor de Pixeles, donde el tensor es una representación de los pixeles en un arreglo multi-dimensional (M-way array). Luego, en una primera capa de representación el algoritmo puede intentar reconocer formas básicas (lineas, círculos, etc); la segunda capa puede intentar componer bordes, figuras; la tercera capa intentará componer narices y ojos; finalmente, la cuarta capa intentará reconocer si la imagen contiene una cara.

Referencias:

Neural Network

Aquí hay varios acronimos que se derivan del titulo:

Neural Nerwork (NN)
Neural-net (NN)
Artificial neural network (ANN)

En concreto, una red neuronal es un MODELO COMPUTACIONAL inspirado en la estructura y funciones de la red neuronal biológica. Entonces, una red neuronal cosiste en un conjunto conectado de nodos llamados “neuronas artificiales” que pretenden imitar las neuronas de un cerebro.

Lo nodos tienen lo que denominan “edges” (bordes), que emulan las sinapsis o conexiones biológicas de las neuronas. Al igual que en teoría de la computación, los nodos reciben como imput un valor numérico, procesan o computan en base a una función no-lineal (el resultado puede no ser proporcional al input). La señal o input es un numero real que es computado por una función no lineal, llamada “función de activación”. La fuerza de la señal tiene asignado un peso que se le asigna durante el proceso de aprendizaje.

Referencias:

NLP - Natural Language Processing

Se trata de una técnica (y campo de estudio por si mismo), donde se intenta procesar el lenguaje natural humano a través de una computación. Es como enseñar a una máquina a leer, escribir y hablar como un humano.

NLP se basa en una combinación de modelo basado en reglas, computación lingüística, estadística, machine learning y deep learning.

Referencia:

Natural Language Processing — Wikipedia

Uniendo conceptos

Dentro de cada área hay un mundo por si mismo, pero a modo de resumen el siguiente gráfico muestra como se relacionan cada uno de los conceptos:

flowchart TB
    subgraph AI["Inteligencia Artificial (AI)"]
        subgraph ML["Machine Learning (ML)"]
            subgraph DL["Deep Learning (DL)"]
                LLM["LLMs / GenAI<br/>(Transformers)"]
            end
        end
    end
    AI -.- a["Sistemas que simulan<br/>comportamiento inteligente"]
    ML -.- b["Aprenden de los datos<br/>sin reglas explícitas"]
    DL -.- c["Redes neuronales<br/>multicapa"]

Gracias a los estudios en AI, y muy asociado a la teoría detrás, aparecen otras aplicaciones que mucho interés:

Compresión de datos, gracias a la capacidad probabilista de predicción (GenAI) los próximos “datos” basado en una historia. En estos casos se utilizan técnicas como Arithmetic Coding (AC). La importancia de la compresión de datos es alta, debido a que directamente impacta en eficiencia en el almacenamiento de datos y acelera la transmisión de datos.
Data mining: se enfoca en el “descubrimiento” de propiedades “no conocidas” in el set de datos de entrenamiento. Entonces, se utilizan muchos de los mismos métodos que en ML pero con objetivos totalmente distintos.
Generalización: aspecto clave de ML, donde se estudia la caracterización de los datos.
Estadísticas: mientras que las estadísticas extrae “inferencias” a partir de un conjunta de datos de muestras, donde una inferencia es una conclusión basada en una investigación sobre las evidencias y aplicando un razonamiento; mientras que ML intenta buscar patrones predictivos generalizables.

Referencia:

Arithmetic Coding — Wikipedia

Aprendisaje Supervisado: clasificación

Clase: la categoría de los datos.
Características: las medidas;
Muestras: los puntos de los datos;
Parámetros: las variables del modelo.

Referencia:

Supervised Learning — scikit-learn

SVM - Support Vector Machines

El objetivo del algoritmo es encontrar una linea recta (cuando trabajamos en 2 dimensiones), llamada “frontera SVM” que separe los grupos de puntos (datos). El objetivo es encontrar la linea que más separa ambos conjuntos de datos con el mayor “margen” posible.

Ref: SVM Colab Notebook — Google Colab

LLM - Large Language Model

Se trata de un modelo de AI entrenado con miles de millones de parámetros sobre enormes corpus de datos. La función principal es predecir el siguiente TOKEN (palabra o frase o secuencia de caracteres), permitiendo generar texto coherente en base a una pregunta.

[!note] Los LLMs modernos tienen parámetros que van desde millones hasta billones. Ejemplos clave: GPT (OpenAI, 2018), BERT (Google, 2018), GPT-2 (2019), GPT-3 (2020), ChatGPT (2022), GPT-4 (2023), Claude (Anthropic, 2023+), LLaMA (Meta, 2023+).