Fundamentos, arquitecturas de modelos, modelos de lenguaje grandes, RAG, sistemas multimodales, agentes de IA, seguridad, gobernanza y direcciones futuras
Alcance técnico actualizado hasta el 25 de julio de 2026
Por João Ricardo Dutra••Material completo
Ámbito de investigación y fecha
Este artículo sintetiza la investigación fundacional y la orientación técnica actual disponible hasta el 25 de julio de 2026. Debido a que la IA generativa cambia rápidamente, los nombres de modelos, la disponibilidad del producto, el liderazgo de referencia, los precios y los objetivos de certificación siempre deben volver a comprobarse antes de una implementación de alto nivel.
Resumen
La inteligencia artificial generativa es la rama de la IA que aprende patrones en los datos y utiliza esos patrones para crear texto nuevo, imágenes, audio, vídeo, código, simulaciones, diseños y acciones. Su visibilidad reciente está fuertemente asociada con modelos de lenguaje grandes, pero el campo es más amplio: incluye autoencoders variacionales, redes generativas adversariales, modelos de difusión, Transformers autorregresivos, modelos de fundación multimodal, generación aumentada por la recuperación, y agentes de IA cada vez más autónomos. Este artículo explica toda la pila conceptual, a partir de distribuciones de probabilidades, tokens, embeddings, atención, objetivos de entrenamiento, alineamiento, decodificación y alucinación a RAG, ajuste, uso de herramientas, evaluación, seguridad, IA responsable y arquitectura empresarial. También revisa a los principales actores del mercado y las direcciones técnicas más importantes visibles a mediados de 2026. El objetivo no es meramente describir lo que la IA generativa puede hacer, sino mostrar por qué se comporta como lo hace, donde falla, y cómo diseñar sistemas útiles, mensurables y fiables.
Palabras clave: IA generativa, inteligencia artificial, modelos de lenguaje grande, LLM, modelos de fundación, Transformador, ingeniería de prompts, ingeniería de contexto, generación aumentada por recuperación, RAG, base de datos vectorial, embeddings, ajuste fino, LoRA, modelos de difusión, IA multimodal, agentes de IA, IA agéntica, IA responsable, seguridad de IA, IA empresarial.
Contenido en resumen
Introducción: histórico, jugadores de valor y de mercado
1. Qué es la IA generativa
2. Evolución histórica
3. Fundaciones matemáticas y de aprendizaje automático
4. Familias modelo generativo principal
5. Los grandes modelos de lenguaje y el transformador
6. Entrenamiento, alineamiento y razonamiento
7. Ventanas de inferencia, decodificación y contexto
8. Ingeniería inmediata e ingeniería de contexto
9. Generación aumentada por recuperación
10. Personalización del modelo y ajuste fino
11. IA generativa multimodal
12. Agentes de IA y sistemas agentes
13. Evaluación y Benchmarking
14. IA responsable, ética y gobernanza
15. Amenazas de seguridad y arquitectura defensiva
16. El mercado de la IA generativa
17. Arquitectura empresarial e implementación
18. Aplicaciones e impacto social
19. Desarrollos técnicos a través de mediados de 2026
20. Aprendizaje de Microsoft y alineación de certificación
Conclusión y perspectivas futuras
Comprobación de los conocimientos
Glosario
Referencias
Introducción
La historia moderna de la IA generativa es una secuencia de avances en el modelado estadístico y las redes neuronales. Los primeros modelos probabilísticos intentaron representar cómo se generaron los datos. Los modelos de lenguaje neuronal aprendieron más tarde a predecir las palabras desde el contexto. Los codificadores automáticos variacionales y las redes generativas adversariales abrieron nuevas maneras de sintetizar las imágenes, mientras que la arquitectura Transformer, introducida en 2017, hizo práctico entrenar modelos de secuencias altamente paralelos a escala sin precedentes. Los modelos de difusión transformaron entonces la generación de imágenes y los grandes modelos de lenguaje adaptados a las instrucciones convirtieron la predicción siguiente en una interfaz general para el trabajo del conocimiento. La publicación pública de sistemas conversacionales a principios de los años 2020 hizo de la IA generativa una tecnología general en lugar de un tema de investigación especializado [9-14].
Para los lectores, la comprensión de la IA generativa es cada vez más una forma de alfabetización digital. Ayuda a los profesionales a evaluar la información generada por la IA, automatizar el trabajo repetitivo, diseñar nuevos productos, comunicarse con modelos más eficazmente y reconocer cuando la verificación humana es esencial. Para la sociedad, la IA generativa puede ampliar el acceso a la tutoría, la traducción, el desarrollo de software, la descoberta científica, el diseño y los instrumentos de accesibilidad. La misma tecnología también puede amplificar la información errónea, el sesgo, la vigilancia, el fraude y la concentración de poder. Por lo tanto, la cuestión decisiva no es si se utilizará la IA generativa, sino qué tan bien se entenderán sus límites técnicos, incentivos y salvaguardias.
El mercado está liderado por desarrolladores de modelos y proveedores de plataformas con diferentes estrategias. OpenAI, Google DeepMind y Anthropic compiten en la frontera de modelos de uso general y multimodal. Meta ha promovido un gran ecosistema de peso abierto alrededor de Llama. Microsoft combina el acceso al modelo, el desarrollo de aplicaciones, agentes y la gobernanza a través de los productos Microsoft Foundry y Copilot. Amazon Web Services proporciona una plataforma empresarial multimodelo a través de Amazon Bedrock. NVIDIA suministra gran parte del software de computación e inferencia acelerada que hace posible la formación y el servicio a gran escala. Cohere se centra fuertemente en la empresa, el despliegue multilingüe y soberano. Otras organizaciones influyentes incluyen Mistral AI, DeepSeek, Alibaba, xAI y una comunidad de código abierto en rápida expansión. El 2026 Stanford AI Index informa que la industria produjo más del 90% de modelos fronterizos notables en 2025, la adopción de IA organizacional alcanzó el 88%, y la IA generativa alcanzó la adopción de aproximadamente el 53% de la población en tres años [1].
El resto de este artículo sigue la tecnología desde los primeros principios hasta la producción. La manera más útil de leerla es tener en cuenta una pregunta: cuando un modelo produce una respuesta impresionante, qué partes provenían de la estructura estadística aprendida, qué partes provenían de pruebas externas, qué partes provenían del diseño del sistema, y qué partes todavía requieren juicio humano?
Figura 1. Las principales familias de modelos generativos profundos y los sistemas híbridos construidos a partir de ellos.
1. Qué es la inteligencia artificial generativa
Un modelo generativo aprende una representación de la distribución que produjo los datos observados. En términos simplificados, si se extraen ejemplos reales de una distribución desconocida p_data(x), el modelo intenta aprender una distribución p_model(x) que está lo suficientemente cerca para generar ejemplos nuevos plausibles. Un modelo generativo condicional aprende p(x) c), donde c puede ser un aviso, etiqueta de clase, imagen, clip de audio, conjunto de documentos, perfil de usuario, resultado de la herramienta u otra modalidad.
Este objetivo difiere del aprendizaje discriminativo. Un clasificador discriminativo aprende una probabilidad límite o condicional como p(etiqueta entrada). Un sistema generativo aprende suficiente estructura sobre los datos para crear, reconstruir o transformarlo. En la práctica, los sistemas modernos a menudo combinan ambos enfoques. Un servicio de texto a imagen puede utilizar un modelo generativo para sintetizar pixeles, un clasificador de seguridad discriminativo para bloquear contenido prohibido, un modelo de ranking para seleccionar el mejor resultado y un modelo de idioma para interpretar el mensaje del usuario.
1.1 La generación es probabilística, no una consulta a una base de datos
Un modelo de idioma normalmente no recupera una oración almacenada y la pega en la respuesta. Calcula una distribución de probabilidad sobre posibles fichas próximas y selecciona de esa distribución. Es por eso que dos solicitudes pueden producir salidas diferentes, por qué pueden importar pequeños cambios rápidos, y por qué el texto fluente todavía puede estar equivocado. Parámetros del modelo codifican las regularidades estadísticas aprendidas durante el entrenamiento, no una enciclopedia perfectamente indexada de hechos.
1.2 Modelos de fundación
Un modelo de fundación está entrenado en datos amplios a escala y adaptado a muchas tareas posteriores. El mismo modelo de base puede soportar la síntesis, la traducción, la respuesta a preguntas, la extracción, la codificación, la comprensión de imágenes, la planificación y el uso de herramientas. Esta reutilización cambia la arquitectura del software: en lugar de entrenar un modelo separado para cada tarea estrecha, los desarrolladores combinan un modelo general con prompts, recuperación, ajuste fino, herramientas, políticas y evaluación.
1.3 La IA generativa es un sistema, no sólo un modelo
Una aplicación de IA generativa de producción generalmente contiene mucho más que un punto final del modelo. Incluye autenticación, autorización, montaje rápido, reglas de negocio, recuperación, almacenes de datos, enrutamiento de modelos, filtros de contenido, permisos de herramientas, observabilidad, conjuntos de datos de evaluación, respuesta a incidentes, escalada humana y controles de costes. Muchos fallos atribuidos al modelo son en realidad fallos de contexto, calidad de datos, diseño de interfaz, control de acceso o validación faltante.
Un modelo mental útil
La calidad del modelo establece el techo, pero la calidad del sistema determina si la aplicación es confiable. Un modelo potente con recuperación débil, permisos y evaluación puede ser menos útil que un modelo más pequeño dentro de un sistema bien diseñado.
2. Evolución histórica
2.1 De la IA simbólica al aprendizaje estadístico
Los primeros sistemas de IA se basaron en gran medida en reglas explícitas, lógicas y representaciones simbólicas. Estos sistemas podrían ser precisos en dominios estrechos, pero eran costosos de construir y quebradizos cuando el lenguaje o el medio ambiente cambiaban. El aprendizaje automático estadístico cambió el enfoque de codificar manualmente cada regla a los patrones de aprendizaje de ejemplos. Los modelos probabilísticos de lenguaje estimaron la probabilidad de secuencias de palabras, inicialmente con n-grams y posteriormente con redes neuronales.
2.2 Aprendizaje de representación y redes neuronales profundas
El aprendizaje profundo hizo posible aprender representaciones jerárquicas directamente de los datos. Las redes convolucionales transformaron el reconocimiento de imágenes; las redes recurrentes y las redes de memoria a corto plazo mejoraron la modelación de secuencias. Los codificadores automáticos aprendieron representaciones comprimidas reconstruyendo su entrada, creando la base conceptual para los codificadores automáticos variacionales.
2.3 Hitos de VAE, GAN y difusión
El codificador automático variacional formalizó un espacio probabilista latente y un objetivo de entrenamiento tractable [10]. Las redes generativas adversariales introdujeron una competencia entre un generador y un discriminador, produciendo imágenes sintéticas afiladas pero creando desafíos de inestabilidad y colapso del modo de entrenamiento [11]. Modelos de difusión aprendieron a invertir un proceso de ruido gradual y finalmente se convirtieron en un enfoque dominante para la generación de imágenes de alta calidad [12].
2.4 El transformador y la era del modelo de fundación
El transformador reemplazó la recurrencia con atención, permitiendo el procesamiento paralelo de secuencias y un escalamiento más eficiente [9]. El entrenamiento previo a gran escala demostró que un modelo podía adquirir patrones lingüísticos y fácticos amplios, y luego adaptarse a muchas tareas mediante la indicación. El ajuste de instrucciones y el aprendizaje reforzado de la retroalimentación humana mejoró la capacidad del modelo para seguir la intención del usuario [14]. Esto produjo la interfaz de conversación que hizo que la IA generativa fuera accesible a los no especialistas.
2.5 El paso de los asistentes a los agentes
El siguiente paso arquitectónico fue conectar modelos de lenguaje a herramientas, memoria y entornos externos. La investigación como ReAct mostró cómo el razonamiento y la acción podían intercalarse [17]. Para 2026, las plataformas principales estaban haciendo hincapié en agentes persistentes, orquestación, controles empresariales, recuperación de agentes y monitoreo del tiempo de ejecución. Esto no significa que haya llegado la inteligencia general totalmente autónoma. Significa que el modelo es cada vez más un componente en un bucle que observa, planea, llama herramientas, recibe resultados y continúa hasta que una tarea se complete o escalonee.
3. Fundamentos matemáticos y de aprendizaje automático
3.1 Distribuciones de probabilidad y verosimilitud
La modelación generativa es fundamentalmente probabilística. El modelo asigna probabilidades a posibles observaciones y utiliza esa estructura para muestrear otras nuevas. Para una secuencia token x_1 a x_T, un modelo autorregressivo factoriza la probabilidad conjunta en probabilidades condicionales. El entrenamiento aumenta la probabilidad de secuencias reales, generalmente minimizando la probabilidad de log negativo o la entropia cruzada.
3.2 Parámetros, optimización y descenso del gradiente
Una red neural contiene parámetros, comúnmente llamados pesos. Durante el entrenamiento, el modelo procesa ejemplos, calcula una pérdida que mide el error y utiliza la backpropagation para calcular cómo cada parámetro contribuyó a esa pérdida. Un optimizador como el descenso del gradiente estocástico o Adam actualiza los parámetros. El entrenamiento de un modelo fronterizo puede implicar trillones de presentaciones token, distribuidos entre muchos aceleradores y coordinados mediante datos, tensores, pipelines y paralelismo experto.
3.3 Variables latentes y espacios latentes
Una variable latente es un factor no observado que ayuda a explicar los datos observados. En un modelo generativo, el espacio latente puede codificar propiedades abstractas como estilo, tema, postura, tono o estructura. Pasar por el espacio latente puede producir cambios suaves en las salidas generadas. Los EAV regularizan explícitamente este espacio; los modelos de difusión y lenguaje también forman representaciones internas, aunque su geometría e interpretabilidad son más complejas.
3.4 Embeddings
Un embedding es una representación vectorial en la que la similitud semántica o estructural puede reflejarse por la proximidad geométrica. Los embeddings de fichas son las representaciones internas de fichas del modelo. Los embeddings de texto utilizados en la búsqueda representan frases, pasajes o documentos. Los embeddings de imágenes y audio sirven roles análogos.
Las embeddings son centrales para la búsqueda semántica, la agrupación, la recomendación, la deduplicación, la recuperación y el alineamiento multimodal.
3.5 Softmax, logits y probabilidad
La capa final de un modelo de idioma produce logits: puntuaciones no normalizadas para los siguientes tokens del candidato. Softmax convierte estas puntuaciones en probabilidades. La distribución de probabilidades puede modificarse por temperatura, top-k, top-p o restricciones antes de seleccionar un token. La salida de alta probabilidad es a menudo más previsible, mientras que el muestreo más amplio puede aumentar la creatividad y el error.
De logits a probabilidades de token
softmax(z_i) = exp(z_i) /sum_j exp(z_j)
Temperature-adjusted probability uses z_i /T before softmax. Lower T -> sharper distribution; higher T -> flatter distribution.
3.6 Generalización, memorización y escalado
La generalización es la capacidad de funcionar bien en ejemplos no vistos durante el entrenamiento. La memorización no es inherentemente mala; el lenguaje requiere recordar patrones y hechos. El riesgo aparece cuando un modelo reproduce ejemplos de entrenamiento sensibles, protegidos por derechos de autor o únicos, o cuando los datos de referencia se filtran en el entrenamiento. Las leyes de escala describen las relaciones previsibles entre el tamaño del modelo, los datos, el cálculo y la pérdida. La investigación mostró que el entrenamiento con cálculo óptimo requiere parámetros de equilibrio y datos en lugar de aumentar el tamaño del modelo solo. Las arquitecturas modernas de mezcla de expertos separan más la capacidad total del subconjunto menor activado para cada ficha.
4. Principales familias de modelos generativos
Familias de modelos generativos principales
Familia modelo
Idea central
Fortalezas
Limitaciones típicas
Autorregressivo
Generar un elemento tras otro, condicionado a elementos anteriores.
Excelente para lenguaje y código; flexible; transmisión natural.
decodificación secuencial; exposición a errores de composición; alucinación.
Codificador automático variacional
Codificar los datos en una distribución probabilística latente y descodificar muestras.
Las salidas pueden aparecer más suaves o menos nítidas que los métodos adversarios o de difusión.
Red adversa generativa
Entrenar un generador para engañar a un discriminador en un juego mínimo.
Salidas afiladas; generación rápida de un solo paso después del entrenamiento.
Instabilidad del entrenamiento, colapso del modo, evaluación difícil.
Modelo de difusión
Agregue ruido durante un proceso hacia adelante y aprenda el proceso de denotación inversa.
Imagen y generación de medios de alta fidelidad; controllabilidad.
El muestreo iterativo puede ser computacionalmente caro.
Normalización del flujo
Usar transformaciones invertibles con probabilidad exacta.
Evaluación exacta de la densidad y mapeo reversible.
Restricciones arquitectónicas y costos de memoria/computación.
Híbrido/multimodal
Combinar varios tipos de modelos, codificadores, descodificadores, recuperación y herramientas.
Capacidades más amplias y interacción más rica.
Complexidad del sistema, evaluación y aumento de la superficie de seguridad.
4.1 Codificadores automáticos variacionales
Un autocodificador variacional contiene un encodificador que estima una distribución q(z) x) sobre variables latentes y un decodificador que reconstruie x de z. El entrenamiento equilibra la calidad de reconstrucción con un término de regularización que mantiene la distribución latente aprendida cerca de una distribución normal anterior, a menudo estándar. El truco de reparameterización hace que el muestreo sea lo suficientemente diferente para optimización basada en gradientes [10].
Los EAV son útiles cuando un espacio liso y estructurado tiene cuestiones latentes, incluyendo aprendizaje de representación, detección de anomalías, generación controlable, modelado científico y compresión de datos. Su debilidad clásica es que la reconstrucción basada en probabilidades puede recompensar las salidas medias, lo que puede reducir la nitidez visual.
4.2 redes generativas adversariales
Un GAN entrena dos redes neurales juntas. El generador mapea el ruido aleatorio a muestras sintéticas. El discriminador predice si un muestreo es real o generado. El generador mejora haciendo salidas que el discriminador clasifica como reales, mientras que el discriminador mejora al detectarlos [11].
Classic GAN minimax objective
min_G max_D E_x[log D(x)] + E_z[log(1 - D(G(z)))]
Los GANs fueron especialmente influyentes en la síntesis de imágenes, la super-resolución y la transferencia de estilo. Su objetivo adversario puede crear resultados agudos, pero el equilibrio es difícil de optimizar. El colapso del modo ocurre cuando el generador produce variedades limitadas que engañan al discriminador en lugar de cubrir la distribución completa de datos.
4.3 Modelos de difusión
Un modelo de difusión gradualmente corrompe los datos con ruido en un proceso de avance y entrena a una red para predecir o eliminar ese ruido. La generación comienza a partir del ruido aleatorio y aplica el proceso inverso aprendido a través de múltiples pasos. La información condicional, como un mensaje de texto, puede guiar la denotación a través de la atención cruzada u otros mecanismos de condicionamiento [12].
La difusión latente reduce el costo al realizar el proceso en una representación comprimida en lugar del espacio de pixeles en bruto. Los muestreadores más rápidos, las técnicas de destilación y consistencia reducen el número de pasos de denotación. Los principios de difusión ahora se extienden más allá de las imágenes a audio, vídeo, 3D, estructuras moleculares e incluso a la generación de lenguaje.
4.4 Modelos autorregresivos
Los modelos autorregresivos generan secuencialmente. Para el lenguaje, predicen el siguiente símbolo de todos los símbolos anteriores en el contexto. Para las imágenes o el audio, pueden predecir pixeles, parches, códigos o elementos de forma de onda. El enfoque es conceptualmente simple y escala bien, pero la generación es intrínsecamente secuencial a menos que se utilicen métodos paralelos especializados o especulativos.
5. Modelos de lenguaje grandes y el Transformer
Un modelo de idioma grande suele ser un Transformador entrenado en textos y corporaciones de código muy grandes. Aprende la estructura estadística del lenguaje a través de un objetivo autosupervisado, la mayoría de las veces una predicción próxima. El adjetivo grande puede referirse al recuento de parámetros, datos de entrenamiento, cálculo, ventana de contexto o capacidad; no hay umbral universal.
Figura 2. El bucle de generación autorregressivo utilizado por los modelos de lenguaje grandes de estilo de decodificador.
5.1 Tokens y tokenización
Los modelos no leen el texto exactamente como lo hacen los humanos. Un tokenizer divide el texto en unidades como palabras, subpalabras, puntuación y secuencias de bytes. Cada símbolo mapea un ID entero. La tokenización afecta el costo, el uso del contexto, el rendimiento multilingüe, el manejo de códigos y la ortografía de términos raros. Una palabra puede ser un símbolo en un idioma y varios símbolos en otro.
5.2 Embeddings e información de posición
Los identificadores de símbolos están mapeados a vectores densos. Debido a que la atención por sí sola no conoce el orden secuencial, el modelo también codifica la posición. Las codificaciones de posición o los embeddings de posición rotativa permiten al modelo distinguir entre el mismo símbolo que aparece en diferentes lugares y razonar acerca de la distancia relativa.
5.3 Autoatención
La autoatención permite que cada representación de símbolos incorpore selectivamente información de otros símbolos. Cada símbolo produce vectores de consulta, clave y valor. La similitud entre las consultas y las claves determina cuán fuertemente se combinan los valores. Las cabezas de atención múltiples aprenden relaciones diferentes, como la sintaxis, la referencia, el tema o la dependencia a largo plazo.
Scaled dot-product attention
Attention(Q, K, V) = softmax( Q K^T /sqrt(d_k) ) V
En la modelización del lenguaje causal, una máscara impide que un símbolo se ocupe de los símbolos futuros. Esto preserva el objetivo de predicción siguiente. La atención tiene un costo cuadrático con la longitud de la secuencia en su forma estándar, lo que hace costosos los contextos largos y motiva la escasa atención, la compresión de memoria, la recurrencia, la recuperación y otras optimizaciones.
5.4 Capas feed-forward, rutas residuales y normalización
Un bloque de transformador alterna la atención con una red de avance en posición. Las conexiones residuales preservan la información y mejoran el flujo de gradiente. La normalización de capas estabiliza el entrenamiento. Muchos modelos modernos sustituyen las capas descendentes de avance por módulos de mezcla de expertos, donde un router envía cada ficha a un pequeño subconjunto de redes de expertos especializados.
5.5 Modelos encoder, decoder y encoder-decoder
Los modelos solo para codificadores crean representaciones contextuales y son fuertes para las tareas de clasificación, recuperación y comprensión.
Los modelos solo decoder usan atención causal y dominan la generación de texto y código abiertos.
Modelos de codificador-decodificador codifican una secuencia de entrada y generan una secuencia de salida, haciéndolos naturales para tareas de traducción y transformación.
5.6 Ventanas de contexto y límites de atención
La ventana de contexto es la cantidad máxima de información tokenizada disponible para el modelo durante una interacción. Puede incluir instrucciones del sistema, historial de conversación, documentos recuperados, resultados de herramientas y la salida esperada. Una ventana más grande no garantiza un recuerdo perfecto. Los modelos pueden pasar por alto la información, luchar con evidencias contradictorias o actuar de manera desigual dependiendo de dónde aparecen los hechos. Por lo tanto, la ingeniería de contexto incluye la selección, la compresión, el pedido, el etiquetado y la resolución de conflictos.
6. Entrenamiento, alineación y razonamiento
6.1 Recopilación y curación de datos
Los datos de preentrenamiento pueden incluir páginas web, libros, código fuente, documentos científicos, material de referencia, conversaciones, imágenes, datos de audio y licenciados o sintéticos. La calidad se determina no sólo por el volumen, sino por la deduplicación, el equilibrio del lenguaje, la frescura, la cobertura del dominio, la procedencia, el manejo de la privacidad, el filtrado y el diseño de mezclas. Los datos pobres pueden codificar los estereotipos, errores fácticos, instrucciones maliciosas e información privada.
6.2 Preentrenamiento
Durante el entrenamiento previo, el modelo aprende representaciones generales a través de objetivos autosupervisados. En un LLM autorregressivo, cada secuencia suministra muchos objetivos de entrenamiento porque cada siguiente símbolo se convierte en una tarea de predicción. El entrenamiento previo crea una amplia capacidad, pero no garantiza que el modelo responda a las preguntas con seguridad, siga instrucciones o admita incertidumbre.
6.3 Ajuste de instrucciones supervisado
La afinación de instrucciones utiliza ejemplos de indicaciones y respuestas deseadas para enseñar a un modelo preentrenado cómo comportarse como un asistente. Los ejemplos pueden cubrir estilo, formato de tarea, comportamiento de rechazo, llamadas de herramientas y salida estructurada. La calidad y diversidad de instrucciones influyen fuertemente en la usabilidad.
6.4 Aprendizaje por refuerzo con retroalimentación humana
RLHF típicamente recopila preferencias humanas entre las salidas del modelo, entrena un modelo de recompensa para predecir esas preferencias, y optimiza el modelo de idioma para aumentar la recompensa mientras limita la desviación del modelo de referencia. El trabajo InstructGPT demostró que un modelo alineado más pequeño podría ser preferido a un modelo de base mucho más grande [14]. RLHF es potente pero costoso y sensible a los errores del modelo de recompensa, el sesgo del anotador y el pirateo de recompensas.
6.5 RLAIF, métodos constitucionales y optimización de preferencias
Aprendizaje de refuerzo de la retroalimentación de la IA utiliza críticas o preferencias generadas por modelos para complementar los datos humanos. Los métodos constitucionales evalúan el comportamiento contra principios escritos. Optimización de preferencias directas simplifica el aprendizaje de preferencias optimizando un objetivo de tipo de clasificación sin un bucle de aprendizaje de refuerzo separado [16]. Estos métodos no son intercambiables; las organizaciones los eligen basándose en los requisitos de control, costo, datos y seguridad.
6.6 Modelos de razonamiento y cálculo del tiempo de prueba
Una dirección reciente importante es asignar más cálculos durante la inferencia para la planificación, verificación, búsqueda o refinamiento iterativo. En lugar de producir la primera continuación plausible, un sistema puede generar soluciones candidatas, comprobar pasos intermedios, llamar a herramientas, comparar respuestas o utilizar un verificador. Esto puede mejorar las tareas matemáticas, de codificación y de decisión compleja, pero aumenta la latencia y el costo. Tampoco garantiza la corrección; una lógica larga puede apoyar con confianza una conclusión errónea.
6.7 Cadena de pensamiento y razonamiento oculto
El impulso de la cadena de pensamiento pide un modelo para producir pasos de razonamiento intermedios. Puede mejorar el rendimiento en algunas tareas, especialmente con las demostraciones, pero el razonamiento visible no es una ventana perfecta en el cálculo interno. Los sistemas de producción pueden utilizar deliberación privada, justificaciones concisas, rastros de verificación o registros de herramientas en lugar de exponer el razonamiento interno sin restricciones. El objetivo importante del diseño es la prueba auditable y los resultados reproducibles, no la aparición de una explicación persuasiva.
6.8 Aprendizaje de refuerzo de recompensas verificables
Cuando una tarea tiene un verificador objetivo, como un ensayo unitario, un compilador, un probador de teorema o una respuesta matemática exacta, el entrenamiento puede recompensar el éxito verificado en lugar de la preferencia subjetiva. Esto es especialmente valioso para la codificación, las matemáticas y las tareas estructuradas. La limitación es que muchos objetivos del mundo real son incompletos, multiobjetivos o difíciles de verificar automáticamente.
6.9 Los datos sintéticos y los bucles de automejora
Los modelos pueden generar ejemplos, críticas, casos de borde e interacciones simuladas para entrenamiento adicional. Los datos sintéticos ayudan a cubrir escenarios raros y reducir el costo de anotación, pero el entrenamiento repetido sobre salidas sintéticas de baja calidad puede amplificar errores y reducir la diversidad. Los oleoductos potentes filtran datos sintéticos, los mezclan con datos humanos o reales de confianza, y evalúan si los nuevos datos realmente mejoran las tareas objetivo.
7. Inferencia, decodificación y ventanas de contexto
7.1 Inferencia
La inferencia es el proceso de ejecutar un modelo entrenado para generar una salida. Las métricas de producción clave incluyen el tiempo hasta el primer token, tokens por segundo, latencia de extremo a extremo, rendimiento, concurrencia, uso de memoria, utilización del acelerador, disponibilidad y costo por tarea exitosa. El modelo más barato por token no siempre es el más barato por resultado si requiere repulsiones o corrección humana.
7.2 Estrategias de decodificación
Técnicas de decodificación
Técnica
Qué hace
Efecto típico
decodificación grasienta
Siempre selecciona el símbolo de probabilidad más alta.
Determinística y rápida, pero puede ser repetitiva o localmente óptima.
Temperatura
Escala logits antes de softmax.
Los valores más bajos aumentan la previsibilidad; los valores más altos aumentan la variación.
Ejemplo de k superior
Muestras sólo desde las fichas de probabilidad más alta de k.
Elimina la larga cola de baja probabilidad.
Muestreo de la parte superior
Muestras del conjunto más pequeño cuya probabilidad acumulativa supera p.
Adapta el candidato establecido a la confianza del modelo.
Búsqueda del haz
Mantiene varias secuencias parciales de alta puntuación.
Útil para la generación limitada; puede reducir la diversidad.
decodificación limitada
Restringe la salida a un esquema, gramática o fichas permitidas.
Mejora la salida legible por máquina y el cumplimiento de las políticas.
decodificación especulativa
Un modelo más pequeño propone fichas que un modelo más grande verifica.
Puede reducir la latencia sin cambiar la distribución del objetivo.
7.3 Caché KV
Durante la generación autorregressiva, las teclas de atención y los valores de los símbolos anteriores se pueden almacenar en caché para que no necesiten ser recalculados en cada paso. La caché KV es esencial para el rendimiento, pero consume memoria sustancial, especialmente con contextos largos y muchos usuarios concurrentes. La cuantización, la búsqueda, la atención de consultas agrupadas y la reutilización de la caché mejoran la eficiencia.
7.4 Cuantización y compresión
La cuantización representa pesos o activaciones con menos bits, reduciendo la memoria y aumentando a menudo el rendimiento. La destilación entrena a un modelo de estudiante más pequeño para reproducir el comportamiento de un profesor más grande. La prudencia elimina parámetros o estructuras menos importantes. Cada técnica cambia cierta fidelidad o flexibilidad para el coste, la velocidad y el alcance de despliegue, incluyendo la inferencia en el dispositivo.
7.5 Determinismo y reproducibilidad
Incluso con una temperatura fija y una semilla, la reproductibilidad exacta puede verse afectada por la ejecución distribuida, la precisión numérica, las actualizaciones de modelos e infraestructura del proveedor. Las aplicaciones de alta seguridad deben almacenar la versión del modelo, la versión rápida, las pruebas recuperadas, las salidas de herramientas, los parámetros y los resultados de la evaluación. La reproductibilidad es una propiedad del sistema, no sólo una configuración de decodificación.
8. Ingeniería de prompts e ingeniería de contexto
Prompt engineering diseña instrucciones y ejemplos que guían el comportamiento del modelo. La ingeniería de contexto es más amplia: decide qué información, herramientas, memoria, políticas y estado deben entrar en el contexto de trabajo del modelo, en qué orden y en qué nivel de detalle. A medida que las aplicaciones se vuelven agentes, la ingeniería de contexto es a menudo más importante que la redacción inteligente.
8.1 Anatomía de un prompt eficaz
Papel y objetivo: definir lo que debe lograr el modelo.
Contexto: proporcionar los hechos, supuestos y límites relevantes.
Entrada: delimitar claramente los datos, documentos o registros del usuario.
Restricciones: especificar acciones prohibidas, fuentes permitidas, longitud y tono.
Contrato de salida: requiere un esquema, secciones, citas o indicadores de confianza.
Ejemplos: mostrar entradas y salidas aceptables cuando el formato es difícil.
Verificación: solicite comprobaciones contra pruebas, reglas o pruebas.
8.2 Prompting zero-shot, one-shot y few-shot
La indicación de la foto cero proporciona instrucciones sin ejemplos. Una foto incluye una demostración. La indicación de pocas fotos suministra varios ejemplos en contexto. Los ejemplos pueden enseñar los límites del formato y la decisión sin cambiar los parámetros del modelo, pero consumen contexto y pueden tender accidentalmente al modelo hacia patrones superficiales.
8.3 Salida estructurada
Cuando el modelo alimenta otro sistema, la prosa es a menudo la interfaz equivocada. Los esquemas, gramáticas, estructuras de llamada de herramientas y validación digitada de JSON reducen la ambigüedad. La aplicación debe rechazar la salida malformada o semánticamente inválida en lugar de confiar en ella porque parece estructurada.
8.4 Plantillas de prompt y control de versiones
Los prompts deben ser tratados como código: almacenados en el control de versiones, revisados, probados, medidos y retrocedidos. Un cambio rápido puede alterar la factibilidad, la seguridad, la latencia y el costo. Los conjuntos de evaluación deben incluir casos normales, casos de borde, entradas adversas y ejemplos multilingües.
8.5 inyección de prompts
La inyección de prompts ocurre cuando la entrada no confiable intenta anular las instrucciones del sistema, revelar secretos o causar acciones no autorizadas de la herramienta. La inyección directa viene del usuario. La inyección indirecta está incorporada en documentos, páginas web, correos electrónicos o resultados de la herramienta. El modelo no puede distinguir de forma fiable las instrucciones de los datos solo por texto, por lo que una defensa robusta requiere aislamiento, permisos, filtrado, validación y menos privilegio, no sólo un aviso más fuerte del sistema [7].
Impulsar no es un límite de seguridad
Las instrucciones del sistema influyen en el comportamiento, pero no sustituyen la autenticación, la autorización, los controles de red, la clasificación de datos, las listas de herramientas permitidas o la validación de salida.
9. Generación aumentada por recuperación
Generación aumentada por la recuperación combina un modelo generativo con la búsqueda externa. En lugar de esperar que el modelo contenga todos los hechos en sus parámetros, la aplicación recupera pruebas relevantes e lo inserta en el prompt. La investigación original de RAG combina la memoria del modelo paramétrico con un índice de documentos no paramétrico [13]. Las implementaciones modernas soportan palabras clave, semánticas, vectoriales e híbridas de recuperación, a menudo con remarcamientos y citas.
Figura 3. Los RAG clásicos y su evolución hacia la recuperación agente y la reunión de evidencias en varios pasos.
9.1 El conducto de ingestión
1. Recoger datos de fuentes aprobadas y procedencia de registro.
2. Analizar archivos, eliminar marcado irrelevante y preservar metadatos estructurales.
3. Dividir el contenido en trozos que sean lo suficientemente coherentes para responder preguntas.
4. Crear embeddings y almacenarlos con texto, etiquetas de acceso y metadatos.
5. Crear índices clave, vectores o híbridos y definir calendarios de actualización.
6. Evaluar la recuperación con consultas representativas antes de conectar un LLM.
9.2 Chunking
El montaje es una de las decisiones de diseño de RAG de mayor impacto. Los montajes que son demasiado pequeños pierden contexto; los trozos que son demasiado grandes diluyen la relevancia y consumen la ventana de contexto. Mejores estrategias respetan las partidas, los párrafos, las tablas, los bloques de código y los límites de documentos. El sobrepaso puede preservar la continuidad, pero la superposición excesiva crea duplicados y fichas de residuos.
9.3 Embeddings y búsqueda vectorial
La aplicación incorpora tanto los trozos almacenados como la consulta en un espacio vectorial. La búsqueda aproximada del vecino más cercano encuentra vectores con alta similitud. La búsqueda de vectores captura la relación semántica más allá de las palabras exactas, pero puede perderse identificadores raros, números y frases exactas. La búsqueda híbrida combina señales de palabras clave y vectores, y la remarcación semántica puede mejorar el orden final.
9.4 Recuperación, aumento y generación
Microsoft describe el flujo RAG central como recuperar, aumentar y generar [6]. Recuperación encuentra contenido relevante. Aumento combina la pregunta, evidencia e instrucciones del usuario. Generación crea una respuesta basada en esa evidencia. Un sistema fuerte también adjunta citas, hace cumplir los permisos de documentos y se niega a responder cuando la evidencia es insuficiente.
9.5 Reranking y transformación de consultas
Un recuperador de primera etapa está optimizado para el recordatorio: debe encontrar contenido potencialmente relevante rápidamente. Un recambio está optimizado para la precisión: reordena un conjunto de candidatos más pequeño utilizando un modelo de relevancia más caro. La reescritura de la pregunta amplía las abreviaturas, resuelve las referencias y convierte las preguntas conversacionales en consultas amigas de la búsqueda.
9.6 RAG agéntico
Recuperación de agentes utiliza un modelo para planificar múltiples subquerías, ejecutarlas en paralelo o secuencia, inspeccionar los resultados y decidir si se necesitan más pruebas. La documentación de Microsoft Foundry describe la recuperación de agentes como una evolución de una sola consulta a la planificación de consultas contextuales, ejecución paralela, datos de aterrizaje estructurados y ranking semántico incorporado [6]. Puede responder a preguntas complejas más completamente, pero crea oportunidades adicionales para bucles, gastos excesivos, pruebas contradictorias e inyección rápida.
9.7 RAG no es una garantía contra las alucinaciones
Un modelo puede ignorar la evidencia recuperada, malinterpretarla, combinar fuentes incompatibles o inventar una cita. La calidad RAG depende de la calidad de la fuente, el análisis, el fragmentado, la recuperación, el ranking, el diseño rápido y la generación. La evaluación debe medir separadamente el recordatorio de recuperación, la relevancia del contexto, la base de la respuesta, la corrección de la cita y el éxito de la tarea final.
9.8 Ajuste fino frente a RAG
Cuándo usar RAG y cuándo usar el ajuste fino
Necesidad
RAG
Fina afinación
Conocimiento fresco o privado
Mejor ajuste: recupera el contenido actual sin cambiar los pesos básicos.
Debilidad de ajuste: el conocimiento se estanca y requiere reciclaje.
Cambiar el tono o el comportamiento
Puede influir a través de los prompts, pero limitado.
Ajuste fuerte para el estilo estable, el formato o el comportamiento de la tarea.
Citas de origen
Ajuste natural cuando se conservan los metadatos.
No se puede rastrear naturalmente a ejemplos de entrenamiento.
Costo de actualización
Reindexar el contenido cambió.
Requiere un nuevo ciclo de entrenamiento y evaluación.
Riesgo de exposición a los datos
Los datos entran en la recuperación y el contexto en la inferencia.
Los datos de entrenamiento pueden codificarse en pesos adaptados.
Complexidad
Requiere búsqueda, indexación y montaje contextual.
Requiere infraestructura de entrenamiento, conjuntos de datos y ciclo de vida del modelo.
10. Personalización de modelos y ajuste fino
10.1 Ajuste fino completo
El ajuste fino completo actualiza todos los parámetros del modelo o la mayoría de ellos utilizando un conjunto de datos especializado. Ofrece la máxima flexibilidad, pero es costoso, intensivo en memoria y complejo desde el punto de vista operacional. También puede causar un olvido catastrófico, donde las mejoras en un dominio degradan la capacidad general.
10.2 Ajuste fino eficiente en el parámetro
El ajuste fino eficiente en el parámetro actualiza sólo un pequeño número de parámetros añadidos o seleccionados. LoRA congela el modelo base y entrena matrices de rango bajo insertadas en capas seleccionadas [15]. Los adaptadores y el ajuste rápido siguen los principios relacionados. PEFT reduce el costo de entrenamiento y permite múltiples adaptaciones específicas de las tareas para compartir un modelo base.
10.3 Continuación del entrenamiento previo
El entrenamiento previo continuado expone un modelo base a grandes cantidades de texto de dominio utilizando el objetivo original de modelar el idioma. Puede mejorar el vocabulario y las representaciones de dominio, pero requiere más datos y cálculo que el ajuste de instrucciones y puede alterar el comportamiento amplio. Es útil cuando la distribución del dominio es sustancialmente diferente del texto web general.
10.4 Destilación
La destilación entrena un modelo más pequeño utilizando salidas, probabilidades o razonamientos de un profesor más grande. El objetivo es retener la capacidad útil a menor latencia y costo. La destilación también puede transferir errores, sesgos y debilidades de la política del profesor, por lo que el estudiante debe ser evaluado independientemente.
10.5 Elegir un método de personalización
Utilizar primero la ingeniería prompta y contextual cuando el comportamiento pueda ser descrito en el momento de la inferencia.
Usa RAG cuando el conocimiento es privado, rastreable o cambia frecuentemente.
Usar el ajuste fino cuando el comportamiento estable, el estilo o el desempeño de las tareas del dominio deben cambiar.
Utilice la destilación o un modelo más pequeño cuando el costo y la latencia dominen después de establecer la calidad.
Combinar los métodos cuando sea necesario, pero evaluar el valor incremental de cada capa.
11. Inteligencia artificial generativa multimodal
Procesos de IA multimodal o genera más de un tipo de datos. Un modelo multimodal puede aceptar texto, imágenes, audio y vídeo, luego producir texto, imágenes, discurso, acciones o datos estructurados. El desafío central de la investigación es la alineación: las representaciones de diferentes modalidades deben referirse a los mismos conceptos y eventos.
11.1 Texto y código
Los modelos de idioma generan prosa, resúmenes, traducciones, planes, clasificaciones y registros estructurados. Los modelos de código generan, explican, revisan y transforman código fuente. Debido a que el código puede ejecutarse y probarse, es un dominio particularmente valioso para la verificación asistida por herramientas. Sin embargo, el código generado puede contener dependencias inseguras, defectos lógicos, problemas de licencia y supuestos ocultos.
11.2 Imágenes
Los sistemas de texto a imagen convierten las descriciones lingüísticas en representaciones visuales, comúnmente a través de arquitecturas de difusión o híbridas. Los métodos de control pueden usar bocetos, mapas de profundidad, poses, máscaras o imágenes de referencia. La evaluación debe considerar la adherencia rápida, la calidad visual, la consistencia de la identidad, las relaciones espaciales, el renderizado de texto, la procedencia y la seguridad.
11.3 Discurso, audio y música
El audio generativo incluye texto a voz, conversión de voz, efectos sonoros, mejora del habla, traducción y síntesis musical. La interacción natural combina cada vez más el reconocimiento del habla, el razonamiento del idioma y la generación de habla de baja latencia. El consentimiento y la protección de la identidad son esenciales porque las voces sintéticas pueden permitir la imitación.
11.4 Modelos de vídeo y del mundo
La generación de vídeo debe mantener la consistencia temporal, la identidad del objeto, la física y el movimiento de la cámara entre los marcos. Los modelos mundiales intentan aprender cómo evolucionan los entornos y pueden soportar simulación, robótica, juegos y planificación. El alto realismo visual no implica comprensión causal; las escenas generadas todavía pueden violar las restricciones físicas o lógicas.
11.5 Documentos, gráficos e interfaces
Los sistemas multimodales modernos pueden analizar la distribución de documentos, las capturas de pantalla, los diagramas y los gráficos. Esto permite responder a preguntas visuales, automatizar documentos e agentes de interfaz. El riesgo es que los modelos puedan inferir valores incorrectamente de gráficos densos o pasar por alto detalles visuales pequeños pero importantes. La extracción crítica debe validarse con los datos de la fuente.
11.6 Robótica y IA encarnada
Los sistemas encarnados conectan la percepción, el lenguaje, el planeamiento y la acción física. Un modelo puede interpretar la entrada de la cámara, recibir un objetivo de lenguaje natural, planificar una secuencia y controlar un robot a través de herramientas. Los entornos físicos requieren una seguridad más estricta porque una acción incorrecta puede dañar el equipo o perjudicar a las personas. Simulación, control limitado, supervisión y supervisión humana son, por tanto, centrales.
12. Agentes de IA y sistemas agénticos
Un agente de IA es un sistema de software que utiliza un modelo para perseguir un objetivo a través de una secuencia de observaciones y acciones. Un chatbot produce principalmente respuestas. Un agente puede llamar APIs, buscar documentos, ejecutar código, crear archivos, actualizar registros o coordinar flujos de trabajo. La Agencia es un espectro: algunos sistemas hacen una llamada de herramienta; otros planifican y ejecutan tareas de larga duración con puestos de control.
12.1 Componentes básicos
Componentes básicos de un agente de IA
Componente
Propósito
Riesgo clave
Modelo
Interpreta metas, planes y genera acciones.
Error de razonamiento, alucinación, fallo de la política.
Instrucciones
Definir objetivos, límites y reglas de escalada.
Ambigüidad o inyección rápida.
Herramientes
Proporcionar capacidades externas tales como búsqueda, APIs o ejecución de código.
Acción no autorizada o destructiva.
Memoria
Almacena conversación, preferencias de usuario o estado de la tarea.
Fuga de privacidad, memoria estancada o envenenada.
Planificador/orquestrador
Descompone las tareas y coordina los pasos o agentes.
Lopas, errores en cascada, costo excesivo.
Evaluador/guardia
Comprueba salidas, pruebas, política y finalización.
Confianza falsa o cobertura incompleta.
Supervisión humana
Aprueba, corrige o maneja excepciones.
Pobre diseño de entrega o fatiga de alerta.
12.2 Uso de la herramienta y llamada a la función
La llamada a la herramienta permite que el modelo emita una solicitud estructurada para una función en lugar de responder directamente. La aplicación valida los argumentos, comprueba los permisos, ejecuta la herramienta y devuelve el resultado. El modelo nunca debe darse credenciales irrestrictas. Las herramientas deben tener alcances estrechos, esquemas explícitos, límites de tarifas, registros de auditoría y requisitos de confirmación para las acciones resultantes.
12.3 Memoria
La memoria a corto plazo es el contexto activo. La memoria a largo plazo puede almacenar los datos de los usuarios, el historial de tareas o las interacciones resumidas. La memoria debe ser selectiva, consciente del consentimiento y correctora. Una memoria errónea puede distorsionar sistemáticamente las decisiones futuras. La memoria sensible requiere cifrado, controles de acceso, límites de retención y mecanismos de eliminación.
12.4 Sistemas de agente único y multi-agente
Un solo agente puede ser más fácil de entender y gobernar. Los sistemas multiagentes asignan roles especializados, como investigadores, planificadores, ejecutores y críticos. Pueden mejorar la descomposición y el paralelismo, pero los errores de comunicación y correlacionados pueden superar los beneficios. El diseño multiagent debe justificarse por el desempeño de tareas mensurable en lugar de la novedad.
12.5 Human-in-the-loop y human-on-the-loop
Los sistemas humanos en el circuito requieren aprobación antes de las acciones específicas. Los sistemas humanos en el circuito funcionan automáticamente mientras los humanos supervisan e intervienen. El modelo correcto depende de la reversibilidad, el impacto, la confianza y la regulación. Las acciones de alto impacto tales como pagos, subvenciones de acceso, presentaciones legales o decisiones de seguridad deben utilizar una aprobación más fuerte y controles de separación de funciones.
12.6 Interoperabilidad
Los ecosistemas del agente utilizan cada vez más las descripciones estandarizadas de herramientas, recursos y contexto para que los modelos puedan interactuar con sistemas externos de manera coherente. Protocolos como el Modelo de Protocolo de Contexto ilustran esta dirección. La interoperabilidad reduce la integración personalizada, pero también hace que la identidad, la autorización, la procedencia y la confianza en herramientas sean aún más importantes porque un agente puede conectarse a muchas capacidades externas.
13. Evaluación y benchmarking
La evaluación es la disciplina que convierte las impresionantes demostraciones en evidencia. Una buena evaluación responde: útil para quién, en qué tareas, bajo qué restricciones, en comparación con qué nivel de base, a qué costo y con qué tasa de fracaso?
13.1 Evaluación offline y en línea
La evaluación desconectada utiliza conjuntos de datos fijos antes del despliegue. La evaluación en línea mide el uso real a través de los ensayos A/B, el cumplimiento de tareas, las tasas de corrección, la satisfacción del usuario y las métricas de incidentes. Los ensayos desconectados son reproducibles; los ensayos en línea revelan el comportamiento real. Los sistemas de producción necesitan ambos.
13.2 métricas comunes
Áreas de evaluación, métricas y advertencias
Área
métricas de ejemplo
Precaución
Modelado del idioma
Perplejidad, probabilidad de registro negativo.
La perplexidad inferior no equivale directamente a un mejor comportamiento de ayudante.
Generación de texto
ROUGE, BLEU, similitud semántica.
Las métricas basadas en referencia pueden penalizar respuestas alternativas válidas.
Generación de imágenes
FID, similitud de CLIP, preferencia humana.
La métrica puede fallar los detalles, sesgos y artefactos del prompt.
RAG
Recuerde@k, precisión, relevancia del contexto, fundamentación, precisión de citas.
Una buena respuesta puede ocultar la recuperación débil, y viceversa.
Agentes
El éxito de la tarea, la precisión de la herramienta, los pasos, el tiempo, el costo, la tasa de recuperación.
El éxito en una referencia puede no transferirse a entornos desordenados.
Seguridad
Tasa de violación, resistencia al escape, sesgo, toxicidad, fuga de privacidad.
La cobertura está incompleta y los adversarios se adaptan.
Operaciones
Latencia, rendimiento, disponibilidad, costo por tarea exitosa.
El costo de las fichas ignora las repeticiones y la corrección humana.
13.3 Evaluación humana
Los revisores humanos pueden juzgar la relevancia, la claridad, la factualidad y la preferencia, pero el diseño de la evaluación debe controlar la pericia, las instrucciones, la fatiga, las diferencias culturales y la orden de presentación. El acuerdo entre los anotadores revela si la rúbrica es clara. Los dominios de alta participación requieren expertos cualificados, no sólo trabajadores de la multitud en general.
13.4 LLM como juez
Un modelo puede anotar la salida de otro modelo contra una rúbrica, permitiendo una evaluación a gran escala. Esto es útil para la triación e iteración, pero el juez puede compartir sesgos con el modelo en prueba, preferir la verbosidad, ser sensible a la respuesta ordenada o fallar en hechos especializados. Calibre los jueces del modelo contra muestras marcadas por humanos y utilizar múltiples métodos para decisiones importantes.
13.5 Contaminación y saturación de benchmarks
Las preguntas públicas de referencia pueden aparecer en los datos de capacitación, invalidando la hipótesis de que el modelo está generalizando. A medida que las puntuaciones se acercan a la parte superior de un punto de referencia, las pequeñas diferencias se vuelven menos informativas. El índice IA de 2026 pone de relieve tanto los rápidos aumentos de referencia como la dificultad de una medición fiable, incluida una frontera demarcada en la que los modelos sobresalen en tareas avanzadas pero fallan en tareas simples [1].
13.6 Red teaming
Los equipos rojos buscan activamente fallos a través de indicaciones adversas, idiomas inusuales, instrucciones contradictorias, documentos maliciosos, abuso de herramientas e ingeniería social. El equipo rojo debe probar todo el sistema, incluyendo APIs, permisos de recuperación, memoria, registro, flujos de trabajo humanos y componentes de la cadena de suministro.
14. IA responsable, ética y gobernanza
14.1 Equidad y sesgo
Los modelos aprenden de los datos históricos y culturales, que contienen representación desigual y prejuicios. Las prejuicios pueden aparecer en asociaciones, recomendaciones, imágenes generadas, manejo de dialectos y comportamiento de rechazo. La equidad depende del contexto; una métrica apropiada para una decisión puede ser perjudicial en otra. La mitigación combina datos representativos, evaluación de subgrupos, política, revisión humana y monitoreo continuo.
14.2 Transparencia y explicabilidad
Los usuarios deben saber cuándo interactúan con la IA, qué fuentes de datos influyen en una respuesta, si el resultado es generado o recuperado y cómo desafiarlo. Las tarjetas modelo, las tarjetas de sistema, la documentación de datos, los registros de auditoría y las citas de fuentes mejoran la transparencia. La explicabilidad no debe sobreprometerse: una explicación plausible en idioma natural no es necesariamente un fiel relato causal del cálculo del modelo.
14.3 Privacidad
Los riesgos de privacidad incluyen capacitación sobre datos personales sin una base adecuada, memorización, registro rápido sensible, fugas entre arrendatarios, recuperación insegura y memoria excesivamente persistente. Los controles incluyen minimización de datos, clasificación, cifrado, procesamiento regional, límites de retención, mecanismos de opt-out, redacciones, despliegue privado y revisión contractual del uso de datos del proveedor.
14.4 Propiedad intelectual y procedencia
La IA generativa plantea preguntas sobre los derechos de formación-datos, la propiedad de la salida, la similitud con las obras protegidas, la atribución y la compatibilidad con las licencias. Las organizaciones deben seguir la procedencia de los datos, los términos del proveedor, las licencias modelo y las dependencias de código generadas.
14.5 Desinformación y falsedades profundas
La generación de bajo costo aumenta el volumen y el realismo del contenido engañoso. Las medidas defensivas incluyen la verificación de identidad, la autenticación de fuentes, los metadatos de procedencia, los medios forenses, la política de plataformas, la alfabetización pública y la respuesta rápida a incidentes. La detección por sí sola es una carrera de armamentos; los canales de distribución confiables son igualmente importantes.
14.6 Costos ambientales y de infraestructura
Entrenar y servir modelos grandes consume energía, agua, hardware y capacidad centrada en datos. La inferencia puede dominar el impacto del ciclo de vida cuando un modelo sirve millones de solicitudes. Las mejoras de eficiencia incluyen modelos más pequeños, cuantización, batching, en caché, aceleradores especializados, programación de la carga de trabajo y selección del modelo mínimo suficiente para cada tarea.
14.7 Fuerza de trabajo y educación
La IA generativa puede automatizar las tareas, aumentar a los trabajadores y cambiar las habilidades que son valiosas. Su efecto rara vez es un simple reemplazo de una ocupación entera; a menudo redistribuye las tareas y crea un nuevo trabajo de revisión, gobernanza e integración. La educación debe enseñar tanto el uso productivo como la verificación. El índice de IA 2026 informa que el estudiante es utilizado ampliamente junto con políticas institucionales incompletas, ilustrando cómo la adopción puede superar la gobernanza [1].
14.8 Gobernanza
La gobernanza de la IA define quién puede implementar modelos, qué datos se pueden utilizar, cómo se clasifican los riesgos, cuáles son las evaluaciones obligatorias, cómo se manejan los incidentes y cuándo se requiere la aprobación humana. La gobernanza eficaz conecta la política escrita a controles técnicos y pruebas. Una política que no puede ser probada, supervisada o aplicada en tiempo de ejecución es poco probable que proteja a los usuarios.
15. Amenazas de seguridad y arquitectura defensiva
La IA generativa crea una nueva capa de seguridad de la aplicación porque los modelos interpretan el lenguaje natural no confiable, los datos de acceso y a veces las herramientas de control. La seguridad tradicional sigue siendo necesaria, pero los nuevos caminos de ataque surgen de la interfaz probabilística.
15.1 Categorías de amenazas
Amenazas de seguridad y defensas de IA generativas
Amenaza
Descripción
Defensas primarias
Inyección directa
El usuario intenta anular instrucciones o extraer información protegida.
Control de entrada, aplicación de la política, pruebas de rechazo, menor privilegio.
Inyección indirecta
Las instrucciones maliciosas están incorporadas en los documentos recuperados o en los resultados de la herramienta.
Tratar el contenido externo como datos, instrucciones aisladas, desinfectar, herramientas de permiso.
Exfiltración de datos
El modelo se induce a revelar secretos, contexto privado u otros datos de usuarios.
Segmentación de datos, redacciones, filtros de salida, aislamiento del arrendatario, autorización.
Abuso de la herramienta
El agente llama a una API con parámetros dañinos o no autorizados.
Ámbitos estrechos, listas de permisos, validación, confirmaciones, límites de tarifas, registros de auditoría.
Envenenamiento por datos de entrenamiento
Los ejemplos maliciosos alteran el modelo o el comportamiento de recuperación.
Proveniencia de la fuente, curación, detección de anomalías, artefactos firmados.
Extracción o inversión del modelo
Intentos adversarios de reconstruir pesas, comportamientos o registros de entrenamiento.
Límites de velocidad, monitoreo, técnicas de privacidad, control de acceso.
Compromiso de la cadena de suministro
Modelo, adaptador, paquete, modelo o conjunto de datos malignos.
Firma de artefactos, digitalización, SBOM, registros de confianza, compilaciones reproducibles.
Negación del billetero
Prompts desencadena contexto excesivo, bucles o herramientas costosas.
Presupuestos, tiempos de espera, límites de pasos, cuotas, disyuntores.
Manejo inseguro de la salida
El código generado o el marcado se ejecuta sin validación.
Sandboxing, fuga, validación del esquema, intérpretes seguros.
15.2 Escudos rápidos y defensas en capas
La documentación Prompt Shields de Microsoft distingue los ataques rápidos del usuario de los ataques de documentos y señala explícitamente que los falsos positivos y los falsos negativos siguen siendo posibles [7]. Esto refuerza un principio general: los clasificadores y los rieles de guardia son capas, no garantías. La arquitectura defensiva combina el control de contenido con identidad, autorización, límites de datos, restricciones de herramientas, ejecución y monitoreo seguros.
15.3 Zero Trust para agentes
Un enfoque de confianza cero asume que ningún usuario, modelo, herramienta o documento recuperado es intrínsecamente confiable. Cada acción debe ser autenticada, autorizada, delimitada y registrada. Los agentes deben recibir acceso justo a tiempo a los recursos mínimos necesarios. Las acciones sensibles deben requerir una autenticación más fuerte o una aprobación humana.
15.4 Sandboxing y ejecución segura
La ejecución del código, la automatización del navegador y la manipulación de archivos deben ocurrir en entornos aislados con acceso a la red restringido, límites de tiempo y recursos, estado descartable y escaneo de malware. El modelo no debe tener acceso directo a credenciales del anfitrión ni proyectiles sin restricciones.
15.5 Monitoreo y respuesta a incidentes
Los registros deben capturar prompts, versiones de modelos, referencias de recuperación, llamadas de herramientas, aprobaciones, decisiones de políticas y resultados, sujetos a las normas de privacidad. Los equipos de seguridad necesitan libros de reproducción para la inyección rápida, fuga de datos, salidas no seguras, incidentes con proveedores de modelos, plugins comprometidos y costos de fuga. La detección debe centrarse en el comportamiento y las consecuencias, no sólo en palabras sospechosas.
16. El mercado de IA generativa
El mercado generativo de IA no es una sola carrera por el modelo más grande. Es un ecosistema de laboratorios modelo, plataformas en nube, proveedores de hardware, comunidades de código abierto, proveedores de aplicaciones, proveedores de datos y herramientas de gobernanza. Las organizaciones suelen utilizar varios modelos porque el costo, la latencia, la modalidad, la privacidad, la licencia y la disponibilidad regional difieren según la carga de trabajo.
Principales jugadores del mercado generativo de IA
Jugador
Papel estratégico en el ecosistema
Fortalezas representativas
Abrir
Desarrollador de modelos fronterizos, plataforma ChatGPT, APIs y productos de agentes empresariales.
Razonamiento general, interacción multimodal, ecosistema de desarrolladores.
Google DeepMind
Investigación fronteriza y familias modelo Gemini/Gemma integradas en Google.
Multimodalidad, investigación científica, amplia distribución de productos.
Antrópico
Claude desarrollador de modelos con fuerte énfasis en el alineamiento, la seguridad y el uso empresarial.
Trabajo de conocimiento de forma larga, codificación, asociaciones empresariales, investigación de seguridad.
Meta
Desarrollador del ecosistema de peso abierto de Llama y herramientas de seguridad compatibles.
Abra el ecosistema, la personalización, la investigación y las opciones de despliegue amplio.
Microsoft
Cloud y plataforma de aplicación a través de experiencias de Foundry, Azure OpenAI y Copilot.
Identidad empresarial, seguridad, gobernanza, integración de datos y agentes.
Servicios Web Amazon
Plataforma gestionada por modelos múltiples a través de Amazon Bedrock y servicios relacionados.
Elección del proveedor, integración en la nube, controles empresariales y escala.
NVIDIA
Computación acelerada, red y software para entrenamiento e inferencia.
Ecosistema GPU, optimización de la inferencia, infraestructura de IA empresarial.
Cohere
Idioma centrado en la empresa, integración, remarcación y modelos agénticos.
Despliegue privado y soberano, búsqueda empresarial multilingüe y RAG.
Otros proveedores influyentes
IA mistral, DeepSeek, Alibaba, xAI y numerosos proyectos de código abierto.
Competencia regional, modelos eficientes, pesos abiertos y capacidades especializadas.
16.1 Modelos de frontera versus modelos de peso abierto
Los modelos fronterizos cerrados a menudo proporcionan capacidades líderes, seguridad gestionada y actualizaciones rápidas de productos, pero reducen la transparencia y pueden crear dependencia del proveedor. Los modelos de peso abierto permiten el despliegue privado, la personalización y la investigación, pero requieren que las organizaciones administren infraestructura, licencias, seguridad y seguridad. El peso abierto no es el mismo que el código abierto; los datos de entrenamiento, el código y la metodología pueden permanecer indisponibles.
16.2 Mercados modelo y capas de abstracción
Plataformas como Amazon Bedrock y Microsoft Foundry hacen varios modelos disponibles detrás de la infraestructura y la gobernanza gestionadas [8,24]. La abstracción del modelo puede reducir el costo de conmutación, pero la portabilidad verdadera sigue siendo difícil porque los proveedores difieren en los avisos, esquemas de herramientas, comportamiento de seguridad, límites de contexto, características multimodales y precios.
16.3 Competencia de hardware e inferencia
El entrenamiento recibe atención, pero la economía de la producción depende cada vez más de la inferencia. NVIDIA y los competidores optimizan los aceleradores, la red, la memoria, los compiladores, los motores de servicio y la inferencia desglosada. En 2026, NVIDIA describió a Dynamo como un sistema operativo de inferencia para la IA generativa y agente a escala [25]. La tendencia más amplia es hacia un rendimiento más elevado del token, una mejor gestión de la caché, el enrutamiento de modelos y un menor costo por tarea exitosa.
16.4 IA Soberana y privada
Los gobiernos y las organizaciones reguladas buscan cada vez más el control sobre dónde funcionan los modelos, qué idiomas apoyan y cómo se rigen los datos. La nube privada, las instalaciones y el despliegue regional son, por tanto, diferenciadores estratégicos. Cohere, por ejemplo, hace hincapié en el despliegue empresarial seguro y soberano, mientras que los ecosistemas de peso abierto ofrecen control adicional [29].
17. Arquitectura empresarial e implementación
Figura 4. Un ciclo de vida completo para desarrollar, implementar y operar sistemas de IA generativa confiables.
17.1 Comience con la tarea, no con el modelo
Un proyecto útil comienza con un usuario específico, un flujo de trabajo y un resultado mensurable. 'Añadir IA' no es un requisito. Las mejores preguntas son: ¿Qué tarea es lenta o inconsistente? ¿Qué evidencia necesita un trabajador? ¿Qué acciones son reversibles? ¿Qué umbral de calidad es aceptable? ¿Qué sucede cuando el sistema es incierto?
17.2 Arquitectura de referencia
Una arquitectura de chat o agente empresarial seguro normalmente incluye una interfaz de usuario, proveedor de identidad, API de aplicación, capa de orquestación, endpoint de modelo, índice de recuperación, datos de origen, portal de herramientas, tienda de secretos, seguridad de contenido, servicio de evaluación, telemetría y escalada humana. La arquitectura de base de Microsoft enfoca los endpoints privados, la identidad gestionada, el aislamiento de red, los datos de aterrizaje y la observabilidad [8].
17.3 Selección del modelo
Seleccione modelos usando un marcador ponderado en lugar de la reputación de referencia solo. Los criterios incluyen calidad de la tarea, longitud del contexto, modalidad, uso de herramientas, salida estructurada, latencia, rendimiento, costo, disponibilidad regional, política de datos, licencia, seguridad, estabilidad del modelo y apoyo del proveedor. Rutee tareas simples a modelos más pequeños y reserve modelos de razonamiento costosos para los casos que los justifiquen.
17.4 Arquitectura de datos
Clasificar los datos de la fuente antes de indexar o indicar. Preserve los permisos del documento en la capa de búsqueda para que los usuarios recuperen sólo lo que están autorizados a ver. Registrar la procedencia, las fechas efectivas y la propiedad. La recuperación debe respetar las políticas de eliminación y retención. Los datos sensibles deben ser minimizados y redactados cuando sea innecesario todo el detalle.
17.5 Guardrails y validación
Los controles de entrada detectan solicitudes maliciosas o prohibidas. Los controles de runtime restringen las herramientas y los presupuestos. Los controles de salida validan esquemas, soporte fáctico, seguridad de código y política. La revisión humana maneja casos de baja confianza o de alto impacto. Un motor de reglas determinísticas debe imponer restricciones comerciales difíciles en lugar de pedir al modelo que los recuerde.
17.6 Observabilidad
La observabilidad de la IA conecta el comportamiento del modelo a los resultados del sistema. Trace cada solicitud mediante el montaje rápido, la recuperación, las llamadas de modelos, las llamadas de herramientas y la validación. Trace el uso de tokens, latencia, errores, rechazos, modelos de retroceso, cobertura de citas, correcciones de usuarios, violaciones de políticas y éxito de tareas. El rastreo distribuido es especialmente valioso para agentes de múltiples pasos.
17.7 Ingeniería de costos
El costo depende de los tokens de entrada, tokens de salida, contexto repetido, recuperación, remarcación, herramientas, almacenamiento, redes y revisión humana. Las técnicas incluyen compresión rápida, caché, procesamiento en lotes, modelos más pequeños, límites de respuesta, recuperación adaptativa, enrutamiento de modelos y terminación anticipada. Medir el costo por resultado comercial exitoso, no el costo por llamada API.
17.8 Patrones de despliegue
API administrada: ruta más rápida, infraestructura mínima, mayor dependencia del proveedor.
Implementación en nube dedicada: aislamiento y control de capacidad más fuertes.
En el local o en el borde: control máximo de datos, mayor carga operativa.
Híbrido: la recuperación sensible y la política permanecen privadas mientras que las llamadas seleccionadas del modelo utilizan servicios en la nube.
Enrutamiento multimodelo: elija un modelo dinámicamente por tarea, riesgo, costo y disponibilidad.
17.9 Ejemplo práctico: un asistente de políticas internas
Considere a un asistente de la empresa que responda a preguntas sobre las políticas. El sistema autentica al empleado, recupera sólo los documentos permitidos para ese papel, recalifica los pasajes, e insta al modelo a responder estrictamente a partir de las pruebas. Incluye citas y fechas de documentos. Si las pruebas son bajas, lo dice y dirige la pregunta a un propietario de la política. No puede modificar las políticas. Este diseño limita el riesgo separando el acceso al conocimiento de la autoridad.
La IA generativa puede redactar, resumir, traducir, extraer, comparar y reorganizar la información. Los mayores beneficios a menudo provienen de acelerar el primer borrador y reducir el tiempo de búsqueda, mientras que los humanos siguen siendo responsables del juicio, la negociación y la rendición de cuentas.
18.2 Ingeniería de software
Los asistentes de codificación generan sugerencias de caldera, pruebas, documentación y migración. Los sistemas agentes pueden inspeccionar repositorios, ejecutar pruebas y proponer cambios. Los beneficios dependen de la revisión del código, la ejecución segura, los controles de dependencia y el contexto arquitectónico. El código generado debe cumplir los mismos estándares que el código humano.
18.3 Educación
Los tutores de IA pueden explicar conceptos en diferentes niveles, crear preguntas de práctica y proporcionar comentarios. Pueden mejorar el acceso, pero también pueden proporcionar respuestas incorrectas, reducir la lucha productiva o facilitar la deshonestidad académica. El buen diseño educativo utiliza asistencia transparente, respuestas basadas en la fuente, supervisión del profesor y asignaciones que recompensan el razonamiento en lugar de la salida copiable.
18.4 Ciencias de la salud y la vida
Las aplicaciones incluyen documentación clínica, revisión de literatura, comunicación con el paciente, diseño de moléculas y apoyo a la investigación. Debido a que los errores pueden afectar a la salud, los sistemas necesitan fuentes validadas, evaluación de dominios, protección de la privacidad, profesionales humanos y limitaciones claras. La IA generativa debe apoyar en lugar de reemplazar silenciosamente a los decisores cualificados.
18.5 Ciencia e ingeniería
Los modelos pueden proponer hipótesis, generar código, buscar literatura, diseñar experimentos y crear moléculas o materiales candidatos. El valor más alto viene cuando los sistemas generativos se conectan a simulación, automatización de laboratorio y medición verificable. La novedad científica requiere validación empírica, no sólo texto plausible.
18.6 Trabajo creativo y multimedia
Los creadores usan IA generativa para ideación, guión gráfico, edición, localización, efectos visuales y medios interactivos. Esto amplía la capacidad creativa al plantear preguntas sobre los derechos de consentimiento, atribución, trabajo y formación. La tecnología es más constructiva cuando da control y preserva la procedencia a los creadores.
18.7 Accesibilidad
Los modelos multimodales pueden describir imágenes, simplificar el texto, generar leyendas, traducir el habla y adaptar interfaces. Los beneficios de accesibilidad requieren pruebas con usuarios con discapacidad, porque una descripción incorrecta o una interacción inaccesible pueden crear nuevas barreras.
18.8 Servicios públicos y derecho
Las aplicaciones gubernamentales y legales pueden mejorar el acceso a los documentos, la traducción y la preparación de casos. Sin embargo, las recomendaciones automatizadas pueden afectar los derechos y beneficios. Los sistemas del sector público requieren transparencia, apelación, gestión de registros, pruebas de sesgos y una clara rendición de cuentas humanas.
19. Avances técnicos hasta mediados de 2026
Los desarrollos más importantes son las tendencias arquitectónicas en lugar de una sola versión del modelo. El campo está pasando del chat independiente a sistemas que razonan, recuperan, utilizan herramientas, operan entre modalidades y se evalúan continuamente.
19.1 La capacidad continúa avanzando, pero de manera desigual
El índice de IA de 2026 informa de fuertes ganancias en razonamientos científicos, codificación, matemáticas y puntos de referencia de agentes, al tiempo que se hace hincapié en la frontera desglosada: los modelos pueden resolver problemas de competencia difíciles pero fallan en la percepción simple o razonamiento cotidiano [1]. Esto significa que el progreso de los puntos de referencia no debe interpretarse como inteligencia uniforme.
19.2 La IA agéntica se convierte en una disciplina de producción
Las plataformas principales ahora proporcionan tiempo de ejecución del agente, memoria, integración de herramientas, observabilidad y gobernanza. Las actualizaciones de Microsoft 2026 Foundry enfatizan el alojamiento de producción, las herramientas, los canales, la evaluación y los controles de tiempo de ejecución [26-27]. El reto técnico está cambiando de hacer que un agente actúe una vez a hacerlo actuar de manera fiable en contextos cambiantes.
19.3 RAG agéntico reemplaza la recuperación de una sola etapa en tareas complejas
RAG clásico recupera una vez. RAG agéntico descompone preguntas, realiza múltiples búsquedas, combina pruebas y puede iterar. Esto mejora la cobertura para la investigación y el análisis empresarial, pero requiere presupuestos, detección de bucle, validación de citas y defensas contra contenidos recuperados maliciosos [6].
19.4 Los modelos multimodales se convierten en interfaces unificadas
Los modelos procesan cada vez más el texto, las imágenes, el audio y el vídeo en una sola interacción en lugar de a través de tuberías desconectadas. Esto admite ayudantes en tiempo real, comprensión de documentos, edición de medios y agentes más ricos. Por lo tanto, la evaluación debe probar la coherencia intermodal, el razonamiento temporal y la preservación de la identidad, no sólo la calidad del texto.
19.5 La eficiencia de la inferencia se vuelve estratégica
A medida que el uso crece, el costo de la inferencia, la memoria y la latencia se vuelven tan importantes como el entrenamiento. Técnicas como la cuantización, la decodificación especulativa, la gestión de la caja KV, el batching, el servicio desglosado y el enrutamiento de modelos son centrales. Los anuncios de inferencia 2026 de NVIDIA reflejan el cambio más amplio hacia la eficiencia de los símbolos a escala de producción [25].
19.6 Expansión de modelos más pequeños, abiertos y soberanos
Las organizaciones utilizan cada vez más modelos especializados más pequeños, modelos de peso abierto y despliegue privado cuando latencia, costo, soberanía de datos o materia de personalización. La estrategia de IA abierta de Meta y el posicionamiento soberano y empresarial de Cohere ilustran esta dirección [23,29]. Las arquitecturas futuras más fuertes probablemente sean heterogéneas, con múltiples modelos que cumplen diferentes roles.
19.7 Evaluación y controles intentan ponerse al día
El índice de IA 2026 informa que la medición responsable de IA no está siguiendo el ritmo de la capacidad y que los incidentes documentados han aumentado [1]. En respuesta, las plataformas están agregando evaluación impulsada por políticas, detección de ataques rápidos, observabilidad y controles de tiempo de ejecución. La frontera teórica ya no es sólo "cuán capaz es el modelo?", sino "cómo puede un sistema cambiante permanecer dentro de la política en condiciones adversas?".
19.8 La IA para ciencia y medicina avanza
Los sistemas de IA ayudan cada vez más con la síntesis de literatura, la modelación biológica, la química, la imagen médica y el diseño experimental. El índice de IA de 2026 añadió capítulos independientes de ciencia y medicina, señalando que la IA generativa se está convirtiendo en un instrumento de investigación, así como un instrumento de productividad [1].
19.9 Preguntas abiertas
¿Pueden los modelos construir modelos mundiales causales y físicos robustos en lugar de solamente aproximaciones estadísticas?
¿Cómo se puede verificar el razonamiento sin exponer rastros internos engañosos o sensibles?
¿Pueden los agentes permanecer alineados sobre tareas largas, fallos de la herramienta e instrucciones contradictorias?
¿Cómo debe medir la sociedad los impactos laborales, educativos y ambientales?
¿Qué mecanismos de gobernanza pueden adaptarse a la velocidad del desarrollo del modelo?
¿Cómo puede la innovación abierta coexistir con la seguridad y la prevención del uso indebido?
20. Alineación con Microsoft Learn y certificaciones
20.1 AI-901 es la principal alineación con los fundamentos de Microsoft
A partir del 25 de julio de 2026, Microsoft lista cargas de trabajo generativas de IA como parte del examen AI-901: Microsoft Azure AI Fundamentals. El examen espera conocimientos conceptuales de IA y habilidades técnicas fundamentales, incluyendo Python, APIs REST, SDKs, CLI y Microsoft Foundry. Los dominios evaluados son 'Identificar conceptos y capacidades de IA' y 'Implementar soluciones de IA utilizando Microsoft Foundry' [3]. El módulo de IA generativa introductorio de Microsoft Learn cubre explícitamente conceptos básicos, modelos de lenguaje grandes, indicaciones y agentes de IA [2].
20.2 SC-900 no es un examen general de IA generativa
SC-900 se centra en la seguridad, el cumplimiento y la identidad en los servicios de Microsoft [4]. Su conexión directa con la IA generativa es a través de productos y conceptos de seguridad, en particular Microsoft Security Copilot, operaciones de seguridad asistidas por la IA y la necesidad de asegurar entornos habilitados por la IA. El camino de aprendizaje de Microsoft Security Copilot comienza con los fundamentos de la IA generativa y los agentes, a continuación cubre los prompts, plugins, promptbooks, experiencias incorporadas y agentes de seguridad [5].
20.3 Conceptos relevantes para los estudiantes de seguridad
Cómo los modelos generativos procesan los llamados y por qué las salidas son probabilísticas.
Cómo el Copilot de seguridad puede resumir los señales, apoyar las investigaciones y generar consultas de seguridad.
Cómo los plugins, promptbooks y experiencias incorporadas conectan Copilot a productos de seguridad.
Por qué la identidad, la protección de datos, los permisos, la auditoría y la revisión humana siguen siendo esenciales.
Cómo la inyección de prompts, los ataques de documentos y el uso inseguro de la herramienta afectan a la seguridad de la IA.
Nota de certificación
La página de examen AI-901 en inglés declara que fue actualizada el 15 de abril de 2026. El guía de estudio SC-900 disponible durante esta investigación también mostró una próxima versión de habilidades a partir del 28 de julio de 2026, tres días después de la fecha de este artículo. Siempre verifique el guía de estudio en vivo antes de programar un examen.
Conclusión y perspectivas futuras
La inteligencia artificial generativa es mejor entendida como una familia de tecnologías probabilísticas y arquitecturas de sistemas en lugar de un solo chatbot. Los VAE crean espacios latentes estructurados, los GAN aprenden a través de la competencia adversa, los modelos de difusión invierten el ruido y los Transformers autorregresivos predicen secuencias token por token. Los modelos de lenguaje grandes se convierten en auxiliares útiles mediante el ajuste de instrucciones, optimización de preferencias, recuperación, herramientas, controles de seguridad e interfaces. Se convierten en agentes cuando pueden observar, planificar y actuar a través de múltiples pasos.
La lección técnica central es que la generación fluida no es equivalente a la verdad. Los modelos optimizan los objetivos aprendidos y producen salidas estadísticamente plausibles. La fiabilidad proviene de la puesta a tierra, herramientas limitadas, permisos, verificación, evaluación y rendición de cuentas humanas. El RAG puede proporcionar pruebas actuales, el ajuste fino puede cambiar el comportamiento, la multimodalidad puede ampliar la interacción, y el cálculo del tiempo de razonamiento puede mejorar las tareas difíciles; ninguno de estos elimina la necesidad de validación.
Mi evaluación es que la IA generativa se convertirá en una capa de software de propósito general, comparable en importancia a las bases de datos, la búsqueda y el cloud computing. Los sistemas más valiosos no utilizarán necesariamente el modelo más grande. Combinarán el modelo adecuado con datos de confianza, inferencia eficiente, experiencia de usuario clara y gobernanza ejecutoria. El futuro probablemente será multimodelo, multimodal y agente, con más trabajo realizado por sistemas coordinados en lugar de indicaciones individuales.
La oportunidad a largo plazo es sustancial: educación personalizada, descubrimiento científico, interfaces accesibles, desarrollo de software más rápido y mejor acceso al conocimiento. El riesgo a largo plazo es igualmente real: desinformación automatizada, poder concentrado, pérdida de privacidad, agentes inseguros y decisiones que parecen inteligentes sin ser responsables. Por lo tanto, los progresos deben medirse no sólo por puntuaciones de referencia, sino por si los sistemas mejoran la capacidad humana preservando la seguridad, los derechos y la confianza.
Para el lector, el siguiente paso es la experimentación práctica con disciplina: elegir una tarea limitada, definir una línea de referencia mensurable, conectar el modelo sólo a los datos y herramientas que necesita, probar fallos antes del éxito, y preservar el juicio humano donde las consecuencias importan. La curiosidad crea prototipos; la evaluación y la gobernanza los convierten en sistemas confiables.
Comprobación de conocimientos: cuatro preguntas
1. ¿Qué declaración distingue mejor a RAG del ajuste fino?
A. RAG cambia todos los parámetros del modelo, mientras que el ajuste fino solo cambia los indicativos.
B. RAG recupera evidencia externa en el momento de la inferencia, mientras que el ajuste fino cambia el comportamiento del modelo a través del entrenamiento.
C. RAG se utiliza sólo para las imágenes, mientras que el ajuste fino se utiliza sólo para el texto.
D. RAG garantiza que el modelo no puede alucinar.
Respuesta
Respuesta correcta: B. RAG recupera evidencia actual o privada y la añade al contexto del modelo. El ajuste detallado actualiza los parámetros del modelo o los adaptadores para cambiar el comportamiento, el estilo o el desempeño de la tarea.
2. ¿Qué hace la autoatención en un transformador?
R. Almacena permanentemente cada documento de entrenamiento en una base de datos que se puede buscar.
B. Permite que las representaciones token pesen y combinen información de otros tokens en la secuencia.
C. Elimina la necesidad de tokenización.
D. Garantiza la exactitud de los hechos.
Respuesta
Respuesta correcta: B. La autoatención calcula las relaciones entre las representaciones de símbolos para que cada símbolo pueda incorporar el contexto relevante de otras posiciones.
3. ¿Por qué es la inyección rápida principalmente un problema de seguridad del sistema en lugar de sólo un problema de escritura rápida?
R. Porque los avisos no pueden contener lenguaje natural.
B. Porque sólo los proveedores de modelos pueden escribir prompts seguros.
C. Debido a que el texto no confiable puede influir en el comportamiento del modelo, se requieren permisos, restricciones de herramientas, validación y aislamiento.
D. Porque la inyección rápida solo afecta a los generadores de imágenes.
Respuesta
Respuesta correcta: C. Un mensaje más fuerte por sí solo no es un límite de seguridad confiable. La aplicación debe restringir el acceso a los datos y a las herramientas, validar las acciones y aislar el contenido no confiable.
4. ¿Cuál métrica es la más significativa para un agente de IA empresarial?
A. Conteo de parámetros solo.
B. El número de palabras en su respuesta.
C. El éxito de la tarea de extremo a extremo con calidad, seguridad, latencia y costo aceptables.
D. La configuración de temperatura más alta.
Respuesta
Respuesta correcta: C. El valor de la producción depende de los resultados satisfactorios bajo limitaciones operativas y de riesgo, sin una característica del modelo.
Glosario de términos esenciales
Glosario de términos esenciales
Termino
Definición
Agente
Un sistema que utiliza un modelo, herramientas y estado para perseguir un objetivo a través de una o más acciones.
Alineación
Métodos que modelan el comportamiento hacia la intención humana, la política o los principios declarados.
Modelo autorregresivo
Un modelo que genera cada elemento condicionado a elementos anteriores.
Benchmark
Un conjunto de datos o entorno estandarizado utilizado para comparar el rendimiento del modelo.
Colocación
Dividiendo el contenido de fuente en unidades extraíbles para RAG.
Ingeniería de contexto
Seleccionando y organizando instrucciones, pruebas, herramientas, memoria y estado para un modelo.
Ventana contextual
La información tokenizada máxima disponible para el modelo en una sola interacción.
Modelo de difusión
Un modelo generativo entrenado para invertir un proceso de ruido gradual.
Destilación
Entrenando un modelo más pequeño para imitar a un maestro más grande.
Inserción
Un vector numérico de representación del significado o la estructura.
Modelo de fundación
Un modelo ampliamente entrenado adaptado a muchas tareas posteriores.
Fina afinación
Entrenamiento adicional que adapta un modelo preentrenado a un dominio o comportamiento.
Glosario de términos esenciales — continua
Termino
Definición
Aterramiento
Conectando generación a evidencia confiable o datos externos.
Protector
Un control que detecta, bloquea, redirecciona o valida el comportamiento del modelo.
Alucinación
Una salida con aspecto plausible que no esté soportada o false.
Inferencia
Ejecutar un modelo entrenado para producir predicciones o generaciones.
Ajuste de instrucciones
Capacitación supervisada en ejemplos de respuesta rápida.
cache de KV
Teclas de atención almacenadas y valores utilizados para acelerar la generación autorregressiva.
Espacio latente
Un espacio de representación interno que captura los factores subyacentes en los datos.
LLM
Modelo de idioma grande, usualmente un Transformer entrenado en texto y código extensos.
LoRA
Adaptación de bajo rasgo, un método de ajuste de parámetros eficiente.
Mezcla de expertos
Una arquitectura que envía cada símbolo a un subconjunto de redes especializadas.
Modelo multimodal
Un modelo que procesa o genera múltiples tipos de datos.
Pronta
Instrucciones y contexto suministrados a un modelo.
inyección de prompts
Entrada maligna o contradictoria destinada a anular instrucciones o causar acciones no seguras.
Cuantización
Reducción de la precisión numérica a menor costo de memoria e inferencia.
RAG
Generación aumentada en la recuperación, que combina la búsqueda con la generación.
Cambiar de posición
Un modelo que reordena a los candidatos por relevancia.
RLHF
Refuerzo aprendiendo del feedback humano.
Softmax
Una función que convierte logits en una distribución de probabilidades.
Temperatura
Un parámetro de decodificación que controla la nitidez de las probabilidades token.
Toque
Una unidad de texto procesada por un modelo de idioma.
Transformador
Una arquitectura neural construida alrededor de mecanismos de atención.
Base de datos vectorial
Una tienda optimizada para la búsqueda de similitudes sobre los embeddings.
La IA generativa evoluciona rápidamente. Revalida las capacidades del modelo, la documentación de la plataforma, los objetivos de certificación, las licencias, las directrices de seguridad y las obligaciones reglamentarias antes de utilizar este artículo para la adquisición o el despliegue de altos riesgos.