términos del glosario
Few-Shot Prompting
- Categoría
- Prompt Engineering
- Dificultad
- Principiante
Definición
Una técnica de ingeniería de prompts donde se proporciona a un modelo de lenguaje grande un pequeño número de ejemplos de entrada-salida dentro del prompt para guiar su rendimiento en una tarea específica.
Cómo funciona y contexto
El few-shot prompting aprovecha las capacidades de aprendizaje en contexto de los modelos de lenguaje grandes (LLM). Al incluir un puñado de demostraciones —normalmente entre dos y cinco— dentro del prompt, los usuarios pueden mejorar significativamente la capacidad del modelo para seguir instrucciones complejas o adherirse a formatos de salida específicos. Esta técnica es particularmente efectiva para tareas donde la salida deseada es altamente estructurada o requiere un matiz estilístico específico que un prompt zero-shot podría no captar. A diferencia del ajuste fino (fine-tuning), que implica actualizar los pesos internos del modelo, el few-shot prompting es un ajuste temporal durante la inferencia. Aunque es potente, está limitado por la ventana de contexto del modelo; incluir demasiados ejemplos puede consumir tokens valiosos y potencialmente conducir a una degradación del rendimiento si los ejemplos son irrelevantes o están mal formateados.
Por qué es importante
Es una herramienta crítica para que los desarrolladores y usuarios dirijan el comportamiento del modelo sin el alto costo y la complejidad del reentrenamiento o el ajuste fino. Permite una iteración y personalización rápidas de las salidas de la IA, lo que la hace esencial para construir aplicaciones fiables que requieran un formato consistente, como la extracción de datos, la clasificación o la escritura creativa especializada, manteniendo la flexibilidad para cambiar de tarea al instante.
Ejemplo real
Un gerente de atención al cliente quiere que una IA clasifique los correos electrónicos entrantes por sentimiento. En lugar de simplemente pedirle a la IA que 'clasifique este correo', proporciona tres ejemplos: 'Correo: Mi pedido llegó tarde. Sentimiento: Negativo', 'Correo: ¡Me encantan las nuevas funciones! Sentimiento: Positivo' y 'Correo: ¿Cómo restablezco mi contraseña? Sentimiento: Neutral'. Cuando la IA recibe un nuevo correo, utiliza estos ejemplos para categorizar con precisión el sentimiento en el formato solicitado.
Errores frecuentes
- Usar demasiados ejemplos, lo que puede saturar la ventana de contexto y confundir al modelo.
- Proporcionar ejemplos inconsistentes o contradictorios que conducen a un comportamiento impredecible del modelo.
- No utilizar un delimitador claro (como '###' o '---') entre los ejemplos y la tarea real, lo que hace que el modelo los mezcle.
- Asumir que el modelo aprenderá un razonamiento complejo a partir de los ejemplos cuando en realidad solo imita el patrón proporcionado.
Preguntas frecuentes
¿En qué se diferencia el few-shot prompting del zero-shot prompting?
El zero-shot prompting pide al modelo que realice una tarea sin ejemplos previos, confiando totalmente en su conocimiento preentrenado. El few-shot prompting proporciona demostraciones específicas para guiar al modelo, lo que generalmente resulta en una mayor precisión y un mejor cumplimiento de los requisitos de formato.
¿Es el few-shot prompting lo mismo que el ajuste fino (fine-tuning)?
No. El ajuste fino implica entrenar al modelo en un conjunto de datos grande para alterar permanentemente sus parámetros. El few-shot prompting es una técnica de tiempo de inferencia que proporciona ejemplos dentro del propio prompt, sin requerir cambios en los pesos subyacentes del modelo.
¿Cuál es el número ideal de ejemplos a incluir?
Aunque no existe una regla universal, proporcionar entre dos y cinco ejemplos diversos y de alta calidad suele ser suficiente. Incluir más a veces puede llevar a rendimientos decrecientes o exceder los límites de la ventana de contexto del modelo.