Comparando los resultados de Fine Tuning y Prompt engineering

¿Cómo obtener el mejor rendimiento de los modelos de lenguaje de gran tamaño? Esta pregunta conduce a dos enfoques ampliamente utilizados: el de prompting y el proceso de ‘ajuste fino’ (fine-tuning). Ambas metodologías, a pesar de sus diferencias, se enfocan en maximizar la eficiencia y alterar los parámetros del modelo para optimizar los resultados.

Un reciente estudio de Carnigie Melon University ha tratado de desgranar hasta qué punto es mejor un método u otro.

El enfoque de prompting consiste básicamente en alimentar la longitud de contexto del modelo con grandes cantidades de información, a menudo centrada en los modelos más potentes. Esto permite a dicho enfoque resolver prácticamente cualquier tipo de problema simplemente utilizando la estrategia de proporciones o resultados. Sin embargo, tal método requiere de un constante flujo de nuevos datos para mantener el rendimiento del modelo.

Por otro lado, el enfoque de ‘ajuste fino’ sugiere la alteración de los pesos del modelo según el problema que se está resolviendo. Aunque esta táctica requiere algo de trabajo inicial, una vez realizado este ajuste, la inferencia se vuelve mucho más fácil. Además, se puede utilizar un modelo más pequeño y menos intensivo en cómputos sin perder rendimiento predictivo.

Un estudio reciente de la Universidad Carnegie Mellon exploró estos dos enfoques utilizando una variedad de modelos de lenguaje de gran tamaño en diferentes tareas. Su hallazgo clave fue que al extender la longitud del contexto a través de la adición de innumerables ejemplos, se podía lograr un rendimiento igual e incluso superior al enfoque de ‘ajuste fino’. 

Este hallazgo subraya la importancia de introducir múltiples ejemplos en los ‘prompts’ hasta que se alcance un punto de rendimientos decrecientes. En lugar de utilizar ejemplos aleatorios, el uso de ejemplos similares a la problemática en cuestión puede provocar un incremento notable en el rendimiento. Sin embargo, este efecto comienza a desvanecerse una vez que se introducen cientos de ejemplos.

Este estudio de Carnegie Mellon lleva a la conclusión de que tanto los enfoques de prompting como el de ‘ajuste fino’ tienen su lugar en la optimización de los modelos de lenguaje. La elección entre uno u otro dependerá del caso de uso específico, cabe destacar que una mezcla de ambas estrategias podría ser el camino óptimo para muchos usuarios, permitiendo así los beneficios de ambos enfoques