Mergekit y alternativas para fusionar pesos de modelos locales
Esta página contiene enlaces de referencia a productos de terceros. PromptQuorum no participa en ningún programa de afiliados — son enlaces simples que no generan comisión. Hacer clic en los enlaces y los pasos siguientes son de su entera responsabilidad. Estos enlaces no representan ningún respaldo ni verificación por parte de PromptQuorum.
Respuesta rápida
Mergekit es la herramienta más utilizada para esto. Fusiona archivos de pesos de modelos compatibles usando métodos como el promedio lineal, SLERP o TIES, sin ningún paso de entrenamiento en GPU — la fusión en sí se ejecuta en la CPU y toma una fracción del tiempo que requeriría el fine-tuning.
- ▸Mergekit admite varios métodos de fusión, cada uno con un equilibrio distinto entre mezclar y preservar las fortalezas individuales de cada modelo.
- ▸No se requiere entrenamiento en GPU para la fusión en sí — solo suficiente RAM para contener los archivos de pesos que se combinan.
- ▸Los modelos que se fusionan deben compartir la misma arquitectura base y las mismas formas de parámetros para combinarse correctamente.
Actualizado: 14 de julio de 2026
Puntos clave
- ✓Mergekit es la herramienta de código abierto estándar para fusionar pesos de modelos locales compatibles
- ✓La fusión no requiere un paso de entrenamiento en GPU, solo suficiente RAM para contener los archivos de pesos
- ✓Los métodos lineal y SLERP son puntos de partida simples; TIES y DARE preservan mejor las fortalezas individuales de cada modelo
- ✓Los modelos que se fusionan deben compartir la misma arquitectura base y las mismas formas de parámetros
Mejor opción: Mergekit
Mergekit es la elección estándar para fusionar pesos de modelos locales porque es de código abierto, admite la gama más amplia de métodos de fusión y no requiere ningún paso de entrenamiento en GPU — solo suficiente RAM del sistema para mantener los modelos de origen en memoria durante la fusión. Esto lo hace accesible en un escritorio o portátil modesto, a diferencia del fine-tuning completo, que necesita una GPU capaz de entrenar.
Usa Mergekit si: quieres combinar el comportamiento de dos ajustes finos del mismo modelo base en uno solo, no tienes el presupuesto de cómputo para un entrenamiento completo, o quieres experimentar rápidamente con varias proporciones de fusión sin reentrenar. Evita Mergekit si: los modelos que quieres combinar tienen arquitecturas base o cantidades de parámetros distintas — la fusión a nivel de pesos requiere formas coincidentes.
Cómo funciona la fusión de modelos
La fusión de modelos combina los pesos de dos o más modelos que comparten la misma arquitectura base en un único conjunto de pesos nuevo, usando un método de fusión matemático en lugar de entrenamiento adicional. Como no hay cálculo de gradientes ni retropropagación durante una fusión, el proceso se ejecuta en la CPU en minutos en lugar de las horas o días que requeriría un entrenamiento completo.
El resultado es un único archivo de modelo nuevo del mismo tamaño que los modelos de origen — no un adaptador ni un envoltorio alrededor de varias fuentes. Una vez fusionado, el resultado se comporta como un modelo ordinario en el momento de la inferencia, sin latencia adicional por combinar varias fuentes.
Comparación de métodos de fusión
El promedio lineal es el método más simple — mezcla los pesos correspondientes según una proporción fija y funciona como un primer intento razonable, pero tiende a diluir las fortalezas distintivas de cada modelo de origen a medida que se mezclan más modelos.
SLERP (interpolación lineal esférica) mezcla dos modelos a lo largo de una trayectoria curva en el espacio de pesos en lugar de una línea recta, lo que generalmente preserva más el carácter de cada modelo que el promedio lineal simple al fusionar exactamente dos modelos.
TIES y DARE son métodos más selectivos que intentan resolver actualizaciones de pesos conflictivas entre modelos de origen en lugar de promediarlas, lo que generalmente preserva mejor las fortalezas distintivas de cada modelo de origen al fusionar más de dos modelos a la vez.
Hardware para fusiones más grandes
Una fusión solo con CPU de dos modelos de 7B es cómoda en una máquina con 32 GB de RAM. Fusionar modelos más grandes (30B o más) o varias fuentes a la vez puede superar la RAM típica de un escritorio, ya que Mergekit necesita mantener cada modelo de origen en memoria durante la fusión — alquilar una instancia en la nube con mucha RAM solo para el paso de fusión suele ser más barato que comprar RAM local adicional para una tarea ocasional.
Divulgación: Este artículo contiene enlaces de afiliados. Podemos ganar una comisión si compras a través de estos enlaces, sin costo adicional para ti.