El TRUCO que dió inteligencia a ChatGPT

Veamos por qué ChatGPT es tan bueno en conversaciones y respuestas a diferencia de otros modelos.

Crea tu sitio web online gratis con Odoo: https://www.odoo.com/r/vd0

¿Quieres apoyarme y formar parte de este proyecto?
– Patreon: http://bit.ly/patreon-ringatech
– Membresía Youtube: https://www.youtube.com/channel/UCm9QZ70KuIVShztZ7HmE4NQ/join

= = = CONTENIDO
0:00 Los tres pasos
1:08 Primer paso
3:34 Segundo paso: SFT
8:50 Alucinaciones
10:05 Tercer paso: RLHF
= = =

Descripción larga para el algoritmo:
Para que ChatGPT sea tan inteligente como parece, utiliza muchos procesos y trucos para lograrlo. Desde el pre-entrenamiento, el aprendizaje fino supervisado hasta el aprendizaje por refuerzo a partir de retroalimentación humana, también llamado RLHF, se utilizan en conjunto uno sobre otro para lograr que el modelo permite tener conversaciones de la manera en la que lo hace.
En el pre-entrenamiento, se recoge una gran cantidad de texto de Internet y se utiliza para entrenar un modelo de aprendizaje profundo. Luego, durante el ajuste fino supervisado, se utiliza un conjunto de datos etiquetados para enseñar al modelo a seguir instrucciones y responder a preguntas de forma útil. Finalmente, en RLHF, se utiliza un paradigma de aprendizaje automático para enseñar al modelo a maximizar las recompensas y minimizar los castigos. Esta parte del proceso ayuda a mejorar la utilidad del modelo, aunque también puede causar algunos problemas, como el hecho de que el modelo pueda “inventar” cosas que no están en su base de conocimiento original.
= = =

@Odoo

#inteligenciaartificial #openai #chatgpt#odoo #website #sitioweb