En aquest treball s'explora el procés de l'ajust fin del model de llenguatge preentrenat BLOOM amb 3 mil milions de paràmetres per utilitzar-lo en un sistema de preguntes i respostes de xat. S'han utilitzat mètodes d'avaluació tant quantitatius com qualitatius, incloent l'anàlisi de la rellevància de paraules clau, la llegibilitat del text i l'anàlisi de sentiments de les respostes del model. També s'han discutit mètodes per optimitzar l'ús de memòria per a la càrrega i la configuració del model, que s'han demostrat efectius en l'estalvi de recursos. 

 

Els resultats de l'ajust fin del model BLOOM són prometedors en termes de rellevància, llegibilitat i to de les respostes. En resum, aquest estudi demostra el potencial de l'ajust fin de models preentrenats grans com BLOOM per crear sistemes efectius de preguntes i respostes en xatbots, però cal més recerca per adaptar-se millor a diferents contextos i perfeccionar aspectes del comportament del model.

 

Autora: Lunara Nurgaliyeva 

 

Data de l'esdeveniment: 17/10/2023

 

Data de publicació: 19/10/2023

 

Supervisors: Antoni Jaume-i-Capó i Isaac Lera Castro