ÔÚµ±½ñ¿Æ¼¼·ÉËÙÉú³¤µÄËêÔÂÀÐéÄâżÏñÕýÖð½¥×ßÈëÈËÃǵÄÒ»Ñùƽ³£ÉúÑÄ£¬³ÉΪÓéÀÖ¡¢»¥¶¯¡¢ÉõÖÁÉç½»µÄÐÂ³è¡£ÌØÊâÊÇÔÚ¡°¾øÇøÁã-XL¡±ÕâÒ»×÷Æ·ÖУ¬È«Å®½ÇÉ«µÄ¾«²ÊÌåÏÖ½«ÐéÄâ½ÇÉ«µÄÐÎÏóÍÆÏòÁËеÄá¯Áë¡£Á¬ÏµLoRA£¨Low-RankAdaptation£©ÊÖÒÕµÄǿʢÄÜÁ¦£¬ÕâЩ½ÇÉ«ËÆºõÓÐÁËÉúÃüµÄºôÎü£¬²»µ«ÐÎ×´Ï꾡Èë΢£¬ÉõÖÁÇéÐ÷±í´ïÒ²±äµÃÔ½·¢¸»ºñ×ÔÈ»¡£
¡°¾øÇøÁã-XL¡±ÊÇÓÉKK_officialЯÊÖLiblibAI´òÔìµÄÒ»¿îÐéÄâżÏñÏîÄ¿£¬ÒÔÆä¼«¾ßδÀ´¸ÐµÄÊÓ¾õÉè¼ÆºÍÉî¶È¸öÐÔ»¯µÄ½ÇÉ«É趨£¬Ó®µÃÁËÎÞÊý·ÛË¿µÄ¹Ø×¢ºÍϲ»¶¡£×÷Æ·ÖÐÕ¹ÏÖµÄȫŮ½ÇÉ«£¬Ã¿Ò»¸ö¶¼ÓµÓÐÆæÒìµÄÅä¾°¹ÊÊ¡¢ÏÊÃ÷µÄÐÔ¸ñ±êÇ©ºÍ¼«¾ß±æÊ¶¶ÈµÄÍâ¹ÛÉè¼Æ¡£
´ÓÀä¾²µÄ¿Æ¼¼ÉÙÅ®µ½ÈÈÇéµÄÎ赸´ïÈË£¬´ÓÉñÃØµÄÖúÊÖµ½¿É°®µÄżÏñ£¬Ã¿¸ö½ÇÉ«¶¼ÔÚ×÷Æ·ÖÐÕ¹ÏÖµÃÁÜÀ쾡Ö¡£
ÕâЩ½ÇÉ«µÄÀÖ³ÉÀë²»¿ªLoRAÊÖÒÕµÄÖ§³Ö¡£LoRAÊÇÒ»ÖÖ»ùÓÚÉî¶ÈѧϰµÄÄ£×Ó΢µ÷ÊÖÒÕ£¬Äܹ»ÔÚ²»¸Ä±äÔÓÐÄ£×ӵĻù´¡ÉÏ£¬¿ìËÙ¡¢µÍ³ÉÍâµØË³Ó¦²î±ðµÄ½ÇÉ«ÌØÕ÷£¬´Ó¶øÊµÏÖ¸öÐÔ»¯½ÇÉ«µÄÌìÉúºÍÓÅ»¯¡£ÕâÒâζ×Å£¬Éè¼ÆÊ¦Ö»ÐèÉÙÁ¿µ÷½â£¬¾Í¿ÉÒÔΪ½ÇÉ«¸¶ÓëÔ½·¢¸»ºñµÄÌåÏÖÁ¦£¬ºÃ±ÈÌØÊâµÄÐж¯¡¢Ï¸ÄåµÄñ²ðï·´Ó¦£¬ÉõÖÁÌØÓеÄÇéÐ÷Ͷ¡£
LiblibAI×÷ΪÐÐÒµÁìÏȵÄAIÊÖÒÕÑз¢¹«Ë¾£¬Îª¡°¾øÇøÁã-XL¡±ÌṩÁËǿʢµÄÊÖÒÕÖ§³Ö¡£Í¨¹ýÉî¶ÈÁ¬ÏµLiblibAIµÄ½¹µãËã·¨£¬KK_official´´Á¢³öһϵÁм«¾ß÷ÈÁ¦µÄȫŮ½ÇÉ«ÐÎÏó£¬ÕâЩ½ÇÉ«²»µ«ÔÚÍâ¹ÛÉϾßÓм«Ç¿µÄÎüÒýÁ¦£¬¸üÔÚϸ½Ú´¦Öóͷ£ºÍ»¥¶¯ÌåÏÖÉ϶ÀÊ÷Ò»ÖÄ¡£
ÁîÈËÔÞ̾µÄÊÇ£¬ÕâЩÐéÄâ½ÇÉ«ÔÚÑݳª¡¢Î赸¡¢Ì¸ÌìµÈ¶à¸ö³¡¾°Öж¼¿ÉÒÔʵÏÖÁ÷ͨ×ÔÈ»µÄÌåÏÖ£¬È÷ÛË¿ÃǸÐÊܵ½Ø¨¹ÅδÓеÄÌÕ×í¸Ð¡£
¸üΪֵµÃ¹Ø×¢µÄÊÇ£¬ÕâЩȫŮ½ÇÉ«µÄ±³ºó£¬²Ø×ÅÒ»Ì×ÍêÕûµÄAI»¥¶¯ÏµÍ³¡£½èÖúLiblibAIµÄ×ÔÈ»ÓïÑÔ´¦Öóͷ£ºÍÇéÐ÷ʶ±ðÊÖÒÕ£¬½ÇÉ«ÃÇ¿ÉÒÔÆ¾Ö¤²î±ðµÄ»¥¶¯ÄÚÈÝ£¬Õ¹ÏÖ³ö¶àÑù»¯µÄÇéÐ÷·´Ó¦¡£´ÓÌåÌù·ÛË¿µÄÐÄÇ飬µ½¼ÓÈëÌÖÂÛ»°Ì⣬ÿһ´ÎÐéÄ⻥¶¯¶¼ÏñÊÇÕæÊµµÄÅóÙ¡£Õâ²»µ«ÌáÉýÁË·ÛË¿µÄÕ³ÐÔ£¬Ò²ÈÃÐéÄâżÏñµÄ±£´æ±äµÃ¸üΪÇ×ÈÈÕæÊµ¡£
¡°¾øÇøÁã-XL¡±ÖеÄÿһλ½ÇÉ«£¬¶¼¾ÓÉÁËÈ«ÐĵÄÉè¼ÆÓëµ÷ÊÔ¡£Í¨¹ýLoRA΢µ÷ÊÖÒÕ£¬½ÇÉ«¿ÉÒÔʵÏָ߶ȸöÐÔ»¯µÄÐж¯Óë¶Ô»°ÌåÏÖ£¬ÉõÖÁÔÚÌØ¶¨³¡¾°ÏÂÕ¹ÏÖ²î±ðµÄÃæÄ¿ÓëÇéÐ÷ת±ä¡£ÕâʹµÃÿһ´ÎµÄÐéÄâÑݳö¶¼³ÉΪ·ÛË¿ÃÇÆÚ´ýÒѾõÄÊ¢»á£¬Ò²ÎªÐéÄâżÏñ¹¤Òµ¿ªÍسöÁËһƬеÄÀ¶º£¡£
KK_official»¹Ò»Ö±Ì½Ë÷½ÇÉ«Óë·ÛË¿µÄ»¥¶¯Ç±ÄÜ¡£Ê¹ÓÃLiblibAIµÄÊÖÒÕÆ½Ì¨£¬¿ª·¢³ö¶àÑù»¯µÄ»¥¶¯·½·¨£¬ºÃ±ÈÐéÄâÓ¦Ô®¡¢ÊµÊ±ÓïÒô½»Á÷¡¢¸öÐÔ»¯¶¨ÖƵȡ£·ÛË¿ÃÇ¿ÉÒÔÔÚÆ½Ì¨ÉÏÓëÐÄÒǵÄÐéÄâżÏñ¾ÙÐжà²ãÃæµÄ½»Á÷£¬ÉõÖÁ½¨ÉèÊôÓÚ×Ô¼ºµÄרÊôÐéÄâͬ°é¡£
ÕâÖÖÉî¶ÈµÄ¸öÐÔ»¯Ð§ÀÍ£¬ÎÞÒɳÉΪδÀ´ÐéÄâÓéÀÖµÄÖ÷ÒªÉú³¤Ç÷ÊÆ¡£
Ëæ×ÅÊÖÒÕµÄÒ»Ö±³ÉÊ죬¡°¾øÇøÁã-XL¡±µÄȫŮ½ÇÉ«½«ÓÀ´Ô½·¢ÁÉÀ«µÄ¿ÉÄÜÐÔ¡£Î´À´»òÐí»á·ºÆð¸ü¶à»ùÓÚLoRAϸÄåµ÷УµÄ½ÇÉ«£¬ÓµÓиü¸»ºñ¡¢¸üϸÄåµÄÇéÐ÷±í´ï£»¸üÖÇÄÜ¡¢¸üÖªÐĵĻ¥¶¯ÌåÑ飬½«ÈÃÐéÄâżÏñÔÚÉç½»¡¢Ö±²¥¡¢Ñݳª»áµÈ¶à¸ö³¡¾°ÖÐÕ¹ÏÖÎÞÏÞ÷ÈÁ¦¡£×ܶøÑÔÖ®£¬½èÖúLiblibAIµÄÊÖÒÕʵÁ¦£¬¡°¾øÇøÁã-XL¡±²»µ«ÔÚÐéÄâżÏñÁìÓòÉèÁ¢ÁËеıê¸Ë£¬¸üΪÕû¸öÐÐÒµ×¢ÈëÁËÁ¢ÒìµÄ¶¯Á¦¡£
ÔÚÐéÄâżÏñµÄÀ˳±ÖУ¬¡°¾øÇøÁã-XL¡±ÒÔÆäÆæÒìµÄÊÖÒսṹºÍÁ¢Òì½ÇÉ«É趨£¬³ÉΪҵ½çÖõÄ¿µÄ½¹µã¡£ÓÈÆäÊÇÔÚȫŮ½ÇÉ«µÄËÜÔì·½Ãæ£¬ÕâЩÐéÄâÈËÎïÓÉÄÚµ½ÍâÉ¢·¢×ÅÁîÈËÄÑÒÔ¿¹¾ÜµÄ÷ÈÁ¦¡£Ê²Ã´½Ð¡°Êý×Ö¾«Á顱£¿ÔÚÕâÀï¾ÍÄÜÕÒµ½Ãյס£Ê¹ÓÃLiblibAIµÄÏȽøÊÖÒÕ£¬KK_officialʵÏÖÁËÐéÄâ½ÇÉ«´ÓÍâÔÚÐÎÏóµ½ÄÚÔÚÇéÐ÷µÄÈ«·½Î»Í»ÆÆ£¬ÕæÕý×öµ½ÁË¡°¿Æ¼¼¸³ÄÜÒÕÊõ¡±¡£
¶ÔÐéÄâżÏñµÄ·ÛË¿À´Ëµ£¬×îÎüÒýÈ˵ÄÊǽÇÉ«µÄÕæÊµÐÔ¡£ÒÑÍù£¬ÐéÄâ½ÇÉ«³£±»ÒÔΪ¡°¿áº®¡±£¬È±ÉÙÉúÃüµÄζȡ£¶øËæ×ÅLoRAµÄÒýÈ룬½ÇÉ«ÃǵÄÐж¯¡¢ÐÄÇé¡¢Óïµ÷¶¼±äµÃÔ½·¢×ÔÈ»ºÍ¸»ºñ¡£Ã¿Ò»¸öϸСµÄÐж¯×ª±ä£¬¶¼Ô̺¬×ŽÇÉ«µÄÐÄÇ鲨¶¯¡£ºÃ±ÈÒ»´Î¼òÆÓµÄ΢Ц¡¢Ò»¸öÎÂÈáµÄÑÛÉñ£¬¶¼ÄÜÒýÆð·ÛË¿µÄÇ¿ÁÒ¹²Ê¶¡£
Õâ±³ºó£¬ÊÇLiblibAI¶Ôϸ½ÚµÄ¼«ÖÂ×·ÇóºÍÊÖÒÕµÄÒ»Ö±Í»ÆÆ¡£
¡°¾øÇøÁã-XL¡±ÏµÁÐÖеÄȫŮ½ÇÉ«£¬ÒѲ»ÔÙÊÇ´¿´âµÄÐéÄâÐÎÏ󣬶ø¸üÏñÊÇÓµÓС°Áé»ê¡±µÄÊý×Öͬ°é¡£Õâ²»µ«ÌåÏÖÔÚÍâòÉÏµÄÆ¯ÁÁºÍ¸öÐÔ£¬¸üÔÚÓÚËü¡°»á˼Ë÷¡¢»á¸ÐÊÜ¡¢»á»¥¶¯¡±µÄ½¹µãÄÜÁ¦¡£Í¨¹ýÉî¶Èѧϰģ×ÓµÄÒ»Á¬ÓÅ»¯£¬½ÇÉ«µÄ·´Ó¦¸üÌù½üÕæÊµÈËÀàµÄÇéÐ÷·´Ó¦£¬È÷ÛË¿ÔÚ»¥¶¯ÖиÐÊܵ½ÎÂůÓ빲ʶ¡£
ÕâÖÖÁ¬Ïµ¡°¿Æ¼¼+ÒÕÊõ¡±µÄģʽ£¬Ê¹ÐéÄâżÏñ²»µ«½öÊÇÓéÀÖ¹¤¾ß£¬¸ü³ÉΪ¾ßÓи߶ÈÈ˸ñ»¯µÄÐéÄâͬ°é¡£
LiblibAIÄܹ»´òÔìÔÆÔÆ÷ÈÁ¦µÄÐéÄâ½ÇÉ«£¬Àë²»¿ªÆäÔÚ×ÔÈ»ÓïÑÔ´¦Öóͷ£¡¢ÇéÐ÷ʶ±ðµÈÁìÓòµÄÉîÖ¿»ýµí¡£½èÖúÏȽøµÄAIËã·¨£¬½ÇÉ«¿ÉÒÔÃ÷È··ÛË¿µÄÓïÆø¡¢ÄÚÈÝ£¬ÉõÖÁÕ¹ÍûÆäÇéÐ÷×ßÏò£¬¸øÓèÇ¡µ½ÀûÒæµÄ»ØÓ¦¡£ºÃ±È·ÛË¿Òòijһ³¡Ñݳö¸Ð¶¯ÂäÀᣬÐéÄâ½ÇɫҲÄÜÓÃÎÂÈáµÄ»°Óο½å²¢ÃãÀø·ÛË¿¡£
²¢ÇÒ£¬KK_officialһֱͨ¹ýLoRAÊÖÒÕ´øÀ´¸üкÍÓÅ»¯£¬ÈÃÿһλÐéÄâ½ÇÉ«¶¼ÔÚÒ»Ö±¡°Éú³¤¡±¡£Ëæ×ÅÓû§»¥¶¯µÄincreasing£¬½ÇÉ«µÄ¸öÐÔ¡¢ÐÐΪҲ»á±äµÃÔ½·¢¸»ºñ¶àÑù¡£ÕâÊÇÒ»ÖÖÀàËÆÓÚ¡°Éú³¤¡±µÄÀú³Ì£¬Ê¹ÐéÄâżÏñ±äµÃÔ½·¢Á¢Ìå¡¢ÕæÊµ£¬ÉõÖÁ´øÓÐһ˿¡°ÈËÐÔ¡±¡£
·ÛË¿ÃÇÔÚÕâÑùµÄÐéÄâÌìÏÂÖÐÕÒµ½¹éÊô¸Ð£¬ÕâÒ²ÊÇ¡°¾øÇøÁã-XL¡±ÎüÒýÁ¦µÄ½¹µãËùÔÚ¡£
³ýÁËСÎÒ˽¼Ò»¥¶¯Í⣬ÕâЩ½ÇÉ«»¹Ôڶೡ¾°ÖÐÕ¹ÏÖÆä÷ÈÁ¦¡£ÈçÐéÄâÖ±²¥¡¢Ñݳª»á¡¢¶Ô»°¾ç¡¢ÉõÖÁÐéÄâÓÎÏ·ÌìÏÂÖеĽÇÉ«NPC¡ª¡ªÃ¿Ò»³¡»î¶¯¶¼ÓÉÕâЩ¸ß¿Æ¼¼½ÇÉ«Ö÷µ¼£¬´øÀ´ÌÕ×íʽµÄÌåÑé¡£LiblibAIµÄʵÁ¦°ü¹ÜÁ˽ÇÉ«ÔÚ²î±ð³¡¾°ÖеÄÌåÏÖÎȹ̡¢¸»ºñ£¬ÎÞÂÛÊÇÉú¶¯µÄÎ赸ÕÕ¾ÉÉîÇéµÄÑݳª£¬¶¼ÄÜ·ºÆð³öÁîÈËÔÞ̾µÄЧ¹û¡£
ÕâÖֶೡ¾°¡¢¶àÐÎ̬µÄÓ¦Óã¬Ê¹ÐéÄâżÏñµÄδÀ´±äµÃÎÞÏÞ¿ÉÄÜ¡£
δÀ´£¬Ëæ×ÅÓ²¼þÊÖÒÕµÄÉý¼¶ºÍAIÄ£×ÓµÄÒ»Ö±ÓÅ»¯£¬ÐéÄâżÏñµÄ¡°ÉúÃüÁ¦¡±½«Ô½·¢³¤ÆÚ¡£ÎÞÂÛÊÇ×÷ΪÓéÀÖÃ÷ÐÇ£¬ÕÕ¾É×÷ΪÇéÐ÷ÅãͬÕߣ¬¡°¾øÇøÁã-XL¡±µÄȫŮ½ÇÉ«ÃǶ¼½«¼ÌÐøÔÚÐéÄâ¿Õ¼äÖÐÕÀ·ÅÉ«Ôó¡£ÐÐÒµ¾ÞÍ·ÃÇÒ²·×·×½á¹¹£¬½«ÕâЩÏȽøµÄÐéÄâ½ÇÉ«ÍÆÏòÈ«ÇòÊг¡£¬Íƶ¯ÐéÄâÓéÀÖ¹¤ÒµµÄתÐÍÉý¼¶¡£
×ܽáÀ´¿´£¬¡°¾øÇøÁã-XL-ȫŮ½ÇÉ«-LoRA-KK_official-LiblibAI¡±ÅäºÏ´´Á¢ÁËÐéÄâżÏñÐÂʱ´úµÄѤÀû¾í¡£ÊÖÒÕ¸³ÄÜÒÕÊõ£¬Á¢ÒìÇý¶¯ÓéÀÖ£¬´Ó¼òµ¥µÄÊÓ¾õÌåÏÖµ½Éî¶ÈµÄÇéÐ÷ÅþÁ¬£¬Ã¿Ò»²½¶¼ÕÃÏÔ×ÅδÀ´Êý×ÖÓéÀÖµÄÎÞÏÞ¿ÉÄÜ¡£ÏàÐÅÔÚ²»Ô¶µÄδÀ´£¬ÕâЩÏÊ»îµÄÐéÄâ½Çɫһ¶¨»á³ÉΪÎÒÃÇÉúÑÄÖв»¿É»òȱµÄÅãͬ£¬Ò²¿ªÆôÁËÐéÄâÌìÏÂÓëÏÖʵÌìÏÂÈںϵÄÐÂÆªÕ¡£