ÉîÈëÏàʶӢΰ´ïA100£ºÐÔÄÜÁìÅܵÄAI¾ÞÐÇÓë¼ÛǮ֮ÃÕ
Ӣΰ´ïA100ÏÔ¿¨£¬¿°³ÆAIÓë¸ßÐÔÄÜÅÌËãÁìÓòµÄ¡°³¬µÈÓ¢ÐÛ¡±¡£×÷ΪӢΰ´ï´Ë´ÎÊý¾ÝÖÐÐļ¶²úÆ·µÄÆì½¢Ö®Ò»£¬ËüÒÔ·Ç·²µÄËãÁ¦ºÍǿʢµÄ²¢Ðд¦Öóͷ£ÄÜÁ¦ÔÚÈ«Çò¹æÄ£ÄÚÓ®µÃÁËÖÚ´ó¶¼¾ÝÖÐÐÄ¡¢¿ÆÑлú¹¹ÒÔ¼°ÆóÒµµÄÇàíù¡£A100µÄ·ºÆð£¬±ê¼Ç×ÅӢΰ´ïÔÚÈ˹¤ÖÇÄÜ¡¢»úеѧϰ¡¢Éî¶Èѧϰ¼°´óÊý¾Ý´¦Öóͷ£µÈÁìÓòµÄÊÖÒÕá۷壬¿°³ÆÐÐÒµµÄ¡°¼ÛǮɱÊÖ¡±¡£
A100ÏÔ¿¨½ÓÄÉÁËӢΰ´ï×îеÄAmpere¼Ü¹¹£¬ÊµÏÖÁËÐÔÄÜ´ó·ùÌáÉý¡£Æä½¹µãÌØÕ÷°üÀ¨¸ßËÙµÄTensorCore¡¢CUDA½¹µã¡¢Ö§³Ö¶à¾«¶È»ìÏýÅÌË㣨ÈçFP16¡¢TF32¡¢FP32£©ÒÔ¼°¼«¸ßµÄ´ø¿íºÍ´æ´¢ÄÜÁ¦¡£ÕâÒ»ÇÐÈÃA100ÔÚѵÁ·ÖØ´óÄ£×Ó¡¢´¦Öóͷ£´ó¹æÄ£Êý¾ÝʱÌåÏÖÓÅÒ죬ʵʱ¼ÓËÙ·ÂÕæºÍAIÍÆÀíʹÃüÌåÏÖÓÈΪ¾«²Ê¡£
²»¹ý£¬Ç¿Ê¢µÄÐÔÄÜÒ²Òâζן߰ºµÄ¼ÛÇ®¡£ÏÖʵÉÏ£¬A100µÄÊÛ¼Û²¢Ã»ÓÐÒ»¸öͳһµÄÊг¡¼Û£¬¶øÊÇÊܵ½¶àÖÖÒòËØÓ°Ïì¡£²î±ðµÄ°æ±¾¡¢²î±ðµÄµØÇø¡¢²î±ðµÄÏúÊÛÇþµÀ¶¼»á´øÀ´¼ÛÇ®²î±ð¡£À´¿´¿´×îÊܹØ×¢µÄÁ½´ó°æ±¾£ºÅ·ÖÞ°æºÍÖйú´ó½µÄ¹úÐа档
ÔÚÅ·ÖÞ£¬A100µÄÊг¡¶¨¼Ûͨ³£·´Ó¦Á˽ϸߵÄ˰·Ñ¡¢Èë¿Ú¹ØË°ÒÔ¼°Å·ÖÞµØÇø½Ï¸ßµÄÔËÓª±¾Ç®¡£ÔÚ¶à¼ÒÇþµÀ¼ÛÇ®ÖУ¬µ¥¿éA100µÄÊÛ¼ÛÍùÍùÔÚ1.2Íòµ½1.5ÍòÔªÈËÃñ±Ò×óÓÒ£¬ÓÐʱÉõÖÁ¸ü¸ß¡£ÓÉÓÚÅ·ÖÞÊг¡¹ØÓÚÆóÒµ²É¹ºµÄÌØÊâÐèÇ󣬲¿·Ö¹©Ó¦ÉÌÆ¾Ö¤ÆóÒµ¶¨ÖƵÄÅú·¢¼ÛÇ®³öÊÛ£¬¼ÛÇ®ÔÚÒ»¶¨Ë®Æ½ÉÏ»á¸üÓе¯ÐÔ£¬µ«×ÜÌåÀ´Ëµ£¬¼ÛǮƫ¸ßÊÇÆÕ±éÕ÷Ïó¡£
¶øÔÚÖйú£¬ÓÉÓÚº£ÄÚÖØ´óµÄGPUÐèÇóºÍÕþ²ßÖ§³Ö£¬A100µÄ¼ÛÇ®½üÄêÀ´Ò²ÓÐÏÔÖø×ª±ä¡£Ö÷ÒªÊܵ½Èë¿Ú¹ØË°¡¢Ôöֵ˰ÒÔ¼°¹©Ó¦Á´±¾Ç®µÄÓ°Ï죬¹úÐÐA100µÄÊг¡ÊÛ¼ÛÒ»Ñùƽ³£ÔÚ1ÍòÔª×óÓÒ£¬²¿·ÖÇþµÀ»áÂÔµÍÉõÖÁÓÐÓŻݡ£²»¹ý£¬ÖµµÃ×¢ÖØµÄÊÇ£¬º£ÄÚA100µÄ¹©Ó¦Ïà¶Ôϡȱ£¬²¿·Ö°æ±¾Òª±È¼°¹Ù·½ÇþµÀ»òÕßÊðÀíÉ̵ÄÌØÊâÏàÖúÇþµÀ²Å»ªÄõ½£¬Òò´Ë¼ÛÇ®ÍùÍù»áÓÐÒ»¶¨µÄ¸¡¶¯¡£
Ϊʲô»á±£´æÕâÑùµÄ¼ÛÇ®²î±ð£¿Ò»·½Ã棬ŷÖÞÊг¡µÄÏûºÄÕߴ󲿷ÖÀ´×Ô¿ÆÑлú¹¹¡¢ÐÐÒµÆóÒµÒÔ¼°Êý¾ÝÖÐÐÄÔËÓªÉÌ£¬²É¹ºÁ¿´ó£¬Òò´Ë¼ÛÇ®Ç÷Ïò¸ß¶ËÊг¡µÄ¶¨¼ÛÕ½ÂÔ¡£¶øÖйúÊг¡ÓÉÓÚÐèÇó¼«ÎªÐËÍú£¬ÇÒ¹ú²ú»¯Ñ¹Á¦Ò»Ö±ÔöÇ¿£¬Ê¹µÃÏà¹ØÇþµÀÔÚ¼ÛÇ®·½ÃæÕö¿ªÁ˸üÇ¿ÁҵľºÕù¡£¹ú¼ÒÕþ²ßÒ²ÔÚÍÆ¶¯¹ú²úÏÔ¿¨ºÍ¸ß¶ËоƬµÄÍÆ¹ã£¬Ó°ÏìÁËA100ÔÚº£ÄÚµÄÊÛ¼ÛÕ½ÂÔ¡£
³ýÁ˼ÛÇ®£¬¹ºÖÃÇþµÀÓëÊÛºóЧÀÍÒ²ÊÇÓ°Ïì×ܱ¾Ç®µÄÖ÷ÒªÒòËØ¡£Å·ÖÞÓû§¶àÒÀÀµÓÚӢΰ´ï¹Ù·½»òÊÚȨÏàÖúͬ°é¹ºÖã¬È·±£²úÆ·µÄÕýÆ·ÓëÓÅÖʵÄÊÖÒÕÖ§³Ö¡£¶øÔÚÖйú£¬³ýÁ˹ٷ½ÇþµÀ£¬Ò²±£´æ´ó×ڵĵÚÈý·½Êг¡£¬¼ÛÇ®¿´ËÆÓÕÈË£¬µ«²¿·Ö²úÆ·¿ÉÄܱ£´æÕæÎ±Äѱ桢ÊÖÒÕÖ§³Öȱ·¦µÄΣº¦¡£
ÏûºÄÕßÔÚ¹ºÖÃʱӦ¶ÔÇþµÀ¾ÙÐгä·Öµ÷ÑУ¬ÕÒµ½¿ÉÐÅÈεĹºÖÃȪԴ£¬×èÖ¹ºóÐøÒòÊÛºóά»¤ÄÑÌâ¶ø´øÀ´µÄËðʧ¡£
Ӣΰ´ïA100ÔÚÅ·ÖÞÓëÖйúÊг¡µÄ¼ÛÇ®²î±ð£¬¼È·´Ó¦ÁËÊг¡ÇéÐκ͹©Ó¦Á´½á¹¹£¬Ò²ÌåÏÖÁ˲î±ðµØÇø¶Ô¸ßÐÔÄÜGPUµÄ²î±ðÐèÇóºÍÖ§¸¶ÄÜÁ¦¡£ÔÚÑ¡Ôñ¹ºÖð汾ʱ£¬²»µ«Òª¹Ø×¢¼ÛÇ®£¬»¹ÒªÁ¬Ïµ×ÔÉíÓÃ;¡¢Ô¤Ëã¡¢ÊÛºóЧÀÍµÈ¶à·½ÃæÒòËØ×ö³öºÏÀí¾öÒé¡£ÈÃÎÒÃÇÉîÈëÆÊÎöÁ½ÕßµÄÐÔÄܱÈÕÕÒÔ¼°ÏêϸµÄ¹ºÖý¨Ò飬°ïÄãÕÒµ½×îÊʺÏ×Ô¼ºµÄÄÇÒ»¿î¡£
Ðí¶àÓû§ÔÚÃæÁÙ¡°Å·ÖÞ°æA100¡±Óë¡°¹úÐаæA100¡±Ê±£¬¶¼»áÎÊ£ºÕâÁ½Õß³ýÁ˼ÛÇ®²î±ðÍ⣬ÐÔÄÜÊÇ·ñÓÐÇø±ð£¿ÃÕµ×´ó¶àÊÇ·ñ¶¨µÄ¡£Ó¢Î°´ïÔÚÈ«ÇòÐû²¼µÄA100ÏÔ¿¨ÏÕЩ¼á³ÖÒ»ÖµĽ¹µãÓ²¼þ¹æ¸ñÓëÐÔÄܲÎÊý£¬²î±ðÖ÷ÒªÔÚÓÚÉ¢×°°æ±¾µÄΨһÐÔ¡¢ÊÛºóЧÀÍ¡¢Èí¼þÓÅ»¯ºÍÖܱßÅä¼þÖ§³Ö¡£
ÏÖʵÉÏ£¬Å·ÖÞ°æºÍ¹úÐаæA100µÄ½¹µãGPUоƬÊÇÏàͬµÄ£¬½ÓÄÉÏàͬµÄAmpere¼Ü¹¹£¬½¹µãÊý¡¢ÄÚ´æ´ø¿í¡¢CUDAÓëTensor½¹µãÊýÄ¿¶¼Ê®·Ö¿¿½ü¡£Ö»ÒªÐͺÅÏàͬ£¬ºÃ±ÈA10040GB»ò80GB°æ±¾£¬ÐÔÄÜÌåÏÖ»ù±¾Ò»Ö£¬²î±ð΢ºõÆä΢¡£ÕâÒ²ÊÇΪʲôÐí¶àÓû§ÔÚȨºâ¼ÛÇ®ºó£¬×îÖÕÑ¡Ôñ±ê×¼ÉèÖõÄA100£¬²»»áÓÉÓÚµØÇø²î±ð¶øÎþÉüÐÔÄÜ¡£
ËäÈ»£¬Ä³Ð©ÌØÊâ°æ±¾»ò¶¨ÖÆÐͺſÉÄÜ»áÔÚ³ö³§ÆµÂÊ¡¢¹¦ºÄÖÎÀíÉÏÂÔÓвî±ð£¬µ«¶Ô¾ø´ó´ó¶¼Óû§¶øÑÔ£¬ÕâЩ²î±ðȱ·¦ÒÔÓ°ÏìÒ»Ñùƽ³£Ê¹Ó᣸üÖ÷ÒªµÄÊÇ£¬Èí¼þ¼æÈÝÐÔºÍÇý¶¯Ö§³ÖÏÕЩûÓвî±ð¡ª¡ªÖ»Òª´Ó¹Ù·½ÇþµÀ»ñµÃÏìÓ¦°æ±¾£¬Óû§¶¼¿ÉÒÔ»ñµÃÍêÕû¡¢Îȹ̵ÄÇý¶¯ºÍÓÅ»¯£¬ÕâÒ²°ü¹ÜÁ˸÷µØÇøA100ÏÔ¿¨µÄÐÔÄÜÎȹÌÐÔ¡£
¹â¿´ÐÔÄÜ£¬Å·ÖÞ°æºÍ¹úÐаæÏÕЩÊÇÒ»ÑùµÄ£¬ÄÇΪʲô¼ÛÇ®»á±£´æ²î±ðÄØ£¿×Åʵ£¬Ö÷ÒòÕÕ¾ÉÊг¡Õ½ÂԺͱ¾Ç®½á¹¹¡£Å·Ö޵ĹØË°¡¢Ôöֵ˰¡¢ÔËÊä·ÑºÍÊÛºóϵͳ£¬¶¼Ê¹µÃÅ·ÖÞÊг¡µÄÊÛ¼ÛÆ«¸ß¡£¶øÖйúÊг¡Êܵ½Õþ²ßµ÷¿Ø¡¢¹ú²úÌæ»»Æ·µÄÍÆ¶¯ÒÔ¼°Ç¿ÁҵľºÕù£¬ÊÛ¼Û×ÔÈ»Ïà¶ÔºÏÀíÉõÖÁÂԵ͡£
¹ºÖÃÇþµÀºÍÊÛºó°ü¹Ü£¬ÔòÊÇÁ½¸ö°æ±¾µÄ²î±ðÖ®Ò»¡£Å·ÖÞÓû§Í¨³£»á»ñµÃ¸üÍêÉÆµÄÊÛºóÖ§³ÖºÍ¸ü³¤µÄÖʱ£ÆÚ£¬¶øÖйúÊг¡µÄһЩ°æ±¾¿ÉÄܱ£´æ¡°É¢×°»õ¡±»ò¡°¶þÊÖ»õ¡±Î£º¦¡£½¨ÒéÓû§Ñ¡ÔñÕý¹æµÄÇþµÀ£¬ÎÞÂÛÊǹٷ½ÊÚȨÏúÊÛ£¬ÕÕ¾ÉÐÅÈεÄÏàÖúͬ°é£¬¶¼ÄÜÈ·±£²úÆ·µÄÕýÆ·°ü¹ÜºÍÊÛºóά»¤¡£
¼ÛǮ֮Í⣬Ðí¶àÈË»¹ÌåÌùÅäÌ×Åä¼þÓëÈí¼þÇéÐΡ£Å·ÖÞÊг¡µÄA100¶àÅäÓÐÕë¶ÔÅ·ÃËÕþ²ßÓÅ»¯µÄÏÔ¿¨Çý¶¯ºÍÓÅ»¯Èí¼þ£¬Õâ¹ØÓÚÆóÒµÓû§ºÍ¿ÆÑлú¹¹À´ËµÊǸö¼Ó·ÖÏî¡£¶øº£ÄÚijЩÇþµÀ¿ÉÄÜ»áÌṩԤװµÄÓÅ»¯Èí¼þ£¬»òÔÚÓ²¼þÅä¼þÉϾÙÐÐһЩ×ÔÖ÷Éè¼Æ£¬ÒÔÈ·±£ÔÚÌØ¶¨Ó¦Óó¡¾°ÖеÄÌåÏÖ×îÓÅ¡£
˼Á¿µ½ºóÐøÉý¼¶¡¢Î¬»¤±¾Ç®ÓëʹÓÃÌåÑ飬¼Û²î´øÀ´µÄÐÔ¼Û±ÈÆÊÎöÒ²ÊÇÒªº¦¡£Ò»Ì¨A100ÏÔ¿¨×ÝÈ»¼ÛÇ®¸ßÒ»µã£¬µ«´øÀ´µÄǿʢÐÔÄܺͺã¾ÃÎȹ̵ÄÖ§³Ö£¬¿ÉÄܸüÊʺϸ߶ËÊý¾ÝÖÐÐÄ¡¢¿ÆÑÐÏîÄ¿»òÆóÒµ¼¶Ó¦Ó᣷´Ö®£¬ÈôÊÇÔ¤ËãÓÐÏÞ£¬»òÕß²»ÐèÒª¼«¶ËÐÔÄÜ£¬Ñ¡ÔñÐԼ۱ȸü¸ßµÄº£ÄÚÇþµÀ°æ±¾£¬Ò²ÊǸö²»´íµÄÕ½ÂÔ¡£
×ܽáÒ»¾ä»°£ºÐÔÄÜÉÏ£¬Å·ÖÞ°æºÍÖйú°æµÄA100ÌåÏÖ»ù±¾Ò»Ö£¬µ«ÔÚ¼ÛÇ®¡¢ÊÛºóЧÀÍ¡¢Èí¼þÖ§³ÖµÈ·½Ãæ±£´æ²î±ð¡£Ñ¡ÔñÄÄÒ»¿î£¬»¹ÒªÁ¬Ïµ×ÔÉíÏÖʵÐèÇó¡¢Ô¤ËãºÍʹÓó¡¾°£¬×ö³öÖǻ۵ľöÒé¡£
Ëæ×ſƼ¼µÄÒ»Ö±Éý¼¶£¬¸ßÐÔÄÜGPUµÄδÀ´¼ÛÇ®Ç÷ÊÆÄÑÒÔÕ¹Íû¡£»òÐíÔÚ²»Ô¶µÄδÀ´£¬ÀàËÆA100µÄ¸ß¼¶ÏÔ¿¨»áÒòÊÖÒÕˢжø¼ÛÇ®´ó·ùϽµ£¬Ò²ÐíijЩ¹ú²úоƬ»áÔÚ±¾Ç®ºÍÐÔÄÜÉÏÖ𲽿¿½üÉõÖÁÓâÔ½¡£ËäÈ»£¬ÊÖÒÕµÄǰ½øÒ»Ö±ÔÚÀƽ¼ÛÇ®±ÚÀÝ£¬Î´À´µÄGPUÊг¡»á±äµÃÔ½·¢¶àÔªºÍ¸»ºñ¡£
¹ØÓÚÏÖÔÚµÄÓû§À´Ëµ£¬ÀíÐÔ½ÏÁ¿¡¢Éî¶Èµ÷ÑУ¬²ÅÊÇÃ÷ÖÇµÄÆðµã¡£