परम सिद्धि-एआई

परम सिद्धि-एआई विवरण

• प्रणाली विनिर्देश
  NVIDIA DGX-A100 कंप्यूट नोड्स	82 (20992 cpu cores)
  कुल होस्ट (कंप्यूट नोड) मेमोरी	82 TB (82 nodes * 1 TB per node)
  NVIDIA A100-40GB Tensor Core GPUs	656 (82 nodes * 8 gpus per node)
  Total GPU Memory	26.24 TB (82 Nodes * 8 GPUs per node * 40 GB Per Node)
  मेलानॉक्स 200G HDR इन्फिनिबैंड स्विच जिसमें 320 Tb/s समग्र स्विच थ्रूपुट (कंप्यूट संचार) है	800 Ports (20 leafs *40 ports per leaf)
  Mellanox 200G HDR InfiniBand Switches (Storage Delivery)	400 Ports (10 Switches* 40 ports per switch)
  PFS based storage (Network attched) @250 GB/Sec, 4M IOPs	10.5 PIB (2 Tier Storage)

  ऐरावत-पीएसएआई कंप्यूट नोड विशिष्टता
  अवयव	विनिर्देश
  सीपीयू	AMD EPYC 7742 64C 2.25GHz
  सीपीयू कोर	128 कोर (डुअल सॉकेट, प्रत्येक में 64 कोर) [हाइपर-थ्रेडिंग के साथ 256 कोर]।
  L3 Cache	256 MB
  प्रणाली मेमोरी (रैम)	1 TB
  जीपीयू	NVIDIA A100 - SXM4
  जीपीयू मेमोरी	40 GB
  स्थानीय संग्रहण	14 TB
  प्रति नोड जीपीयू की कुल संख्या	8
  नेटवर्किंग	मेलानॉक्स कनेक्टएक्स-6 वीपीआई (इनफिनिबैंड एचडीआर), 1.6 टीबी/सेकेंड.

• सरंचना आरेख:

  

• सॉफ़्टवेयर स्टैक: