HomeNewsAI Bottleneck Shift: Ehara i te Mana Rorohiko - Ko te Nekehanga Raraunga.Compute-in-Memory Ko te Otinga

AI Bottleneck Shift: Ehara i te Mana Rorohiko - Ko te Nekehanga Raraunga.Compute-in-Memory Ko te Otinga

Te Huringa Pounamu AI: Mai i te Mana Rorohiko ki te Maharahara me te Nekehanga Raraunga – Ka mau te Whakatau-i-Mahara (CIM)


I roto i nga tau e rua kua pahure ake nei, kua huri tata katoa nga korerorero AI ki te mana rorohiko: he iti rawa nga GPU, he iti te kaha rorohiko, me nga tautau takarepa.Engari ko tenei purongo e whakanui ana i tetahi kaupapa matua: ko te mea e mau ana i te AI ko te kore e taea te tatau, engari te kore e taea te nuku raraunga.

I te mea kua piki te rahi o nga tauira mai i te tekau megabytes ki te maha o nga gigabytes, ko nga waahanga tino pukumahi i roto i te punaha ehara i te waahanga rorohiko, engari he mahara me nga pahi.I etahi atu kupu, kei te neke marie te kohanga a AI—mai i te "raruraru rorohiko" ki tetahi kaupapa tino nui ake: he raruraru rokiroki.

Na tenei i ara ake ai te huarahi whakahirahira: mena ko te nekehanga raraunga te mea nui rawa atu, he aha te take e kore ai e tuku te tatauranga tika ki te rokiroki?

He hoahoanga e kiia nei ko Compute-in-Memory (CIM) e ngana ana ki te tuhi ano i tenei arorau mai i te putake.Ko te mea matua ki te whakaahei ehara i te mea he node tukanga matatau ake, engari he momo hangarau kaore ano kia "auraki" o mua—mahara tairitenga.

Ka tono mai tenei tuhinga ki a maatau ki te whakaaro ano i tetahi patai nui: I te wa e huri haere ana a AI ki tona waahi i tenei ra, he aha te tino whakatau i tona rohe o runga—te mana rorohiko, te rokiroki ranei?

Karere Matua o te Ripoata

Kei te huri te kohungahunga mahi a AI mai i te "mana rorohiko" ki te "rokiroki me te nekehanga raraunga," ko te otinga kei te hanga ano i te tauira rorohiko me te "mahara tairitenga + Compute-in-Memory (CIM)."

Ko AI He Raruraru Rorohiko Rokiroki-Aia

Ko te tatauranga matua o nga whatunga neural hohonu (DNNs) ko te whakarea-matrix matrix (VMM), e whakawhirinaki ana ki te panui taumaha nui.I te pikinga o te rahi o nga tauira mai i te megabytes ki te gigabytes (10MB–10GB), ka nui te tono mo te rokiroki-kiripi.

Ko te whakangungu he "tuhi-kaha," ko te whakatau he "panui-kaha" -e huri ana e rua ki te rokiroki taumaha (mahara synaptic).

Whakamutunga: Ko AI ehara i te raruraru rorohiko parakore;he mea nui tenei mo te "rokiroki + te pai o te nekehanga raraunga."

Ko te Putake o te Hanganga Tuku iho: Movement Raraunga

Ko nga GPU/TPU tawhito e mahi ana i runga i te maapono ngawari: ka puta te tatauranga i roto i nga huānga tukatuka (PE), i te wa e rongoa ana nga raraunga i roto i te SRAM/DRAM-e arahi ana ki te neke haere o nga raraunga me te iti rawa o te mahi.

Whakatauritenga pai o te hiko:

  • Nga papaa tawhito: ~0.1 TOPS/W
  • Mamati ASICs: ~1–10 TOPS/W
  • CIM tairitenga: ~10–100 TOPS/W

He taupatupatu matua: Ko te raruraru ehara i te kore e taea te tatau, engari ko te kore e kaha ki te neke i nga raraunga.

Aronga Matua: Compute-in-Memory (CIM)

Ko te hoahoanga CIM e pupuri tika ana i nga taumahatanga i roto i nga raupapa mahara me te mahi i nga tatauranga (whakarara VMM) i roto i enei huinga, ka whakakore i te hiahia ki te nuku raraunga i waenga i te "putanga ↔ wae rorohiko."

Huringa taketake:

  • Te hoahoanga tawhito: Kua wehea te Maharahara me te Tatau
  • Hangahanga CIM: Mahara = Tatau

He huringa tauira tenei i te taumata hoahoanga, ehara i te arotautanga ngawari noa.

Kaikawe Matua: Mahara Moka-maha Analog (Synapse Analog)

Ki te mohio ki te CIM, ka hiahiatia he "kaikawe taimaha" hou.Ko nga kaitono matua ko:

  • RRAM (Mahara Whakaaetanga Random-Access)
  • PCM (Mahara Huri-Waahanga)
  • FeFET (Ferroelectric Field-Pake Transistor)
  • Flash/3D NAND, etc.

Ko te kaha nui o enei taputapu ko te whakaatu i nga taumahatanga ma te whakamahi i te kawe haere tonu (moka-maha tairitenga).

Te Wero Tuturu: Nga Tepe-a-tinana Pūrere Ka whakatau i nga Tepe o runga o te punaha

Ko te purongo e kii ana ehara "mehemea ka taea," engari ko nga aukati mahi:

1. Nga Wero Whakangungu (Tuhinga Tuhituhi)
Nga Whakaritenga: Raina me te hangarite
Nga take mahi: Ko te kore-raina me te hangarite ka heke te tika

2. Nga Wero Whakatau (Taumau Panui)
Ka paheke nga taumahatanga i roto i te waa, me nga take tae atu ki: - Te werawera - Panui pokanoa - Nga raruraru pupuri

3. Nga Take Taumata-Huapapa
- He rereke puta noa i nga taputapu - Nga tauhokohoko i waenga i te tika, te mahinga ADC, me te rahi o te huinga

Whakamutunga matua: Ko te take ki te mahara tairitenga ehara i te "mehemea he ranea te tika," engari "te pumau me te mana whakahaere."

Te Ia Whakamutunga: Te Whakauru 3D + Te Whakakotahitanga Taumata-Punaha

Ko nga tohutohu a meake nei ko:

  • Monolithic 3D tuitui
  • Te hono hohonu o te mahara me te arorau
  • Hoahoa-tahi o nga taputapu, iahiko, me nga algorithms

Te mauri: Ehara tenei i te pakaruhanga ira kotahi, engari he hanga-taapiri katoa.

Whakamutunga

Ko te pounamu a AI ehara i te mana rorohiko, engari "te rokiroki me te rere raraunga."Ko te Analog CIM kei te huri i te "pupuhi" ki te kaupapa hou o te rorohiko—te tautuhi ano me pehea te mahi a nga punaha AI mai i te whenua.