智慧手機中最「雞肋」又最「強大」的晶片--NPU,底層原理深度講解!為什麼說人工智慧離不開它?

Ғылым және технология

在智能手機、電腦和智能電動中,主控SoC都加持了一個NPU芯片,用來處理人工智能有關的運算。那麼NPU芯片到底是如何幫助CPU做AI加速的?為什麼CPU、GPU只有很少的企業能做出來,但NPU卻有很多企業可以自主設計?
下集預告:「華為電機技術解讀」

Пікірлер: 67

  • @camfocus8888
    @camfocus8888 Жыл бұрын

    這比喻我覺得不好! GPU是針對大量簡單平行計算的,NPU只是在GPU減少計算單元但是增加複雜一點的計算,是針對神經網路應用做設計的,其實都一樣,跑車卡車轎車的差別而已,一開始用轎車載人也能載一點貨物又能稍微飆一下車,後來才有專門載貨的卡車或專門飆車的跑車,都是針對需求去設計的車或處理器,沒有誰服務誰 CPU是通用所以沒有太多加法器但是有可應付複雜的計算功能,也靠指令集跟寄存器完成配合程式做的特殊複雜的計算 GPU是因為針對像素計算,有很多計算器尤其是矩陣計算的單元,所以不算通用是專門為大規模簡單計算設計的,能用在像素也能用在AI神經元細胞,複雜的AI細胞多到跟像素一樣多,所以平行同時做一堆簡單特定計算是GPU設計初衷 沒有誰跟誰服務,都是給程式服務的,需要攏長複雜變化的交給CPU,需要大規模簡單計算的交給GPU,好比a+b要算一萬次,CPU必須快速算一萬次結束,GPU剛好有一萬個簡單計算器一次就算完了,又好比一個複雜的公式加減乘除都有而且很長,CPU來回計算三五次就出答案,交給GPU要先人工拆解成只剩簡單一萬次先後因果不能平行計算,然後GPU只能用萬分之一的一個計算器連續算一萬次才得出答案,所以CPU GPU NPU APU都是廣告術語,都是計算器只是專長不同都是給作業系統服務的

  • @ufo5933

    @ufo5933

    Жыл бұрын

    請问 GPU 有没有 MAC? 如果圖形旋转就必须用 MAC?我的问题是:有没有可能是 GPU 也利用 NPU 的 MAC 来完成旋轉功能?換句话说 NPU 可不可以是 CPU & GPU 二者的 slave?

  • @ray911abc

    @ray911abc

    7 ай бұрын

    赞👍

  • @qiyugu6626

    @qiyugu6626

    Ай бұрын

    👍

  • @user-qb6or9wb3v

    @user-qb6or9wb3v

    Ай бұрын

    正解在這

  • @rexhoh7786

    @rexhoh7786

    Ай бұрын

    正解

  • @johnw9220
    @johnw9220 Жыл бұрын

    感謝大劉老師! 這集的卷積說的很具象,幫助我更了解它~

  • @YTTVSteven
    @YTTVSteven25 күн бұрын

    很不錯的講解~給你一個讚👍

  • @user-nb3ie7ys2m
    @user-nb3ie7ys2m2 жыл бұрын

    獲益良多,謝謝您!

  • @getstevenliu

    @getstevenliu

    2 жыл бұрын

    谢谢支持!

  • @andrewzhao7769
    @andrewzhao7769Ай бұрын

    大刘讲的好!谢谢!

  • @user-gg9jq2po1o
    @user-gg9jq2po1o14 күн бұрын

    博主,共享:這種卷積運算,最早來自,蝴蝶效應的計算,當初計算機,是用遞增序列,產生連續。

  • @user-hv9zn9sr3i
    @user-hv9zn9sr3i Жыл бұрын

    哈哈 找了一天 终于找到一个npu架构的解释视频了

  • @ggg-wv8qz
    @ggg-wv8qz Жыл бұрын

    讲的非常好!

  • @MrLaurencewu
    @MrLaurencewu Жыл бұрын

    講得很好!from台灣.

  • @leeveschou3577
    @leeveschou35772 жыл бұрын

    关注大刘硬核科普视频很久了,学到不少硬核知识,希望大刘一直坚持下去,这类硬核科普视频 即使在b站也不容易涨粉。

  • @getstevenliu

    @getstevenliu

    2 жыл бұрын

    谢谢您的支持!

  • @feifeishuishui

    @feifeishuishui

    Жыл бұрын

    什么叫即使在b站,这里的用户教育程度比站应该高不少,更容易涨粉才对吧

  • @imissyou0423

    @imissyou0423

    10 ай бұрын

    ​@@feifeishuishui看得懂中文的不外乎 大陸 馬來西亞 香港 台灣人

  • @imissyou0423

    @imissyou0423

    10 ай бұрын

    ​@@feifeishuishui其中台灣人在牆外最多也最腦

  • @imissyou0423

    @imissyou0423

    10 ай бұрын

    ​@@feifeishuishui台灣人整天在網路上噴的那種 一堆南部高職學店畢業 不然做服務業那種

  • @sail
    @sailАй бұрын

    簡單說,就是針對某些資料處理優化的專用處理單元。 就幹專用的事特別行。

  • @user-bf8ip7or9r
    @user-bf8ip7or9r2 ай бұрын

    其實多個晶片分攤暫存也好,不然原來只有cpu一定常過熱,gpu圖形或3維的矩陣運算又那嚜強,a+b×c是AI的sigmaid(英文有點忘記)基礎算式,在1秒內試出人類花了100年用的數字組合變化,當然有更統計學的AI公式。說到圖片三原色256的瞬間組合,矩陣算列的公式較硬盒比這兒A+b×c快我記得是30幾倍,所以gpu價值就上飆。npu我認識看看,分擔一些暫存也不錯。說真的AI要作到神像生成式要雲,不然AI也會被假訊息影響。

  • @DakerTT
    @DakerTTАй бұрын

    坦率地说,主播很努力的准备了这期节目。但是,内容本身远远超过主播能力上限了

  • @tysoonfang1999
    @tysoonfang1999Ай бұрын

    问一下,是否可以利用NPU的算力来加强3D游戏的性能?例如游戏程序里是否可以调用部分NPU的算力来提高游戏帧率?

  • @user-em9pj7pq2m
    @user-em9pj7pq2mАй бұрын

    内容非常好,就是这个焦时准时脱的,我还以为我的眼坏了🤣

  • @ZenKuan
    @ZenKuan8 ай бұрын

    你好老师, 我想问一个问题, 就是关于SOC的。 我知道现在手机里的处理器, 比如snapdragon 和mediatek 都是SOC, 因为里面包含了CPU, GPU, TPU, NPU,RAM 和 storage, 所以形成了System on Chip。 但是电脑的处理器算是SOC吗? 因为电脑处理器好像只有CPU而已, 有些会有GPU, 但是RAM, storage,GPU 这些都是外接的

  • @dl662
    @dl662 Жыл бұрын

    不太熟ASIC,但算力up是不是想说的是flops啊

  • @maxliu1613
    @maxliu1613 Жыл бұрын

    来啦来啦!哈哈哈

  • @jasonzhang1156
    @jasonzhang11562 жыл бұрын

    通俗易懂

  • @user-ut4bj9zb5n
    @user-ut4bj9zb5nАй бұрын

    一打開看到黑板,還以為到某老師的頻道。😂

  • @HeartinWhere
    @HeartinWhere Жыл бұрын

    CPU更像一個實體企業 具體而微什麼功能都有 內還有FPU 浮點運算單元 而CPU內特別做線路pipeline直連FPU處理 就稱為HT 多線程處理 可見FPU重要性 而GPU是浮點運算處理器 以流處理器模式特別強化浮點運算能力 比CPU內部的FPU要強上數十倍數百倍數千倍不等 NVIDIA為什麼要收購ARM 我猜想就是想強化他自身GPU加入ARM的CPU 變成是一種CGPU,CPU專為GPU服務 藉以強化並省去一些通訊審核資料的步驟 以加速GPU的性能 那麼主機板的主導將是CGPU 不再CPU跟GPU分開

  • @user-bf8ip7or9r

    @user-bf8ip7or9r

    2 ай бұрын

    簡單講cpu是CEO,gpu是某個部的長官,npu比較像資深員工。

  • @HeartinWhere

    @HeartinWhere

    2 ай бұрын

    @@user-bf8ip7or9r 有那個味兒~~ 但現在來看 因為NV收購ARM案不成 加上AI的需求大增 CPU跟GPU都在競爭加入NPU的功能 那麼NPU(也就是AI)更像似秘書了。

  • @wanderzok
    @wanderzok5 ай бұрын

    Could you put Brazilian

  • @andy936162
    @andy9361622 жыл бұрын

    意思是末来制程越细,功耗越小的情况下,NPU就可以更浪费? 由最初的8bit,游戏到现在,也几十年了,但近年进步最快,特别智能手机出现 后

  • @zhigangxu2007
    @zhigangxu2007Ай бұрын

    U怎么听起来像是O?

  • @yaochen1870
    @yaochen18704 ай бұрын

    和IPU有什么区别呢?

  • @itsnotai
    @itsnotai2 жыл бұрын

    厉害,什么都懂

  • @flower_street
    @flower_street2 жыл бұрын

    好看!冒昧的问一句,大刘是半导体相关业内人士吗,能够深入浅出地讲的这么从容,应该不是光看文档就能做到的。

  • @getstevenliu

    @getstevenliu

    2 жыл бұрын

    我不是从业者,只是一个爱好者。感谢你的认可!

  • @flower_street

    @flower_street

    2 жыл бұрын

    @@getstevenliu 💯

  • @xiaoyuzhu9118
    @xiaoyuzhu9118 Жыл бұрын

    百度:嵌入式神经网络处理器(NPU)采用“数据驱动并行计算”的架构,特别擅长处理视频、图像类的海量多媒体数据。装备了神经网络处理器的芯片应用在监控摄像头上,摄影头由“眼睛”升级为“带有大脑的眼睛”。通俗一点就是给摄像头加上一个可以智能识别物品的芯片,把摄像头变成“眼睛”。 归纳:拍照处理器

  • @perfectwong7242
    @perfectwong7242 Жыл бұрын

    哈哈哈,剝削呢?

  • @oscaryang5733
    @oscaryang57333 ай бұрын

    😂還是聽不懂,付錢買新電腦就對了🎉

  • @user-st7gg1kr2w
    @user-st7gg1kr2wАй бұрын

    哪个初中讲了半经典浮点数。。。

  • @MarkZeng1227

    @MarkZeng1227

    Ай бұрын

    我也是滿頭問號😅

  • @tyronetyrone2652
    @tyronetyrone26529 ай бұрын

    NPU是图像处理,NPU是计算处理,感觉这样理解也不对

  • @ricklin2755

    @ricklin2755

    Ай бұрын

    NLP是做AI模型inference用的,GPU是訓練的時候用的

  • @user-db7zw2gc2p
    @user-db7zw2gc2pАй бұрын

    可以講台語嗎,卷舌太重聽不清,謝謝啦

  • @garyli9914

    @garyli9914

    Ай бұрын

    一本正經的胡說八道,這是科普頻道,請不要搞意識形態。

  • @594wei

    @594wei

    Ай бұрын

    @@garyli9914 有些人就是習慣填鴨式的 什麼都準備好 等別人塞進去 有些人則是自己想辦法學習

  • @michaelchen4879

    @michaelchen4879

    Ай бұрын

    這種高精尖的複雜變化和解析要如何用台語來講解?你真是個廢人!為何不乾脆叫國際科學期刊也都用台語出版發行?問題是這個世界有台語文嗎?你寫出來大家看,沒人會鳥你的!大家都`聽得懂,就你一個人聽不懂?該去看醫生了!

  • @ericrock2943

    @ericrock2943

    28 күн бұрын

    干 ,你是在 靠北 殺小 ,聽不懂 去吃大便

  • @ericrock2943

    @ericrock2943

    28 күн бұрын

    靠北殺小,聽不懂去吃大便

  • @user-ej3ki9fw7l
    @user-ej3ki9fw7l Жыл бұрын

    最深理解才有最恰当比喻! 所见当老师是套词语混饭! 学霸都是鄙视老师脑袋瓜! 师无智而越敬畏自然运规!

  • @jianguowu2042
    @jianguowu2042Ай бұрын

    地主和驴

  • @migemige-nf6lk
    @migemige-nf6lkАй бұрын

    不懂不用勉强

  • @limlim4251
    @limlim4251 Жыл бұрын

    跟上新时代国际语言的中华文字简体中文发展趋势。大家要醒!这个时代不需要继续让世界复杂旧体难学繁体的! 醒呀!海外许多地方很久以前小学生就学习中华简体中文了,没有必要继续将文字复杂化!文字觉醒呀! 让世界及子子孙孙容易学中文, 全面跟上国际大成员的中华文字发展趋势的简体中文. 海外很久以前小学生就学习简体中文了! ! 不要脱离中华文字发展趋势呀! 全面采用容易学的简体中文,让世界及子子孙孙容易学! 加油! 复杂旧体的繁体留给专家。

  • @user-ny1xj3ue8z

    @user-ny1xj3ue8z

    7 ай бұрын

    可悲啊,中華文字的美,都被你當屎丟了

  • @HERMES9988
    @HERMES99885 күн бұрын

    到底在說啥

  • @a35504804
    @a35504804Ай бұрын

    高通驍龍晶片就沒NPU啊 他的AI是靠cpu+gpu+dsp達成

Келесі