#前言

首先，非常感謝得捷電子和電源網(wǎng)共同舉辦的Digikey年度寵粉活動，使得我能夠有機會接觸到新興的開發(fā)版設(shè)備，希望活動以后辦的越來越好。

本次購買的是Hailo 開發(fā)的一款高性能邊緣 AI 處理器(NPU)，它專為低功耗、高效率的深度學(xué)習(xí)推理任務(wù)設(shè)計，可以提供高達 26 TOPS 的計算能力，適用于各種邊緣計算場景。為了和已有的樹莓派5開發(fā)版適配，我購買的是AI HAT版本，是專門為樹莓派設(shè)計的ai算力擴展板?？上У氖沁@個開發(fā)板只支持圖像模型的推理，而不支持最近大火的大語言模型。購買地點是在線上的得捷電子官方，里面的元器件開發(fā)板都很齊全，而且有質(zhì)量保證，發(fā)貨速度快，值得推薦。

AI HAT模塊非常適合樹莓派5，剛好利用了樹莓派5上的mini PCIE接口。組裝好的兩者展示如下

其擁有26tops的算力，推理速度和英偉達的低端系列jetson相比略勝一籌。

官方也對相關(guān)應(yīng)用有代碼支持。

經(jīng)過測試，yolov8模型使用720p分辨率進行視頻推理可以穩(wěn)定保持實時30fps的幀率。而且hailo官方也提供了模型轉(zhuǎn)換工具，用于將pc機器上面訓(xùn)練好的模型權(quán)重放到hailort運行時環(huán)境中運行，類似于在rk瑞芯微的板卡上運行模型需要將pt或者onnx格式的模型保存為rknn進行npu推理加速。在以后我會嘗試，將埂新的模型移植到hailo8板卡上，如yolov10，yolov11等。

yolov8模型結(jié)構(gòu)

最后，我還得感謝電源網(wǎng)和得捷電子提供這次活動參加機會，我會利用這個ai模塊學(xué)習(xí)更多ai部署相關(guān)知識。