20190929

客家人錯了嗎?

客家人錯了嗎?

其實我很在意功能功耗比,可以減少總量能源的消耗的演算方式才是好的演算方式,在我的角度來看待的話。因為各種不同的應用環境的限制不一樣,有辦法在小資源部屬的服務彈性才會大。

有讀者說看到我那篇「可以從一個空房間…」的貼文,感觸很深。以前 CPU 啦,記憶體啦…是很珍貴的運算資源。所以設計程式,規劃架構的時候會小心地調整。不要浪費資源,也不要浪費電去訓練「無效」的模型只是為了「試試看」。現在會這樣思考軟體架構的人也漸漸消失了。

我最近看到某商業小公司自行開發的中文斷詞系統,可以在 RPi 這麼小的板子上運作。相較之下相較之下, xx 院的 xxIP 需要 16GB RAM (至少) 和多核的 CPU 以及 GPU 才能運行。我把這個特色和別人講的時候,收到的回應卻是「你們是客家人哦?省這些硬體幹嘛?從 AWS 上租又沒多少錢。我們訓練機器學習的模型時都直接假設頻寬無上限、CPU / GPU 無上線了。」

還有人問我為什麼有推薦這個東西,又不是開源又要收錢,我心裡滿滿碎念想著你是要一個可以真的放在你產品獨立運作的軟體服務,還是只要一個不用錢的玩具自己慢慢調整?你真的以為支援隱私權控制的裝置可以把資料送到雲端上去辨識之後再回來管理嗎?語音辨識跟斷詞在本地端的設備就要做完了啦!如果可以用 Pi 實作的功能為什麼要用 X86 去實作,你知道這個 BOM 跟電力的成本差多少嗎?你不知道!因為你只是花別人的錢在玩自己開心的事情而已。

我做過 embedded 產品開發相關所以才會這樣看待軟體服務設計,低消太高的服務基本上都難照顧,很多事情不需要這麼厲害,生活裡面常用的字詞就是那些,可以解決常見問題讓大家都買得起比較重要。消費型產品是要考慮價格,電量,體積的,所以那些東西永遠都在實驗室裡面是有原因的。

沒有留言: