SEMICONDUCTOR TECHNOLOGY

半導體技術

從先進封裝、HBM、AI 推論架構到半導體系統技術,整理晶片與封裝的工程脈絡。

AI 漫畫小教室 #1:LLM Token 與 KV Cache

這篇先用六張漫畫回答一個問題:LLM 為什麼能一句一句接出像樣的回答?我們會從「猜下一個字」開始,慢慢帶到 token、向量、K/V 筆記與 KV Cache,最後再看為什麼對話越長,AI 系統越容易被記憶體與資料搬移拖慢。