分類: 技術快遞
Google Research 釋出一項AI記憶體壓縮技術 TurboQuant 如果你跟我一樣,經常為了榨顯卡效能、塞進更大的Context Length(上下文長度)跟VRAM斤斤計較,這技術值得你高度關注,是針對大語言模型推論階段最吃資源的 KV Cache,進行壓縮的演算法並做到「零精度損失」...
發現一款適合一人公司及內容創作人的行銷自動工具 AiToEarn ,現在創作者挺辛苦,寫好一篇文章或拍完一部影片,還要手動貼上到YT、FB、IG、Threads等各大社群,這款開源工具可以協助你「AI內容生成」與「多平台一鍵發佈」,能大幅降低你操作多個平台的時間成本,或許能省下昂貴的商用自動化訂閱費...
許多視覺設計師或美編遇到客戶丟來個「郵票般大小」的圖片或是長輩拿來的模糊老照片,過去只能在Photoshop裡硬著頭皮搞,結果會得到一張免強可用的「模糊大圖」,而 Upscayl 可直接在本地端調用AI模型進行像素重組與細節生成,是開源且支援跨平台的畫質救援神兵之一...
多裝置工作人檔案傳輸一直是一大痛點,很多人為了把照片或Log檔從手機傳到電腦,還在用Line拉個「一人群組」或是翻找隨身碟,這不僅沒效率,有些文件你還要猶豫會不會有資安或隱私問題,這套 LocalSend 只要在同一個區網,就能實現安全檔案傳送...
Google推出全新的多模態模型 Gemini Omni (首波上線 Gemini Omni Flash),這款模型直接取代了過去的Veo影片生成區塊,主打的不只「生成」,而是可「理解物理、輕鬆編輯」,或許能把AI影音創作推向全新的工作流模式...
客戶「地獄級」的誤刪檔案、磁碟毀損求助時,往往會讓人陷入瘋狂加班的救援,工程師有時候聽著客戶描述檔案消失的過程,心裡想真的會覺得很神奇,到底是怎麼做到把整顆硬碟格式化還順便把備份刪掉的,真實職場故事就是這們玄...
許多自媒體創作人、AI開發人長期被ElevenLabs等雲端語音生成服務的「按字數訂閱制」壓得喘不過氣,這款OmniVoice Studio的本地端開源工具,主打完全免費、注重隱私且不限字數的姿態,直接向付費牆宣戰,究竟實力如何?老黑帶你一探究竟...
客戶電腦幾乎全面服用SSD,讓IT人頭痛的狀況SSD說掛就掛、毫無預警的特性,美光(Crucial)硬碟老黑也賣了不少,每次遇到客戶電腦卡頓或異常,適時跑一下硬碟檢測做到提前更換避免遇到死透狀況,這款美光官方檢測軟體Crucial Storage Executive,讓你徹握硬碟死活,還能優化...
老黑在爬開源AI技術文件,玩地端AI大模型(LLM)的硬派高手,有提到這個SGLang工具,玩本地AI的人都知 […]
目前LLM(大語言模型)讓人頭痛的不是不夠聰明,而是「健忘」,每次開新對話,你得重新定義個人偏好、案件情境都重新餵一次,不僅操作繁瑣,更是在燒你Token錢包,如果你正在開發個人AI助理、客服機器人或是想讓自己的AI具備「長期記憶」,這次老黑幫大家挖出來的Mem0就是你值得研究的解法...