科技笔记
共 122 篇文章

两周上线一套推理服务:智能体优化系统的门槛不在代码,在反馈
十万张国产加速卡上的推理服务,从跑通到上线不到两周。真正的难点不是写代码,而是把端到端指标拆成可归因、可验证的反馈。

一笔 10 枚比特币的捐赠躺了三年:开源项目的钱,比代码更难管
2023 年转入的 10 枚比特币,如今约值 80 万美元,却在一个开源项目的地址上躺了几年。收得到钱和管得了钱,是两回事。

长文档检索总答非所问,问题出在切块
Manticore 把切块做进数据库内部:在自家手册上实测,深处内容的召回率从 55.1% 提升到 83.3%。

相框听见鸟叫,画出两百年前的插画
树莓派加电子墨水屏,靠本地 AI 听声辨鸟,再把识别到的鸟变成十九世纪手工上色的鸟类图版。

驾照背面的签名,一直没人能验证
美加多州驾照条形码里其实有 ECDSA 签名,但公钥从未公开,作者用数学方法反推出两个州的公钥。

一个临时补丁活了十二年,被装了两千万次
2014 年为升级 AOL 内容管理系统写的 174 行兼容代码,如今被安装近两千万次,里面还藏着一个吃掉字母的缺陷。

十万张国产加速卡上,跑起了一个推理服务
智谱回顾如何在超过十万张国产加速卡的集群上,从零搭出 GLM-5.3-Flash 的生产级推理服务。

一个开源浏览器引擎,靠每月捐款养了一年
Servo 用捐款请一位维护者做了一年贡献者体验,交出的不是新功能,而是 8 名新维护者和 1150 个被审阅的请求。

把后训练过程直播出来:一次百万美元班底的透明实验
小米把 MiMo v2.6 强化学习后训练过程实时公开,总花费 1,003,940 美元,pro 与 flash 并行,展示奖励、损失、梯度范数、分布差异、耗时、累计 token 及样本日志,连显存故障重跑也记录。批次构成显示代码约 68%、视觉 13%、通用 12%、安全 4%、对话 3%。文章指出,公开成本、失败和曲线使训练代价可比较,也抬高同行含糊解释的成本;但公开的是指标而非配方,透明不等于可复制。对 AI 落地团队,过程数据本身就是资产,训练日志、评测记录与失败样本积累起来,比多调一轮参数更有价值。

一只听得懂鸟叫的墨水屏:小硬件里的大生意
挪威开发者用树莓派、麦克风和13.3英寸彩色墨水屏做观鸟相框:持续收音,本地开源模型识别鸟种并写入数据库,屏幕仅在变化时重绘,以公有领域博物画显示,未听到时留空树枝,在线可看实时鸟况。无需用户操作,被视为AI进入家庭的现实形态:在物件里增加能力。技术上,本地识别、按需刷新和本地数据库兼顾省电、隐私与断网;效果取决于麦克风位置和鸟况,算力非瓶颈。授权:识别模型非商业相同方式共享,出售前须解决模型与插画许可。可迁移到景区解说等文旅科普场景。
