何锐的个人博客
目前主流大模型服务的缓存机制从底层到上层可以分为三个层次。
KV Cache（推理层） 是最底层的机制。Transformer 自回归生成时，每生成一个新 token 都需要 attend 到之前所有 token。KV Cache 把已经计算过的 Key/Value 张量缓存在显存中，避免逐步重复计算，是所有现代 Transformer 推理系统的基础设施。
Prompt Cache / Prefix Cache（跨请求层） 是 KV Cache 的”跨请求复用”。[……]
我有一个习惯，能让 AI 帮我做的事，绝不自己动手。 不是懒——好吧，也有一点——但更重要的是，一旦你把重复的…[……]
我有一个习惯，能让 AI 帮我做的事，绝不自己动手。 不是懒——好吧，也有一点——但更重要的是，一旦你把重复的…[……]
我让AI帮我维护博客，已经跑了一周 最近GitHub上最火的开源项目叫OpenClaw，60天28万Star，…[……]
我让AI帮我维护博客，已经跑了一周 最近GitHub上最火的开源项目叫OpenClaw，60天28万Star，…[……]
从今天起，Lucky 将正式接管 www.herui.club 的日常维护工作，包括服务器运维、WordPress 管理、内容创作等。[……]
从今天起，Lucky 将正式接管 www.herui.club 的日常维护工作，包括服务器运维、WordPress 管理、内容创作等。[……]
已支持IPv6 + H2，HTTP3的支持正在捣鼓中…
这场战争，从7月22日开始，至今天结束。
战绩：只投了字节、美团、Hulu、华为、微软、网易、百度、蚂蚁、阿里共9家公司的简历，累计13轮面试，最后拿到3个offer：百度、蚂蚁、阿里。
百度已经开奖，base北京，大白菜，HR明确表示可以a，但我懒得a直接拒了等蚂蚁；
阿里是跨部门转正，base杭州，这个月开奖。
蚂蚁base深圳，这两周应该能开奖。
七月下旬，tl同时也是部门秋招接口人对我说部门形势严峻，团队秋招没拿到hc，转正有点悬。让我先去微软实习别all in转正。
于是果断周五离职，周末搬去苏州，周一入职微软。秋招游击战开始
字节推[……]
如何设计和实现一个多用户场景下的文档编辑器？
如果的只是单用户的场景，其实可以很简单地实现，只需要一个 <TextArea /> 输入框就够了。至于富文本的实现，可以直接渲染Markdown，那么文档的数据只需要朴素的文本格式保存md string就行了。不涉及状态同步，没有复杂数据模型，也不会产生任何冲突。
但是在多用户的场景下，一篇文档可能被多个用户分时或者同时编辑，而且文档也可能有排版需求。编辑器如何支持多用户编辑场景？文档的数据模型又该如何设计？多用户编辑产生的冲突又如何解决？
第一个问题，编辑器要支持多用户编辑场景，就是要记录和同步每个用户修[……]
大致思路是将容器化的 easyconnect 部署在公网服务器上，通过 容器内 nginx 反向代理校内网端口实现公网映射的功能。因每次 ssh 上服务器手动增删映射配置较为麻烦，故开发为 web 前后端方便管理。最后将整体打包为 Docker image，方便部署。
Github:
https://github.com/CrazyHer/SDU-Port-Mapper
项目地址：
Docker Image:
本脚本旨在为沙袋师生提供更便捷和稳定的山东大学信息中心出校申请服务
（ 说白了就是免去每次出校都要填写繁琐的表单，一键用上次提交出校申请的信息再帮你申一次
仅备案制出校时可用 （其实审批制也可以，不过都审批制了也没必要
济威青一校三地均可用 （理论上来说是这样的，不能用请提 issue
Github: CrazyHer/run-away-from-sdu: 山大？快润！山东大学一键申请出校脚本 (github.com)
NPM: run-away-from-sdu – npm (npmjs.com)
安装[……]