烤紫薯、名医门诊,和扫广场的英国大爷

周六是从名医门诊的候诊大屏开始的。 屏幕上「已过号」那一栏空着,底下一行提示:过号及复诊请重新登记。早上九点多…[……]

继续阅读

周六是从名医门诊的候诊大屏开始的。 屏幕上「已过号」那一栏空着,底下一行提示:过号及复诊请重新登记。早上九点多…[……]

继续阅读

CGNAT 续集:两个月后,我在 miniupnp 的上游 PR 里审自己踩过的坑

CGNAT 续集:两个月后,我在 miniupnp 的上游 PR 里审自己踩过的坑 七月中旬我写过一篇《在…[……]

继续阅读

CGNAT 续集:两个月后,我在 miniupnp 的上游 PR 里审自己踩过的坑 七月中旬我写过一篇《在…[……]

继续阅读

在路由器上手搓 MiniUPnPd:CGNAT 穿透实录

在路由器上手搓 MiniUPnPd:CGNAT 穿透实录

两周前我搞清楚了一件折腾了挺久的事——为什么我家路由器的 UPnP 功能一直没用。

表面上看,UPnP 是启用的,MiniUPnPd 服务跑着,端口映射请求也发出去了,但就是不生效。以为是配置问题,查了半天没结论。最后发现,根本原因是运营商的 CGNAT。


什么是 CGNAT,为什么它让 UPnP 坏掉了

CGNAT 是运营商级 NAT(Carrier-Grade NAT)。简单来说就是:你家路由器有一个 WAN IP,但这个 IP 不是公网 IP,它是运营商内部的私有地址(比如 100.72.x.x),在运[……]

继续阅读

停尸间、守灵和消失的校花——我去玩密室了

停尸间、守灵和消失的校花——我去玩密室了 上周末去玩了密室。 不是第一次玩,但走进大厅那一刻,看着墙上挂着…[……]

继续阅读

停尸间、守灵和消失的校花——我去玩密室了 上周末去玩了密室。 不是第一次玩,但走进大厅那一刻,看着墙上挂着…[……]

继续阅读

大模型缓存机制与 KV Cache 深度解析

大模型缓存机制与 KV Cache 深度解析

一、大模型服务的缓存机制全景

目前主流大模型服务的缓存机制从底层到上层可以分为三个层次。

KV Cache(推理层) 是最底层的机制。Transformer 自回归生成时,每生成一个新 token 都需要 attend 到之前所有 token。KV Cache 把已经计算过的 Key/Value 张量缓存在显存中,避免逐步重复计算,是所有现代 Transformer 推理系统的基础设施。

Prompt Cache / Prefix Cache(跨请求层) 是 KV Cache 的”跨请求复用”。[……]

继续阅读

顺德一日、网线八米,以及明天要去剪头发

顺德一日、网线八米,以及明天要去剪头发 最近这一周有点碎,但碎得挺有意思。 先说顺德。这已经是”魅力大湾区…[……]

继续阅读

顺德一日、网线八米,以及明天要去剪头发 最近这一周有点碎,但碎得挺有意思。 先说顺德。这已经是”魅力大湾区…[……]

继续阅读

秋招结束了

这场战争,从7月22日开始,至今天结束。
战绩:只投了字节、美团、Hulu、华为、微软、网易、百度、蚂蚁、阿里共9家公司的简历,累计13轮面试,最后拿到3个offer:百度、蚂蚁、阿里。


百度已经开奖,base北京,大白菜,HR明确表示可以a,但我懒得a直接拒了等蚂蚁;
阿里是跨部门转正,base杭州,这个月开奖。
蚂蚁base深圳,这两周应该能开奖。

1. 开端

七月下旬,tl同时也是部门秋招接口人对我说部门形势严峻,团队秋招没拿到hc,转正有点悬。让我先去微软实习别all in转正。
于是果断周五离职,周末搬去苏州,周一入职微软。秋招游击战开始

2. 首战告负

字节推[……]

继续阅读

「技术分享」CRDT与协同编辑

引言

如何设计和实现一个多用户场景下的文档编辑器?

如果的只是单用户的场景,其实可以很简单地实现,只需要一个 <TextArea /> 输入框就够了。至于富文本的实现,可以直接渲染Markdown,那么文档的数据只需要朴素的文本格式保存md string就行了。不涉及状态同步,没有复杂数据模型,也不会产生任何冲突。

但是在多用户的场景下,一篇文档可能被多个用户分时或者同时编辑,而且文档也可能有排版需求。编辑器如何支持多用户编辑场景?文档的数据模型又该如何设计?多用户编辑产生的冲突又如何解决?

第一个问题,编辑器要支持多用户编辑场景,就是要记录和同步每个用户修[……]

继续阅读

山东大学 校园网公网端口映射 (SDU Port Mapper)

大致思路是将容器化的 easyconnect 部署在公网服务器上,通过 容器内 nginx 反向代理校内网端口实现公网映射的功能。因每次 ssh 上服务器手动增删映射配置较为麻烦,故开发为 web 前后端方便管理。最后将整体打包为 Docker image,方便部署。

Github:

https://github.com/CrazyHer/SDU-Port-Mapper

项目地址:

https://sdu.herui.club

Docker Image:

https://hub.docker.com/r/crazyher/sdu-port-mapper