幻觉工程师

这是OpenAI安全研究副总裁翁荔@lilianweng的博客，质量很高 她曾分享过自己写博客的思路和流程： 1. 先锚定一个具体明确的研究方向作为写作主题。 2. 围绕选定的主题大量阅读相关领域的论文，充分覆盖关键研究成果。 3. 对所有读过的研究进行梳理归类，建立一套清晰的分类体系。 4. 从各类研究中抽取出共通的底层逻辑、核心思想或是统一的数学框架，找到贯穿全部研究的内在脉络。 5. 跳出单篇论文的视角，围绕提炼出的核心主线重新整合所有内容。 6. 用自己的理解与推导，填补不同研究之间的逻辑空白与衔接缺口，让整个内容链条连贯完整。 7. 把内容组织成一篇逻辑顺畅、层层递进，让读者能从…

一定要用能翻墙的模型！ 刚刚，复旦大学团队发布了对ChatGPT、DeepSeek、Grok、豆包、文心、元宝等AI工具的引用研究。 中外AI看的东西真不一样。 文心最常引用的 20 个域名，占了全部引用的 70%，百家号就接近 20%；豆包大量引用今日头条和字节系内容；元宝大量引用公众号和腾讯系内容。 另一份针对 ChatGPT、Google、Perplexity 的 2 万多条引用研究里，高频来源排在前面的包括：YouTube、Wikipedia、Reddit、Reuters、NYT、美国国家医学图书馆、WSJ、Deloitte。 当然 Reddit、YouTube 也不等于高质…

冷知识： 你访问一个网站时，对方能收集的数据包括鼠标移动轨迹、打字速度、键盘每个按键按下和松开的时间间隔、页面按钮操作顺序、屏幕刷新率，甚至字体渲染和WebGL的差异。 这些数据的价值之一是防爬虫，还可以用于金融风控， 像是BioCatch 做的就是分析这些操作，还包括有没有异常犹豫，复制粘贴，页面跳转方式和平时是否一致，再实时判断现在操作账户的人是不是正常用户，防止盗号、诈骗，现在BioCatch已经被Visa以24 亿美元收购了。

非常赞同，安全研究和安全测试是两个层级的工作。 一类是实现层， 本质是开发者的写代码疏忽，修个补丁就完事，对整个系统的设计方法论、验证体系没有任何反向贡献 另一类是设计层， 代码没错，但底层设计的核心假设本身就存在安全漏洞

1.苦难没有任何价值，能不能成长取决于你怎么处理它。 2.人的痛苦往往是大脑给事件加的解释。 3.通过财商及心智训练可以让你不那么痛苦。 举个例子： 把人的情绪想象像一条 HTTP 请求。 外面发生一件事，只是原始报文。失去一段关系、亏了一笔钱、被人否定、事情没做到预期，这些都是客观事实。 真正让你痛苦的，是这条信息经过大脑以后，被加上了失败、失去、羞耻、不公平、我不行这些字段，然后再转发给你的内心。 怎么才能让自己不那么痛苦？ 学会在这条请求转发之前，抓包，把它截下来。 先看原始报文到底是什么，再看大脑偷偷往里面加了什么参数。 事实可能只是亏了十万，大脑给它加上的参数是我完了…