某小学生的破事水日常
902 subscribers
1.23K photos
23 videos
12 files
602 links
Download Telegram
Forwarded from Pseudorandom Thoughts
一些观察:bureaucracy并不是不重视人工智能,但除开接受了良好教育和智库建议的元老院,以及少数真的积极主动用LM的人以外,bureaucracy整体看待人工智能的方式和当年看待5G、鸿蒙、区块链的方式大差不差,因为领导要务在身不可能亲自去搞什么agent loop,所以调研报告的任务就会压到中层乃至一线;而正因为元老院太重视人工智能,这种调研和落实任务就会变成层层传递的OKR,而众所周知,一旦从领导这一层往下分拆,就会涉及到多个不同部门的利益纠葛,当然这也包括部门小领导对AI的接受程度,那么,哪里要用AI,怎么用AI,在你真正要把这个东西在bureaucracy和Staatsbetrieb大规模搞起来之前,反而要人工写大量的文书汇报和申报材料,开会扯皮,也包括向上做领导的思想工作,于是一两三个月过去了,在别人已经给全量代码库用Mythos跑完一遍安全审计时,你的领导可能仍然在让你去调研洽谈隔壁Staatsbetrieb开发出来的版本号扫描器对接qwen2.5水平对话小助手的“智能漏扫”产品,而一些在内部建设防御性壁垒的部门领导可能早就对带着LLM hype的你不怀好意了。在过去的数年间,我都没见过其他技术带来如此巨大的激进的一线与缓动的中上层之间的割裂。
但LLM的生产力提升终究是客观存在的,如果历史的车轮突然飞起来,动得慢也会成为一种反动,这就为后续更大的冲突埋下隐患。
新王登基
?Wasmer 把完整的 Gecko 引擎和 Firefox UI 编译成了 WASM, 甚至还支持 GPU 加速和 JIT feat,现在你可以在任何浏览器打开 Firefox 了

而且,Only ~50MB!

https://developer.puter.com/labs/firefox-wasm/
原来是 LLM 生成文本啊,不知道的还以为是把输入剁成一堆拿大量文本统计出的最常见字符串组合的词元,高频组合各占一个词元而生僻词拆成更小的子词元,查询一张几万行的大对照表把每个词元换成几千维的数字串每一层除以各元素的均方根,下面把每串数字各与三个不同的矩阵相乘变出 QKV 三个值,在 Q 和 K 上按各自的位置乘一个旋转矩阵把位置信息融合进去,所有的位置用 Q、K 两两点积再除以根号 d_k 把数值压回正常量级,算完先把当前位置后面的未来词元全部用负无穷遮住,再用 softmax 把分数归一化按权重把 V 加权混合成新的数字串,并行跑好几个头再横向拼在一起,再乘一个 W_O 输出投影矩阵线性变换,把结果通过残差加回原来的数字串,省得十几层下来原始信息洗没梯度也传不回去。再过一遍 RMSNorm,扔进一个先把维度扩到约八除以三倍再缩回来的两层矩阵变换里,中间把输入拆两路一路过 SiLu 激活一路不过逐元素相乘,再把结果加回去。这个流程叠几十次,乘一个把几千维压成词表大小的矩阵,过一遍 softmax 变成概率分布,拿温度决定分布宽窄,再或者只保留分数前 k 个,把后面直接归零,或者搞核采样从高到低累加,超过阈值 p 就砍掉后面,只留核心。然后,按这个分布随机选择一个词元,选完把它接到输入后面接着跑下一轮,每层每个注意力头把之前所有步骤的 KV 都留在显存里。新词元算自己一行 Q 跟存好的 K 点积,全程一直循环直到选到那个 eos 的特殊词元,把每次选择的词元拼到一起组合成为最终输出文本呢。
Forwarded from webRTCCat | Present Day, Present Time
永远支持 altman 和杨植麟
Forwarded from webRTCCat | Present Day, Present Time
至于 amodei,我和他不熟,祝他生意不好
幻兽帕鲁有 server to client RCE 可以稳定通杀,恶意服务器可以执行任意代码 0 难度,一会放 POC
「尽管目标技术精湛,在网络安全上很小心,我们的特工还是完整复制了目标的操作系统状态并且找到了利用链…」
「(口哨)你们是怎么做到的。」
「(尴尬地咳嗽)目标把整个可复现的NixOS放在GitHub并且锁了版本。」
你说得对,但是我要开始哈希,基线,冒烟,测试,备份,回滚了
先建立唯一基线,再进行可追溯备份,先进行最小改动,我先进行一轮烟测,检查89个门禁是否通过,上线前进行一轮全量dry-run,上线后校验哈希值,最后进行一轮实测的验收矩阵可信的分布式权威边界版计划已封口等待审计的Canary结束后完成117个Smoke Test后冻结不触碰无关工作树修改也不回退契约定好终态并回传提交SHA基线完好未改不相关代码
https://github.com/kltyton/fanzha-ai-proxy
?
--------
月初:不是fable5.1我不用,月末:国家反诈中心的编码能力也不赖
Forwarded from 每日沙雕墙 (投稿机器人 2.0)
from KiritoXD
前面中间后面全忘了,总之 keep4o 的傻逼还是无穷无尽
Forwarded from ネオン アサ
什么?你的梯子节点被墙了?都是因为你不用reality协议!
——可是我用的就是reality啊?!
你的端口一定不是443吧?都怪你用高位端口!
——可是我用的就是443啊?!
你偷的SNI不对,要偷大厂,大厂的QCI权重高!
——可是我偷的就是大厂啊?!
你偷的SNI不对,要偷ASN相同的,这样才不会被SNI-ASN比对出来!
——可是我有个机器这样偷也墙?!
你偷的SNI不对,要偷邻居,这样才不会被延迟测试比对出来!
——可是我有个机器这样偷还墙?!
你偷的SNI不对,要偷自己,这样才能避免邻居乱搞的连坐!
——可是我有个机器这样偷照样墙?!
我知道了,你一定是没有开启xtls-rprx-vision这个天才flow!
——可是我开了vision还是墙啊?!
我知道了,你一定是开启xtls-rprx-vision这个天才flow没有阻断udp443!
——可是我阻断(vision)不阻断(vision-udp443)都墙啊?!
我知道了,你一定是用的客户端不对,singbox的指纹不合理,你要用xray!
——可是我用的就是xray客户端啊?!
我知道了,你一定是用的服务端不对,singbox的服务端reality特性缺失,你要用xray!
——可是我用的就是xray服务端啊?!
我知道了,你一定是3x-ui路径太浅了被扫到了,都怪3x-ui!
——可是我只监听本地然后SSH隧道反代连接3x-ui啊?!
我知道了,你一定是流量太大了!你一定是机器ASN不行整段墙了!