[Local LLM] 你好 NVFP4: strata-0.1.44.1, qwen3.8-flash-next, rtx pro 5000 48GB + 64GB RAM, decode 130t/s, prefill2600 t/s
via V2EX (author: sentinelK)
via V2EX (author: sentinelK)
Telegraph
[Local LLM] 你好 NVFP4: strata-0.1.44.1, qwen3.8-flash-next, r…
如题。 相较于只有ISTA-DASLab 孤立跑分的 IQ3 系列,nvfp4 有英伟达官方站台,所以其能力会更有说服力。 更何况 nvfp4 并不是全 4bit ,很多参数都保持了全量 bf16 。 对于 64GB ram + rtx pro 5000 48GB 而言。瓶颈主要是因为专家变大了,导致显存只能放进 13500 个专家,从而专家命中率从 99.7%降低至大概 97.x~99%。 然后就是因为内存的紧张,所以 Conversation cache 只能维系在 8GB ,4slot 。 其他的配置保持不变。…
[酷工作] Looking for good Execution Systems Dev
Focus: Trading Infrastructure / Execution Systems
Requirements
1.Programming & Systems
● 熟悉 Rust ,精通 Python
● 对编译原理、Data Warehouse 有自己的理解
2.Trading Pipeline Tooling 专注交易链路上的工具开发,包括:
● data pipeline 、message bus 扩展
● risk control tools
● execution algo
● backtest
3.Framework
● 了解 Nautilus Trader 框架 https://github.com/nautechsystems/nautilus_trader
Compensation
● Base Salary: $5,000 – $10,000 USD / month
● Bonus: Project based bonus
Office Location: Hong Kong / Remote Contact Email: profilesai@proton.me (
via V2EX (author: zp851924)
Focus: Trading Infrastructure / Execution Systems
Requirements
1.Programming & Systems
● 熟悉 Rust ,精通 Python
● 对编译原理、Data Warehouse 有自己的理解
2.Trading Pipeline Tooling 专注交易链路上的工具开发,包括:
● data pipeline 、message bus 扩展
● risk control tools
● execution algo
● backtest
3.Framework
● 了解 Nautilus Trader 框架 https://github.com/nautechsystems/nautilus_trader
Compensation
● Base Salary: $5,000 – $10,000 USD / month
● Bonus: Project based bonus
Office Location: Hong Kong / Remote Contact Email: profilesai@proton.me (
mailto:profilesai@proton.me) (请直接提交简历和个人 GitHub 数学,统计学专业优先考虑)via V2EX (author: zp851924)
[分享创造] 做了个把照片变成 freestyle 视频的小工具
最近做了个 Bulin 47 AI,上传一张人物照片,可以生成一段 15 秒左右的 freestyle AI 视频。偏娱乐和社交分享,功能比较单一,欢迎大家帮忙试试。
via V2EX (author: zhanzhanwd)
最近做了个 Bulin 47 AI,上传一张人物照片,可以生成一段 15 秒左右的 freestyle AI 视频。偏娱乐和社交分享,功能比较单一,欢迎大家帮忙试试。
via V2EX (author: zhanzhanwd)
[酷工作] 内推 Java 开发工程师(高级) Base 成都 18-25K
上次有几个岗位,已有合适人选了,本月新增了一个 HC 。
Java 开发工程师(高级)
薪资范围:18-25K,经验特别契合者薪资可再议
岗位职责
1. 深度参与教育类平台的需求分析、系统架构设计、详细设计和核心代码开发。
2. 帮助团队成员解决技术问题,组织相关技术分享;维护现有系统和新系统的平稳运行,适时改进和重构。
任职要求
1. 全日制本科及以上学历,计算机、软件工程等工科专业优先、5 年以上开发经验、对 Ai Coding 有深刻实践和认知。
2. JAVA 语言基础扎实,包括不限于:语言新特性(JDK8->21)、多线程、JVM 等。
3. 熟悉 Spring Cloud 开发体系,包括不限于 Spring Boot 、Gateway 、Nacos 、Mybatis 等主流开源框架,了解底层实现原理 。
4. 熟悉数据库设计,熟悉 MySQL 、ES 等数据库,并具有良好的 SQL 编写及调优能力。
5. 熟悉分布式系统理论,参与完整分布式系统的设计和开发经验,尤其有大数据量、高并发、高可用的技术落地方案。
6. 熟悉使用 K8S/Docker 等容器环境、Git 版本管理等基础开发与运维环境。
加分项
1. 2 年以上教育行业经验优先。
2. 熟悉大模型的基本特性,熟悉 Prompt/Agent 工程,深刻理解大模型在 k12 教育下的场景应用。
3. 具备快速学习新技术的能力,对 AI 领域充满热情,对 AI 编程有深刻实践和认知,愿意探索未知领域。
简历发送至:d3d3X3l4ZkBmb3htYWlsLmNvbQ==
via V2EX (author: damai0419)
上次有几个岗位,已有合适人选了,本月新增了一个 HC 。
Java 开发工程师(高级)
薪资范围:18-25K,经验特别契合者薪资可再议
岗位职责
1. 深度参与教育类平台的需求分析、系统架构设计、详细设计和核心代码开发。
2. 帮助团队成员解决技术问题,组织相关技术分享;维护现有系统和新系统的平稳运行,适时改进和重构。
任职要求
1. 全日制本科及以上学历,计算机、软件工程等工科专业优先、5 年以上开发经验、对 Ai Coding 有深刻实践和认知。
2. JAVA 语言基础扎实,包括不限于:语言新特性(JDK8->21)、多线程、JVM 等。
3. 熟悉 Spring Cloud 开发体系,包括不限于 Spring Boot 、Gateway 、Nacos 、Mybatis 等主流开源框架,了解底层实现原理 。
4. 熟悉数据库设计,熟悉 MySQL 、ES 等数据库,并具有良好的 SQL 编写及调优能力。
5. 熟悉分布式系统理论,参与完整分布式系统的设计和开发经验,尤其有大数据量、高并发、高可用的技术落地方案。
6. 熟悉使用 K8S/Docker 等容器环境、Git 版本管理等基础开发与运维环境。
加分项
1. 2 年以上教育行业经验优先。
2. 熟悉大模型的基本特性,熟悉 Prompt/Agent 工程,深刻理解大模型在 k12 教育下的场景应用。
3. 具备快速学习新技术的能力,对 AI 领域充满热情,对 AI 编程有深刻实践和认知,愿意探索未知领域。
简历发送至:d3d3X3l4ZkBmb3htYWlsLmNvbQ==
via V2EX (author: damai0419)
[分享创造] Lexora:新增伙伴招募机制(多 agent),更强的 UI 插件能力
之前分享过 Lexora 。这次主要更新了伙伴机制(学习游戏的风格,分为主角、NPC ,底层是 multi agent 、subagent ),也继续丰富了插件能力和界面,所以献上给佬们品尝一下。
GitHub:useLexora/Lexora
主题方面,除了内置主题,也可以通过插件定制界面:
下面是一次 WebDAV 同步方案研究中,两个 Researcher 分别查资料的过程:
via V2EX (author: hackyuan)
之前分享过 Lexora 。这次主要更新了伙伴机制(学习游戏的风格,分为主角、NPC ,底层是 multi agent 、subagent ),也继续丰富了插件能力和界面,所以献上给佬们品尝一下。
GitHub:useLexora/Lexora
主题方面,除了内置主题,也可以通过插件定制界面:
下面是一次 WebDAV 同步方案研究中,两个 Researcher 分别查资料的过程:
via V2EX (author: hackyuan)
[推广] 🔥 B2Proxy 超值大促|限时特惠 3GB 仅$2.99 |最高 25%OFF+免费试用
B2Proxy 超值大促现已上线!
限时优惠,助你以更低成本获取稳定住宅代理,适合市场研究、广告验证、SEO 监控、品牌保护等场景。
🎁 新用户福利:免费测试流量
新用户注册即可申请免费测试流量,先体验再购买。测速、测稳定性、测地区覆盖,满意再下单。
🎯 动态住宅代理
新用户专享:3GB 仅 $2.99
100GB 限时立减 $20:原价 $110 ,现价 $90
3000GB 限时直降 $350:原价 $2,500 ,现价 $2,150
支持地区和 ASN 定向、轮换与粘性会话
♾️ 不限量住宅代理
1 小时试用仅 $10 !!
购买 1 小时试用即送升级礼包!
升级 Week / 15 Days / MONTH 套餐,最高省 $480 !
优惠券 72 小时内有效
💰 全站活动:消费越多,省得越多
购买任意订单送下一单折扣券,最高 25% OFF ,无最低消费
折扣券 7 天内有效,每位用户限参与一次。
🚀 立即抢购
👉 https://www.b2proxy.com/zh-CN?utm_t=1&utm_i=129
如有疑问,欢迎回帖或私信,我们会及时解答。限时优惠,先到先得!
via V2EX (author: B2Proxy)
B2Proxy 超值大促现已上线!
限时优惠,助你以更低成本获取稳定住宅代理,适合市场研究、广告验证、SEO 监控、品牌保护等场景。
🎁 新用户福利:免费测试流量
新用户注册即可申请免费测试流量,先体验再购买。测速、测稳定性、测地区覆盖,满意再下单。
🎯 动态住宅代理
新用户专享:3GB 仅 $2.99
100GB 限时立减 $20:原价 $110 ,现价 $90
3000GB 限时直降 $350:原价 $2,500 ,现价 $2,150
支持地区和 ASN 定向、轮换与粘性会话
♾️ 不限量住宅代理
1 小时试用仅 $10 !!
购买 1 小时试用即送升级礼包!
升级 Week / 15 Days / MONTH 套餐,最高省 $480 !
优惠券 72 小时内有效
💰 全站活动:消费越多,省得越多
购买任意订单送下一单折扣券,最高 25% OFF ,无最低消费
折扣券 7 天内有效,每位用户限参与一次。
🚀 立即抢购
👉 https://www.b2proxy.com/zh-CN?utm_t=1&utm_i=129
如有疑问,欢迎回帖或私信,我们会及时解答。限时优惠,先到先得!
via V2EX (author: B2Proxy)
[分享创造] 机场流量总莫名跑光?写了个原生 Mac 菜单栏小账本: Mihomo Monitor
之前在站里拜读并体验过 lufficc 大佬开源的
加上最近自己天天折腾各种本地 Agent 和 AI 辅助工具,经常不知道流量被哪个应用偷偷吃了。于是 Vibe Coding 手搓了这个专为 Mac 菜单栏打造的原生小工具:Mihomo Monitor。
核心功能很轻巧:
1. 只统计代理流量:自动过滤国内直连( Direct/Reject ),100% 专注出海流量消耗;
2. 全应用进程归因:无论是 Chrome 、终端 CLI 脚本还是 AI 工具,自动反查真实进程,并匹配 macOS 原生高清图标;
3. 多维度与本地存盘:按应用、域名和节点把数据存入本地 SQLite ( WAL 模式),随时看今天、近 7 天和累计;
4. 纯原生质感:SwiftUI 原生常驻菜单栏,接入了系统级数字轮盘平滑滚动翻转动效,深浅色跟随系统。
● GitHub: https://github.com/Jolly-J/MihomoMonitor
● DMG 直接下载: https://github.com/Jolly-J/MihomoMonitor/releases/download/v0.1-beta/MihomoMonitor-v0.1-beta.dmg
刚搓出 v0.1-beta,目前只针对 macOS 且适配了 Mihomo 内核(基于 Clash Verge Rev 服务模式)。 另外穷学生/爱好者舍不得每年花 99 刀买开发者证书 🥲,初次打开如果被系统拦截,去「系统设置」->「隐私与安全性」点一下“仍要打开”即可。
代码 100% 本地开源运行,欢迎大家体验拍砖!后续也欢迎有兴趣的 V 友一起共创支持更多内核。
via V2EX (author: JollyJ)
之前在站里拜读并体验过 lufficc 大佬开源的
clash-traffic,多机同步和订阅分析功能非常强大。不过我自己是个坚定的 macOS 菜单栏洁癖党,日常习惯了快捷查看,更想要一个纯 SwiftUI 原生开发、只常驻在菜单栏、不用切大窗口、看一眼就走的轻量随身账本。加上最近自己天天折腾各种本地 Agent 和 AI 辅助工具,经常不知道流量被哪个应用偷偷吃了。于是 Vibe Coding 手搓了这个专为 Mac 菜单栏打造的原生小工具:Mihomo Monitor。
核心功能很轻巧:
1. 只统计代理流量:自动过滤国内直连( Direct/Reject ),100% 专注出海流量消耗;
2. 全应用进程归因:无论是 Chrome 、终端 CLI 脚本还是 AI 工具,自动反查真实进程,并匹配 macOS 原生高清图标;
3. 多维度与本地存盘:按应用、域名和节点把数据存入本地 SQLite ( WAL 模式),随时看今天、近 7 天和累计;
4. 纯原生质感:SwiftUI 原生常驻菜单栏,接入了系统级数字轮盘平滑滚动翻转动效,深浅色跟随系统。
● GitHub: https://github.com/Jolly-J/MihomoMonitor
● DMG 直接下载: https://github.com/Jolly-J/MihomoMonitor/releases/download/v0.1-beta/MihomoMonitor-v0.1-beta.dmg
刚搓出 v0.1-beta,目前只针对 macOS 且适配了 Mihomo 内核(基于 Clash Verge Rev 服务模式)。 另外穷学生/爱好者舍不得每年花 99 刀买开发者证书 🥲,初次打开如果被系统拦截,去「系统设置」->「隐私与安全性」点一下“仍要打开”即可。
代码 100% 本地开源运行,欢迎大家体验拍砖!后续也欢迎有兴趣的 V 友一起共创支持更多内核。
via V2EX (author: JollyJ)
[问与答] 关于大型项目,使用 AI 的实践问题
RT ,一直在使用 AI 进行编码工作,使用的是 codex ,pro 版本。 随着项目逐渐庞大起来,问题就浮现了。
1.全局提示词作用不大 关于这个问题,我已经试过各种方式对全局提示词进行过处理,包括但不限于精简提示词,为提示词做功能分区。 具体问题:已经在提示词内写入,编码完毕之后,使用工具对代码进行格式化 2.代码质量越发下降 其实这个问题,应该是归属第一个问题,但是这个也是在代码量起来之后。 具体问题:已经在提示词写入关于 mybatisplus 的用法示例,以及相关的规范限制。 仍然会出现,在 mapper 接口处,使用注解,并在注解内写简单 sql 。例如如果有一张学生表需要查 id 和 name 字段,它会在接口处写: @Select("select id, name from student where id = #{id}") 3.代码不够统一 也是 2 的延伸问题,越到后边,代码规范问题越发严重
想问下针对于这三个问题,有什么最佳实践来处理吗?
via V2EX (author: hytex)
RT ,一直在使用 AI 进行编码工作,使用的是 codex ,pro 版本。 随着项目逐渐庞大起来,问题就浮现了。
1.全局提示词作用不大 关于这个问题,我已经试过各种方式对全局提示词进行过处理,包括但不限于精简提示词,为提示词做功能分区。 具体问题:已经在提示词内写入,编码完毕之后,使用工具对代码进行格式化 2.代码质量越发下降 其实这个问题,应该是归属第一个问题,但是这个也是在代码量起来之后。 具体问题:已经在提示词写入关于 mybatisplus 的用法示例,以及相关的规范限制。 仍然会出现,在 mapper 接口处,使用注解,并在注解内写简单 sql 。例如如果有一张学生表需要查 id 和 name 字段,它会在接口处写: @Select("select id, name from student where id = #{id}") 3.代码不够统一 也是 2 的延伸问题,越到后边,代码规范问题越发严重
想问下针对于这三个问题,有什么最佳实践来处理吗?
via V2EX (author: hytex)