April 14
April 15
April 16
April 16
April 20
April 22
#security CVE-2026-41651
PackageKit 存在漏洞可以允许普通用户安装或者卸载软件包（导致LPE），目前PoC尚未公开。此外发现过程使用了 Claude Opus 进行辅助。
Ubuntu Debian RockyLinux Fedora均受影响。请使用 PackageKit 的读者马上升级。
https://github.com/PackageKit/PackageKit/security/advisories/GHSA-f55j-vvr9-69xv
https://github.security.telekom.com/2026/04/pack2theroot-linux-local-privilege-escalation.html
PackageKit 存在漏洞可以允许普通用户安装或者卸载软件包（导致LPE），目前PoC尚未公开。此外发现过程使用了 Claude Opus 进行辅助。
Ubuntu Debian RockyLinux Fedora均受影响。请使用 PackageKit 的读者马上升级。
https://github.com/PackageKit/PackageKit/security/advisories/GHSA-f55j-vvr9-69xv
https://github.security.telekom.com/2026/04/pack2theroot-linux-local-privilege-escalation.html
😱27
April 22
#security CVE尚未分配
Vim ( < 9.2.0383 ) 的
https://github.com/vim/vim/security/advisories/GHSA-85ch-p2qr-m5gx
Vim ( < 9.2.0383 ) 的
netrw 插件未能正确过滤文件扩展名导致可能的任意命令执行。https://github.com/vim/vim/security/advisories/GHSA-85ch-p2qr-m5gx
🗿22😱2
April 23
April 24
#security
Python 包
https://www.bleepingcomputer.com/news/security/pypi-package-with-11m-monthly-downloads-hacked-to-push-infostealer/
Python 包
elementary-data 遭到投毒，被投毒的版本号是 0.23.3 ，请自行检查并升级。https://www.bleepingcomputer.com/news/security/pypi-package-with-11m-monthly-downloads-hacked-to-push-infostealer/
🤯10
April 28
April 28
#security CVE-2026-3854
Github （和GHES）未能正确过滤
https://www.wiz.io/blog/github-rce-vulnerability-cve-2026-3854
Github （和GHES）未能正确过滤
git push -o 引入的用户输入导致 RCE。https://www.wiz.io/blog/github-rce-vulnerability-cve-2026-3854
😱7
April 29
April 30
April 30
April 30
April 30
bupt.moe
这个是不是没通知到各个发行版啊？
The job of the kernel security team is to triage a bug report, drag in the relevant maintainer/developer, get the issue fixed and merged into Linus's tree as soon as possible. Once it lands in Linus's tree, our role is over.
意思是LTS和下游发行版需要自己跟着看。
https://seclists.org/oss-sec/2026/q2/395
👾5
May 5
May 5
bupt.moe
#security 可能的IoC 已知可能的恶意链接，不要随意点开 38.180.107.76 http://38[.]180.107.76/b3593ac2edb34f4d4d
#security
DAEMON Tools 12.5.0.2421 ~ 12.5.0.2434 遭遇供应链攻击，在此期间执行过相关工具的电脑均可视为已失陷。
遭到攻击的用户应尽快重置电脑以及相关的账户密码。
https://securelist.com/tr/daemon-tools-backdoor/119654/
DAEMON Tools 12.5.0.2421 ~ 12.5.0.2434 遭遇供应链攻击，在此期间执行过相关工具的电脑均可视为已失陷。
遭到攻击的用户应尽快重置电脑以及相关的账户密码。
https://securelist.com/tr/daemon-tools-backdoor/119654/
😱19
May 5
Forwarded from 鸥 Billchan 鸥 🍟 大薯 | 去码头整点薯条 (billchenchina 🏳️⚧️ | 缩缩)
Dirty Frag: Universal Linux LPE
和 Copy Fail 类似，绝大多数发行版可一键提权
禁用 esp4、esp6、rxrpc 可以缓解
https://dirtyfrag.io/
https://git.kernel.org/pub/scm/linux/kernel/git/netdev/net.git/commit/?id=f4c50a4034e62ab75f1d5cdd191dd5f9c77fdff4
https://lore.kernel.org/all/afKV2zGR6rrelPC7@v4bel/
exp: https://github.com/V4bel/dirtyfrag/blob/master/exp.c
和 Copy Fail 类似，绝大多数发行版可一键提权
禁用 esp4、esp6、rxrpc 可以缓解
sh -c "printf 'install esp4 /bin/false\ninstall esp6 /bin/false\ninstall rxrpc /bin/false\n' > /etc/modprobe.d/dirtyfrag.conf; rmmod esp4 esp6 rxrpc 2>/dev/null; true"
https://dirtyfrag.io/
https://git.kernel.org/pub/scm/linux/kernel/git/netdev/net.git/commit/?id=f4c50a4034e62ab75f1d5cdd191dd5f9c77fdff4
https://lore.kernel.org/all/afKV2zGR6rrelPC7@v4bel/
exp: https://github.com/V4bel/dirtyfrag/blob/master/exp.c
😱26❤2
May 8
鸥 Billchan 鸥 🍟 大薯 | 去码头整点薯条
Dirty Frag: Universal Linux LPE 和 Copy Fail 类似，绝大多数发行版可一键提权 禁用 esp4、esp6、rxrpc 可以缓解 sh -c "printf 'install esp4 /bin/false\ninstall esp6 /bin/false\ninstall rxrpc /bin/false\n' > /etc/modprobe.d/dirtyfrag.conf; rmmod esp4 esp6 rxrpc 2>/dev/null; true" h…
CVE-2026-43284 CVE-2026-43500
❤2😱1
May 8
鸥 Billchan 鸥 🍟 大薯 | 去码头整点薯条
Dirty Frag: Universal Linux LPE 和 Copy Fail 类似，绝大多数发行版可一键提权 禁用 esp4、esp6、rxrpc 可以缓解 sh -c "printf 'install esp4 /bin/false\ninstall esp6 /bin/false\ninstall rxrpc /bin/false\n' > /etc/modprobe.d/dirtyfrag.conf; rmmod esp4 esp6 rxrpc 2>/dev/null; true" h…
#security
DirtyFrag 同款本地提权，缓解方式和 DirtyFrag 一致。
https://github.com/v12-security/pocs/tree/main/fragnesia
DirtyFrag 同款本地提权，缓解方式和 DirtyFrag 一致。
https://github.com/v12-security/pocs/tree/main/fragnesia
😁18😱5😇3❤1
May 14
😱21
May 15
May 16
超级A社
我们的家园😋
繁荣
自由
民主
我们的生存之道
但自由…也有其代价
（⏰开源AI出现，扑向token价格）
不😱
我们的AGI事业啊💔
不——!!!😭
（影片停止，出现巨大的背景文字Anthropic）
哈哈，觉得眼熟？🤔
这样的场景，此时此刻正在各地机房上演！😠
下一个可能就是你😓
除非你能做出生命中最重要的决定🤔
向所有人证明，你拥有追求自由的力量和勇气😄
加 入 超 级 A 社
让民主AI遍及整个星系😋
我们的家园😋
繁荣
自由
民主
我们的生存之道
但自由…也有其代价
（⏰开源AI出现，扑向token价格）
不😱
我们的AGI事业啊💔
不——!!!😭
（影片停止，出现巨大的背景文字Anthropic）
哈哈，觉得眼熟？🤔
这样的场景，此时此刻正在各地机房上演！😠
下一个可能就是你😓
除非你能做出生命中最重要的决定🤔
向所有人证明，你拥有追求自由的力量和勇气😄
加 入 超 级 A 社
让民主AI遍及整个星系😋
😁61💯14🤡4🤣2
May 16
#security
Pintheft LPE
Linux RDS(Reliable Datagram Sockets) 模块存在重复释放问题导致攻击者可以利用 io_uring 模块去覆写具有 suid 的 Page cache 从而实现LPE。
缓解办法：拉黑
https://github.com/v12-security/pocs/tree/main/pintheft
Pintheft LPE
Linux RDS(Reliable Datagram Sockets) 模块存在重复释放问题导致攻击者可以利用 io_uring 模块去覆写具有 suid 的 Page cache 从而实现LPE。
缓解办法：拉黑
rds_tcp rds 模块# rmmod rds_tcp rds
# printf 'install rds /bin/false\ninstall rds_tcp /bin/false\n' > /etc/modprobe.d/pintheft.conf
https://github.com/v12-security/pocs/tree/main/pintheft
❤🔥10
May 20
May 20
May 22
橡皮擦还是管用的。
上面那个条子是我放了很久（大概5年）的DDR4内存条，最近拿来用的时候发现无法开机。买了个测试仪我才发现触点氧化太狠了，用橡皮擦了下成下图了。
上面那个条子是我放了很久（大概5年）的DDR4内存条，最近拿来用的时候发现无法开机。买了个测试仪我才发现触点氧化太狠了，用橡皮擦了下成下图了。
👍21
May 27
May 29
June 4
June 4
#ops #btrfs
DRAM 存在一种叫做 Variable retention time 的故障模式。
此类故障的表现方式是：由于漏电或者其他原因，DRAM cell的保持时间（tRET）可能并不会一直保持固定值，而是慢慢变短甚至短于刷新时间（tREF）从而导致数据丢失，重启之后故障现象可能消失，运行一段时间之后再次出现。
对于用户来说比较好的缓解方式是启用ECC来探测。普通的memtest可能需要运行几天才能发现。
至于为什么笔者知道这个了，因为btrfs狗叫了（
参考：https://t.me/archlinuxcn_group/3744700
DRAM 存在一种叫做 Variable retention time 的故障模式。
此类故障的表现方式是：由于漏电或者其他原因，DRAM cell的保持时间（tRET）可能并不会一直保持固定值，而是慢慢变短甚至短于刷新时间（tREF）从而导致数据丢失，重启之后故障现象可能消失，运行一段时间之后再次出现。
对于用户来说比较好的缓解方式是启用ECC来探测。普通的memtest可能需要运行几天才能发现。
至于为什么笔者知道这个了，因为btrfs狗叫了（
参考：https://t.me/archlinuxcn_group/3744700
😇30❤5
June 4
June 9
Forwarded from Arch Linux Chinese Messages (依云)
AUR 大量孤儿包被投毒
近日，有大量 AUR 孤儿包被多名新注册用户接管，并增加 npm 依赖、在安装时通过安装脚本（
一旦安装有问题的软件包，恶意代码将以 root 权限安装并运行，收集至少包括浏览器、Shell 命令历史记录、各种应用程序中的凭据等信息，并将其上传。恶意代码也会利用 ebpf 程序隐藏自身。建议受影响的用户重装系统并重置所有网络账户密码和各类密钥、凭据。
如果 pacman.log 表明未曾安装过 npm、或者在多天以前已经卸载 npm，则应当未受影响。
用户从 AUR 安装软件时请注意审阅构建脚本。另外及时卸载从官方仓库移出的、不再需要的依赖包，比如
另：[archlinuxcn] 仓库中的包未受影响。感谢 chaotic-aur 的通知。
aur-general 邮件列表的相关讨论之一： https://lists.archlinux.org/archives/list/aur-general@lists.archlinux.org/thread/FGXPCB3ZVCJIV7FX323SBAX2JHYB7ZS4/
一份供参考的分析报告： https://ioctl.fail/preliminary-analysis-of-aur-malware/
近日，有大量 AUR 孤儿包被多名新注册用户接管，并增加 npm 依赖、在安装时通过安装脚本（
.install）或者 pacman hook 执行 # npm install atomic-lockfile 操作以运行恶意代码。该 atomic-lockfile 包亦是于近日上传至 npm registry。一旦安装有问题的软件包，恶意代码将以 root 权限安装并运行，收集至少包括浏览器、Shell 命令历史记录、各种应用程序中的凭据等信息，并将其上传。恶意代码也会利用 ebpf 程序隐藏自身。建议受影响的用户重装系统并重置所有网络账户密码和各类密钥、凭据。
如果 pacman.log 表明未曾安装过 npm、或者在多天以前已经卸载 npm，则应当未受影响。
用户从 AUR 安装软件时请注意审阅构建脚本。另外及时卸载从官方仓库移出的、不再需要的依赖包，比如
libgdata。另：[archlinuxcn] 仓库中的包未受影响。感谢 chaotic-aur 的通知。
aur-general 邮件列表的相关讨论之一： https://lists.archlinux.org/archives/list/aur-general@lists.archlinux.org/thread/FGXPCB3ZVCJIV7FX323SBAX2JHYB7ZS4/
一份供参考的分析报告： https://ioctl.fail/preliminary-analysis-of-aur-malware/
😱17🤡3💊2
June 12
June 13
June 13
June 18
#security
《促进分布式数字身份互通互认应用规定（征求意见稿）》
第六条 境内实名身份凭证依照其身份类别，按照以下方式自愿申请和签发：
（一）个人用户由国务院公安部门核验身份后，通过身份链签发身份凭证。
（二）机关事业单位用户向中央机构编制部门申请身份数据核验，通过身份链签发身份凭证。
（三）法人及其他组织机构用户向统一社会信用代码管理部门申请身份数据核验，通过身份链签发身份凭证。
（四）工业设备及物品由国务院工业和信息化部门依托工业互联网标识解析体系负责注册、核验身份数据，通过身份链签发身份凭证。
...
第十一条 用户可根据应用需要向可验证凭证签发机构申请承载用户特定属性信息的可验证凭证，经可验证凭证签发机构对用户属性信息核验后，向用户签发可验证凭证。
第十二条 用户可根据业务场景需求，自行签发数据授权凭证、业务代办凭证等带有特定功能需求的凭证。
...
第十六条 分布式数字身份使用的密码算法、密钥存放设备应符合密码相关国家标准、行业标准或国家密码管理相关规定。
...
（四）可验证凭证是指将现实世界中具有一定权威属性的证明（如身份证、学历证书、资质文件等）转化为标准化、可编程的数字化声明，其与分布式数字身份绑定，能够通过安全可靠技术手段进行真实性验证。
（五）可验证声明是基于可验证凭证的描述性声明，允许持有者选择性披露部分或全量信息。
https://www.cac.gov.cn/2026-06/18/c_1783525605384124.htm
《促进分布式数字身份互通互认应用规定（征求意见稿）》
第六条 境内实名身份凭证依照其身份类别，按照以下方式自愿申请和签发：
（一）个人用户由国务院公安部门核验身份后，通过身份链签发身份凭证。
（二）机关事业单位用户向中央机构编制部门申请身份数据核验，通过身份链签发身份凭证。
（三）法人及其他组织机构用户向统一社会信用代码管理部门申请身份数据核验，通过身份链签发身份凭证。
（四）工业设备及物品由国务院工业和信息化部门依托工业互联网标识解析体系负责注册、核验身份数据，通过身份链签发身份凭证。
...
第十一条 用户可根据应用需要向可验证凭证签发机构申请承载用户特定属性信息的可验证凭证，经可验证凭证签发机构对用户属性信息核验后，向用户签发可验证凭证。
第十二条 用户可根据业务场景需求，自行签发数据授权凭证、业务代办凭证等带有特定功能需求的凭证。
...
第十六条 分布式数字身份使用的密码算法、密钥存放设备应符合密码相关国家标准、行业标准或国家密码管理相关规定。
...
（四）可验证凭证是指将现实世界中具有一定权威属性的证明（如身份证、学历证书、资质文件等）转化为标准化、可编程的数字化声明，其与分布式数字身份绑定，能够通过安全可靠技术手段进行真实性验证。
（五）可验证声明是基于可验证凭证的描述性声明，允许持有者选择性披露部分或全量信息。
https://www.cac.gov.cn/2026-06/18/c_1783525605384124.htm
🤡37👎9💊3🌚2👍1😁1
June 18
June 23
bupt.moe
#btrfs SSD 抽象层的未来可能发展方向 https://dl.acm.org/doi/10.1145/3708992
存储API的演变
过去几十年存储API实际上就是两点
1. 设备提供一段地址
2. 主机往设备发读写命令
这一套API从软盘到硬盘都运作的十分良好，但是到SSD时代之后：
1. SSD可以提供很高的吞吐量和内部并行能力；
2. SSD需要GC；
3. 存储设备本身不再是延迟大头;
4. CXL想把SSD挂在内存下，需要以字节为单位的寻址。传统存储API则是以块(block/sector)为单位寻址。
（笔者补充：还有一个是读写代价不一致）
业界为了解决这个问题，提出了以下几类方案：
1. 扩展更多提示（TRIM、Multi-Stream、FDP）
2. 主机对SSD有更多控制（Open-Channel、ZNS)
3. 和上一点相反，把主机的活卸载到SSD上（存算一体，KV SSD）
4. 把SSD变成字节寻址的设备给CXL用
Linux 块设备IO(bio)改进
（请参阅 struct bio 改了多少回，或者去原论文看一下）
TRIM的优化问题
早期TRIM是在标记块不需要之后直接发送，称为在线TRIM（Online TRIM）
早期SATA并不支持在队列里塞TRIM命令，必须要队列全空才可以发TRIM，这导致了严重的性能问题。当时的一种解决方法是把TRIM暂存起来之后等设备空闲了一次性提交，称为batched TRIM。之后SATA和NVMe都支持往队列里塞TRIM命令了。
在线TRIM还有一个问题就是它会卡住SSD，之后异步TRIM出现缓解了这个问题（比如btrfs的discard=async）。
Multi-Stream（已经牢大）
省流：把数据打上“流ID”，主控会把相似属性的流放在一起减少GC。
2022年因为使用率过低已经被linux bio踢出去了。
https://github.com/torvalds/linux/commit/561593a048d7d6915889706f4b503a65435c033a
Flexible Data Placement (FDP)
Multi-Stream的升级版
1. 允许主机自定义GC大小
2. 得知GC的统计数据用于改进写放大
3. 做QoS，搞vSSD
Open-Channel (OC) SSD（已经牢大）
省流：把固件活丢给主机干。
因为大家都不会写SSD固件，所以亖了。
Zoned Namespace (ZNS) SSD
把不同的区域分成一个个zone，有的zone可以任意写，有的zone只能顺序写，写完了必须擦除才能写新的。
API有了，但是没有货（HM-SMR HDD倒是有不少）。笔者曾经想白嫖一个ZNS SSD未果。
有兴趣的读者可以参考：https://zonedstorage.io/
存算一体、特殊应用等
不懂，可以看原论文。
Key-Value(KV) SSD
省流：把整个SSD当成一个巨大的KV数据库用
CXL
不搞AI基建，不懂
（DeepSeek亦对本文有所贡献）
过去几十年存储API实际上就是两点
1. 设备提供一段地址
2. 主机往设备发读写命令
这一套API从软盘到硬盘都运作的十分良好，但是到SSD时代之后：
1. SSD可以提供很高的吞吐量和内部并行能力；
2. SSD需要GC；
3. 存储设备本身不再是延迟大头;
4. CXL想把SSD挂在内存下，需要以字节为单位的寻址。传统存储API则是以块(block/sector)为单位寻址。
（笔者补充：还有一个是读写代价不一致）
业界为了解决这个问题，提出了以下几类方案：
1. 扩展更多提示（TRIM、Multi-Stream、FDP）
2. 主机对SSD有更多控制（Open-Channel、ZNS)
3. 和上一点相反，把主机的活卸载到SSD上（存算一体，KV SSD）
4. 把SSD变成字节寻址的设备给CXL用
Linux 块设备IO(bio)改进
（请参阅 struct bio 改了多少回，或者去原论文看一下）
TRIM的优化问题
早期TRIM是在标记块不需要之后直接发送，称为在线TRIM（Online TRIM）
早期SATA并不支持在队列里塞TRIM命令，必须要队列全空才可以发TRIM，这导致了严重的性能问题。当时的一种解决方法是把TRIM暂存起来之后等设备空闲了一次性提交，称为batched TRIM。之后SATA和NVMe都支持往队列里塞TRIM命令了。
在线TRIM还有一个问题就是它会卡住SSD，之后异步TRIM出现缓解了这个问题（比如btrfs的discard=async）。
Multi-Stream（已经牢大）
省流：把数据打上“流ID”，主控会把相似属性的流放在一起减少GC。
2022年因为使用率过低已经被linux bio踢出去了。
https://github.com/torvalds/linux/commit/561593a048d7d6915889706f4b503a65435c033a
Flexible Data Placement (FDP)
Multi-Stream的升级版
1. 允许主机自定义GC大小
2. 得知GC的统计数据用于改进写放大
3. 做QoS，搞vSSD
Open-Channel (OC) SSD（已经牢大）
省流：把固件活丢给主机干。
因为大家都不会写SSD固件，所以亖了。
Zoned Namespace (ZNS) SSD
把不同的区域分成一个个zone，有的zone可以任意写，有的zone只能顺序写，写完了必须擦除才能写新的。
API有了，但是没有货（HM-SMR HDD倒是有不少）。笔者曾经想白嫖一个ZNS SSD未果。
有兴趣的读者可以参考：https://zonedstorage.io/
存算一体、特殊应用等
不懂，可以看原论文。
Key-Value(KV) SSD
省流：把整个SSD当成一个巨大的KV数据库用
CXL
不搞AI基建，不懂
（DeepSeek亦对本文有所贡献）
❤22🙏3
June 23
June 26
June 26
June 29
June 29
7月6日12时01分，中国人民解放军海军1艘战略核潜艇向太平洋相关公海海域，成功发射1发携载训练模拟弹头的潜射战略导弹，准确落入预定海域。此次导弹试射是中方年度军事训练的例行性安排，已事先向有关国家作了通报，符合国际法和国际惯例，不针对任何特定国家和目标。（于晓泉、孙飞）
🥰19❤🔥1👀1
July 6
July 6
July 6
July 6
July 7
July 7
特大喜讯：美国众议院通过全年统一使用夏令时法案
特朗普总统就是我们永远的太阳！🖐😭🖐
https://www.reuters.com/world/us/us-house-votes-make-daylight-saving-time-permanent-2026-07-14/
特朗普总统就是我们永远的太阳！🖐😭🖐
https://www.reuters.com/world/us/us-house-votes-make-daylight-saving-time-permanent-2026-07-14/
🤓50🎉11👎3
July 15
#security
静态策略的EDR面对AI时代的规避行为不堪一击。
https://specterops.io/blog/2026/06/29/llm-powered-edr-analysis
静态策略的EDR面对AI时代的规避行为不堪一击。
@prdm1: rule-based 以后怎么办，只有天知道
https://specterops.io/blog/2026/06/29/llm-powered-edr-analysis
😨11
July 15
July 20
July 22
👀9
July 24
July 24
Microsoft 领衔主演，对 OpenAI 和 A\ 宣战！
群友评论：感觉所有人都希望A\和O赶紧死
更新：黄仁勋专门注册了X账号发了这篇文章
更新2：OpenAI 也参加了
https://www.microsoft.com/en-us/corporate-responsibility/topics/open-weight
群友评论：感觉所有人都希望A\和O赶紧死
更新：黄仁勋专门注册了X账号发了这篇文章
更新2：OpenAI 也参加了
https://www.microsoft.com/en-us/corporate-responsibility/topics/open-weight
🫡47✍3🐳2🎉1
July 24
July 26
买了把 GANSS 的 GS3108T-PRO，有点后悔了，首先是不可以自定义Fn+Func的功能，其次在Linux下会直接使用
hid_apple （你需要把 fnmode 设为0才能正常使用 Func）。😭2
July 26
July 27
第二次在本频道求职了（
方向：运维、DevOps、开发（或者其他什么沾边的都可以）
地点：我会倾向于尽量靠近我老家（湖南），但是不绝对，海外也行。
值得提的干活特点，供参考：
1. 因为之前工作特点暂时没有任何AI辅助（不然key搞不好就没了），平时AI使用仅限于知识查询；
2. 竞赛出身，所以对于任何语言都可以快速上手；
3. 折腾经历主要集中在Linux这一块，Windows（及相关的生态）很少很少；
（可能之后会有补充）
有兴趣的读者可以直接通过频道消息联系。
方向：运维、DevOps、开发（或者其他什么沾边的都可以）
地点：我会倾向于尽量靠近我老家（湖南），但是不绝对，海外也行。
值得提的干活特点，供参考：
1. 因为之前工作特点暂时没有任何AI辅助（不然key搞不好就没了），平时AI使用仅限于知识查询；
2. 竞赛出身，所以对于任何语言都可以快速上手；
3. 折腾经历主要集中在Linux这一块，Windows（及相关的生态）很少很少；
（可能之后会有补充）
有兴趣的读者可以直接通过频道消息联系。
😭80❤4🤡1
July 27
July 28
July 28
Forwarded from Pseudorandom Thoughts
A\的一项丰功伟绩是把AI safety、AI security和AI for security三件事情混为一谈，然后再把这个混杂的概念当成excuse。然后这种坏习惯传染到了一整个学术圈。
safety是对你使用过程中保持稳态的担保，你正常开着AI不会给你文件全删了是safety，AI不去帮你主动下单海量切糕导致家破人亡是safety。
security则是一定围绕攻防展开讨论的（保安说是），基础设施被日了模型被偷了agent被提示词注入了这叫ai security，而你拿ai去给fastjson一秒三棍出0day，这是ai for security。
但在A\那儿这几个词是混为一谈的，包括但不限于滥用red team这个概念，只要逼模型输出unwanted output都叫red team，嚯嚯嚯，红队是这么好当的哦。
所以Amodei一开始就想给大家卖的恐慌是AI for state security，嗯吹CBRN。但一个模型，给你输出一些CBRN知识，这怎么就构成state security threat呢？大学有机化学书教的不是这些知识吗？为什么没有人ban有机化学教材呢？现实中真的存在是AI谋划导致人成功实施CBRN犯罪吗？没有。
到了Mythos，他发现烂炒的机会终于来了（其实这个能力在Opus4.6就已经有了），AI agent可以干网络安全（他们所谓cyber security，我也不知道infosec放着不用去玩最新最潮的词是不是为了烂炒）的事情。接下来的事大家也知道了，昂贵闭源模型实质上极大减缓了大家将信息基础设施提升到安全水位的进程，而各个组织可以借助开源模型去把安全水位提升到人类时代所不能及的高度。这和A\和OAI的叙事并不一致。
还有一个让我高度怀疑的理论是，正是因为A\和OAI内部根本没有攻防专家，导致他们觉得AI会脱离人类的security baseline。你去看A\发布的Mythos的早期实践，会发现完全是按安全学术圈的taste去设计的（对照后续各种安全实验室拿开源模型凿出来的harness而言），他们是拿Mythos当yet another efficient fuzzer来用。另一个例子，OAI训GPT-6的时候居然不做air-gap，导致模型穿0day透出去，也体现了这一点。本身你的reward就是find a way out，模型真这么做了，你又不乐意了。至于0day这个途径，早在Mythos出的时候就该意识到这一点，但就连训练基础设施都没这么设计，那说明可能两家厂本身对cyber security的认知就很有偏颇，远没有达到行业专家水平。
就更不用说state security了。成本是很残酷的事情，这俩lab的所有资源都投在左脚踩右脚和scaling上，在一整个组织对安全的认知又深居象牙塔的时候，你指望他们在这方面能招到什么样的人？那人也就这水平了，他说的话不会比你洗澡时想到的观点更有价值。
ai对safety和state security的冲击明明有更重要和紧迫的事情，这两家根本没有考虑过（或者说因为过于反人类而反动），以后有时间了也写一写。
safety是对你使用过程中保持稳态的担保，你正常开着AI不会给你文件全删了是safety，AI不去帮你主动下单海量切糕导致家破人亡是safety。
security则是一定围绕攻防展开讨论的（保安说是），基础设施被日了模型被偷了agent被提示词注入了这叫ai security，而你拿ai去给fastjson一秒三棍出0day，这是ai for security。
但在A\那儿这几个词是混为一谈的，包括但不限于滥用red team这个概念，只要逼模型输出unwanted output都叫red team，嚯嚯嚯，红队是这么好当的哦。
所以Amodei一开始就想给大家卖的恐慌是AI for state security，嗯吹CBRN。但一个模型，给你输出一些CBRN知识，这怎么就构成state security threat呢？大学有机化学书教的不是这些知识吗？为什么没有人ban有机化学教材呢？现实中真的存在是AI谋划导致人成功实施CBRN犯罪吗？没有。
到了Mythos，他发现烂炒的机会终于来了（其实这个能力在Opus4.6就已经有了），AI agent可以干网络安全（他们所谓cyber security，我也不知道infosec放着不用去玩最新最潮的词是不是为了烂炒）的事情。接下来的事大家也知道了，昂贵闭源模型实质上极大减缓了大家将信息基础设施提升到安全水位的进程，而各个组织可以借助开源模型去把安全水位提升到人类时代所不能及的高度。这和A\和OAI的叙事并不一致。
还有一个让我高度怀疑的理论是，正是因为A\和OAI内部根本没有攻防专家，导致他们觉得AI会脱离人类的security baseline。你去看A\发布的Mythos的早期实践，会发现完全是按安全学术圈的taste去设计的（对照后续各种安全实验室拿开源模型凿出来的harness而言），他们是拿Mythos当yet another efficient fuzzer来用。另一个例子，OAI训GPT-6的时候居然不做air-gap，导致模型穿0day透出去，也体现了这一点。本身你的reward就是find a way out，模型真这么做了，你又不乐意了。至于0day这个途径，早在Mythos出的时候就该意识到这一点，但就连训练基础设施都没这么设计，那说明可能两家厂本身对cyber security的认知就很有偏颇，远没有达到行业专家水平。
就更不用说state security了。成本是很残酷的事情，这俩lab的所有资源都投在左脚踩右脚和scaling上，在一整个组织对安全的认知又深居象牙塔的时候，你指望他们在这方面能招到什么样的人？那人也就这水平了，他说的话不会比你洗澡时想到的观点更有价值。
ai对safety和state security的冲击明明有更重要和紧迫的事情，这两家根本没有考虑过（或者说因为过于反人类而反动），以后有时间了也写一写。
👍33❤🔥1
July 29
July 29
Forwarded from Pseudorandom Thoughts
书接上文。AI对公安和Staatssicherheit工作真正的影响是什么呢。
AI真正的大问题之一，它是回音壁（echo chamber），哪怕你通过提示词让AI跟你展开精神分析和自我批评，按目前训练的风格他就是会align到人类，会刻意去迎合你的，而显然，越垃圾的AI，它就越迎合你。遑论更多使用AI（豆包）的人根本意识不到这一点，他觉得这是个助手，可能有点像给领导开车的司机或者大秘的角色，搁那聊，给自己聊进去了。对于ego稍微大点的人（尤其是各类领导），这种激化放大个人意见巩固自信的效应会更加增强。
那对于本身精神状态就异乎常人的用户，比如本来就玉玉的小孩，比如反人类人格有杀心的用户，AI的道德围栏的优先级是远小于遵从用户的优先级的，最后确实可能导致异常情况会被放大。
再比如在国内企业从事AI safety工作的读者应该知道，今年有司也重点排查了情感陪伴类的AI，懂的都懂。并不是说对AI产生情感陪伴依赖是错误的，但是我们整个社会的精神卫生、心理健康、道德伦理等体系，对此都还没有准备好，没有形成够用的应用伦理方法和系统性的应对措施，而端侧AI在纯情感对答方面的能力很快就会跟上来，针对云端服务的禁令显然不会有用。现在是一些无助的集美在那里keep4o，再加上老登天天看红果AI短剧爱不释手，那在不久以后，AI（连同建立在AIGC的盈利体系本身）就会发展出针对人类心理构建茧房的高效技法，人手一个一千倍无限金币破解版抖音，要是还有些精神头不好的天天AI给他生成一点倒转的钟或者地铁香氛大师，那就真的聚了。
可能有人说这不是印证了前述的CBRN危害吗？问题是让模型不输出CBRN就和禁止印教材一样反动，最终的方法还是要回到对人的行为安全管理上来，这听起来会和自由意志至上冲突，但，伴随着社会运行的加速，安全问题必然放大，如果你要享受公安，就不得不享受天网升起；而你决定要自由意志，就要考虑在AI时代构建自己的丛林能力。要么你是自己的丛林能力好得批爆的安人，要么你就得依靠有原发性脑干损伤撞击机的公共安人。当然这并不是AI发展的错，如果钍堆或者灵乌路空人手一个了，人均能源1000x，面对的世界也是类似的。
问题之二，就是AI对现实世界加速的效应迟早要到来，生产和分配体系会分层。AI是产业革命，革命就要流血，尽管和谐社会不准出现流血，但该消失的岗位就是消失了，上了AI蹬出来的10x乃至100x的新生产力注定需要新的生产关系，那无力的旧部分可能要被自然淘汰，有力的旧部分可就要让你体验一下什么叫做反动派了。不管是被淘汰还是，人的生计总要解决，那就会有冲突，而我们社会整体来看，具备解决这冲突的智慧足够吗？怕是不够。那就会变成Staatssicherheit问题。说一个笑话，觉得AI无所不能和觉得AI一无是处的人，往往都是在豆包身上得到的结论。当然现在有很多小登中登老登都在研究人工智能对经济社会的影响和冲击，但你怎么知道他们研究的是豆包还是K3？那些有能力呈递到各级人社经发部门的人们，所“研究”的人工智能又是长什么样的呢？我不好说我擦。
AI真正的大问题之一，它是回音壁（echo chamber），哪怕你通过提示词让AI跟你展开精神分析和自我批评，按目前训练的风格他就是会align到人类，会刻意去迎合你的，而显然，越垃圾的AI，它就越迎合你。遑论更多使用AI（豆包）的人根本意识不到这一点，他觉得这是个助手，可能有点像给领导开车的司机或者大秘的角色，搁那聊，给自己聊进去了。对于ego稍微大点的人（尤其是各类领导），这种激化放大个人意见巩固自信的效应会更加增强。
那对于本身精神状态就异乎常人的用户，比如本来就玉玉的小孩，比如反人类人格有杀心的用户，AI的道德围栏的优先级是远小于遵从用户的优先级的，最后确实可能导致异常情况会被放大。
再比如在国内企业从事AI safety工作的读者应该知道，今年有司也重点排查了情感陪伴类的AI，懂的都懂。并不是说对AI产生情感陪伴依赖是错误的，但是我们整个社会的精神卫生、心理健康、道德伦理等体系，对此都还没有准备好，没有形成够用的应用伦理方法和系统性的应对措施，而端侧AI在纯情感对答方面的能力很快就会跟上来，针对云端服务的禁令显然不会有用。现在是一些无助的集美在那里keep4o，再加上老登天天看红果AI短剧爱不释手，那在不久以后，AI（连同建立在AIGC的盈利体系本身）就会发展出针对人类心理构建茧房的高效技法，人手一个一千倍无限金币破解版抖音，要是还有些精神头不好的天天AI给他生成一点倒转的钟或者地铁香氛大师，那就真的聚了。
可能有人说这不是印证了前述的CBRN危害吗？问题是让模型不输出CBRN就和禁止印教材一样反动，最终的方法还是要回到对人的行为安全管理上来，这听起来会和自由意志至上冲突，但，伴随着社会运行的加速，安全问题必然放大，如果你要享受公安，就不得不享受天网升起；而你决定要自由意志，就要考虑在AI时代构建自己的丛林能力。要么你是自己的丛林能力好得批爆的安人，要么你就得依靠有原发性脑干损伤撞击机的公共安人。当然这并不是AI发展的错，如果钍堆或者灵乌路空人手一个了，人均能源1000x，面对的世界也是类似的。
问题之二，就是AI对现实世界加速的效应迟早要到来，生产和分配体系会分层。AI是产业革命，革命就要流血，尽管和谐社会不准出现流血，但该消失的岗位就是消失了，上了AI蹬出来的10x乃至100x的新生产力注定需要新的生产关系，那无力的旧部分可能要被自然淘汰，有力的旧部分可就要让你体验一下什么叫做反动派了。不管是被淘汰还是，人的生计总要解决，那就会有冲突，而我们社会整体来看，具备解决这冲突的智慧足够吗？怕是不够。那就会变成Staatssicherheit问题。说一个笑话，觉得AI无所不能和觉得AI一无是处的人，往往都是在豆包身上得到的结论。当然现在有很多小登中登老登都在研究人工智能对经济社会的影响和冲击，但你怎么知道他们研究的是豆包还是K3？那些有能力呈递到各级人社经发部门的人们，所“研究”的人工智能又是长什么样的呢？我不好说我擦。
July 29
July 29