Pinned
Eric Xu (e/Mettā)
12.3K posts
Eric Xu (e/Mettā)
@xleaps
polymath, polyglot, root of a ternary tree.
building onnoah.app
prev @Meta @Google @Reddit
phd in classic ai; rookie pilot 🛩️; martial artist
- 懒得写长文了，用中文简单说一下。 普金正在经历“民主的棘轮”（不必搜出处，我发明的词）。这个棘轮一旦转起来有了惯性，会随时间自动绞杀普金。 1. 普金的算计是。西方的政客效率低，只会动嘴，因此只要生米做成熟饭，回头来谈判条件肯定对自己有利。这个判断，至少在 2/24 前无法证否。This post is unavailable.
- 恩，要是陈胜吴广当年没有喊出那几个字，我天朝可能从秦朝开始就接受民众合理诉求，和黔首对话，比西方早几千年进入君主立宪的民主社会了。 就怪陈胜吴广喊出那几个字，整个事情的性质就变了。喊出那五个字，整件事的性质就变了。本来诉求极其合理，可以对话，政府也会束之高阁，作壁上观，僵局也能撑得更久，被更多人看到。喊出之后，抓人，镇压，审判，监禁。帽子和罪名不要太好扣。运动永远是偶发的，永远代表了一部分人的合理诉求。手段千千万，达成目的最重要。不到万不得已，不要撕破脸。
- 和各位推友分享一下我的量化投资策略： blog.youxu.info/2020/02/04/my-… 我去年私下做了一个对冲基金，采用纯定量模型，去年年化收益 46%。 我觉得这方面处于探索早起，不觉得自己的模型很神秘，所以贴出来和人分享。希望用 TensorFlow 做量化金融的人越来越多。
- 讲一句许多理工科粉红不愿听的话吧 2019 年的时候，李开复牛逼哄哄说中国 AI 马上要赶英超美了。因为他投资的旷视什么的在识别维族人视觉模型上似乎很牛逼的样子 这种论述，全然不顾整个世界最前沿的创新完全不在什么视觉模型而是在 AGI 这里。于是到了 2023哈维尔·米莱取消了阿根廷总统和副总统的退休特权，卸任即为平民。
- 消费类 app 和算法 feed 最伤害的，是那些没有自律能力的人 而往往这些人都是社会里较为不成功的 失业或者半就业的 从事简单劳动工作的 从社会公正的角度来看 所有的短视频 app，都是一种极高税率的累退税 在这种税的驱动下 社会整体不公正加剧刚看了快手的财报，有一条数据很可怕： 快手的日活刚刚突破4亿，但是每天看10集以上短剧的人高达1.46亿，也就是超过1/3快手日活用户大量时间在刷短剧。加上抖音和其他平台，中国至少20%的人高度沉迷短剧。
- 中文圈特有的謬論。集中手撕一下。 希特勒的確是經過一系列的民主程序（選舉，組閣）等上台成為總理的的。但他成為獨裁的元首則不是民主的結果，而是一個違反了當時威瑪共和國憲法的「授權法案」. 所以，將希特勒通過民主程序上台是過度簡化歷史。希特勒是通過*破壞*民主上台成為第三帝國的元首的。/1This Post is from a suspended account. Learn more
- 一个孩子(比如我)在中国成长的过程，很不幸地常常是一个消磨掉自我价值，培养自恨的过程。 所谓的卷，使得一个人的全部价值被投射到一个单向维度上，和卷无关的价值投射到了零价值子空间。 无处不在的比较，使得一个人的大多数精力，都聚焦在自己的缺憾上，难以接受自己，甚至自恨。 童年没看过 Mr.
- 昨日发推后，不少推友说 Transformer 似乎有种跨语言的能力，同时隐含着中文语料大小未必是瓶颈。索性花多点篇幅解释一下。 首先说一下我在大语言模型上的一些经验吧。我从 2016 年 Attention is all you need 出来之前就在训练大的代码语言模型。Transformer 出现之后我在 Reddit 训练过多个 LLM。说一个大多风险资本不懂， 行内人为了赢得不明就里的风投而故意不讲的一个公开秘密，即： 现有的中文语料大小和质量，与 GPT-3 或者 ChatGPT 使用的主要是英文的语料相比，无论是质量还是数量都差好几倍。 而这一点，是多年来中文互联网高质量开放式内容贫乏，内容在自家高墙之内的福报
- Replying to @xleaps3. 当援助和制裁的道义和安全回报高于沉没风险时，这些援助就自然来了。所谓的自救者人恒救之，乌克兰给出了这个成语的最佳诠释。 回到“民主的棘轮”。因为民主国家的决策过程是一个各方利弊对齐的过程。它慢，看上去低效，但一旦利弊对齐做出决策，就如棘轮一样，只进不退。
- 我说过多次，当下 LLM 最大的风险是污染人类的自然语言，使得我们从此没有纯人类语言的训练语料。如同核爆后的低辐射钢。 影响下一代 LLM 质量本身只是一度风险。更大的二度风险是，如果这一代 AI 生成的句子进入下一代 AI， 则在人类语言的演进方向中，就不仅仅包含了人的因子，还有机器的因子。某种程度上来说，智能已经被锁死 v2ex.com/t/948487
- 为什么流氓国家拿到一样的剧本 你或许不知道，在莫斯科被袭击之前的几个月，几乎一模一样的脚本就在伊朗演习过一次。 按照赵立坚的说法，美国情报机构就是个笑话，然后几天后脸被扇肿了。美国情报机构一直跟踪阿富汗的 ISIS-K 的动向，可以说在预测恐袭方面至今保持 100% 的准确度 /1
- 说一个大多风险资本不懂， 行内人为了赢得不明就里的风投而故意不讲的一个公开秘密，即： 现有的中文语料大小和质量，与 GPT-3 或者 ChatGPT 使用的主要是英文的语料相比，无论是质量还是数量都差好几倍。 而这一点，是多年来中文互联网高质量开放式内容贫乏，内容在自家高墙之内的福报最高级别战备状态太搞笑了，就凭这句话我就明白做出来的东西会是什么样的妖怪。最需要人类巧思创意的项目在中国做起来竟然不得不用苦大仇深、不成功便成仁的腔调来操作，异质性已经无法形容。
