即便这和自己所在行业已经有部分重合（不过我确实没有做 AIGC 相关的事情），我认为这种目前由人类驱动的 AIGC（也就是 Kurzgesagt 这期视频提到的 AI Slop，AI 垃圾），在未来可能会有更深远的影响。。。

现在大家只是看到有创作者用 AI 工具批量生成内容赚取流量来钻赚钱的空子，那如果这个过程变得更自动化了呢？比如，全自动地调用 ComfyUI 和 Sora 生成更多的垃圾视频填充到时间线上。国庆期间大家很欢呼和喜好的 Sora 这样的 App，本质就是一个彻底 AIGC 驱动的 Tiktok（or 抖音），在剥夺注意力资源之外，也在视频（这个本身就缺乏数据集）的模态上上产生更多的垃圾数据。

我知道有其他的公司和企业正在开发完全由 Agent（根据历史的 chat history 和形成的 memory）去精确地通过你交给 AI 的对话数据判定用户画像，然后生成专属于用户和用户确实会喜欢的 feed 推荐流，实现真正意义上的 agent driven Tiktok（这样的东西没有实质上的技术难题或者工程上做不到的事情，只要能负担得起分析 agent 的成本就可以做到），我理解投资行业对于寻找到下一个 AI 时代的 Tiktok 的欲望非常强，但这对人类文明来说是好不负责任的，不正确的发展方向。

就算是我工作范围内的 RAG 和 知识召回、memory 这件事情上，现在也已经遇到了超级多的正确性和召回后的信息有价值与否的难题了，而且这似乎是无法被量化和可被评估的数据（因为 fact check 真的是非常费力的事情，也有前两天的论文介绍了 small segment of information can pollute how ai searches（在 bilibili 上也有别的博主制作过类似的视频介绍类似的实验））。现有的若干 Deep Search 在 可信信息 的算法上也依然是用工程或者 reranker 来实现的排序，总是会有漏洞，也并不会在语义上和事实上对信息进行 fact check，最多也就是进行多个信源的处理实现交叉检查。

那如果我们看看「数据就是 AI 的石油」这样的 Ilya 也说过的话呢？难到这些 AIGC 就没有任何意义吗？有一部分意义，在 LLM training 和 post-traing 上，synthetic data（合成数据）是非常重要的部分，实际上对于具身智能也是如此，洗数据是非常困难的事情，data 是 somehow 的劳动密集型行业，现在可以堆人，未来呢？如果互联网上都充斥的是垃圾数据呢？也许未来某天，无法采用互联网数据的时候，就必须要有专门的行业专家 / 专家模型在特定领域生成数据才行了。。。

哦对，在减少工作量和提供更多岗位上，AIGC 是真的没有特别的价值的，只能说一部分非常机械式的工作可以 offload 到 AI 去做（比如 ComfyUI 做灵感发散和生成 —— 应对的是以往创意的试错很高，LLM 做总结和语义拆分、分类和整理 —— 应对的是海量的数据需要处理，或者 Agent / Completion 做代码补全 —— 应对的是重复代码和重构代码的工作），大家使用 AI，并不会因此就不需要工作了，反而会需要做更多的事情，比较每个用 AI 的人实际上都是比原本更强大的人了，设计的领域也会更广，对吧？

最悲观的是：这件事情甚至是无法避免的，也许这就是 模因污染 吧。