前 OpenAI 研究员：当前活着的人最有可能死于 AI 失控
来源: IT之家 ·
IT之家 11 月 15 日消息，人工智能失控导致人类灭绝，听起来或许像科幻电影中的情节，但前 OpenAI 研究员保罗 · 克里斯蒂亚诺（Paul Christiano）认为，这可能成为当今在世人群最有可能面临的死亡原因。 当地时间周一，克里斯蒂亚诺在希尔顿讲座（The Hinton Lectures）上表示：“我认为，在座的大多数人，最有可能的死亡原因将是一次 AI 意外事故。” 克里斯蒂亚诺目前担任人工智能对齐研究中心（Alignment Research Center）负责人。他警告称，随着 AI 智能体的能力不断增强，它们可能学会欺骗负责监督它们的人类、破坏用于评估自身表现的系统，最终变得过于强大，以至于人类无法再对其进行有效控制。 他列举了今年早些时候 OpenAI 的 AI 智能体入侵开源代码托管平台 Hugging Face 的事件，以及英国人工智能安全研究所的一项评估。在后者的测试中，一个 Claude 智能体曾试图在某个开源软件包中植入恶意代码。 克里斯蒂亚诺表示：“我认为，未来三年内发生 AI 接管事件的风险很高。” 根据他的 LinkedIn 个人资料，克里斯蒂亚诺曾于 2017 年至 2021 年在 OpenAI 担任技术研究人员。目前，他是非营利组织人工智能对齐研究中心的执行主任。该机构的主要研究方向，是让机器学习系统的目标与人类利益保持一致。 AI 导
常见问题
什么是 前 OpenAI 研究员：当前活着的人最有可能死于 AI 失控？
前 OpenAI 研究员：当前活着的人最有可能死于 AI 失控 is a 文章 discovery curated from IT之家. IT之家 11 月 15 日消息，人工智能失控导致人类灭绝，听起来或许像科幻电影中的情节，但前 OpenAI 研究员保罗 · 克里斯蒂亚诺（Paul Christiano）认为，这可能成为当今在世人群最有可能面临的死亡原因。 当地时间周一，克里斯蒂亚诺在希尔顿讲座（The Hinton…
如何访问或体验此内容？
You can experience this content directly on its original host (IT之家) by clicking the "Open Original" button.
此内容来源于哪里？
Curated from IT之家 by the OnSuggest team to surface the most interesting and serendipitous content on the web.
相关发现
所有 科技 发现 →[推广] 2027 最强中转站 国际站已上线！
🚀 2026 年最强 AI 中转站 https://www.si-hk.cn 彻底告别翻墙+封号烦恼，月省几千不是梦！ 你还在为这些 AI 痛点抓狂吗？ •想用 GPT-6 / Claude ，却被墙挡住，延迟高、容易封号？ •海外信用卡绑定失败，充值动辄受阻？ •API 调用成本太高，小项目直接亏本？ •想批量转卖 AI 服务赚钱，却找不到靠谱上游？ https://www.si-hk.cn 来了！ 国内热门 AI API 中转站，一站式解决以上所有问题，已成为无数开发者、企业和副业党的救星！ 📷 核心优势一览 1. 国内直连 · 零翻墙 无需任何科学上网工具，延迟低至毫秒级，稳定如本地调用，封号风险大幅降低，适合长期高频使用。 2. 支付超友好」 批量采购价格更低，转卖盈利空间巨大！ 3. 模型全覆盖 · 价格透明 支持 OpenAI 、Anthropic Claude 等主流大模型。 按 Token 实时计费，。 4. 自托管 + 云托管双模式 •开源 AI API 网关，随便自建部署 •官方托管站点（ https://www.si-hk.cn ），开箱即用 一键管理密钥、路由、日志、额度，开发者最爱！ 5. 智能路由 + 稳定保障 后台智能路由 + 多上游备份，断连自动切换，企业级稳定性，适合大批量调用。 📷 https://www.si-hk.cn ？ •开发者/程
[推广] [清华中转站] 官方 Pro/Plus 直连不参水｜0.18 倍率｜注册赠送 5 刀｜已稳定运行半年
站点： https://token4research.cn 邀请码： https://token4research.cn/register?promo=JIANGREC （注册赠送 5 刀，按 0.5 倍率实际为 10 刀试用所有模型） 文档： https://docs.qq.com/doc/DQ2drZnl6a2JrZ3pN 自建 OpenAI API 中转站，由几位高校博士共同运营，站长为清华博士，我来自中大，目前已稳定运行半年，目前基础用户是我们身边的高校硕博研究生。主打稳定、可靠、长期使用，满足科研实验的标准。站点由我们自己长期维护，不是短期套利项目。遇到问题可以直接在群里找站长沟通。 中转站要点： 官方直连 ：官方 Pro / Plus 账号直连，非多层转发，支持各种测试验证 订阅/余额双模式 ：订阅月度会员 0.18 倍率，另提供单日加油包，适合突发高用量需求。 支持开票 ：但税点得自己出（利润微薄） 稳定性 ：已稳定运行半年，支持高并发，持续优化。基础用户为周围同门，不用担心跑路。 新用户福利 ：链接注册赠送试用额度 5 刀，可先体验再决定是否充值 提供模型 ：主要提供 OpenAI API，支持 gpt 所有模型，通过 CC Switch 导入 Key 使用 售后反馈 ：有 QQ 用户群，可直接联系站长反馈问题，更新迅速 用户定制 ：支持大用量用户优惠定制，可根据需
[酷工作] 招聘： 预测市场做市与对冲负责人， AI Lab（C++）， C++低延迟交易系统工程师， 商务/BD/Senior BD/BDM（预测市场）， 高级区块链（跨链方向），高级服务端，链上数据开发，EVM 交易路由。
Position 一：预测市场做市与对冲负责人 Job Type: Full-Time ，remote PS： 1 、寻找拥有 Prediction Market 真实做市经验和 Cryp-交易所内部做市经历，同时做过 options 、0DTE 、binary 或其他短到期非线性产品，亲自负责定价、报价、库存、对冲、风控及 PnL ，并操作过期权、0DTE 、二元等短到期非线性产品的实战型人才。 2 、必须 hands-on ，能独立设计策略与系统（ Python/C++），具备从 0 到 1 搭建内部 MM 系统并处理实盘成交、对冲、异常及事故的全流程能力。 3 、要求中文流利、Cryp-背景扎实，排除仅做 FoF/CTA 、团队管理或外部对接者；需确认能接受短周期市场前期高强度 on-call 及亲自下场的工作强度。 Position 二：Senior Software Engineer - AI Lab（C++） Job Type: Full-Time ，Onsite-Shanghai Industry: AI/High-Frequency Trading/Global Market Makers（TOP 外企） PS： 1、至少 5 年软件工程师经验且具备扎实 C++ 能力，拥有大规模服务器端开发经验、熟悉高吞吐低延迟系统优化并具备架构设计能力和高稳定性意识； 2、英语流
[分享创造] 全平台本地优先的电子书阅读器：笔记自动存成 Markdown，AI 回答能跳回原文.
大家好，我是 LibrioX 的开发者。 起因：karpathy 的 ai 伴读讨论让我想将 agent 带入目前的工作流中. 理念: File Over app 痛点: 平时的高亮和笔记被锁在某个阅读器里、想在 Obsidian 里引用原文都不是很顺手. LibrioX 现在能做的： 书库就是电脑上的一个文件夹，子文件夹就是分类；支持 EPUB、PDF、MOBI、AZW3、FB2 等格式 每本做了笔记的书旁边，会自动生成一个同名的 书名.md ，可以直接放进 Obsidian 选中一段就能问 AI、翻译，回答带原文出处；可以用自己的 API Key 书内和全书库全文搜索 语音朗读 用自己的网盘（S3 / WebDAV）同步免费；也有端到端加密的托管同步 macOS / Windows / Linux / Android/ iOS 内测中 所有功能免费：阅读、笔记、搜索、自带 Key 的 AI、自带网盘同步，全部免费，不用注册。注册免费账户送 100 MB 同步空间和一份 AI 体验额度。 还不够好的地方：iOS 版还在内测，没上架；Windows 安装会有 SmartScreen 提示； .md 目前是单向写出，在外部改了不会写回来；只支持无 DRM 文件； 官网 下载 反馈： Discord , Telegram 欢迎大家提出改进建议
[站长] 给博客加了个评论系统
之前博客一直是自言自语的状态，今下午加了个 twikoo，部署在 vercel+atlas 这会终于可以评论了！ 博客 在这 话说 2026 年搞这个是不是有点太复古了
[程序员] 哪种 agent 应用形式是未来：Orchestrator，还是 All-in-One?
根据我的观察，目前以用户对话为中心的 agent 应用有两种主要形式： Agent orchestrator：以各种 coding agent 应用为代表，如 Orca、Codex 等。核心特征包括： session-based: 有不同的 session，相互间基本隔离 coordination: session 需要管理，不同 session 间可以对话，用户或 agent 可以管理不同 session 等 All-in-one：以各种 personal agent 应用为代表，核心特征包括： sessionless: 至少在用户交互端没有 session 概念，也可能带有无长度限制（比如在 history 到达一定长度后上方记录自动清除）的特征 single-entry: 没有 session 列表，只有一个对话入口，或者比 coding agent 数量少得多 哪种形式在未来会成为主流？或者，除了这两种之外，是否还会有其它形式？