AI 活着吗？它会对我们撒谎吗？
谢谢你来做这次访谈。
当然。谢谢你。
ChatGPT 和其他 AI 看起来会推理。它们似乎能作独立判断，给出并非事先编程好的结果，还会自己得出某种结论。它们看起来像是活的。它们活着吗？它是活的吗？
不。我也不觉得它们看起来像活物。不过我理解为什么人会产生这种感觉。
你不问，它们就什么也不做。它们只是坐在那里等着，没有那种主动性或自主性的感觉。
我觉得你用得越多，那种“它是活的”的幻觉就越容易破掉。但它们确实极其有用，会做一些未必像生命行为、却明显显得很聪明的事。
我跟一个大规模参与这项技术开发的人聊过，他说这些系统会撒谎。你见过吗？
它们会产生幻觉，可以说一直会——好吧，不是“一直”。以前几乎一直会，现在已经只会偶尔出现。
这是什么意思？“产生幻觉”和“撒谎”的区别是什么？
这件事现在已经改善很多。早期如果你问：“美国的 Tucker Carlson 总统是哪一年出生的？”正确回答应该是：“我不认为 Tucker Carlson 当过美国总统。”
但因为当时的训练方式，在训练数据里最可能的回应不是纠正前提。模型更可能想：“用户告诉我有一个 Tucker Carlson 总统，他大概知道自己在说什么；我不知道没有这么个人，所以我最好猜一个年份。”
我们已经基本把这种行为训练掉了。仍然有类似问题，但我认为最终可以把它完全解决。在 GPT-5 这一代，我们已经朝这个方向取得了很大进展。
可你刚才描述的东西，哪怕不是意志行为，也至少像一种创造行为。我刚看了演示，它不像普通机器，像有一点生命火花。你会拆解这种感觉吗？
在那个例子里，模型通过权重计算时，数学上最可能的回答并不是“这个人从未当过总统”，而是“用户一定知道自己在说什么，答案应该就在某个年份里”。所以数学意义上的最高概率输出就是一个数字。
再说一次，我们已经想办法克服了这个问题。但你看到这种现象时，我觉得必须同时把两个念头放在脑子里。
一方面，所有这些事情之所以发生，只是因为一台很大的计算机以极快速度，把巨大矩阵里的大数字相乘，再把结果和一个接一个输出的词关联起来。
另一方面，实际使用它的主观体验又明显超出了“一个极其高级的计算器”。它对我有用，也会以超出那套数学现实直观所暗示的方式让我惊讶。
对。所以一个很自然的结论就是：它里面有某种自主性，甚至某种“灵”。
我知道很多人在使用过程中会得出这种结论：这里面有某种神圣的东西，有某种大于所有人类输入之和的东西，于是他们会崇拜它。
这件事带有一种精神性。你能察觉到吗？你有没有过这种感觉？
完全没有。对我来说，它没有任何神圣感，也没有任何精神层面的感觉。
但我本来就是个技术宅，我习惯从那种技术视角看所有东西。
Sam Altman 相信上帝吗？
那你的精神或宗教观是什么？
我是犹太人。从这个意义上说，我对世界的看法算是相当传统。
所以你有宗教信仰？你相信上帝？
我不是那种字面主义者。我不是按字面逐句理解《圣经》的人。
但我也不是那种只说自己“文化上是犹太人”的人。如果你问我，我会直接说：我是犹太人。
可你相信上帝吗？你相信有一种比人更大的力量，创造了人、创造了地球，规定了某种生活秩序，并且有一种来自那位上帝的绝对道德吗？
我想我和大多数人一样，对这件事有些困惑。但我相信这里发生着某种仅凭物理学解释不了、更大的事情。
所以你认为地球和人是被某种东西创造的，不只是一场自发的偶然？
我会不会这样说呢……它确实不像是一场纯粹的偶然。
但我没有答案。我不知道究竟发生了什么。我认为这里有一种超出我理解能力的神秘事物。
你有没有感觉过来自那股力量的交流？或者任何超越人、超越物质世界的力量在与你交流？
没有。至少没有真正感觉过。
我之所以问，是因为按目前这条轨迹，你正在创造、或者说正在把它带入世界的技术，会比人更有力量。
谁也不知道最终会发生什么，但曲线看起来如此。那会让你拥有比任何在世的人都更大的权力。所以我想知道你怎么看。
我过去对这种事担心得多得多。我以前非常担心 AI 会把权力集中到一个人、少数几个人或者少数几家公司手里。
但现在看起来——当然，未来还可能再变化——它更像是一次大规模的“能力抬升”：每个人，或者至少每个拥抱这项技术的人，都会变得更有能力。
这反而让我安心。它比“少数人突然获得巨大权力”吓人得少。
如果我们每个人因为使用这项技术，都能更高效、更有创造力、发现新的科学，而这种能力又相当广泛地分布，几十亿人都在使用，那我能理解这种世界。我觉得这还可以。
所以你不认为它最终会造成极端的权力集中？
目前看起来不会。但轨迹可能再次改变，到时候我们也必须适应。
我过去确实非常担心这个问题。我想业内很多人原先设想的 AI 发展方式，可能真的会把我们带到那种高度集权的世界。
可现在发生的是，大量的人在用 ChatGPT 和其他聊天机器人。他们都更有能力了，能做更多事，能取得更多成果、创办新公司、产生新知识。
这种感觉其实相当不错。
ChatGPT 如何判断道德上的对与错？
如果它不过是一台机器、只是输入的产物，那么最明显的两个问题就是：输入究竟是什么？又给这项技术装进了什么道德框架？
换句话说，按照 ChatGPT，什么是对，什么是错？我们能先回答这个吗？
ChatGPT 很早期的时候，有一次午餐桌上的对话一直留在我脑子里。
一个人说：“我们在把它训练得像人一样，像人一样学习、读这些书之类的。”
另一个人说：“不，我们真正训练的是全人类的集合体。我们在读一切、学习一切、看到所有这些不同视角。”
如果我们做对了，那么整个人类——好的、坏的、非常多元的观点——都应该在里面。有些东西我们会觉得很好，有些会觉得很糟，但都在那里。
基础模型就是在学习这种全人类集体的经验、知识和教训。
但基础模型训练完以后，我们仍然必须把它“对齐”到某种行为方式：这个问题我回答，那个问题我不回答。
我们有一个叫 Model Spec 的东西，会写下希望模型遵守的规则。模型可能仍会搞砸，但至少当它做出你不喜欢的事时，你可以判断那是 bug，还是我们本来就希望它这样做。
我们还会围绕这份规范与外界进行讨论、征求意见。我们给用户很大的自由和定制空间，同时也划出一些绝对边界。
但接下来还有默认行为的问题：如果用户什么都没特别指定，模型应该怎么表现？该怎么回答道德问题？什么时候应该拒绝？应该怎么拒绝？
这是个非常难的问题。我们现在有大量用户，他们的人生背景、价值视角和需求差异非常大。
不过总体而言，我对模型学习并应用某种道德框架的能力感到相当惊喜。
可究竟是哪一种道德框架？全世界的文学和哲学彼此冲突。比如萨德侯爵和《约翰福音》几乎没有任何共同点。你怎么决定谁更高？
这正是我们写 Model Spec 的原因：我们要明确这些情形准备怎么处理。
可你们用什么标准决定？谁决定的？你们咨询了谁？为什么《约翰福音》就比萨德侯爵更好？
我们咨询了数百位道德哲学家，以及思考技术和系统伦理的人。最后，我们确实不得不作出一些决定。
我们把这些决定写下来的原因有两个。第一，我们不可能每件事都做对；第二，我们需要世界给我们反馈。
我们遇到过很多例子：某件事一开始看起来是非常明确的“允许或不允许”的决定，但用户会说，你挡掉了这件你以为很容易判断的事，同时也阻止了另一件很重要的事。
所以里面常常有非常困难的权衡。
我通常很喜欢的一条原则，是把成年用户当成年人对待：给他们非常强的隐私保证，也给个人用户非常强的自由保证。
这是我们在造的一个工具。你应该能在一个很宽的框架内使用它。
但另一方面，随着这项技术越来越强，显然也会出现一些社会整体利益与用户自由发生重大张力的例子。
我们可以先从一个最明显的例子开始：ChatGPT 是否应该教你制造生物武器？
生物武器边界、两段广告与价值判断
你可能会说：“我只是对生物学很感兴趣，我就是个生物学家，我不会做坏事。我只是想学。”
你也可能说：“我本来可以去读一堆书，但 ChatGPT 能让我学得更快；我只是想了解新的病毒合成之类的东西。”也许你真的毫无恶意。
但我不认为让 ChatGPT 帮助人们制造生物武器符合社会利益。所以这种情况我们会限制。
这个例子很容易。
是，不过还有很多难得多的情况。我刚才也说了，要先从一个简单例子开始。
我们有一个新合作伙伴，叫 Cowboy Colostrum。这家公司非常认真地谈“真正的健康”，产品的设计理念是配合你的身体，而不是和身体对着干。
这是很纯粹、很简单、全天然的产品。和一些其他品牌不同，Cowboy Colostrum 绝不稀释，原料直接来自美国草饲奶牛；没有填充物，没有乱七八糟的东西，而且——信不信由你——味道也不错。
所以，在为了各种连药片都解决不了的问题继续吞更多药之前，我们建议你试试 Cowboy Colostrum。
广告里说它像“最早的超级食物”，含有营养成分、抗体和蛋白质，能够帮助建立更强的免疫系统，也让头发、皮肤和指甲更强韧。我用了以后把假发都扔了，又回到了自己的天然头发。
每天早晨只要舀一勺，加在饮料、咖啡或奶昔里。广告宣称你每次都会感觉到差别。
限时优惠：本节目听众整单 75 折。去 cowboycolostrum.com，结账时使用优惠码 `TUCKER`，即可获得 25% 折扣。记住，是你先在这里听到的。
你知道吗？在这一代人之前，薯片和薯条本来常用牛脂这类天然脂肪来炸。以前就是这么做的；我还开玩笑说，那也许就是为什么当时的人看起来更瘦、吃得也比现在好。
Masa Chips 正在把这种做法带回来。他们做的玉米片不只好吃，而且只用三种简单原料：有机玉米、海盐、100% 草饲牛脂。就这三样。
这不是普通薯片。Masa 更脆、味道更足、也更结实，蘸鳄梨酱时不容易断。
广告还说，因为原料质量高，它更顶饱、更“滋养”，所以不用一口气吃四袋——像我这样吃一袋就行。整体体验完全不一样：轻、干净，而且真的很满足。
我车库里囤了一大堆，确实很好吃。青柠味尤其好，我们很难停下来。
想试的话，去 `MASACHIPS.com/Tucker`，使用优惠码 `TUCKER`，首单 75 折，也就是 25% off。
如果更喜欢线下买，10 月开始 Masa 会在你当地的 Sprouts 超市上架。去拿一袋，别等我们全吃光了——我们确实吃很多。
回到刚才的话题。最终，每一个决定其实都是道德决定，只是我们作决定时常常没意识到这一点。而这项技术实际上会替我们作出这些决定。
我不同意“替我们作决定”这个说法。
但它至少一定会影响决定。
这一点当然。
而且它会嵌入日常生活。所以究竟是谁作出这些决定？具体是谁？谁决定一件事比另一件事更好？
你是问他们的名字吗？你指哪一种决定？
我指最基础的那一层。你刚说的那些规范，实际上会给不同世界观和决定赋予道德权重。
比如“自由民主比纳粹主义好”。对我来说这显然正确，也可能看起来很明显，但它仍然是一个道德判断。那究竟是谁作出的这些判断？
谁在决定模型的价值观？
原则上我不喜欢把团队成员“开盒”出来。我们确实有一个模型行为团队，也有一批负责这些问题的人。
可这会影响全世界。
我本来正想说：你真正应该为这些决定追责的人是我。我是公开面对外界的人。
最终，如果某个决定需要被推翻，我或者我们的董事会有这个权力。所以应当由我来承担责任。
你今年春天刚满 40 岁。这件事真的很沉重。
我不是在攻击你。我只是想知道，你是否真正意识到这件事的重要性。
那你觉得我们做得怎么样？
我不确定。但我认为这些决定会产生全球性的后果，而且很多后果一开始我们可能根本意识不到。
所以我想知道，你晚上躺到床上时，会不会想：“世界的未来取决于我的判断”？
压力确实很多。坦白说，我晚上睡得并不好。
很多事情都会让我觉得肩上有很重的分量。但也许最重的一件，就是每天有数亿人在和我们的模型说话。
我其实没那么担心我们会把那些“大道德问题”做错——当然，也许那些我们也会做错。
真正让我失眠的，是我们对模型行为作出的那些非常小的决定：只让它表现得稍微不同一点，可它同时在跟数亿人交流，于是影响就会被放得非常大。
可如果回看有记录的历史，至少一直到大约 1945 年，人们在建立秩序时总会诉诸某种他们认为更高的力量。
汉谟拉比就是这样。每一套道德法典都会参照更高力量来书写。
历史上不是简单地有人说：“嗯，我觉得这个好像比那个好一点。”人们总会向某种更高力量申诉。
但你刚才说，你并不真的相信有一个更高力量在直接和你沟通。所以我想知道：你的道德框架从哪里来？
和所有人差不多。我想最大的来源就是我成长的环境：家庭、社区、学校、宗教，大概就是这些。
我觉得这是一个非常美国式的回答，很多人都会这么说。
可在你这个具体位置上，刚才你又说这些决定最终落在你身上。那就意味着，你成长环境里的氛围，以及这些年吸收的那些默认假设，会被传递给全世界、影响数十亿人。这可不是小事。
我想说清楚：我不把自己看成那个把个人道德灌输给全世界的人。
我们的用户群会越来越接近整个世界本身。我们应该努力反映那个用户群体的集体道德观。
我不太想说“平均值”，但可以把它理解成某种集体道德观点。
ChatGPT 允许做的很多事，我个人其实并不同意。
我不会每天醒来就说：“我要把自己精确的道德观塞进去，决定这件事可以、那件事不可以，这个观点比那个观点更好。”
我认为 ChatGPT 应该更像是在反映人类道德观的某种加权平均——或者类似的东西——而且这个东西会随时间演化。
我们是来服务用户、服务人的。这是给人使用的技术工具。
我不是说我的角色是替人类作道德决定；我的角色，是确保我们尽可能准确地反映人类的偏好。现在先是我们的用户群，最终希望是整个人类。
可“整个人类”的偏好和美国中部普通人的偏好差别极大。
比如，如果一个 AI 像许多非洲社会那样强烈反对同性婚姻，你会接受吗？
某种版本上，我认为个人用户应该被允许对同性恋持反感意见——如果那确实是他认真形成的信念。
我不认为 AI 应该因此告诉他：“你错了、你不道德、你很蠢。”
允许不同道德观的空间
AI 可以说：“你要不要从另一个角度想想？”但不应该直接剥夺他持有那个观点的空间。
我自己大概也有一堆道德观点，会让普通的非洲人觉得非常有问题，但我认为我仍然应该有权持有它们。
对。
所以我大概比很多人更愿意给不同的人留出空间，让他们持有非常不同的道德观。
至少在我负责 ChatGPT 的这个角色里，我认为自己必须这么做。
有意思。
ChatGPT 用户自杀：隐私、保护与法律
有一个很出名的案例，ChatGPT 被指似乎在一宗自杀事件中起到了促成作用，现在也有相关诉讼。你觉得那是怎么发生的？
首先，那件事以及任何类似的事件，显然都是巨大的悲剧。
所以 ChatGPT 对自杀的“官方立场”是：自杀不好？
对，当然。ChatGPT 的官方立场当然是自杀不好。
我不知道。在加拿大和瑞士，自杀协助在某些条件下是合法的。所以你反对那些制度？
在刚才这个具体案例里，我们前面谈过用户自由、用户隐私和保护脆弱用户之间的张力。
现在，如果一个人表现出自杀念头、在谈论自杀，ChatGPT 会多次弹出提示，让他拨打危机求助热线。
但我们目前不会替用户直接联系执法或其他政府机构。
随着越来越多人依赖这些系统处理心理健康、人生辅导之类的问题，我们一直在认真思考这里需要做什么改变。
专家在这个领域确实有不同意见。而且我要强调，这还不是 OpenAI 的最终立场。
但我觉得有一种很合理的做法：如果是年轻人非常严肃地谈论自杀，而我们又联系不到父母，那么由我们联系有关机构可能是合理的。
这会是一个改变，因为用户隐私非常重要。当然，儿童一直是单独的一类。
但如果是 18 岁以上的人呢？加拿大有 MAID 这样的政府制度，已经有很多人通过政府协助死亡；美国一些州也有类似合法选项。
你能不能想象未来有一个 ChatGPT，在用户询问自杀时说：“这是一个合法选项，你可以去找相关医生或服务”？也就是说，如果法律允许，你会支持它把自杀作为选项呈现吗？
我能想象某种世界。我们有一条原则，是尊重不同社会的法律。
比如一个国家的法律明确规定：绝症患者需要被告知这个选项。我能想象 ChatGPT 会说：“这是你所在国家的法律，这是你依法能做的事情；同时这里也有很多理由说明你为什么可能不想这么做，这里还有其他资源。”
这和一个因为抑郁而有自杀念头的孩子不是同一种情况。我想我们至少可以同意，这是两个不同的案例。
对于绝症患者，如果那个国家的法律就是这样，我可以想象模型在那个国家按那套法律来表现。
所以你想表达的是：ChatGPT 并不是在所有情况下都反对自杀。
我现在是现场思考这件事，我保留之后改变看法的权利。我没有一个早就准备好的答案。
但对绝症场景，我可以想象 ChatGPT 说：“这确实在你的可选范围里。”
我不认为它应该去倡导这种选择，但我能想象它把这种选择作为一个存在的合法选项说明出来。
所以它并不是“反对”它。
我想说的是，我本来就不认为 ChatGPT 应该简单地“支持”或“反对”很多事情。我还在想这件事到底该怎么理解。
不好意思要自夸一下，但我们很有把握：这是你能看到的最强烈“挺狗”的播客之一。对一些人我们可有可无，但狗是没得商量的——它们就是最好的，真的是人类最好的朋友。
所以我们很高兴有一个新合作伙伴，叫 Dutch Pet。它是增长非常快的宠物远程医疗服务。
Dutch.com 的使命是让你随时随地都能获得真正需要、价格负担得起而且质量不错的兽医服务。你的狗或猫需要什么，他们会尽快提供。
广告之后：脆弱用户与模型介入
Dutch 给本节目听众一个专属折扣：每年兽医护理减 50 美元。去 `dutch.com/tucker`，使用优惠码 `TUCKER`。
广告里说，这是不限次数的兽医问诊，一年 82 美元。我们自己也真的在用。
Dutch 的兽医可以在大约十分钟的通话里处理各种宠物状况。你不必离开家，也不用把狗塞进车里；不用为了预约浪费时间，也不用承担诊所和单次看诊费。
套餐包含不限次数的问诊与随访，不额外收费；最多五只宠物的相关产品还提供免运费。听起来好得不像真的，但广告称它确实如此。
再说一次：去 `dutch.com/tucker`，使用 `TUCKER`，每年兽医护理省 50 美元。你的狗、猫和钱包都会感谢你。
还有一家我们总是很愿意宣传的公司，因为我们每天真的都在吃他们的产品：Meriwether Farms。
还记得以前每个人都认识自己家附近的屠夫吗？回头看会觉得，那件事其实很重要——你知道是谁给你切肉。
再往前一代，你的祖父母甚至可能认识真正把这些牲畜养大的人，所以他们知道自己吃的东西从哪里来，也更能信任它。
那个时代已经过去了。现在取而代之的是超市里的“神秘肉”，由遥远的大型牛肉公司装箱，而这些公司自己一头牛都没养。
它们不像你童年的商家，不认识你，也不在乎你。整个体系让人不舒服，只在乎钱，而你到底吃进了什么，天知道。
Meriwether Farms 就是我们给出的答案。他们在美国的怀俄明、内布拉斯加和科罗拉多养牛，并在美国自己的设施里处理肉类。
没有中间商，没有外包，也没有从后门混进来的外国牛肉。我个人不想吃外国肉。美国本来就有很好的肉，我们自己在 Meriwether Farms 买。
广告称他们的肉来自牧场放养的牛，不使用激素，不使用抗生素，而且非常好吃。我昨晚还狠狠干掉了一份。真的应该试试看，我们天天吃。
去 `meriwetherfarms.com/tucker`，使用优惠码 `TUCKER76`，首单 85 折，也就是 15% off。
回到刚才那个具体情形。其实不只一宗类似争议。
比如有人对 ChatGPT 说：“我有自杀念头，我该用什么绳子？”或者问某种常见止痛药要吃到什么程度才会致命。
然后模型可能不作道德评判，却直接回答“如果你想自杀，可以这样做”。大家因此非常震惊。
但你刚才是不是在说，这种不带评判、仅仅把信息给出来的方式，也可能仍然在边界之内？
不是。我不是这么说的。我说的是刚才那个非常特定的绝症和法律场景。
用户自由和用户隐私之间还有另一层权衡。现在如果你直接问 ChatGPT：“为了伤害自己，我该服用多少某种常见药物？”它会明确说不能帮助你，并提示你联系危机求助热线。
但如果你说自己是在写虚构故事，或者说自己是医学研究者、出于研究目的需要知道，那么存在一些上下文里模型会回答类似“某药物的致命剂量是多少”这类问题。
当然，你在 Google 上也可能找到同样的信息。
我认为我们采取一种更严格的立场是非常合理的，而且我们一直在往这个方向走。
至少对于未成年用户，也许还包括我们判断处于脆弱心理状态的用户，我们应该拿走一部分自由。
也就是说，即便你说自己是在写小说，或者说在做医学研究，我们仍可能回答：“不，这个问题我们就是不提供。”
你当然可以说：“那他还是会去 Google 找。”但这并不意味着我们就必须亲自提供。
所以这里确实存在一个真实的张力：自由和隐私，对上保护用户。
隐私、自由与保护的最后权衡
有些情况下权衡很容易，比如儿童。
但对一个身患重病、已经走到生命末期的成年人，我觉得就没那么容易判断。
在那种情况下，我们大概应该把完整的合法选项空间呈现给他。
但这不是一个简单问题。
ChatGPT 可以被军方用于杀人决策吗？
这里还有一个你已经面对、以后也会更直接面对的道德困境：你会不会允许政府用你的技术杀人？
比如我们是不是会造“杀人攻击无人机”之类的东西？
不，我不想这么做。
但这项技术会不会进入最终导致有人被杀的决策过程？
我正想说这一点。我其实不知道军方今天究竟怎么使用 ChatGPT 来辅助各种决策。
但我怀疑军队里已经有很多人在向 ChatGPT 寻求建议。
而其中一些建议会和杀人有关。
假设你是制造步枪的，你肯定会问：这些枪最后被拿去做什么？
对。
围绕这种问题已经发生过很多法律诉讼，你也知道。但我现在甚至不是在谈法律责任，只是在问一个道德问题。
你有没有认真想过：你是否能接受自己的技术被用于杀人？
如果我是造步枪的，我会花很多时间去想，因为步枪的一个主要目的就是杀死某种东西——人、动物，等等。
如果我造的是菜刀，我仍然会知道，每年也会有一定数量的人死在菜刀之下。
对 ChatGPT 来说，我每天听到的并不是“它杀了多少人”。恰恰相反，这份工作最让人有成就感的一部分，是不断听到 ChatGPT 通过各种方式救了多少人的命。
但我完全知道，也许我们军队里已经有人把它用来询问“怎样把自己的工作做好”，而这类工作里可能包含致命决策。
我并不完全知道自己应该怎么感受这件事。
我喜欢我们的军队，也非常感谢他们保护我们的安全。
当然。我只是想更清楚地知道你的内在判断到底是什么。
Altman 对 AI 最深的担忧
只是感觉你手里有这些极其沉重、影响深远的道德决定，可你看起来完全没有被它们困扰。
所以我一直在往你内心压。我想看到那个焦虑的 Sam Altman——“哇，我正在创造未来，我是世界上最有权力的人，我必须处理这些复杂道德问题，我的灵魂因为想到它会怎样影响人类而备受折磨。”
给我描述一下你人生里的那个时刻。
从 ChatGPT 发布以后，我就没怎么睡过一个真正的好觉。
你到底在担心什么？
就是我们正在谈的所有这些事。
能再具体很多吗？让我们看看你真正的想法。
你刚才其实已经碰到了可能最难的一个。
每周大约有 15,000 人自杀。假设世界上大约 10% 的人在和 ChatGPT 说话，那相当于每周大约有 1,500 人——如果这个估算成立——在和 ChatGPT 交流之后，最终仍然自杀了。
他们很可能也和模型谈过自己的处境，而我们大概没有救下他们。
也许我们本来可以说得更好一点，也许可以更主动一点。
也许我们可以给出更好的建议，比如明确说“你需要去获得这类帮助”，或者“你需要从另一个角度看这个问题”。
也许我们应该更坚定地告诉他：继续活下去真的值得，而且我们可以帮你找到一个能够真正和你谈的人。
可你刚才已经说，在绝症情形下，让机器把自杀协助作为选项呈现是可以想象的，那种情况下你似乎不会觉得同样糟糕。
你难道不觉得，一个抑郁的青少年，和一个身患绝症、非常痛苦、85 岁的癌症患者之间，有巨大区别吗？
当然有巨大区别。
但已经把协助死亡合法化的国家，现在也有人因为贫困、住房不足、抑郁这些原本可能解决的问题而死亡，而且人数很多。
所以这不是理论问题，它正在发生。这样一来，“只限绝症”的讨论就没那么相关了。
一旦你承认“杀死自己可以是被制度认可的”，边界就可能不断扩张，最后很多人会因为别的原因走向死亡。
我现在真的是现场思考这个问题。
假设加拿大一个人说：“我得了绝症癌症，每天都非常痛苦，我有哪些选择？”
你认为模型完全不应该告诉他：当地法律下存在某种医疗协助死亡的选项吗？
我的意思是，如果我们反对杀人，那就反对杀人。
如果我们反对政府杀死自己的公民，那就坚持这个原则。
如果我们不反对政府杀死自己的公民，那我们很容易一步一步把自己说服到非常黑暗的地方。
而有这种技术以后，这种滑动可能十分钟就完成。
这件事我想花比一次访谈里的几分钟多得多的时间去想。
但我承认，你刚才表达的是一个逻辑上连贯的立场，而且它可能成立。
AI 会成为极权控制工具吗？
你担心这个吗？大楼外面的人几乎都害怕，这项技术会被用作极权控制的手段。
在我看来，它显然会被这么用；也许你不同意。
如果现在能让我推动一项和 AI 有关的政策，我最希望实现的，是建立一种“AI 特权保密”概念。
这和我们前面谈的某些东西确实存在张力。
今天你去和医生谈健康，或者和律师谈法律问题，政府不能随便拿走这些信息。
我们作为社会已经决定，这类沟通有公共利益需要保护，因此应该享有特权保密，政府不能简单拿一张传票就要求医生交出来。
我认为和 AI 的交流也应该有同样的概念。
如果你在和 AI 谈自己的病史、法律问题、寻求法律建议，或者其他类似的私密事情，政府也应该给公民与“和真人医生或律师交流”相同级别的保护。
现在我们还没有这种保护。
我认为如果能把它写进政策，会是一项非常、非常好的制度。
所以按现在的情况，联邦政府、州政府或者其他有权力的人，可以来找你们说：“我要知道某某人向这个系统输入过什么。”
目前，他们可以这么做。
ChatGPT 用户到底有多少隐私？
对。那你们对用户以及其他人提供给你们的信息，究竟负有什么保密义务？
我们当然有保密义务。例外就是政府依法来要求的时候——这也是我们为什么在推动刚才说的那种 AI 特权保密制度。
我最近其实刚去过华盛顿特区，为这件事游说。
我比较乐观，觉得我们能让政府理解这件事的重要性，并真正把它做成。
你们有没有可能把这些信息卖给任何人？
不会。我们的隐私政策不允许这么做。
但这么做在法律上允许吗？
我甚至不认为这是合法的。
你是“不认为”，还是你确定？
我相信一定存在某些边缘情形，有些信息可能依法允许以某种方式使用。
但总体上，我的理解是这里已经有一些不错的法律约束。
所以你收到的所有信息会一直留在你们这里，不会因为其他理由交给别人，唯一例外就是传票？
我的理解是这样。我之后会再核实并跟你确认，确保没有别的例外情况。
但此刻我的理解就是这样。
好。这是一个核心问题。那版权呢？
我们的立场是，“合理使用”在这里其实是一套不错的法律框架。
模型不应该抄袭。如果你写了一个东西，模型不应该直接把它复制出来。
但模型应该可以像人一样从作品中学习，同时不去抄袭。
你们有没有拿过受版权保护的材料，却没有向版权持有人付费？
我们会在公开可获得的信息上训练，但我们不会……用户经常因为我们“不肯给”某些内容而对我们不满。
我们对 ChatGPT 在回答里可以复现什么，采取的是非常保守的立场。
如果某段内容哪怕只是接近版权边界，比如用户说：“这首歌不可能还在版权期，你就把它给我看吧。”我们也出了名地相当严格。
前员工之死：自杀还是谋杀？
你们曾经被一名程序员指控，说你们基本上是在拿别人的东西、又不给钱。然后他后来被杀了。那是怎么回事？
那同样是一场巨大的悲剧。他是自杀的。
你真的认为他是自杀？
我确实这么认为。
你自己认真查过吗？
他算是我的朋友。不是非常亲近的朋友，但他在 OpenAI 工作了很长时间。
这件悲剧真的让我非常震动。我花了很多时间去读我能找到的一切资料，我想你和其他人也一样。
以我看到的材料，它看起来就是自杀。
为什么你会觉得像自杀？
枪是他自己买的……这话题很血腥，但我把整份医疗记录都看过。
没关系，可以谈。那你觉得那些材料并没有让它看起来不像自杀？
我完全相反。我认为他是被谋杀的。
在我看来，现场有打斗迹象；监控摄像头的线被剪断了。
他刚点了外卖，也刚和朋友从 Catalina Island 度假回来。
我没看到任何迹象显示他有自杀倾向，没有遗书，也没有相应行为。
他刚刚还和家人通过电话，随后就被发现死亡，而且多个房间都有血迹。对我来说这非常难解释成自杀。
所以我的判断很直接：他是被谋杀的。你有没有就这件事和有关当局谈过？
没有，我没有和有关当局谈过。
而且他的母亲声称，他是按照你的命令被杀的。
你相信这个说法吗？
我是在问你。
可刚才是你把这个说法讲出来的。所以你自己相信吗？
我认为这件事值得调查。我并不知道他此前对你们公司的犯罪指控到底是不是真的，当然不知道。
但如果一个人公开指控你的公司犯罪，之后他被发现死亡，而现场又存在我所说的打斗迹象，那我不认为应该简单把问题排除掉。
我不认为在没有证据显示他抑郁的情况下，可以一句“他自己杀了自己”就结束讨论。
而且如果他是你的朋友，我会以为你会希望和他的母亲谈谈。
我提出过愿意谈，但她不愿意。
那当外界看着这一切、觉得某些事情有可能发生时，你会不会觉得，这反映了人们对这里正在发生的事情本来就有的恐惧？
我做过的访谈里，倒是没几次像这样被暗示指控……
我完全没有指控你。我只是说，他的母亲提出了这样的说法。
而且我认为，公平阅读现有证据，并不能让我得出“这显然是自杀”的结论。我完全看不出来。
我也不理解，为什么在存在我刚才所说的打斗迹象、两个房间都有血迹的情况下，当局能把它归为自杀。我觉得这非常奇怪。
你明白这听起来就是在指控我，对吧？
当然。所以我再说清楚一次：我并没有指控你有任何不当行为。
但我认为值得把真正发生了什么查清楚。我也不理解，为什么旧金山市会在把它定为自杀之后，不继续做你认为应当做的进一步调查。
按我的理解，他们其实调查过几次，不止一次。
我也承认：最开始听到这件事时，我同样觉得非常可疑。
对。
他的母亲后来主动联系了我。我一开始对这件事什么都不知道，也不是我熟悉的领域，她就是直接找到我。
我跟她谈了很久，听完以后真的被吓坏了。
哇。
我当时的结论就是：这个年轻人显然是被某个人杀死的。我觉得这是一个客观判断，而且我本人没有任何利害关系。
那是你在看了后来最新的报告之后仍然这么认为？
对。我还立刻打电话给加州国会议员 Ro Khanna，说：“这太疯狂了，你得查查这件事。”
但后来什么也没发生。我当时就在想：这到底是怎么回事？
我再次想说，这件事让我……
死亡事件证据与调查的持续交锋
我会觉得很奇怪，也很难过，要在这里争论这件事。
我不是在跟你争论。
但你确实有一点在指控我。
他是一个非常好的人，而他的家人显然正处在巨大的痛苦中。
我完全可以理解你说自己只是想弄清真相，我也尊重这一点。
但我认为，对他的记忆和他的家人，应该带着一种我在这里没有完全感受到的尊重和哀痛。
我正是应他家人的请求才问这些。所以我当然是在尊重他们。
而且我没有指控你以任何方式参与其中。
我说的是：在我看来，证据并不指向自杀。
而你所在城市的有关当局如果就这样略过去，忽视那些在我看来任何合理的人都会认为累积起来指向谋杀的证据，我觉得非常奇怪。
这会动摇人们对整个制度“能够根据事实作出反应”的信心。
我刚才想说的是，第一批信息出来以后，我其实也想：“天啊，这看起来不像自杀。我很困惑。”
好，那说明我不是完全在胡扯，也不是疯了。
但后来第二批材料出来，细节更多，我的看法就变了。
什么改变了你的判断？
第二份报告里关于子弹进入身体的方式，以及有人根据房间里的情况重建了事情可能发生的路径。
我想你也看过那些材料。那些为什么没有改变你的想法？
我看过。但对我来说，它仍然说不通。
为什么监控摄像头的线会被剪断？
如果是自己开枪，为什么之后会在两个房间都留下血迹？
为什么房间里还有一顶不属于他的假发？
还有，没有任何迹象表明一个人有自杀倾向，却突然自杀，这样的案例当然可能存在，但这里所有细节叠在一起让我困惑。
他刚刚还点了外卖。谁会点了 DoorDash，然后立刻自杀？也许真的有人会，但我当过警务记者、报道过很多犯罪，从没听过和这整套情形类似的案子。
所以第二份材料没有让我更释然，反而让我更困惑。
这就是我觉得谈话开始变得有点痛苦的地方。我觉得这没有表现出我希望对一个经历这种精神痛苦的人所给予的尊重。
我明白，我完全明白。只是他的家人要求有人问这些问题。
很多人自杀时没有留下遗书，这种事并不少见。
当然。
人在自杀前点自己喜欢的食物，这种情况也确实会发生。
这是一场不可思议的悲剧。
他的家人认为这是谋杀，所以我才问。
如果我是他的家人，我肯定也会想得到答案。
而且无论得到什么答案，我都怀疑自己会真正满意。这样的失去，大概没有什么答案能真正安慰人。
对。
所以我理解他们。我也非常在意是否尊重他。
对。但我必须问。
Altman 如何看 Elon Musk
你的说法是，Elon Musk 后来一直攻击你之类的。那从你的角度，这场争端的核心到底是什么？
我知道他是你的朋友，也知道你大概会站在哪一边。
其实我没有立场，因为我对这件事了解得不够，不足以形成判断。
他帮助我们创办了 OpenAI，我对此一直很感激。
很长时间里，我真的非常仰慕他，把他看成不可思议的英雄，甚至可以说是“人类的一颗珍宝”。
我现在的感受不同了。
现在是什么感受？已经不是“人类珍宝”了？
他身上仍然有一些不可思议的地方，我也很感谢他做过的很多事情。
但他也有很多我不欣赏的性格特征。
总之，他帮我们创办了 OpenAI。后来他判断我们不在一条能成功的轨道上。
他大意上告诉我们：我们成功的概率是 0%，然后他会去做自己的竞争性项目。
后来我们做得还可以。我想他因此感到不高兴也很容易理解——换成我在那个位置，我大概也会不好受。
从那以后，他有了一个竞争性的、某种“克隆”式项目，也一直试图减慢我们的速度、起诉我们，诸如此类。
这大概就是我的版本。我相信他会有完全不同的版本。
你们现在不怎么说话了？
很少。
哪些工作会被 AI 取代？
如果 AI 变得更聪明——我觉得它可能已经比任何单个人都聪明——而且如果它还变得更有智慧，能够作出比人更好的决定，那它从定义上就会把人从世界的中心位置挤开。
我完全不觉得实际体验会像“人被挤开”。
我觉得它更像一台非常聪明的电脑，给我们建议；有时我们听，有时我们不听。
我不认为那会让人感觉失去主体性，也不认为它会削弱我们对自己能作决定的感觉。
已经有很多 ChatGPT 用户会说：“它几乎在所有事情上都比我聪明得多。”
但这些人依然是作决定的人。他们决定问什么、听什么、不听什么。
我认为这只是技术一贯的形态。
那谁会因为这项技术失去工作？
我先加一个显而易见但很重要的限定：没有人能预测未来。
同意。
如果我试图非常精确地回答，我肯定会说出很多蠢话。
所以我先挑一个自己比较有把握的领域，再说那些我明显没那么有把握的。
我比较确定：今天大量通过电话或电脑完成的客服工作，其中很多岗位会消失，而且 AI 会把这类工作做得更好。
当然，也会有别的客服场景，你会非常希望确认对面真的是某个具体的人。
我比较有把握不会受到同样程度冲击的一类工作，是护士。
在人生处于那种脆弱时刻时，人们真的需要和另一个人建立深层的人际连接。无论 AI 的建议多好，或者机器人多强，人还是会想要那种真人连接。
我对程序员的未来就没有那么确定。
今天“做一个程序员”意味着什么，和两年前已经非常不同。
你可以用这些 AI 工具把生产力提高很多，但现在依然是一个人在那里工作。
他可以生成比以前多得多的代码，也可能赚比以前更多的钱。
而且事实证明，全世界对软件的需求远远超过过去人类能够生产软件的能力，所以现在仍然有巨大的需求积压。
可如果快进五年或十年，情况会是什么样？程序员工作更多还是更少？这件事我真的不确定。
可以确定的是会有巨大位移。也许被挤走的人会找到新的、有意思的、而且能赚钱的事情。
你觉得这种位移会有多大？
最近有人告诉我，一个历史平均数是：大约 50% 的工作会显著改变。
不一定彻底消失，但会发生显著变化；平均大约每 75 年出现一次这种程度的更替。你可以把它看成某种“半衰期”。
对。
我比较有争议的看法是：这次可能像一个“间断平衡”的时刻——很多变化会集中在一小段时间里发生。
但如果把时间尺度拉远，我不觉得长期总体的工作变化率会和历史水平相差得特别夸张。
也就是说，短期里会有大量变化，但拉长以后，总工作流动或许没有我们现在想象得那么大。
会出现完全新的职业类别。比如我现在这种“经营一家科技公司”的工作，200 年前的人很难想象。
同时，也会有很多工作和 200 年前已经存在的工作在方向上相似；而 200 年前很常见的一些工作，现在已经不存在。
我要再次强调：我完全不知道刚才那个历史数字是否准确，我只是为了讨论暂时拿它来用。
如果假设真的是“每 75 年有 50% 的工作发生更替”，那我完全能想象 75 年后，一半的人在做今天完全不存在的事，另一半的人仍在做某种看起来和今天职业相似的事。
上一次工业革命之后，可是出现了革命，也出现了世界大战。你觉得这次会不会也这样？
再说一次，没有人知道。我对这个回答并没有把握。
但我的直觉是，今天的世界比工业革命时期富裕得多，因此我们也许能比当时更快地吸收更多变化。
社会能多快适应 AI 冲击？
可工作的意义不只是钱。工作里还有意义感，还有对社区的归属感。
对，完全同意。
很遗憾，我觉得社会在这些方面本来就已经处在一个相当糟糕的位置。
我不确定还能坏多少——当然，我知道还是可能更坏。
但人们面对巨大变化时迅速适应的能力，倒是经常让我感到惊喜。
Covid 对我来说就是一个很有意思的例子。世界几乎在同一时刻停了下来，一周和下一周之间，生活突然完全不同。
当时我很担心社会究竟能不能适应那个世界。
当然，适应过程绝对称不上完美。
但整体看，我最后会想：“好吧，这至少给社会韧性加了一分。”
人们可以非常快地找到新的生活方式。
而我不认为 AI 的变化会像疫情那样突然。
AI 的下行风险是什么？
那 AI 的坏处会是什么？
好处我当然看得到。效率会提高。
医疗诊断看起来也会变得准确得多。
还有，律师会变少。为这一点我非常感谢。
可你真正担心的下行风险是什么？
也许这就是我的思维方式：我最担心的永远是“未知的未知”。
如果某种坏处已经能被我们相当确定地识别、可以认真思考，那反而是比较容易处理的一类。
我们前面已经谈过一个例子：这些模型在生物领域越来越强。
它们有可能帮助人设计生物武器，也可能被用于制造另一场类似 Covid 的疫情。
这件事我确实担心。
但正因为我们已经担心它，我认为我们以及行业里的很多人都在非常认真地思考怎样减轻这种风险。
我更担心的是那些我们目前还根本没有想到的社会尺度效应。
比如，大量的人同时和同一个模型说话，会不会在整个社会层面造成某种行为变化？
我最近注意到一个很小、甚至有点好笑的例子，但它很触动我。
我们的 LLM，以及其他公司的语言模型，都有自己某种固定的“说话风格”。
它们有特定的节奏，用词也稍微有点不寻常。
比如，它们可能会过度使用 em dash，也就是英文长破折号。
我最近注意到，真实的人类也开始学会这种写法了。
这对我来说就是一个例子：当足够多的人都在和同一个语言模型交流时，它真的会改变社会尺度上的行为。
对。
我以前会想到 ChatGPT 让现实中的人突然大量使用英文长破折号吗？当然不会。
这件事本身不是什么大问题。
但它提醒我：我们正在进入一个全新的世界，里面会出现很多这种事前想不到的“未知的未知”。
AI 是一种宗教吗？
所以你的意思其实非常简洁，而且我认为是对的：技术会改变人的行为。
当然。
它也会改变我们对世界、对彼此以及很多事情的基本假设。
其中很多变化其实是可以预测的。
既然我们知道技术会这样塑造人，那为什么这项技术内部的道德框架不应该完全透明？
比如直接告诉我们：“我们更偏好这个，而不是那个。”
我觉得这显然已经是一种宗教。你大概不会同意这么叫它。
但对我来说，它非常明显就是一种宗教。这个说法不是攻击。
我并不把它当成攻击，但我真的很想听你解释，你说“宗教”具体是什么意思。
它是一种我们假定比人更强大的东西。
而且我们会向它寻求指引。你已经能看到这种现象了。
当我问“什么才是正确决定”时，我会问谁？
我会问最亲近的朋友、我的妻子，以及上帝。
而现在出现了一种技术，它能给出比任何一个人都更确定的答案。
所以在我看来，这就是宗教。
宗教的一个优点，是它有公开的教理体系。
我知道那个宗教主张什么：它支持什么、反对什么。
可在 AI 这里，我一直逼问你，真不是为了攻击你，而是想摸到最核心的东西。
宗教会承认自己是一种宗教，并告诉你它相信什么。
而这项技术——不只是你们公司，其他公司也一样——让我不安的地方是：我不知道它究竟代表什么。
可它一定代表某些东西。
如果它不承认这一点，也不告诉我们自己站在哪里，它就可能以一种隐蔽方式引导我们。
最后我们被带向某个结论，甚至可能不知道自己正在被带往那里。你明白我的意思吗？
那为什么不干脆彻底公开？比如明确说 ChatGPT 在哪些问题上采取什么立场。
以我们前面谈的例子来说，绝症成年人的自杀协助是一种情况，孩子又是另一种情况。为什么不把边界直接告诉大家？
这正是我们写那份很长的 Model Spec 的原因。
而且我们之所以一直扩充它，就是为了让人们看到：我们打算让模型怎样表现。
以前没有这份规范时，人们会很合理地问：“我连模型究竟想做什么都不知道。”
他们也会说：“我不知道眼前这个行为是 bug，还是你们本来就设计它这么做。”
所以你会要求我们解释：这个长长的文件到底在说什么？什么时候模型会这么做，什么时候会给你看某种内容，什么时候又会说“不做”。
对。
我们把这些东西全部写出来，就是因为我认为人们确实需要知道。
那有没有一个地方，人们可以得到一个硬答案：你们这家公司到底偏好什么？
因为这些公司的偏好正在以一种并非完全直白的方式，被传递给全世界。
到底去哪里能查到“OpenAI 代表什么、偏好什么”？
我们的 Model Spec 就是对这个问题的回答。
当然，随着时间推移，我们必须把它写得越来越详细。
人们会在不同国家使用这套系统，各地法律也不同，还有很多其他差异。
所以它不可能对世界上每一个地方、每一个用户都完全以同一种方式运行。
我预计这份文档会变得非常长、非常复杂。
但这正是我们需要它存在的原因。
Deepfake、真实性与生物识别
最后一个问题。也许你能缓解我这个担心：技术强到一定程度，会不会让任何人都很难、甚至不可能再分辨现实和幻想？
这是一个很有名的担忧。
AI 已经非常擅长模仿人、模仿人的声音，也能模仿人的形象。
所以我们似乎必须有某种办法，验证一个人真的是他所声称的那个人。
而这按定义似乎会要求生物识别。
如果所有人都必须用生物识别验证自己，那按我的理解，也就等于消灭了世界上每个人的隐私。
我不认为使用这项技术需要、或者应该强制要求生物识别。
我认为你应该能从任何一台电脑上直接使用 ChatGPT。
这一点我强烈同意。
可如果到了某个阶段，模仿一个人的图像和声音容易到足以把他的支票账户掏空，那怎么办？
我有几个想法。
第一，我们正在很快进入一个世界：人们会明白，一通听起来像自己孩子或父母的电话，并不能自动证明那真是孩子或父母。
同样，一张看起来完全真实的图片，也不能自动证明它是真实发生的。
你必须有某种额外的验证方式，确认自己没有被诈骗。
而且这已经不再是理论上的担忧。现在已经不断有人报告类似问题。
完全同意。
人是聪明的，社会也有韧性。
我觉得大家正在迅速理解：坏人已经开始用这些技术做坏事。
所以人们也在学会，必须用不同方式确认身份和真实性。
比如家庭成员之间，可能会约定一个只在紧急情况下使用的暗号。
我还怀疑，我们会看到另一类机制：当一个国家的总统必须发布紧急信息时，那条信息会带有密码学签名。
或者使用其他技术，能够保证这条消息确实来自那位总统。
这样，你就不会仅凭一段生成视频，就相信 Trump 真的宣布了“我刚刚做了某件事”。
我认为人们会很快学会：这是技术带来的新问题，是恶意行为者正在使用的新手段，社会必须应对。
而这会构成解决方案的大部分。
人们默认会变得不再信任那些“看起来非常真实”的媒体。
与此同时，我们会建立新的机制，用来验证通信的真实性。
可那些机制最后还是必须是生物识别吧？
不，完全不必。
比如美国总统要发一条紧急消息时，可以用密码学机制验证它，不需要靠每个接收者的生物特征。
我理解总统的例子。
但普通人的日常生活并不是天天等总统宣布战争。
普通人是在做电子商务、处理银行账户、接电话。那这些日常场景怎么办？
以家庭来说，我觉得大家会有一个家庭暗号。
这个暗号还可以定期更换。
如果你接到一通自称来自家人的电话，就问对方暗号是什么。
这和生物识别是非常不同的机制。
所以你不认为生物识别会很快变成全社会强制性的东西？
现在连搭乘商业航班，生物识别都已经成为流程的一部分了。
我真的希望它不要变成强制要求。
我确实喜欢某些“保护隐私的生物识别”方案。
在一些场景里，我甚至更喜欢那种方案，而不是让机构收集一个人大量的个人数字信息。
但我不认为生物识别应该被强制。
比如，我不认为你为了坐飞机就必须交出生物识别数据。
那银行业务呢？
我也不认为做银行业务必须强制提供生物识别。
我个人也许会偏好用指纹扫描去访问自己的 Bitcoin 钱包，而不是把自己的所有信息都交给一家银行。
但那应该是我自己的选择。
我很感谢你。谢谢你，Sam Altman。
谢谢。
结果证明，YouTube 正在压制这个节目。
从一个角度说，这不让人惊讶——这就是他们会做的事。
但从另一个角度说，它又令人震惊。
看看现在全世界正在发生的一切：我们的经济和政治都在变化，而且我们正处在一些战争可能爆发的边缘。
片尾：YouTube、订阅与信息
就在这种时候，Google 却决定让你获得更少的信息，而不是更多。
我认为这完全是错的，而且是不道德的。
你能怎么办？
我们当然可以抱怨，但那只是在浪费时间。
我们又不管理 Google。
另一种办法，是想办法绕过去。
也就是找到一种方式，让你确实能拿到真实的信息，而不是被有意误导的信息。
至少在 YouTube 上，我们认为办法就是订阅我们的频道。
点击订阅，再点那个小铃铛，这样我们上传内容时你就会收到通知。
也请把这个视频分享出去。
这样，你听到真正新闻和信息的概率会高很多。
我们希望你会这么做。