奥特曼：做AI公司好比造核弹
作者 / 钱亚光
编辑 / 黄大路
设计 / 张 萌
来源 / Theo Von’s podcast
AI领域的进化速度令人惊叹。似乎每隔几周就会有新的突破消息传来。这种迅猛的发展促使一些专家对AI监管的缓慢进程发出警告。而OpenAI的联合创始人兼首席执行官山姆·奥特曼（Sam Altman）也表达了自身的担忧。
奥特曼最近在“上周末（This Past Weekend）”播客节目中做客，该节目由特奥·冯（Theo Von）主持。特奥·冯是一位喜剧演员和网红，在TikTok上拥有超过780万粉丝。
在节目中，奥特曼和特奥·冯探讨了AI对社会、未来工作、教育以及人类目标的影响，诸如普遍基本财富等潜在的经济模式、技术进步与心理健康之间的平衡，以及在人工智能开发中制定道德准则和监管规定的必要性。
奥特曼分享了他个人从事AI研发的经历和对AI发展的担忧，同时也对其改善生活、解决全球挑战的潜力表达了乐观态度，强调在快速变化的世界中人类创造力和主观能动性的重要性。他们还谈到了数据中心对环境的影响以及核聚变能源的潜力。
01
AI危险堪比原子弹
奥特曼谈到了对AI与社会关系的担忧，表示公司内的研究人员有时会觉得自己所处理的技术堪比原子弹。
他说：“在科学史的某些时刻，会有这样的情景：一群科学家审视自己的研究成果，然后会自问：‘我们到底做了些什么？’也许成果是伟大的，也许是糟糕的，但究竟做了些什么呢？
比如最典型的例子就是1945年参与曼哈顿计划（Manhattan Project）的科学家们，他们坐在那里观看核试验……我确实认为从事AI研究的人在某种程度上会有这种强烈的感受。”
1946年，加利福尼亚州伯克利：J.罗伯特·奥本海默博士（右）是加州大学教授，也是新墨西哥州洛斯阿拉莫斯项目的前负责人▼（来源：盖蒂图片社）
就像20世纪40年代末全球争相研发核武器那样，奥特曼表示，如今的AI公司之间也正展开一场“竞赛”，以实现商业上的主导地位。但问题是：对于“这意味着什么”并没有明确的定义。
早在2019年，奥特曼在一次采访中，就将他的公司与曼哈顿计划相提并论。“仿佛他在谈论明日的天气预报一样，他说美国在第二次世界大战期间为制造原子弹所做的努力，是一个‘与OpenAI的规模相当的项目——是我们所追求的雄心水平的项目’。”
奥特曼说：“我认为人们都在为到达某个目的地而努力，但大家对于目的地究竟在哪里并没有达成一致意见。我并没有一个具体的终点线在心中。对于这个问题，我无法给出任何答案。我觉得我也无法清晰地表达出任何能让我自己认为任务已经完成的话语。”
02
儿童会更适应AI
奥特曼虽然承认AI存在风险，但他并不担心这项技术对当今儿童的影响。他说，社交媒体带来的威胁要大得多。
他表示，这些平台所带来的心理影响以及其成瘾性可能会改变孩子们的思维方式。而且，尽管他没有直接提及TikTok，但他无疑暗示了自己所担忧的焦点正是TikTok。
他说：“我认为这种滚动播放的画面，那种类似短视频推送的快感刺激，感觉它很可能在极其深远的层面上干扰了孩子们的脑部发育。”
他补充道，虽然成年人可能难以适应AI时代，但他坚信孩子们不会有任何困难。
他说：“从世界历史的发展来看，每当出现新技术时，那些伴随着新技术成长起来的人总是能够熟练掌握相关技能。他们总能迅速找到应对之法，总能适应新的工作要求。但如果你是50岁左右的人，却不得不以一种截然不同的方式去学习新技能，那往往就不太行了。所以，我认为孩子们不会有太大问题的。”
然而，奥特曼确实对“AI伴侣”表达了担忧，这类伴侣可能会取代朋友或恋人角色。他说道：“我不认为我们完全清楚它会产生哪些负面影响，但我确信它肯定会带来一些负面影响……我希望我们能尽快学会减轻这些影响。”
03
和机器人聊天的风险
奥特曼在采访中透露了一个令人担忧的事实：年轻用户越来越多地使用像ChatGPT这样的AI聊天机器人来进行心理治疗的情况，但与ChatGPT的交流并不像传统的人与人之间的治疗交流那样享有隐私方面的法律保护。
他提醒用户，该AI平台的对话不受法律保护，其法律保护程度也不如与有执照的专业人士进行的对话。
“人们会告诉ChatGPT自己生活中最私密的糗事。年轻人尤其会将它当作心理治疗师或生活导师来使用……但目前，如果你向心理治疗师或医生倾诉这些问题，是会有保密措施的。而我们目前还没有为人工智能找到这样的解决方案。”他还补充道，用户数据可能存在风险。
“如果你跟ChatGPT谈论了自己最私密的事情，然后发生了诉讼之类的事件，我们可能就得拿出那些内容来——我觉得这太荒谬了。”
奥特曼强调了在AI平台中保护用户隐私的重要性，并指出“与我们与心理治疗师交流时所涉及的与AI的对话相关的隐私概念”也应当得到重视，并且应当“尽快予以解决”。
OpenAI最近遭遇了一场有关用户隐私的法律纠纷。在与《纽约时报》及其他原告的诉讼过程中，OpenAI正在对一项可能严重侵犯用户隐私的法院命令提出异议。据TechCrunch报道，该命令要求保留与数百万个ChatGPT用户的交流记录。
根据OpenAI的数据保留政策，在免费版、高级版和专业版中删除的聊天记录会在30天内被永久删除，除非公司因“法律或安全原因”需要保留这些记录。
04
探索AI的乐趣
奥特曼表示，他认为AI将会改变社会的走向，但他也承认自己并不确切知道这到底意味着什么。AI最终可能会像核武器一样可怕，也可能像变压器的发明那样有益，后者推动了众多技术突破，从便携式收音机到电脑再到智能手机。
奥特曼表示，过度努力去预测未来无异于一场愚蠢的冒险。面对未知之事或许会令人感到不安，但这同时也正是探索过程中的某种乐趣所在——无论是对于发明者，还是对于受到其技术影响的人来说都是如此。
他说：“在1900年，你根本无法预见到2000年会是什么样子。而到了2000年，你甚至更无法预测2100年会是什么模样。但这就是令人兴奋的地方。而且，这也是为什么人们能够随着时间的推移去探索和揭示这个故事的原因。”