Sam Altman 今天在他的博客更新了一篇长文：《The Gentle Singularity》，文中指出人类或许正迎来一个新的奇点，而这个奇点并非突如其来，而是温和地悄然降临。
以下是译文。
我们已越过临界点，起飞开始了。人类距离创造出数字超级智能已近在咫尺，而至少到目前为止，现实远比想象中来得平实自然。
街道上尚无机器人行走，我们大多数人也不整日与AI交谈。人们依然会因病离世，太空旅行依旧不易，宇宙中仍有诸多未解之谜。
然而，我们近期确实构建了在许多方面超越人类智慧的系统，它们能显著提升使用者的工作效率。最困难的部分已然过去：造就GPT-4、o3等系统的科学洞见来之不易，却将引领我们走得更远。
人工智能将以多种方式惠及世界，但由AI驱动的科学加速进步和生产效率提升所带来的生活质量改善，将是巨大的；未来可以远比现在美好。科学进步是整体进步的最大驱动力；想到我们本可拥有的更多可能，实在令人振奋。
从某种重要意义上说，ChatGPT已经比历史上任何个体人类都更强大。数亿人每天依赖它处理日益重要的任务；一项微小的新能力便能产生巨大的积极影响；而一个微小的错位，乘以数亿用户，则可能造成深远的负面影响。
2025年，能执行真正认知工作的智能体已然登场；编写计算机代码的方式将彻底改变。2026年，我们可能迎来能够发现新见解的系统。2027年，能在现实世界执行任务的机器人或将问世。
将会有更多人能够创作软件和艺术作品。但世界对这两者的需求远超当前供给，只要专家们善用新工具，他们很可能仍远胜于新手。总体而言，到2030年，单个人的生产力相比2020年所能达到的飞跃，将是惊人的巨变，许多人会找到从中获益的途径。
在最重要的方面，2030年代或许不会天翻地覆。人们仍将爱自己的家人，表达创造力，玩游戏，在湖中畅游。
但在同样至关重要的其他方面，2030年代很可能将与此前任何时代都截然不同。我们尚不知智能水平能超越人类多远，但我们即将揭开谜底。
在2030年代，智能与能源——即思想的涌现以及将思想变为现实的能力——将变得极度充裕。长久以来，这两者一直是人类进步的根本限制；在充裕的智能与能源（以及良好的治理）之下，理论上我们能够拥有其他一切。
我们已然生活在令人惊叹的数字智能时代，经历了初期的震惊后，大多数人已习以为常。我们飞快地从惊叹AI能生成优美的段落，转而期待它能创作优美的小说；从惊叹它能做出救命的医学诊断，转而期待它能研发治愈良方；从惊叹它能编写小程序，转而期待它能创立全新的公司。奇点的演变便是如此：奇迹成为日常，继而成为标配。
已有科学家坦言，借助AI，他们的效率提升了数倍。先进AI令人着迷的原因众多，但或许最重大的意义在于，我们能利用它来加速AI自身的研究。我们或许能发现新的计算基材、更优的算法，甚至更多未知的突破。若能将十年的研究压缩至一年或一个月内完成，进步的速率显然将大不相同。
从今往后，我们已构建的工具将帮助我们探寻更深远的科学洞见，并助力我们打造更优的AI系统。这当然不等同于AI系统完全自主更新自身代码，但这已然是递归式自我改进的雏形。
其他自我强化的循环也在发挥作用。巨大的经济价值创造已启动一个飞轮，推动着为运行日益强大的AI系统所需的复合式基础设施建设。能够制造其他机器人的机器人（某种意义上，也包括能建设其他数据中心的数据中心）已不再遥远。
若首批百万台人形机器人仍需传统方式制造，但之后它们便能运作整个供应链——采矿与冶炼、驾驶卡车、管理工厂等等——以制造更多机器人，而这些机器人又能建设更多芯片工厂、数据中心等，那么进步的速度显然将不可同日而语。
随着数据中心生产走向自动化，智能的成本终将趋近于电力的成本。（人们常好奇一次ChatGPT查询的耗能：平均每次查询耗电约0.34瓦时，相当于烤箱工作一秒多，或高效节能灯泡亮几分钟。耗水约0.000085加仑，约合十五分之一茶匙。）
技术进步的速率将持续加快，而人类总能适应几乎任何变化的特性仍将延续。挑战必然存在，如某些职业类别整体消失；但另一方面，世界财富将以前所未有的速度激增，使我们能认真考虑以往绝无可能的全新政策构想。我们或许不会立刻采纳全新的社会契约，但几十年后回望，渐进的变革终将累积成巨变。
历史经验表明，我们会找到新的工作与新的追求，并快速接纳新工具（工业革命后的职业变迁便是一个近例）。期望值会提升，但能力提升的速度同样迅猛，我们终将获得更好的事物。我们将为彼此创造越来越奇妙的东西。人类相比AI拥有一个长远而关键的优势：我们天生关注他人及其所思所为，而对机器则不甚在意。
千年前的农夫若审视我们许多人的工作，或许会认为那是“虚假的工作”，觉得我们不过是因食物充足、坐拥难以想象的奢华而游戏人生。我期待我们回望千年后的工作时，也会觉得它们“虚假”，但我毫不怀疑，从事它们的人必将感到无比重要与满足。
新奇迹诞生的速率将超乎想象。如今甚至难以预料到2035年我们将有何发现：或许今年解决高能物理难题，明年便开启太空殖民；今年取得重大材料科学突破，明年就实现真正的高带宽脑机接口。许多人会选择以相似的方式生活，但至少一部分人可能会选择“接入”（虚拟世界）。
展望未来，这听起来令人难以置信。但置身其中时，感受或许会是震撼但可控的。从相对论视角看，奇点是一点一滴发生的，融合是缓慢进行的。我们正攀登指数级技术进步的漫长弧线；向前看总是陡峭垂直，向后看则显得平坦，但它始终是一条平滑的曲线。（回想2020年，若有人预言2025年将接近通用人工智能，听起来会比我们现在对2030年的预测更为疯狂。）
伴随巨大机遇的，是严峻的挑战。我们亟需从技术和社会层面解决安全问题，而鉴于其经济影响，确保超级智能的广泛可及性也至关重要。最可取的前进路径或许是：
解决对齐问题：即我们能强有力地确保AI系统学习并践行人类集体真正的长期愿望（社交媒体信息流是AI未对齐的实例：其算法深谙如何让你持续滚动浏览，精准把握你的短期偏好，但这却是通过利用人脑的某种特性，凌驾于你的长期偏好之上）。
然后着力使超级智能变得廉价、普及，且不被任何个人、公司或国家过度垄断。
社会具有韧性、创造力且适应迅速。若能凝聚集体的意志与智慧，尽管会犯错，某些事情会出纰漏，但我们能快速学习调整，从而运用这项技术最大化收益、最小化风险。在由社会共同决定的宽泛边界内，给予用户充分自由至关重要。世界越早开始探讨这些边界何在以及如何定义集体对齐，结果越好。
我们（整个行业，而不仅是OpenAI）正在为世界构建一个大脑。它将高度个性化、人人皆可轻松使用；限制我们的将是好点子的匮乏。长久以来，科技创业圈常嘲笑“点子大王”——那些只有想法却需要团队来实现的人。现在看来，他们即将迎来属于自己的高光时刻。
OpenAI如今承载诸多角色，但首先且最重要的，我们是一家超级智能研究公司。前路漫长，但大部分路径已然照亮，未知的黑暗区域正迅速退去。能从事这份事业，我们深感庆幸。
廉价到无需计量的智能已触手可及。此言或许疯狂，但若在2020年告诉你们我们将达到今日之境，恐怕比如今我们对2030年的预测听起来更为疯狂。
愿我们借助超级智能，平稳、指数级、波澜不惊地向上攀升。
转载自：https://mp.weixin.qq.com/s/rbEEJfEoCdV4aeV_LN46mg