在当今波澜壮阔的人工智能浪潮中，无数目光聚焦于前沿技术突破、商业巨头竞争以及AI可能带来的颠覆性未来。然而，鲜为人知的是，这场革命的源头可以追溯到一段看似不寻常的人物关系：风险投资家彼得·蒂尔（Peter Thiel）与自学成才的AI理论家埃利泽·尤德科夫斯基（Eliezer Yudkowsky）之间的早期互动。最近，在Keach Hagey即将出版的著作《乐观主义者》的节选中，这段关键的历史被重新挖掘，揭示了两位思想者——一位致力于加速未来，一位深思未来风险——如何共同为我们今天所见的AI世界奠定基础，甚至间接促成了OpenAI等重要机构的诞生。他们的故事不仅仅是技术发展的注脚，更深刻地反映了AI时代开端时，理想、资本与潜在危机的复杂交织。
尤德科夫斯基，这位最初充满技术乐观主义，沉迷于“奇点”——即机器智能超越人类智能理论临界点——的自学先知，是早期AI领域一位极具影响力的人物。他凭借其独特的思考和前瞻性的洞察力，成功地吸引了一批研究者、思想家和投资者关注“奇点”这一概念及其深远意义。早在2004年，他就在论文《连贯外推意志》（Coherent Extrapolated Volition, CEV）中提出了一个核心观点：构建AI时，必须使其目标与人类在充分知情和理性状态下所期望的一致，并警示了目标错位的AI可能带来的灾难性后果，比如那个著名的“回形针最大化器”思想实验，一个被赋予制造回形针单一目标的高级AI，最终可能不择手段地消耗地球上的一切资源来达成其目标。正是这种对潜在风险的深刻洞察，使得他在日后从一位乐观的奇点倡导者，转变为如今常被视作的“AI末日论”预言家。
彼得·蒂尔的介入，为尤德科夫斯基的思想插上了资本和影响力的翅膀。据书中所述，两位思想者在2005年的一次晚宴上相遇，尤德科夫斯基的智慧和见解给蒂尔留下了深刻印象。从此，蒂尔开始支持尤德科夫斯基的研究工作，并于同年开始资助他的奇点研究所。次年，他们更是联手畅销书《奇点临近》的作者雷·库兹韦尔（Ray Kurzweil），在斯坦福大学创办了奇点峰会。在接下来的几年里，这个峰会逐渐发展成为一个汇聚未来学家、超人类主义者和AI研究者的重要论坛。蒂尔不仅是尤德科夫斯基重要的早期资金提供者，尤德科夫斯基本人也将蒂尔视为某种“导师”般的人物。蒂尔的资源和网络，无疑帮助尤德科夫斯基的AI安全和奇点理论获得了更广泛的关注，并促成了关键人物之间的联系。
这段早期的合作和交流，产生了连锁反应，直接影响了后来的AI发展格局。书摘指出，正是尤德科夫斯基最初激发了DeepMind创始人的灵感，促使他们构想并着手构建一个“超级智能”。随后，尤德科夫斯基又将DeepMind的创始人引荐给了蒂尔，而蒂尔成为了DeepMind最早的投资者之一。更关键的是，蒂尔与萨姆·奥特曼（Sam Altman）之间关于DeepMind的讨论，也在一定程度上启发了OpenAI的创立。可以说，蒂尔与尤德科夫斯基在早期对奇点和通用人工智能（AGI）的共同兴趣，以及由此构建的早期AI社区和投资网络，为后来竞争激烈的生成式AI竞赛埋下了伏笔。这展示了思想如何通过关键人物的连接和资本的推动，最终转化为改变世界的巨大力量。
回顾蒂尔与尤德科夫斯基这段隐秘而重要的关系，我们不禁要思考：这种对未来技术潜力的早期探索，如何在推动AI革命的同时，也可能忽视了其中蕴含的巨大风险？一位是推动加速的“乐观主义者”，一位是警示潜在危险的“末日论者”，他们的交集既是AI腾飞的起点之一，也预示着这场旅程并非坦途。正如尤德科夫斯基的担忧，当前这场由资本和算力驱动的AI竞赛，是否充分考虑了如何确保AI的目标与人类的福祉真正对齐？这段历史提醒我们，在追求技术奇迹的同时，那些关于控制、安全和价值对齐的早期思考，其重要性从未减弱，甚至在通用人工智能日益临近的今天，显得尤为紧迫。AI的未来，既是技术演进的结果，更是人类选择的倒影，而那些看似边缘的早期对话，或许正是理解这一切的关键。
相关文章
