CONJECTURE

我们相信我们将在有生之年看到变革性的人工智能。鉴于AI最近的进展，我们也相信这种AI很可能源自现代机器学习架构和梯度下降等技术。然而，今天的AI模型是黑匣子——针对与我们作为人类实际关心的事物微弱相关的数学目标进行了优化。

目前无法阻止GPT3等强大的语言模型产生不需要的输出和对事实问题的完全捏造。由于我们对当前模型的内部机制缺乏基本的了解，因此我们无法保证我们的模型在遇到训练数据之外的情况时可能会做什么，并可能在全球范围内造成灾难性后果。