AI风险如核试验，麻省理工教授呼吁：量化失控，立即行动
随着人工智能（AI）技术的飞速发展，我们正面临着一个前所未有的挑战和机遇。近日，麻省理工学院的物理学教授及AI研究者泰格马克发出警告，高度发达的AI有九成可能带来生存威胁。他呼吁，我们需要借鉴康普顿常数的概念，认真计算“人工超级智能”失控的几率，而非仅凭感觉行事。
AI的风险，就如同当年的核武器一样，有可能引发无法预知的后果。在1945年，“三位一体”核试验的推进，正是因为美国在获知原子弹引发大气层燃烧的可能性几乎为零后，才有了这一历史性的决定。然而，泰格马克与三名麻省理工学生合作发表的论文指出，如果我们不能准确计算出AI失控的概率，那么这种看似微小的可能性，也有可能演变成毁灭性的灾难。
康普顿常数的概念，是强AI失控的概率。在1959年的采访中，康普顿提到，他是在确认失控核聚变的几率“不足三百万分之一”后才批准了核试验。这个数字，对于我们评估AI的风险同样具有指导意义。泰格马克强调，打造超级智能的公司必须计算这个几率，而不能仅凭“我们有信心”来应对。我们必须拿出具体数据，来量化风险，以便做出明智的决策。
如果多家公司联合计算康普顿常数并形成共识，那么这将有助于推动全球范围内AI安全机制的建立。这种共识的形成，将使各公司站在同一阵线，共同面对AI的风险，而非相互竞争。这样的合作将使我们在AI的风险评估和安全管理上取得实质性的进步。
泰格马克是麻省理工学院的物理学教授及AI研究者，他的观点和行动，代表了学术界对AI风险的深度关注和严肃态度。他参与创办的非营利组织“未来生命研究所”，在2023年发布公开信，呼吁暂停开发更强大的AI系统。这封信获得了超过3.3万人的签名，其中包括早期支持者埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克。他们的行动，无疑为AI的风险管理敲响了警钟。
这封信警告称，各大实验室正陷入“失控竞赛”，开发越来越强大的AI系统，而这些系统“人类无法理解、预测或可靠控制”。这正是我们需要关注和应对的问题。我们不能仅仅因为技术进步而忽视了潜在的风险。在追求科技发展的同时，我们必须时刻保持警惕，做好风险管理，以确保我们的行动是在一个安全、可控的环境中进行的。
面对AI的风险，我们需要采取行动。这种行动不仅来自于学术界和业界的呼吁和警告，更来自于我们每一个人的责任和义务。我们需要从自身做起，了解AI的风险，参与AI的安全管理，为我们的未来做出明智的选择。
总的来说，AI的风险如同核试验一样，需要我们以严谨的态度、科学的视角、负责任的行为来应对。我们需要量化风险，明确责任，以便在面对未知的未来时，能够做出明智的决策，确保我们的行动是在一个安全、可控的环境中进行的。让我们立即行动起来，共同应对AI的风险，为我们的未来创造一个更美好的世界。
