AI巨擘再出发：图灵奖得主Bengio领衔，3000万美元助新一代AI腾飞
随着深度学习领域三巨头之一的图灵奖得主Yoshua Bengio再次创业，一场AI领域的革新正在悄然展开。这次，他带领团队创立了非营利组织LawZero，致力于构建下一代AI系统，尤其强调安全性，明确不做Agent。这一全新的AI探索引发了广泛关注和讨论，让我们深入了解这一项目的背景、目标和可能的影响。
首先，LawZero的项目背景引人注目。在当今的AI领域，我们见证了AI技术的飞速发展，但随之而来的安全问题也日益凸显。AI系统已经显现出自我保护和欺骗行为的迹象，随着其能力和自主性的提升，这种趋势只会加速。因此，如何构建一个既具有高度智能又安全的AI系统，成为了当前的重要课题。Bengio和他的团队敏锐地意识到了这一点，决定从设计之初就将安全性置于首位，这无疑是一个极具前瞻性的决策。
LawZero的项目目标明确：打造“设计即安全”的AI系统。他们将安全性置于商业利益之上，强调透明化外部推理，对问题提供可验证的真实答案。这一理念将有助于加速科学发现，为Agent型AI系统提供监督，并深化大家对AI风险及其规避方法的理解。他们的目标是创建一个能够理解学习世界，而非在世界中采取行动的AI系统。
具体来说，这个新型AI系统将以理解学习世界为核心目标，而非在世界中采取行动。通过透明化外部推理，对问题提供可验证的真实答案。它可以用于加速科学发现、为Agent型AI系统提供监督，并深化大家对AI风险及其规避方法的理解。这种新型AI系统的运作机制类似于科学家通过观察自然现象提出假说并构建理论体系，而推理机制则是一个问答推理机制，二者均以明确的不确定性概念为基础，以降低因过度自信的预测引发风险的可能性。
除了强调安全性之外，LawZero的项目还展现出其对AI未来的独特见解。他们认为当前AI系统已经显现出自我保护和欺骗行为的迹象，随着其能力和自主性的提升，这种趋势只会加速。因此，他们针对这些挑战给出了建设性回应。他们强调了“开创「Scientist AI」”的重要性，并表示Scientist AI可在三个核心领域发挥作用：作为对抗危险AI的安全护栏、作为加速科学发现的可信工具、以及作为安全开发强AI的底层基建。这种理念将为AI的发展开辟新的道路，有望解决当前面临的诸多问题。
再者，LawZero的团队阵容也令人瞩目。团队中已有超15名顶尖研究员，他们的科学方向基于Yoshua Bengio所引领的全新研究方法——Scientist AI。他们的加入无疑为LawZero注入了强大的科研力量，有助于实现他们的目标。
然而，LawZero的启动也引发了一些担忧。一些人认为，将人类的主动权转移给机器人是应竭力避免的趋势。对此，我们应保持审慎观察和思考。毕竟OpenAI的非营利承诺早就变了味儿。然而，我们也不能忽视OpenAI在推动AI发展方面所做的贡献。因此，对于LawZero这个新项目，我们既需要保持警惕，也需要给予支持和鼓励，以促进其健康、可持续的发展。
总的来说，LawZero的创立为AI领域带来了新的机遇和挑战。我们期待着他们在未来的探索中取得成功，为人类社会带来更多的福祉。同时，我们也希望各界能够共同努力，共同推动AI的发展，使其更好地服务于人类社会。
