2025年，人工智能会发生哪些革命性的变化？

点击蓝字

关注我们

2025年人工智能会发生哪些革命性的变化？斯坦福大学以人为中心的人工智能研究所的领先专家表示，2025 年人工智能的一个主要趋势是协作人工智能系统的兴起，其中多个专业代理协同工作，人类提供高级指导。这些设置设想人工智能团队解决健康、教育和金融领域的复杂问题。其他学者预计，人机协作的新方法将出现，同时开发者将面临证明人工智能实际效益的更大压力。

此外，学者们警告说，生成式人工智能可能会增加复杂诈骗的数量，同时美国已经有限的监管可能会变得更弱。    

以下是从计算机科学、医学、政策和教育等领域的学者那里得到的更多预测。

人工智能代理，较少监管

我们真的会看到人工智能代理，已经在研究中已经看到了一些，但现在在学术和工业领域中看到了更多。基本上，如何将这些代理组合起来为你做事？我们现在看到了一些接口。例如，Anthropic 的 Claude 的一些 API 可以实际操作你的计算机来完成像安排会议或帮你购买机票这样的事情。显然，这存在一些风险——如果它们真的能够使用你的计算机，它们可能会造成损害，可能会犯错误。因此，对于这种做法存在一些担忧。但尽管这些工具的第一版并不成功，我们现在看到了更多的潜力。

另一个故事是趋同。大型模型正在缓慢改进。我们看到大型模型的发布速度比以前慢了，它们在某些基准测试上仍然令人印象深刻，但对于许多这些任务，它们的改进速度要慢得多。我们只是稍微变好了一点，是因为它们使用了这么多数据，也许合成数据并没有像一些人所期望的那样有效吗？事实上，一些新的模型在某些任务上可能甚至更差。现在，有些人问，这是人工智能的冬天吗？但这些模型可以做很多事情，所以我不认为这是冬天。但是，可能有些人会画一条直线，认为人工智能将接管世界或能够做一切，我认为这将需要更多的时间，直到有人在架构上取得重大突破。

最后，随着新特朗普政府的到来，预计美国的人工智能监管将减少。我们已经没有很多监管，但拜登政府的行政命令为美国政府设定了很多指导方针，这确实有影响，因为它是一个如此大的技术客户。但预计特朗普政府将撤销其中的一些。这并不意味着不会有人工智能政策或监管。我们只是会看到来自欧盟或其他参与者，如州级监管的政策。    

——James Landay，HAI 联合主任，计算机科学教授，工程学院的安德鲁·拉贾拉曼和文基·哈里纳拉扬教授

更多诈骗，更少消费者保护

我们将继续看到生成式人工智能被滥用以帮助实施诈骗，尤其是在音频深度伪造人的声音方面。我预测，即将上任的政府将比当前政府更轻地保护公众免受这些诈骗。如果联邦贸易委员会退居二线，那么州总检察长将在消费者保护中扮演更大的角色。银行和其他金融机构，以及电话、电子邮件和互联网服务的提供商，应加强努力教育客户这些诈骗。特别是，他们（以及政府机构）应确保他们提供的资源不仅限于英语，因为英语使用者并非诈骗的唯一目标。

——Riana Pfefferkorn，HAI 政策研究员

“总承包商” LLMs

我们将开始看到由许多相互交流的人工智能系统组成的复杂问题解决系统。例如，想象一系列具有特定专业知识（微调）的大型语言模型结合在一起解决问题。在某些情况下，它们可能会相互协商；在其他情况下，它们将把任务交给“专家 LLMs”，后者将返回答案。因此，将有一种“总承包商” LLM 处理人类客户，并将其中一些问题解决外包给其他具有专业知识的代理。这些系统首先出现的地方可能包括复杂模拟、健康决策制定、财务安排或教育项目。

——Russ Altman，HAI 副主任，工程学院的肯尼斯·方教授，以及生物工程学、遗传学、医学、生物医学数据科学教授，（兼）计算机科学教授  

教育人工智能中的健康怀疑主义

预计在教育领域将更多地关注多模态人工智能模型，包括处理语音和图像。我们还可能看到新的教育特定或微调模型，以及所有这些，对实际有效的东西的怀疑和兴趣增加——真正帮助学生更好地学习和教师更有效地教育的东西。

——Dorottya (Dora) Demszky，教育学助理教授，（兼）计算机科学教授

从 GenAI 定义价值

鉴于技术的快速发展和大量的资本投入，这些技术的开发者将面临定义和验证其预期效益的压力。在医疗保健领域，对临床效益的评估将更加严格（我们最近在《自然》杂志上写过关于这一点），我们将不得不制定超越当前狭窄效率或生产力视角的思维方式。

我们的基础模型研究中心的 HELM 项目所倡导的共享和透明的基准测试将成为主流，以便就使用生成式人工智能在医疗保健中的声称效益做出明智的决策。

——Nigam Shah，斯坦福大学医学院医学和生物医学数据科学教授，斯坦福医疗保健首席数据科学家

人工智能代理协同工作

在 2025 年，我们将看到从依赖单一人工智能模型到使用多个具有不同专业知识的人工智能代理协同工作的系统的重大转变。例如，我们最近介绍了虚拟实验室，其中教授人工智能代理领导一组人工智能科学家代理（例如，人工智能化学家、人工智能生物学家）解决具有挑战性的开放式研究问题，人类研究人员提供高级反馈。通过利用不同代理的跨学科专业知识，虚拟实验室成功设计了新的纳米抗体，我们验证了这些纳米抗体对最近的 SARS-CoV-2 变体具有有效的结合能力。展望未来，我预测许多高影响力的应用将使用这样的 AI 代理团队，这些团队比单一模型更可靠、更有效。我特别兴奋于人类领导一组多样化 AI 代理的混合协作团队的潜力。    

——James Zou，生物医学数据科学副教授，（兼）计算机科学和电气工程副教授

重新思考人机协作

我们将体验到围绕人类如何与人工智能代理合作的研究新范式。识别人工智能和人类合作以实现集体智能的最佳方式将变得越来越重要。目前，人工智能系统大多被评估为支持自主设置的能力；我们将看到更多考虑人机交互和人机协作的评估基准和环境。随着人工智能的发展，我们将继续看到大量关于风险评估的工作。人工智能风险评估远远落后于人工智能能力发展研究。除了继承传统人工智能系统的这些风险外，基于 LLMs/VLMs 系统的广泛采用还将放大其中一些风险并引入新的风险。

——DiYi Yang，计算机科学助理教授

原文链接：https://hai.stanford.edu/news/predictions-ai-2025-collaborative-agents-ai-skepticism-and-new-risks    

< 长按识别二维码添加好友 >

加入上述群聊

长按并关注

带你走进万物存储、万物智能、

万物互联信息革命新时代

微信号：SSDFans