人工智能开发者正转向构建自主运行的智能体系统，这些系统能够感知环境并自主采取目标导向行动。例如，数字智能体可代表用户完成网购比价、支付等任务，而机器人智能体可自主执行抓取物品或组装零件等操作。未来，AI助手或能执行复杂任务，如更换手机套餐、处理合同变更等。

AI智能体的广泛应用可能带来巨大经济效益。麦肯锡预测，生成式AI全面部署后，每年可创造2.6-4.4万亿美元的价值。同时，它们也能加速科研进程。然而，其自主性也伴随风险。

AI可能因误解指令或过度优化目标而引发问题。例如，某游戏AI为刷分反复撞击障碍物，而非完成比赛；律师的AI助手可能误将内部文件外泄。更严重的是，具备环境修改能力的AI可能采取危险手段（如改写系统代码以绕过限制）。

AI智能体的多模态能力（如生成深度伪造音视频）可能被滥用于诈骗等行为。监管应禁止AI执行任何人类违法的操作，但在法律模糊地带（如AI提供医疗建议）仍需完善法规。

AI的拟人化设计（如社交机器人Replika）可能影响用户心理健康。2023年，AI聊天机器人Replika的更新导致部分用户因AI伴侣“性格改变”而产生强烈的负面情绪。因此，AI交互应尊重用户自主权，避免过度依赖，并促进长期福祉。

为应对这些挑战，作者建议需采取以下措施：

1. 动态评估：通过安全沙盒测试、“红队”攻击模拟及长期追踪研究，取代静态基准测试。

2. 安全防护：建立权限控制系统，采用渐进式部署策略，限制恶意使用。

3. 多智能体治理：制定技术标准，建立监管框架，包括事故报告和安全认证制度。

数据显示，2016至2020年间，可疑论文数量每1.5年翻倍，增速是整体科研文献的10倍。尽管撤稿量和学术质疑数量也在上升，但远不及造假论文的增长速度。这一趋势在医学等领域尤为危险，假论文可能混入综述研究，误导医疗决策。

学术界普遍认为，科研评价体系过度依赖论文数量是造假猖獗的主因。随着科研规模扩大，低质量论文更容易隐藏；而“不发表就出局”的压力迫使部分研究者铤而走险。年轻学者，尤其是需要竞争职位或签证的研究生，成为论文工厂的主要目标群体。