图灵奖得主约书亚·班吉奥今日在蒙特利尔宣布成立非营利组织LawZero，核心任务是开发全球首套AI监控系统。这位被称为“深度学习教父”的科学家直言：“当电脑开始替代工人做决定时，失控风险正指数级增长。”
LawZero的首个研发项目"科学家AI"已获谷歌前CEO施密特夫妇资助。该系统将作为人工智能的安全闸门，实时监控其他AI的决策行为。目前团队聚集了15名顶尖研究员，正攻克虚拟员工的行为约束难题。
班吉奥指出，当前AI开发过度追逐商业利益：“即使存在缺陷的系统仍在被广泛应用。”他特别警告赋予AI类人自主性的危险——恶意使用者可操纵其制造虚假信息、开发生化武器或发动网络攻击。
"超智能AI若突破人类控制，后果不堪设想。“这位连续三年发出风险预警的科学家在声明中强调。随着”数字劳工"技术加速替代人类岗位，LawZero计划在明年内完成首轮系统测试。
