专家警告人工智能可能威胁人类存亡

前沿科技
分享至
评论

  一群业界高管和专家今天警告,全球领导人应致力降低人工智能(AI)技术所带来的“人类灭绝”风险。

  法新社报导,包括阿特曼在内的数十位专家连署了一份简短声明。声明称,应对AI带来的人类灭绝风险,应是“与应对疫情和核战同层级的全球优先要务”。阿特曼的公司OpenAI研发了ChatGPT聊天机器人。

  ChatGPT可以依据简短指令编写文章、诗歌和对话,因此在去年底一炮而红。这个程序的巨大成功也吸引了AI领域数十亿美元的投资,但批评者和业界人士都发出了警告。

  常见的担忧包括聊天机器人可能导致假消息充斥网络、带有偏见的算法可能产出种族主义内容,AI驱动的自动化也可能摧毁整个产业等。

  公布在非营利组织“人工智能安全中心”网页的这份最新声明并未详细说明AI可能带来的潜在生存威胁。

  CAIS表示,这份“言简意赅的声明”旨在开启针对AI技术风险的讨论。

  声明的数名签署人,包括被称为“人工智能教父”的辛顿,过去也曾提出类似警告。

  他们最大的担忧是所谓“通用人工智能”的崛起,也就是具备人类认知能力的人工智能。

  他们害怕,人类将失去对这些超智能机器的掌控权。专家曾警告,这可能对物种和地球造成灾难性后果。

  声明的连署人也包括来自AI领先企业谷歌和微软的专家。

  早在2个月前,亿万富豪马斯克和其他数百名专家也曾发布一封公开信,呼吁在确定安全无虞之前,暂缓AI研发工作。

  然而,马斯克的信引来广泛批评。有人认为,信中关于社会和文明崩溃的警告太过夸大。

THE END

数码评测