二十多名专家、人工智能科学家和研究人员–包括三位“人工智能教父”中的两位–呼吁人工智能公司对自己的行为负责，并呼吁政府更有效地监管人工智能。

在约书亚·本吉奥(Yoshua Bengio)和杰弗里·辛顿(Geoffrey Hinton)等人签署的一封信中，该组织概述了人工智能技术快速进步的潜在陷阱。他们担心在安全方面偷工减料，监管机构不插手，甚至缺乏适当测试先进自主人工智能系统的系统。

他们写道：“人工智能系统可能会在越来越多的任务中迅速超越人类。如果不仔细设计和部署这样的系统，它们将构成一系列社会规模的风险。它们有可能放大社会不公正，侵蚀社会稳定，削弱我们对社会基础现实的共同理解，”他们写道。

该组织还整理了一份他们认为应该颁布的政策清单，以更好地保护人们免受人工智能的危险。他们的行动呼吁包括要求人工智能实验室和政府将其与人工智能相关的研发资源的三分之一分配给安全和合乎道德的人工智能使用。他们还呼吁各国政府建立对人工智能的监督和监测，并呼吁人工智能实验室实施负责任的扩展政策。

其他想法包括培训人工智能系统的许可制度，更好地划分人工智能实验室内的信息，以及为主要人工智能实验室的举报人提供法律保护。

本吉奥和辛顿都直言不讳地安全、负责任地使用人工智能。辛顿辞去了在谷歌的工作，以公开反对滥用人工智能，包括深度假冒、假照片和视频，以及计算机生成的声音克隆。与此同时，本吉奥早在7月份就人工智能对民主和国家安全的威胁在国会作证。

今年3月，史蒂夫·沃兹尼亚克和埃隆·马斯克等科技创业者也写了一封类似的信并签名。这封信呼吁在GPT-4之后的人工智能开发至少暂停六个月，或者直到可以安装更好的保障措施，尽管马斯克在一个月后立即推出了自己的人工智能初创公司。

所有这一切都发生在英国布莱奇利公园人工智能安全峰会的前几天，这里是像艾伦·图灵这样的二战解码者的著名故乡。

– – END – –

– – 转载请声明来源：www.lanpanpan.com – –

编译：盼盼云笔记