@阑夕: 今天简英互联网的热搜:一封呼吁暂停训练 AI 至少半年时间的公开信。
futureoflife.org/open-letter/pause-giant-ai-experiments
信的内容没什么新意,无非是 AI 太 TM 不可控了胡说八道的能力助长假新闻之类,然后要求停止 GPT-4 以上级别的产品开发,腾出 6 个月来制定监管制度。
比较显眼的是联合签名的几个人,马斯克签这个当然不意外,还有 Yoshua Bengio,这是 AI 界的大佬,顶级专家,行业里门生如云,还有 Yuval Noah Harari,以色列网红历史学家,「人类简史」系列畅销书的作者,再就是 Steve Wozniak,苹果联合创始人,好吧他掺合这个也不意外。
这个事情在 Reddit 和 Twitter 上都还吵得挺凶的,支持者认为对于 AI 的恐慌是合理的,因为它的训练效率太高了,机器的智力水平每天都在膨胀,天知道 OpenAI 是不是在创造一个弗兰肯斯坦的怪物,反对者则贴出了爱迪生指示人画的交流电害死人的宣传海报,认为这不过是一种莫须有的指控,是别有用心的势力在误导不明真相的群众。
历史上由外部力量强制叫停技术(非军事性)发展的例子不多,1974 年美国国家科学院把基因工程实验暂停了一年可能算是其中之一,当时因为有实验室给细菌添加了可以抵抗抗生素的的 DNA 片段,引起了学术界的担忧,最后的成果是第 2 年举办了 Asilomar 会议,拟定了一份风险评估清单,并强调了研究过程的透明度。
总的来说,公开信写得比较温和,也反复申明不是反对 AI,甚至期待人类迎接一个繁荣且漫长的「AI 之夏」,只是担心 AI 在不可预测的黑盒里发展会让人类毫无准备的进入「AI 之秋」。
嘛,考虑到未来 AI 统治地球的可能性,作为幸存派的一员,我要严正表示既不支持更不赞成这封公开信,立此存照,日月可鉴。
如若转载,请注明出处:https://www.zhangzs.com/453639.html