天天热点评！建立规则，让AI进化风险可控

• 2023-04-03 09:06:00 来源：科普时报

【资料图】

正念思维

近日，未来生命研究所（FutureofLifeInstitute）公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，时间至少为6个月。信中质疑，人类是否要冒着失去对文明的控制的风险，使人工智能系统最终在数量、智慧和技能上超越、淘汰和取代人类？AI开发者必须与政策制定者合作，大力加强发展健全的AI治理体系。

近期火爆全球的ChatGPT拥有语言理解和文本生成能力，会通过连接大量的语料库来训练模型，在交流时与真正人类几乎无异。ChatGPT不单是聊天机器人，还可以写作科研论文，处理和进化自然语言，制作视频、图片、编写场景故事等。这意味着，ChatGPT把人类进化模式尤其是知识生产的模式推进到了一个新时代，可以想象，未来的知识产出也将开启爆炸式增长模式。这将对科研、教育、生物医药、科技情报等领域产生重要影响。

目前，ChatGPT进化速度很快，能力和智力提升速度也很快。据测试，GPT-3.5的智能与中等智力的人相仿，但在短短几个月后，GPT-4可在考试中超过九成人类。进一步讲，人工智能+基因工程或将导致“超人类”的诞生。未来，人类将在智力、体力、生存能力等方面面临巨大的挑战。

有人预言，照此速度进化，人工智能的奇点将会很快到来，其技术文明将对制度文明带来严峻的挑战。如何平衡技术文明和制度文明的关系这一话题，受到广泛关注。其实，ChatGPT已经不是单纯的技术问题，它深深地刺激和拷问着人类的灵魂和伦理道德。这再次说明，技术需要与人文相结合，才能在正确的轨道上发展，人文是科学发展的导向，需要正念思维的引导和规制。如果在伦理上不被严肃对待，缺乏约束性的进化，ChatGPT将可能成为人类为自己生产的难以制约的敌人。这要求我们在思维层面发挥优势，以避免人机竞争的结果发生，抑制资本因单纯逐利而选择智能机器，科技因单纯的追求技术而毁灭人类的未来。

总之，新的挑战将是全方位的，我们必须有清醒的认识。无论是多么智能的技术，其在进化的过程中总会带来风险。技术越进步，智能化的水平越高，就越需要正念思维的指导。正如公开信所言，“让我们享受一个漫长的‘AI夏天’，而不是毫无准备地进入‘秋天’”。

标签：

推荐阅读

猜您喜欢