每日播报!跨越分界点的省思

• 2023-04-17 13:08:30 来源：科普时报

不知不觉中，我们已然身处一个像是被科幻所演绎、大大迥异于以往的时代。一切都变得如此之快，以致我们很难用诸如智能社会、信息时代之类的宽略语词来概括了。

特别是，ChatGPT（聊天生成预训练转换器）划时代的应用及其产生的爆发性效应，将人工智能（AI）领域的发展和竞争加速推入了新阶段，甚而引发了国际科技巨头的“军备竞赛”，诸多相关问题也被提了出来。

【资料图】

让我们将视线转向中国。4月11日，国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》向社会公开征求意见。征求意见稿提出，服务提供者禁止非法披露个人信息，不得根据用户输入信息和使用情况进行画像。

征求意见稿所提到的生成式人工智能（GenerativeAI），是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。它具有很强的的自然语言理解能力和高效的文本生成能力，能够更高效地处理和分析大量数据，更快速准确地回答复杂的问题。总之，过去认为只能做好判别性工作的AI，眼下正在跨越一个分界点：从“判别式领域”迈入“生成式领域”。我们或许可以这样说：新的交互革命开始，AI新纪元来临。

以ChatGPT为代表的生成式AI，最直观的应用场景或许就是可以像人类一样进行聊天交流，以及由此衍生的客服及专业咨询。在成为历史上用户增长速度最快的消费者应用程序的同时，这类新型工具也引发了人们的伦理焦虑。上月底，意大利因一起严重的数据泄露事件而宣布在其境内禁用ChatGPT；包括业界领袖埃隆·马斯克在内的上千名人工智能专家和行业高管签署了一份公开信，呼吁立即停止训练智能水平可与人类竞争的AI系统，称它们可能对社会和人类构成深远风险。

《纽约时报》最近载文指出，AI浪潮席卷硅谷，立法者却困于不懂技术。目前还没有任何法案被提出来，用以保护个人或抑制AI在潜在危险方面的发展。近年来针对限制脸部识别等AI应用的立法，在国会中未能获得成功。而美国国会中唯一拥有AI硕士学位的议员杰伊·奥伯诺尔特抱怨说：“在实施监管前，需要先就AI的危险是什么达成一致，而这需要对该技术有深刻的理解。你会惊讶于我花了多少时间向同僚们解释，AI的主要危险不会来自眼睛里冒着红色激光的邪恶机器人。”

因推出ChatGPT而闻名的硅谷初创公司OpenAl首席执行官萨姆·奥特曼（这名字瞧着就很科幻），今年1月拜访了数位国会议员，当面展示了全新的AI模型GPT-4。它可以完成撰写论文、解决复杂的编程问题等任务，令议员们大开眼界。奥特曼同时表示支持监管，声称GPT-4将比过往的AI模型有着更强大的安全控制机制。

其后在谈到Al的潜在风险时，奥特曼提出，还是需要保持谨慎，整个社会应在短期内抓紧弄清楚如何应对AI带来的变化，要在代价还不会很大的时候试错。他说，现在他特别担心那些模型可能会被用于虚假信息宣传——现在它们写代码越来越熟练，很可能被用来开展网络攻击。他提议全球主要国家应该一起制定一份文件，来规范关于Al的应用哪些可为哪些不可为，对于危险的领域应该永不触及。这样就能让语言模型开发者有个参照标准。

事实上，一家专注人工智能安全研究的非营利机构对齐研究中心（ARC），已于2021年在美国加州湾区成立。作为第三方评估者，ARC主要与领先的人工智能实验室合作，评估他们研发的最先进的机器学习模型是否具备潜在的危险能力。从大的方面看，是否会偏离人类设定的目标自主行动，造成严重的后果，譬如操纵股票价格、设计合成DNA等。这都是通过具体的行动来介入新技术可能带来的社会风险问题。不过，据估算，目前全世界全职从事人工智能安全研究的技术人员只有300名左右，且很难找到“科班出身”的技术人员。

而经济合作与发展组织则在今年2月发布了《推进AI问责制：围绕可信赖AI生命周期的治理和管理风险》报告，介绍了如何整合风险管理框架和AI系统生命周期，探索了有助于实施“基于价值观的可信赖AI原则”的流程和技术属性，确定了围绕AI系统生命周期定义、评估、处理和管理风险的工具和机制。

该报告所涉AI系统的背景，包括其社会经济、物理环境及其对人类和地球的潜在影响。确保AI问责制的一个步骤，是要把AI伦理原则和特定的过程和技术特征联系起来。AI风险可以从两个层面来评估，一个是基于价值观的AI原则层面的风险，另一个是技术层面的风险。确保AI问责制需要将AI原则与特定的过程和技术属性一一对应起来。

生成式AI如何看待当下人们的忧虑呢？它对关涉它的一个提问——“对于那些已经或即将被你取代工作的人，你有什么建议？”——作出了这样的回答：

对于那些工作可能受到自动化影响的人，我的建议是专注于发展难以自动化的技能，例如人际交往能力、创造力、批判性思维和适应能力。此外，跟上技术进步的步伐并学习可以补充自动化的新技能也很有价值。重要的是要对新机会保持开放态度且愿意适应就业市场的变化，因为自动化也有可能创造新的就业机会。

看起来措辞讲究、逻辑严密、无懈可击，似乎还闪现了些许“人性的光辉”。不知读者诸君意下如何？

标签：

推荐阅读

猜您喜欢