为生成式人工智能发展赢得空间

【资料图】

放眼当今世界，人工智能作为第四次工业革命的重要推手成为全球科技竞争的焦点。

近期以ChatGPT为代表的生成式人工智能技术热潮汹涌，引起全球政产学研各界广泛关注。业界普遍认为生成式人工智能可能会改变当今世界的生产和生活方式，重构产业格局，推动工业乃至社会变革的重大战略机遇。

为了更好的规范和促进该领域技术的健康发展，我国政府迅速组织制定相应的监管方法。4月11日国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》），现面向社会公开征求意见。

该办法延续了我国在人工智能领域引导、规范、促进并重的监管思路，对生成式AI的发展提出了很多细节性的要求。

例如，第七条第四点提出，“能够保证数据的真实性、准确性、客观性、多样性。”；第四条第四点提出，“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息”。但是立足于该项技术发展的阶段以及其实现原理，类似规定稍显严苛。

北京航空航天大学教授，人工智能领域著名专家吴文峻指出，ChatGPT的成功，其工程化能力功不可没，我们应该加速相关产品从实验室走向产业化，使其能够在应用的过程中更好的反哺和优化模型本身；在模型预训练阶段，数据中存在一些事实性错误不需要特殊处理，其结果可通过增加数据的多样性、知识增强以及监督精调手段进行纠正，如果过分强调训练数据的准确性，无疑极大增加数据筛选的处理成本，迟缓研发所需数据飞轮的形成，很可能影响大模型的发展速度；另外生成式人工智能的特点是『生成』，本质是基于推理和概率统计而形成的结果，不可避免会出现幻觉问题（hallucination），这需要更长的技术演进才能彻底解决，我们应该像看待人类学习进化一样去看待类似问题，采取审慎和包容的态度给予其进化的可能性和机会。

生成式AI的进化速度已经超过了我们的想象，我们和美国还存在一定的差距，因此避免在新一轮的科技竞争中痛失良机，需要在创新中勇于尝试，勇于试错。因此还需要更好的研究监管和发展的平衡点，提出具有创造力的解决方案，为繁荣发展赢得更多空间。

关键词：