2024年10月8日，世界经济论坛发布了《生成式AI时代的治理：一种360°全景式的弹性政策和监管方法》（Governance in the Age of Generative AI: A 360° Approach for Resilient Policy and Regulation）报告，报告通过研究现有的监管空白、各种利益相关者的独特治理挑战以及生成式AI的发展趋势，从过去、现在和未来三个维度，为决策者和监管机构提供了一个解决生成式AI复杂性问题的明确路线图

　　利用现有法规弥补因生成式人工智能导致的空白。在制定新的人工智能法规或设立新的监管机构之前，政府应该：

　　评估现有监管机构应对生成式人工智能挑战的能力，并考虑将权力集中在一个的专门机构进行协调权衡。

　　评估现有监管机构应对生成式人工智能挑战的能力，并考虑将权力集中在一个的专门机构进行协调权衡。

　　政策制定者和监管者无法独立确保生成式人工智能的弹性治理，还需要来自行业界、民间社会和学术界的其他利益相关群体。政府必须使用不局限于法律法规的更广泛的治理工具来：

　　生成式人工智能的能力正在与其他技术一起发展，政府制定国家战略时要具有前瞻性，同时需要考虑资源的有限性和全球的不确定性，以使政策和法规适应技术进步和新兴风险。这需要以下行动：

　　对生成式人工智能的新兴能力、与其他技术的融合、与人类互动相关的创新性和可预见风险进行全面评估。

　　对生成式人工智能的新兴能力、与其他技术的融合、与人类互动相关的创新性和可预见风险进行全面评估。

　　报告从过去、现在、未来三个维度构建了全方位的生成式人工智能治理体系。在过去的维度上，主要聚焦如何用现有法规弥补生成式人工智能带来的监管空白；在现在的维度上，主要聚焦如何鼓励全社会参与生成式人工智能的治理；在未来的维度上，主要聚焦如何促进生成式人工智能治理的国际合作。具体方法可以概括为以下五点：

　　1.在引入新的人工智能监管之前，评估当前的监管格局并加强部门监管者之间的协调，对缓解由生成式人工智能导致的监管空白和矛盾至关重要。

　　2.现有的监管机构应评估其应对新兴生成式人工智能挑战的能力，同时要考虑分散治理的方法与单一专门机构之间的协调与权衡。

　　3.全面的社会治理策略应解决行业、民间社会和学术界的挑战，并促进跨部门的合作和跨学科的解决方案。

　　4.未来的策略制定需要考虑到资源的限制和全球的不确定性，要通过标准化的实践和知识共享实现适应性强的前瞻性机制和国际合作。

　　互联网打造了社会运行的数字基础，虚拟空间中海量信息过载带来的“快节奏”与“不确定性”，让企业、网民在决策时容易依赖显在的量化指标，因此产生了“流量经济”。点击率、转发量、评论数、下载数、粉丝量、点赞量、商品评分等构建起互联网的“社会评价”基础，社会信息环境依赖于量化的制度设计，量化数字成为虚拟空间里的评判逻辑，信息被各种数据赋分，数据表现好的信息能有更好的传播表现。在这种环境中，“沉默的螺旋”效应愈发明显，通过刷数据主动且高频发布的信息在信息场上螺旋式上升，量化数据形成了新的“马太效应”。“网络水军”通过发布话题、大量跟帖、刷新评分等方式吸引公众注意力、操纵舆论，以此获取经济收益，甚至不惜歪曲、杜撰事实来实现利益导向的商业目的。

　　根据公安机关网安部门依托“净网”系列专项行动发布的通报，截至2023年12月，已侦办“网络水军”相关案件800余起，清理网上违法有害信息500余万条，关闭账号140余万个，解散群组1万余个，关停涉案网站平台1200余个，涉案金额总计80余亿元。一些学者认为网络水军会带来极大的负面影响，如有学者认为“微博精确显示评论数、转发数等特点加大了被操纵的可能与危险性”，还有学者认为“网络水军”缔造了一个庞大的“伪舆论王国”。“网络水军”占用了社会公众的注意力资源，其发布的虚假信息影响了公众对真实环境中商品和事件的理性判断，在一定程度上瓦解了互联网信任体系，损害了互联网经济，对社会公益造成了巨大损失。

　　随着人工智能技术的快速迭代，尤其是生成式人工智能技术逐渐产业化，“网络水军”经历了从传统人工“水军”1.0阶段，到低智能化机器人“水军”协同生产的2.0阶段，再到智能“水军”3.0阶段的发展过程，实现了从零散到组织化、从人工到机器、从量变到质变的飞跃，并且更具隐蔽性。

　　“网络水军”3.0阶段：技术引领全产业链，深伪式机器人“水军”无孔不入。进入人工智能时代，新技术以大算力为基础，用强算法处理海量数据，在数千亿规模无标注数据集中训练和学习自然语言生成和传播的特征规律中，实现了从支持图片、影像、文本、语音等单一模态的单一任务，到支持多种模态的多种任务转变。在生成式人工智能技术发展中，“网络水军”进一步产业化，以“委托方+组织方+劳动方”的运作机制形成了庞大的产业链条。在该产业链条中，“网络水军”可以全天候、全区域、全平台、全领域地实现多任务模式的“灌水”，新技术不断应用到制造热搜、跟帖评论、平台联动等多个方面，议程设置的能力更强。强势的信息攻击让网民难以辨别。

　　从“网络水军”1.0阶段发展到3.0阶段，各类“网络水军”的数量呈现出几何级数增长的趋势。“网络水军”不断“造热点”“带节奏”，有的还利用炒作负面信息实施敲诈勒索；更有甚者通过发布谣言威胁社会稳定和国家安全。“网络水军”已经渗透到社会生活的方方面面，其行为严重扰乱了舆论秩序、信用秩序和网络治理秩序。

　　第一，人工智能时代“网络水军”的专业分工更为细化、产业化分工程度加深。目前，已形成了一条有组织的集上游商家雇主、中游网络公关、下游“网络水军”从业人员为一体的庞大产业链，其中技术、引流、洗钱等各个环节形成了环环相扣的产业链。2024年5月，山西省太原市公安机关打掉了一个涉案金额1000余万元的“网络水军”团伙，涉及全国多省市，涉案店铺151家；其中有投手、中介、店铺、平台等明确的架构层级，累计业务量达175万余单。在这类已被查处的“网络水军”案件中，有人专门进行账号的销售，包括批量机器号、养成系“大V”账号等，若被查封还可以快速补充。有人专门进行业务联系，短时间内可以提供大量市场需求订单。还有人专门提供各类水军使用的技术与设备，比如各类IP工具，能够自动调用全国甚至国外的动态IP地址，避免因平台监测到同一IP频繁发生不当行为而封号。改机工具在2—3分钟内就能完成上千个设备属性更改，通过篡改手机的品牌、型号、串码、IMEI等设备ID信息，突破单台设备注册同一APP的数量限制，让“水军”能控制的机器人账号大幅增加。传统的群控软件从“线控”发展到“云控”，配合改机工具和多开软件，通过远程控制实现手机自动化操作，针对不同平台和相关部门的监管规则制定极其细致的个性化策略，定时、定点、分批进行“灌水”，一个人利用新技术就能操控一个庞大的产业链。

　　第二，人工智能时代“网络水军”呈现出门槛低、违法成本低等特点。2023年7月，在公安部党委部署开展的网络谣言打击整治专项行动中，依法侦办“网络水军”案件130余起，抓获犯罪嫌疑人620余人，平均每个案件不到5个人，“网络水军”团队越来越精干。2024年4月17日，浙江省鄞州区人民检察院通报的浙江首批新型“网络水军案”中，王某等几个人从产业链上购买了大量账号、工具和4600台二手手机之后，4个月的时间里水军团伙收入近300万元，最终仅以非法经营罪被判处有期徒刑一年三个月，缓刑一年六个月，并处罚金人民币五万元。近年来，“网络水军”涉及非法经营罪的案例数量快速上升。数据显示，目前针对网络水军判处的非法经营罪平均刑期在28个月以下，敲诈勒索罪在36个月以下，寻衅滋事罪在18个月以下，损害商业信誉罪在10个月以下，其中还有少部分案例伴有缓刑和拘役的适用，对于“网络水军”适用刑罚偏轻，这与其严重的社会影响并不相匹配。

　　“网络水军”的治理具有紧迫性。“网络水军”的治理已经不是单一部门就能完成的，需要全局性把握，实现多领域、多主体、多手段、多技术工具的协同联动治理。

　　第一，调动多方主体参与“网络水军”监管，各职能部门应形成案件侦办的统一认识和打击合力，建立“网络水军”监管数据库和经验交流系统。目前对“网络水军”的治理主要围绕专项行动展开，如公安机关、网安部门等依托“净网”等系列专项行动，对“网络水军”相关违法犯罪行为依法开展侦查打击。这类专项行动短期内有效，但缺乏长效机制容易造成“网络水军”“打一枪换一个地方”或者死灰复燃。除了公安部门以外，其他各部门也参与到了“网络水军”的监管中。网信部门对于虚假账号的生成、机器账号的泛滥应出台一系列的管理规则；工商管理部门对于大批量购买二手手机的行为应备案，便于追溯。从前期查处的各个案例来看，对于新技术的使用应该更警惕，应用软件商店应严格把关，在群控、IP改写等软件上架时进行及时封堵，相关部门也应该追责，对于开发此类软件的公司进行严格管理。返回搜狐免费的代理ip加速器，查看更多