网站导航
人工智能发展中的环境挑战与解决途径
近期，新华社发表文章，对人工智能技术的应用提出了批评性意见。在《警惕“AI污染”乱象》一文中，文章提到，自去年以来，生成式人工智能在全球范围内引发了**关注，其创新性应用为众多行业和用户带来了积极影响。然而，正如硬币的两面，生成式人工智能的普及也伴随着一系列负面效应，尤其是“信息垃圾”引发的“AI污染”问题日益严重。
随着人工智能技术的迅猛发展，互联网内容创造领域经历了一场**。但与此同时，技术的**应用也引发了一系列挑战：
一些流行的社交媒体平台上，出现了大量由AI制造的虚假账户；
在某个小说发布平台上，一个账号依赖AI技术“创作”内容，能够做到日更50部小说，月产量达到数千万字数，但这些内容常常缺乏逻辑连贯性，语言空洞无物；
在学术领域，AI内容创作的问题也暴露无遗。一位**高校的学者在SCI期刊上发表的论文，因使用了AI生成的插图，存在众多错误，*上线3天便被撤回，成为学术界的笑柄……
随着人工智能技术的**应用，其在新闻和信息传播领域的负面影响逐渐显现，引起了**关注。AI技术能够生成、伪造或篡改文本、图片、音频和视频，制造出大量质量低劣、真伪难辨的“信息垃圾”，对此进行**审视已变得尤为迫切。
01
AI对新闻领域的渗透
新闻真实性的严峻挑战
人工智能的进步为新闻行业带来了**性的变化，从传统的人工采编向智能化、高效率的方向发展。然而，AI技术可能会复制或放大现有数据中的错误，产生虚假信息和宣传，新闻机构在使用AI时，也面临着维护真实性和公信力的重大挑战。
一些MCN机构为了吸引流量，利用AI软件制造虚假新闻，导致大量网络谣言像病毒一样传播。今年6月中旬，一名MCN机构的实际控制人因利用AI软件制造虚假新闻并**传播，扰乱公共秩序，被警方行政拘留。据警方通报，该控制人运营5家MCN机构，管理账号842个，自今年1月以来，通过AI软件制造虚假新闻，**峰时一天能产出4000至7000篇。
新华社在《警惕AIGC数据污染“稀释”人类原创》一文中提醒，“生成伪造虚假内容，扰乱公共秩序”：生成式人工智能可以根据人的指令生成不存在的内容，极易被用于自动生成虚假新闻和谣言。深度伪造技术（DeepFake）正在快速发展，图片伪造、音频合成和视频换脸在生成式AI的帮助下变得轻而易举，这些虚假内容能够以逼真的形式迅速传播，带来严重的社会影响。
在《警惕“AI污染”乱象》一文中提到：清华大学新闻与传播学院新媒体研究中心今年4月发布的一份研究报告显示，近一年来，经济与企业类AI谣言量增速达99.91%。美国调查机构“新闻守卫”称，生成虚假文章的网站数量自2023年5月以来激增1000%以上，涉及15种语言。一些**认为，AI制造的“信息垃圾”产量庞大，且辨别难度较大、筛选成本较高。
版权归属问题的复杂性
传统版权通常归属于创作者或创作者雇主，但AI版权可能归属于训练数据的提供者、算法开发者、系统操作者甚至*终用户，这导致新闻、出版机构在面对科技企业推出的AI工具整合新闻和内容时，可能损失相关流量和广告收入。
当地时间10月21日，《华尔街日报》母公司道琼斯和《纽约邮报》对人工智能初创公司Perplexity提出侵权诉讼，指控后者抄袭受版权保护的新闻内容，并利用这些新闻内容生成对用户提问的回复，从而抢走了原本会流向这两家出版商网站的流量。而在一周前的10月15日，Perplexity刚刚收到了来自《纽约时报》的警告，要求其在10月30日前停止使用《纽约时报》的内容。这一事件也引起了网友的**讨论。
02
探讨应对策略
新华社在《警惕“AI污染”乱象》一文中提出了以下建议：
首先，加强AI学习和生成机制的源头管理。需要明确AI平台对其使用的原始素材的控制责任，以及对生成内容的监管责任，制定AI内容生成的规范，强制对AI生成内容进行明确标识，增强AI技术的透明度和可解释性。
其次，增强对AI生成内容的审查和监管。相关监管部门和企业应将重点放在AI生成内容的审查和审核上，开发专门的审查算法，规范内容的流入和传播，及时识别和删除低质量或虚假内容。
再次，提升用户对AI生成内容的识别能力。网民应保持理性，提高防范意识和识别能力，使用反向搜索工具，核查内容来源和作者信息，分析内容的语言和结构特征，以辨别真伪和优劣。
对于新闻从业者，除了上述措施外，还应注意以下两点：
一方面，界定AI的应用范围。在新闻领域中，明确AI的应用边界是至关重要的。需要确定哪些新闻内容可以由AI生成，哪些必须由人工撰写。例如，对于需要高度准确性和专业判断的重大时政新闻和深度调查报道，应禁止使用AI生成，以确保新闻的**性和可靠性。同时，规范AI在新闻编辑、分发等环节的使用，防止过度依赖AI导致新闻质量下降。
另一方面，提升对AI生产内容的识别能力。提高新闻从业人员和公众对AI生成内容的识别能力是应对AI带来问题的关键措施。新闻从业人员应通过培训和教育，了解AI的工作原理和特点，掌握辨别AI生成内容的方法和技巧。
AI的发展是大势所趋，它为人类带来了前所未有的机遇和挑战。我们既要充分利用AI的优势，又要高度重视其带来的问题，加强监管和治理，共同维护健康的网络生态环境。
公司信息
访问官网
我要咨询
每日热词
