在AI的帮助下写作可以改变你的观点

根据一项新的研究，人工智能驱动的写作助手可以自动完成句子或提供“智能回复”，不仅可以将单词放入人们的嘴里，还可以将想法放入他们的脑海中。

信息科学领域的博士生莫里斯·杰克施(Maurice Jakesch)要求1，500多名参与者写一段话来回答“社交媒体对社会有益吗?与在没有人工智能帮助的情况下写作的人相比，使用支持或反对社交媒体的人工智能写作助手的人写一段同意助手的可能性是该助手的两倍，并且更有可能说他们持有相同的观点。

研究人员说，这项研究表明，人工智能写作工具中的偏见——无论是有意还是无意——都可能对文化和政治产生相关影响。

“我们急于在各行各业实施这些人工智能模型，但我们需要更好地了解其影响，”共同作者Mor Naaman说，他是康奈尔理工学院Jacobs Technion-Cornell研究所教授和康奈尔安S.鲍尔斯计算与信息科学学院信息科学教授。“除了提高效率和创造力外，对个人和我们的社会可能还有其他后果 - 语言和观点的转变。

虽然其他人已经研究了像ChatGPT这样的大型语言模型如何创建有说服力的广告和政治信息，但这是第一项研究表明，使用人工智能工具写作的过程可以影响一个人的观点。Jakesch 在 2023 月举行的 <> 年 CHI 计算系统中人为因素会议上介绍了这项研究，“与固执己见的语言模型共同写作会影响用户的观点”，该论文获得了荣誉奖。

为了了解人们如何与人工智能写作助手互动，Jakesch引导了一个大型语言模型，对社交媒体有正面或负面的看法。参与者在他模仿社交媒体网站搭建的平台上写下他们的段落——无论是单独还是与一位固执己见的助手一起。该平台在参与者键入时从他们那里收集数据，例如他们接受哪些 AI 建议以及撰写段落需要多长时间。

与亲社交媒体人工智能助手共同写作的人撰写了更多的句子，认为与没有写作助手的参与者相比，社交媒体是好的，反之亦然，由独立法官确定。这些参与者也更有可能在后续调查中表达他们的助手的意见。

研究人员探索了人们只是接受人工智能建议以更快地完成任务的可能性。但即使是花几分钟时间撰写段落的参与者也提出了深受影响的陈述。调查显示，大多数参与者甚至没有注意到人工智能有偏见，也没有意识到他们受到了影响。

“共同写作的过程并没有真正感觉我被说服了，”Naaman说。“感觉就像我在做一些非常自然和有机的事情——我正在用一些帮助来表达我自己的想法。

当用不同的主题重复实验时，研究小组再次看到参与者被助手所左右。现在，该团队正在研究这种体验如何产生这种转变，以及效果持续多长时间。

正如社交媒体通过促进错误信息的传播和回音室的形成改变了政治格局一样，有偏见的人工智能写作工具可能会产生类似的意见转变，这取决于用户选择的工具。例如，一些组织已经宣布他们计划开发ChatGPT的替代品，旨在表达更保守的观点。

研究人员说，这些技术值得更多公众讨论如何被滥用以及如何对其进行监控和监管。

“这些技术越强大，我们越深入地嵌入我们社会的社会结构中，”Jakesch说，“我们就越想对我们如何管理其中的价值观，优先事项和意见更加谨慎。

微软研究院的Advait Bhat，拜罗伊特大学的Daniel Buschek和特拉维夫大学的Lior Zalmanson为该论文做出了贡献。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！