
一位英国记者发现一本回忆录与他刚刚出版的回忆录惊人地相似,只不过这本回忆录充满了虚构的故事,而且是以不同的名字出版的。看来,利用人工智能来模仿真正的人类作家的骗子变得越来越聪明了。
在接受采访时,前科技记者罗里·凯兰-琼斯(Rory Cellan-Jones)说,当他去亚马逊查看自己的作者简介时,他发现了一些他没有写过的东西:一本由别人(或别的东西)写的关于他生活的传记。
“我想:‘这太奇怪了——是谁在写我的传记?’”凯兰-琼斯告诉该报。“卖关于我自己的书对我来说已经很困难了,更不用说别人卖关于我的书了。”
这本以“史蒂文·沃林”为名出版的书,名义上是这位校友的传记,但结果却是一本“完全的幻想”,似乎是由人工智能产生的。这本书的故事与作者的原著《罗斯金公园:西尔维娅、我和BBC》(Ruskin Park: Sylvia, Me and the BBC)大相径庭,后者详细描述了他的单身母亲和缺席的父亲之间的肮脏爱情。
“书中有关于凯兰-琼斯一家的段落,一个学术家庭围坐在桌子旁,”真正的作者说。“他的父亲是一位和蔼可亲的学者;他妈妈是个老师。”
“完全是一派胡言,”凯兰-琼斯打趣道。
更糟糕的是,真正的凯兰-琼斯说,当他在网上看了这本书后,他收到了一封来自亚马逊的电子邮件,推荐了一本关于他的假传记,而不是他自己的作品。
“亚马逊给我发了一封电子邮件,说:‘你可能会喜欢这个,’”凯兰-琼斯说。“他们的算法已经决定这是一本我想要的书,而不是推荐我的书,我已经花了很长时间和努力……他们实际上是在纵容图书垃圾,并把它们推荐给最讨厌的人。”
更奇怪的是,据称是“史蒂文·沃林”写的书的简介中有30多本书,其中包括重复的、一次性的相机操作指南和奇幻爱情小说,其中一半是在今年早些时候同一天出版的。亚马逊已经将这些书下架了,但正如之前关于该问题的报道所显示的那样,在引起这家电子商务巨头的注意之前,这些东西很容易从裂缝中溜走。
今年8月,《纽约时报》报道称,简·弗里德曼(Jane Friedman)——具有讽刺意味的是,她的工作重点是如何出版书籍——发现了一堆假名,她怀疑这些假名是由人工智能聊天机器人写的,或者是在人工智能聊天机器人的帮助下写的。弗里德曼在她的博客上写道,她认出了机器人的模仿,因为她用ChatGPT吐出了她自己的风格。
据报道,弗里德曼的假书当时也被撤下,作者在社交媒体上发布的有关这些书的帖子引起了人们的注意。
弗里德曼在她的博客中写道:“我确信(这些标题被删除)在很大程度上是由于我在写作和出版界的知名度和声誉。”“如果这种情况发生在个人资料较少的作者身上,他们会怎么做?”
在这两个明显是人工智能伪造的例子中,亚马逊表示,它将致力于删除欺诈性书籍,但尽管如此,事后制定的执行政策——通常是在作者或媒体联系该公司之后——似乎力度太小,也太晚了。
在这两个故事之间不到两个月的时间里,很明显,人工智能书籍诈骗者正在吸取教训——而且不可能说他们的骗局在未来会有多好。











