知晓我确低估了DeepSeek所引发的大面积“AI幻觉”

热爱足球

所谓AI幻觉，说人话就是：大数据模型一本正经地给你胡说八道，但是由于其输出过程过于有条理有逻辑，且表述过程中甚至不惜引经据典，加上“AI很强”的外部氛围，导致你一不留神，就会误以为真――其通篇都在扯淡。

AI幻觉这玩意儿不是新鲜事，早在ChatGPT刚推出时已经有了“很多”讨论，后面到了o4、o1以及现在比较新的o3，一方面是症状减轻了，另一方面是因为我们已经积累了足够多的、与ChatGPT斗智斗勇的经验了――不停地在Google做fact-checking，一遍又一遍地跟它argue。

但，我确低估了两件事：
1ChatGPT的高门槛。如果你要流畅订阅ChatGPTPlus，你甚至有一张香港银行卡都不行，因为OpenAI在香港未开通付费服务。过去几个月我帮助了好几位朋友开通ChatGPTPlus订阅，很多朋友都是老民了，依然搞不定，其门槛真的高得离谱。
2与之相比，从春节前开始爆发的，因为deepseek之低门槛、免费、人人可用（甚至我给爸妈手机都装上了，跟他们说这是baidu比较新款emmm，以后不用百度用这个），其在简中的普及程度并非ChatGPT可比。也因为deepseek之免费，许多用户是以休闲、体验、分享的心态来使用，而非我身边的自媒体从业者，愿意一个月给美帝20刀购买ChatGPT订阅――因为这是吃饭的家伙，所以会不停地总结工具的使用心得，锻炼出强劲的fact-checking经验。
3当然，也是因为deepseek在中文本地化的语境中，打造出了一套更适合国情的表达方式，中文表达更于ChatGPT；“逻辑正确，答案也正确”，这种潜移默化的思维（如果你在大厂上过班，你一定会修炼出所谓的，通过一份ppt，把一团垃圾的结果，汇报成一场伟大战役的功夫），我们理科至上、文科生靠边站的思维，使得人稍不留神就中招。
比较终的结果，就是deepseek生成了大量的、天马行空的谬误。这些谬误，严重地污染了简体中文互联（而本身deepseek在信源引用上，跟ChatGPT相比，确做得不如）。
今日上看到一篇《比ChatGPT危险100倍！DeepSeek正在中文互联建造“幻觉长城”》，好家伙，幻觉都变长城了，好文章。感兴趣可以看看。
如今在小红书上，可以刷到数deepseek生成的帖子，前阵子我看到一个很有代表性，叫做《我听了这么多年五月天，还不如deepseek》，大概是让deepseek说说五月天音乐里的彩蛋：这里面全特么是扯几把蛋，但是评论区里都是大呼小叫，我留言了一句：我说你们就不能自己去查查看吗没人理我。
两周前我的朋友红老师也在首时间试用了deepseek之后给我发来贺电，分享了她和deepseek讨论她的爱豆woodz的音乐风格、路线、趋势，因为我晓得deepseek对音乐文本的能，所以本能反应也是――这特么的一眼假啊。逻辑没问题，但是这里面的论据、信源都是扯淡的啊。它本义就是一个大数据生成（搜索）模型，如果本身信源是不存在的，它能怎么得知呢
我就随便点开红老师发给我的图：随便进去一首歌吧，这里说：


1人声处理黑科技
双声道交替（《Trigger》副歌）：左右声道分别录制不同音高，营造眩晕感
这，我压根没听出这首歌里的左右声道有什么高八度低八度，而且不同音高本身根本不会制造眩晕感啊，如果要左右声道录double、通过音高作出区分，那是增强力道啊眩晕感是通过混响、延迟整的啊deepseek你在说啥呢
呼吸声放大（《BumpBump》前奏）：将吸气声提升6dB作节奏组件
这首歌前奏哪里有吸气声了……吸气声提升6db做beat不是哥们，这是什么玩意儿啊就算我当你是有吸气声，但是“提升”肯定要有相对的吧，你是跟什么相对呢你推大音量，你也要有“标准”对吧这完全就是一个狗屁不通的描述啊
元音拉伸（《Waiting》桥段）：将“oh”音采样后时间拉伸300%制造太空感
不是哥们，这首歌有bridge吗桥在哪里我连桥都找不到。
哦哦，说的是副歌后面的那个oh了一下的这个真要说应该是“后副歌”，以及……这样采样拉伸300%，也是纯粹扯淡了。
好好好，下面还有：

2节拍密码
反拍陷阱：在44拍中植入78拍吉他切分（《Dirtonmyleather》）
Dirtonmyleather这首歌确是四四拍，确也是走的rockband风格，有一把电吉他从头贯穿始终，但是78从何而来这吉他弹的就是一个比较hardrock的，一直在弹callresponse，节拍是一直跟着鼓组的，并没有任何复合节奏的意思。
心跳模拟：BPM严格对应心率变化曲线（《lhateyou》从72BPM渐增至128BPM）
喂喂喂，这首歌从头到尾的速度都没有变化啊BPM一直稳定在86左右啊，这心率曲线是怎么来的
破碎节拍：用AbletonLive的BeatRepeat功能随机切碎鼓组（《Chaser》）
Live里面确是有一个叫做BeatRepeat的功能，打开里面确是能把鼓组切碎，但是这首chaser里面，鼓组一直都是非常稳定的啊哪里碎了
所以到了后面风格预测那些，大可笑笑罢了。

我确定了，红老师这是对我进行钓鱼，她就是希望以此摁头让我去听她家爱豆的歌，让我好好复习一下，然后让我去怼deepseek，让我给她说说，未来她的哥哥音乐会怎么走，她一定是在钓鱼。100%的。
总之，AI幻觉不是deepseek的问题，ChatGPT也一样跑火车，当然ChatGPT跑的程度会少一点（比较新发布的o3貌似跑得离谱一些了），可deepseek的语言模型在太真了，太言之确凿了，而且使用deepseek的门槛太低了，适用人数太多了，这里所造成的AI幻觉，确是长城一般了。
如之前红老师给我发的这些，我当然可以说，一眼假，不信我打开歌曲听听，看看是不是都是扯淡――但是，如果讨论的是我不清楚的领域呢我能否有这么轻松的方式去鉴定真伪就像如今的小红书里，到处都是“我跟ds聊了聊XX”的内容，每次标题都很酷，我都点进去看了，结果又变着戏法再推给我这些玩意儿。AI确是很强大的东西，但目前的AI有着巨大的技术缺陷，“颠覆了传统知识传播链条――专业论文→科普文章→络内容”，你以为AI里面说的都是对的，尤其是它说出大量的专业词汇、超出你的学科认知的时候，其信息量之大，你几乎从下手，可辨别。
#AIGC行业资讯#AI#ChatGPT#Google#GPT#大数据#工具#搜#搜索#比较新#论文#音乐风格#香港

作为行业的代表，一键生成ppt需要给同行们做出一定的表率，在产品质量上要一路领先才可以。AI工具箱，全方位AI资源聚合平台，精选全球优质免费AI应用，涵盖AI写作、AI绘画、AI办公、AI营销、AI视频、AI音频等多元领域。https://ai-kit.cn/sites/508.html