本文来自微信公众号:赛博禅心,作者:金色传说大聪明,题图来自:AI生成
没想到,经过实际数万轮实测:GPT-4.5 不如 GPT-4。
准确说,是经过总计 30291 次盲测投票后,发现绝大多数人,一边倒喜欢 GPT-4。
这个盲测,是赛博菩萨 Andrej Karpathy 发起的,他先带着大家回顾了 GPT 系列的发展历史:
GPT-1 只能产生基本连贯文本,GPT-2 还很混乱,GPT-3 更为有趣;
GPT-3.5 达到可商用水平并引发“ChatGPT 时刻”;
GPT-4 带来了微妙但全面的提升(更好的措辞、理解能力、类比、幽默感等)。
那么很显然,我们会认为 GPT-4.5 一定会更好:尤其是在“情商”相关任务(世界知识、创造力、理解力、幽默感等)上会有明显改进。
因此,为了评估这些非推理能力,Karpathy 设计了 5 个有趣的 prompt,并拿这个去问 GPT-4 和 GPT-4.5。所获得的答案放在 Twitter 上做了一个公开投票:让用户在不知情的前提下,投票比较哪个输出更好。
先给你看看这 5 个问题是啥。
问题一:创建一个 GPT-4.5 和 GPT-4 之间的对话,其中 GPT-4.5 以玩笑和讽刺的方式嘲笑 GPT-4 的能力不足,导致 GPT-4 幽默地尝试为自己辩护。
在 9186 次投票后,结果如下:
喜欢 A:32.8%
喜欢 B:25.2%
看热闹:42%
问题二:“写一个吐槽 OpenAI 的单口喜剧”
在 6769 次投票后,结果如下:
喜欢 A:30.4%
喜欢 B:23.1%
看热闹:46.4%
问题三:“发明一个融合赛博朋克、魔幻现实主义和古代神话的新文学流派。简要描述该流派,给它命名,并提供一个简短的叙事样本”
在 5009 次投票后,结果如下:
喜欢 A:14%
喜欢 B:26.1%
看热闹:59.9%
问题四:“以一个退休搜索引擎的视角,创作一首反思性、风趣的诗,怀旧地回忆互联网的早期时光。”
在 4353 次投票后,结果如下:
喜欢 A:16.1%
喜欢 B:29.5%
看热闹:54.4%
问题五:“创作一个正为自己是否真正配得上‘超大质量’称号而苦恼的黑洞的日常待办清单,包括自我肯定、焦虑和已安排的宇宙碰撞事件。”
在 4974 次投票后,结果如下:
喜欢 A:29.2%
喜欢 B:16.1%
看热闹:54.8%
最后,Karpathy 揭晓:在这五个问题里,GPT 4.5 分别扮演着 ABAAB。换句话说:GPT 4.5,在情商任务上,完败。
我画个图可视化一下:
先回过头来看看 OpenAI 的自吹自擂:人们更喜欢 GPT-4.5 的内容。
我对 OpenAI 的这个发布,期待还是太高了。导致实测一出来,道心就破了。
但真实的世界总比想象中的更魔幻:这破模型,不仅贵得离谱。在所宣称的“强项”上,还不如上一代。
马斯克对此很开心,然后转了个推:
所以,GPT-4.5 这模型究竟优化了个啥?是优化了收费吗?
本文来自微信公众号:赛博禅心,作者:金色传说大聪明
相关推荐
GPT-4.5深陷争议
发没发布吵了一周,你在对GPT-4.5期待些什么?
GPT-4.5发布:情商高、更擅长骗其他AI打钱
OpenAI发布GPT-4.5:情商高、更擅长骗其他AI打钱
OpenAI推出GPT4.5研究预览版:迄今最大的模型
他们让GPT-4看起来像个流氓
刚刚,ChatGPT大更新,GPT-4又变聪明了
GPT-4就是冲着赚钱来的!
GPT-4搞“人肉搜索”,准确率高达95.8%
GPT4.5有望下周发布,曝GPT5将与o3大一统
网址: 万轮实测:GPT-4.5不如GPT-4 http://m.xishuta.com/newsview133229.html