在工程学院的时候，我有一位教授，他过去常常以误导人的作业为荣。他会问一些问题，其中包含一些与手头的话题不太相关的元素，他希望这些问题能转移我们的注意力，或者分散我们的注意力，让我们陷入不必要的研究的兔子洞。
下面是他会问的问题类型的一个例子。他的问题更难，更侧重于工程，但我用了这个问题，因为它与我们将要讨论的研究直接相关：
我的教授的目标是帮助我们确定什么与手头的项目相关，并帮助我们学会忽略或搁置所有在做研究时自然产生的干扰。
最初，这是一套非常痛苦的课程，但最终对第一年的工程师非常有用。
我之所以想起这一挑战，是因为本月，由高级主管萨米·本吉奥（Samy Bengio）和杰出科学家昂塞尔·图泽尔（oncel Tuzel）领导的苹果人工智能和机器学习研究团队发表了一篇研究论文。
他们的论文《gsm符号：理解大型语言模型中数学推理的局限性》就包含了上面所示的数学问题。如果你看一下这个问题，短语“但是其中五个比平均水平小一点”应该对整个猕猴桃的数量没有影响。
研究人员发现，像OpenAI的GPT-40-mini、GPT-40、o1-mini和o1-preview这样的大型语言模型（llm）在涉及推理的问题（与非常高级的文本处理不同）时容易出错。
现在，公平地说，我对ChatGPT gpt - 40运行了这个查询，它回答正确。我不认为这意味着苹果的结论是不正确的，只是ChatGPT正确地处理了这个问题。
另一方面，我们都知道AI也可以通过讨论在新西兰Otorohanga的夜间森林中摇摆的几维鸟的数量来轻松回答这个问题。
因此，苹果研究的最终结论是法学硕士无法进行真正的推理，而是依赖于模式匹配，这是有道理的。
在某种程度上，这是一种“告诉我们一些我们不知道的事情”的结论。即便如此，有苹果公司在这个问题上的研究人员科学地证实这一点，也是件好事。有了这些，让我们深入科学。
事实证明，要求ChatGPT将宪法翻译成海盗语并不是测试法学硕士的全面方法，即使它确实带来了欢乐的时光。
相反，研究人员开发了远不那么有趣但更有效的人工智能测试框架，旨在衡量语言模型评估数学问题的能力。
2021年，OpenAI推出了用于评估llm推理的基准数据集GSM8K。这个首字母缩略词说明了数据集包含的内容：8000个小学数学问题。
当应用于人工智能时，数据集可以帮助研究人员确定人工智能的准确性，以及它是否能解决推理问题和基本数学问题。GSM8K被认为是评估法学硕士数学推理能力的黄金标准，特别是在算术和文字问题方面。
由于它是开源的，GSM8K也被广泛应用于AI领域（包括OpenAI内部和外部），以测试需要逐步推理的任务。它有一个清晰的问题结构，这使得它成为人工智能研究人员在llm上进行早期测试的可靠工具。
另一方面，苹果公司的研究人员认为这个数据集存在根本性缺陷。他们认为，GSM8K的测试结果可能会对给定LLM的能力提出过于积极的看法。这是因为测试集是基于固定的、熟悉的问题，这些问题可能已经在法学硕士的训练集中使用过。
上面引用的论文介绍了一个新的数据集，GSM-Symbolic，研究人员说它克服了GSM8K的局限性。GSM-Symbolic提供了更多样化和复杂的问题，这阻止了法学硕士从存储的训练数据中工作。
论文提到，一些模型，比如谷歌的Gemma2-9B，在使用两种基准数据集时显示出明显不同的结果。Gemma2-9B能够正确解决OpenAI的GSM8K数据集中的问题，但当它接受苹果的GSM-Symbolic集测试时，准确率下降了15%。
苹果公司的研究人员发现，随着问题的复杂性增加（他们称之为“附加条款”），准确性就会下降。这个指标在GSM8K中没有显示，因为数据是固定的。据苹果公司称，随着条款数量的增加，准确率在80-90%之间的模型可能会降至40%左右。
苹果公司认为，GSM8K存在数据污染的风险，这意味着这些模型可能已经在部分数据集上进行了训练。托管GSM8K数据集的GitHub已被用于帮助培训法学硕士。
对我来说，使用GitHub进行训练数据从来都不是一个好主意。我有旧代码在我的GitHub存储库，我很清楚它是多么的bug。我不想用它作为示例代码来训练我的学生，更不用说用它来教我们所依赖的人工智能了。
无论如何，苹果的GSM-Symbolic似乎并不是开源的。因此，尽管苹果公司的研究人员认为这是测试法学硕士的更好解决方案，但除非你在苹果公司的合适团队工作，否则你无法使用它。
我有点怀疑苹果写这篇文章的动机，因为这看起来像是某种超级书呆子对Open ai的竞争对比，尤其是在苹果推出自己的人工智能产品之后。
另一方面，苹果正计划在其Apple Intelligence产品中加入ChatGPT，因此，将纯粹的竞争作为撰写此类论文的理由似乎并不合适。因此，我相信动机可能就像他们看起来的那样：真正的学术兴趣是提高对学习模型性能和准确性的理解。
这项研究证明了一个我们一直都知道的事实：法学硕士在模式匹配方面的表现优于逻辑推理。他们在训练和处理过程中使用模式识别，而不是实际的推理。仅仅通过模式识别就能令人信服地描绘出世界上如此多的信息，这一事实令人震惊，但它仍然没有给我们带来真正能推理的计算机。
数学推理参差不齐。在我的测试中，苹果研究人员用来作为失败测试的例子通过了。这并不是说苹果的团队错了，但它的前提是人工智能是不一致的，而且是不断发展的。因此，依靠法学硕士获得数学结果不一定是一种实用的方法。如果你想要好的数学，使用老派的算法和传统的软件工程测试和验证方法，或者至少仔细检查人工智能给你的结果。
考虑在生产场景中依赖LLM数据的另一个问题是，随着复杂性的增加，准确性会下降。虽然这种模式确实准确地反映了人类处理数据的方式（数据越复杂，我们就越头疼），但法学硕士和我们之间的区别在于，我们确实在进行实际的推理。
那么，苹果论文中研究结果的商业含义是什么呢？这是下一个。
除非你一直戴着玫瑰色的眼镜看待人工智能，否则其含义是显而易见的。人工智能是一个有用的工具，但不要依赖它来处理复杂的决策。把所有责任都交给人工智能或法学硕士是不明智的，因为这是一项很有前途的新技术。
我已经展示了几次我是如何使用人工智能来帮助我基于企业数据获得一些见解的，但我总是通过思考分析来对结果进行火鸡测试，看看它是否符合我内心的认识，并最终做出我自己的决定和决定。人工智能是一个有趣的辅助工具，但我自己的管理背景是为自己的业务做出决策的关键。
人工智能充满潜力。例如，我用它们来帮助我编程。我确信去年ChatGPT为我节省了一个月的编程时间。但我并没有依靠AI来设计代码或编写业务逻辑部分。我使用它只是为了给我提供进入非常常见的api的接口，否则我将不得不花时间查找这些接口，并且这些接口易于测试。
不要指望人工智能取代你的主题专家。人工智能可以支持人类专家的努力，但当涉及到深度推理或批判性思维时，人工智能是容易出错的。这样来看：如果你不相信大学新生或邻居家的孩子为你的生意做决定，那就不要相信人工智能。
我们知道他会产生幻觉。我们知道，他们有时会根据他们得到的数据得出完全荒唐的结论。如果你的业务依赖数据来做决定，不要认为人工智能会给你正确的数据。
这给我们带来了风险缓解：谨慎投资人工智能。寻找它擅长的战略领域。
例如，在我的日常工作中，我发现AI在Photoshop的照片编辑功能中提供了很高的回报，可以删除背景，或者在录制YouTube视频时，无论我在房间的哪个位置，都可以将相机指向我。我也用它来生成文本和生成图像，但从不用于关键任务项目。
一定要确保你有适当的系统，以确保人类的监督确实在发生，而不是滑落。你必须不断地让人的智慧参与其中，尤其是在关键的操作中。
将这种谨慎延伸到你的团队。每个人都在阅读和听说生成人工智能的奇迹，但可能没有意识到它的局限性。确保你所有的团队成员都知道像法学硕士这样的工具只是工具。抵制自满的诱惑。
有趣的是，苹果公司在大力宣传苹果智能的同时，也在展示这项技术的局限性。在某种程度上，这种透明度是令人鼓舞的。
苹果一直在使用机器学习作为一种工具，定期提高其照片处理能力。但是，虽然这些技术使用了大量的数学，但它们不需要独立的人类推理。
预计苹果将继续大力投资人工智能技术，即使是在公司的供应链上。但我不认为苹果的管理团队会把决策权交给法学硕士。
这项研究表明，随着项目复杂性的增加，法学硕士有明显的局限性，苹果公司正在投资测试法学硕士的局限性，并将这些结果考虑到对这些新技术的依赖程度。
对于一家很少对其潜在决策透明的公司来说，这篇论文令人信服地洞察了苹果正在做的详细研究，以帮助它了解十年来最热门的新技术的优势和局限性。
你觉得呢？苹果得出了正确的结论吗？你是否尝试过使用人工智能来做决策？您现在使用llm的目的是什么？您希望将来使用llm的目的是什么？请在下面的评论中告诉我们。
你可以在社交媒体上关注我每天的项目更新。一定要订阅我的每周更新时事通讯，并在Twitter/X @DavidGewirtz， Facebook Facebook.com/DavidGewirtz, Instagram Instagram.com/DavidGewirtz和YouTube YouTube.com/DavidGewirtzTV上关注我。
