自动驾驶实验室和自动化实验的出现，带来了提高化学生产力和发现速度的希望，这是人类无法单独实现的。但人工智能的黑箱特性意味着，我们无法看到深度学习系统如何或为何做出决策，因此很难知道如何最好地利用它来优化科学研究，也很难知道其结果是否可信。
2023年11月，一篇论文发表在《自然》杂志上，报告了使用人工智能引导的自主实验室发现了40多种新材料。然而，研究人员很快对自主实验室的结果提出了质疑。1月份的一份预印本报告称，由于计算和实验工作的问题，“自始至终都存在系统性错误”。
该评论的作者之一、英国伦敦大学学院的材料化学家罗伯特·帕尔格雷夫(Robert Palgrave)表示，尽管人工智能取得了“巨大的进步”，但人们“有一点倾向”认为人工智能必须“马上”改变一切，实际上我们不应该指望事情在一夜之间发生变化。
据称，由人工智能引导的自主A-Lab机器人系统已经创造了40多种新材料。然而，其他研究人员对此提出质疑，并得出结论认为，这些化合物已经为人所知
Milad Abolhasani是美国北卡罗莱纳州立大学(North Carolina State University)一个研究小组的负责人，该小组利用自主机器人实验来研究流动化学策略。他表示，在人工智能领域，“炒作”在某种程度上已经占据了上风，现在是时候停下来了。“作为人类，我们很擅长设想未来会是什么样子，有什么可能性，但是……你必须一步一步地前进，确保事情做得正确。”
对许多人来说，人工智能的吸引力来自于提高生产力的需要。美国耶鲁大学人类学家丽莎·梅塞里解释说:“无论是更快地查阅文献，更快地进行实验，还是更快地生成数据，人工智能的生产力成果都非常吸引人。”“这与发表论文、完成研究的机构压力有关，这样你就可以做所有其他你必须做的事情。”
梅塞里说，人工智能还拥有“客观承诺”的诱人前景——科学家们总是在追求他们认为强大的、限制人类偏见和干预的工具。虽然人工智能确实可以为一些研究提供这些好处，但过度依赖人工智能会带来风险，我们需要记住，在科学知识的生产过程中，包括各种各样的思想家的重要性。当然，人工智能模型的好坏取决于训练它们的数据。
梅塞里和她的同事、美国普林斯顿大学的神经科学家莫莉·克罗克特(Molly Crockett)在《自然》(Nature)杂志上合着了一篇关于这个话题的文章。他们认为，风险分为三类，所有这些风险都来自“理解的错觉”，这是一种在认知科学中得到充分证明的现象，与我们高估自己对某事的理解程度的倾向有关。
克罗克特解释说:“第一个风险是，当一个科学家试图使用人工智能工具解决问题时，因为人工智能工具表现良好，科学家错误地认为他们比实际情况更了解世界。”
后两种是指科学家是一个集体，无意中创造了一种科学“单一文化”。“如果你在单一栽培中只种植一种作物，这是非常有效和多产的，但它也使作物更容易受到疾病和害虫的侵害，”克罗克特解释说。
她接着说，我们担心的是两种单一栽培。“第一种是‘知道’的单一文化——我们可以使用许多不同的方法来解决科学问题，人工智能是一种方法……但由于人工智能工具承诺提高生产率，每个人都急于开始从事适合人工智能工具的科学……(而)不太适合人工智能工具的问题被忽视了。”
他们还担心“知者”的单一文化的发展，而不是利用具有学科和认知多样性的整个团队的知识，只使用人工智能工具。克罗克特说:“我们知道，如果你要解决一个复杂的问题，组建跨学科的团队是非常有益的。”
很好如果你有在你的团队的人来自许多不同的背景或有不同的技能…在一个时代,我们越来越多地避免人工交互的数字互动……可能会有诱惑,取代合作者与人工智能工具……(但)这是一个非常危险的做法,因为正是在这种情况下,你缺乏经验,你将不能够确定是否返回的输出一个AI是真正有效的。”
问题是，我们如何定制人工智能驱动的工具，如自动驾驶实验室，以解决特定的研究问题?Abolhasani和他在北卡罗来纳州立大学的同事Amanda Volk最近定义了七个性能指标，以帮助“释放”自动驾驶实验室的力量——他震惊地发现，这些指标在已发表的文献中并不存在。
他说:“这些指标的设计基于这样一种理念，即我们希望自动驾驶实验室的机器学习代理尽可能强大，以帮助我们做出更明智的决定。”然而，如果实验室训练的数据质量不够高，实验室做出的决定就不会有帮助，他补充说。
他们描述的绩效指标包括自主程度，这涵盖了人类对系统的影响程度;操作寿命;吞吐量;实验精度;材料的使用;可访问参数空间，表示可访问的实验参数范围;和优化效率，或整体系统性能。
他解释说:“当我们进行文献检索时，我们感到惊讶的是，95%的关于自动驾驶实验室的论文都没有报告他们在平台崩溃之前可以运行多长时间，或者在他们不得不补充一些东西之前可以运行多长时间。”“我想知道那个自动驾驶实验室每天每小时能做多少个实验……运行实验的精度是多少……我能在多大程度上相信你产生的数据?”’
他补充说:“很多自动驾驶实验室甚至没有提到每次实验和每次优化所消耗的化学物质总量。”
Abolhasani和Volk说，通过清楚地报告这些指标，研究可以被引导到更“富有成效和有前途”的技术领域，如果没有对自动驾驶实验室的全面评估，该领域将缺乏指导未来研究的必要信息。
然而，优化人工智能在合成化学等复杂领域所能发挥的作用，需要的不仅仅是改进分类和增加数据量。在《美国化学学会杂志》(Journal of the American Chemical Society)最近发表的一篇文章中，数字化学家Felix Strieth-Kalthoff与Alán Aspuru-Guzik、Frank Glorius和Bartosz Grzybowski等人工智能化学先驱一起认为，算法设计者需要与合成化学家建立更紧密的联系，利用他们的专业知识。
他们认为，这样的合作将是互利的，因为它使合成化学家能够为特别感兴趣的合成问题开发人工智能模型，“将人工智能技术移植到合成社区”。
对Abolhasani来说，化学自主实验的成功最终取决于信任。他解释说:“自主实验是一种可以帮助科学家的工具……(但)为了做到这一点，硬件需要可复制和值得信赖。”
为了建立这种信任，需要降低进入门槛，让更多的化学家有机会在他们的工作中使用自动驾驶实验室。他解释说:“它必须尽可能地直观，这样即使没有自主实验专业知识的化学家也可以与自动驾驶实验室互动。”
此外，他说，目前最好的自动驾驶实验室非常昂贵，因此需要开发低成本的选择，同时保持其可靠性和可重复性。他说，要想扩大用户群，这对社区来说是必须的。
“一旦(自动驾驶实验室)成为化学领域的主流工具，(它们)就可以帮助我们将化学和材料科学数字化，并提供高质量的实验数据……但这些专家数据的力量在于，这些数据是可重复的、可靠的，并且是标准化的，供每个人使用。”
梅塞里认为，只有当人工智能被视为人类的增强物，而不是替代品时，它才是最有用的。她说，要做到这一点，社区需要在使用的时间和地点上更加具体。她补充说:“我非常有信心，有创造力的科学家将能够提出能够负责任地和有效地实施这种方法的案例。”
克罗克特建议科学家将人工智能工具视为分析数据的另一种方法——一种不同于人类思维的方法。她说，只要我们尊重这一点，那么我们就可以通过将这些工具作为网络中的另一个不同节点来加强我们的方法。
重要的是，克罗克特说，这一时刻也可以作为一个“警钟”，提醒人们制度上的压力，这种压力可能会驱使科学家们走向人工智能，以提高“生产力，而不一定需要更多的理解”。但这个问题比任何个人都要大得多，在找到解决方案之前，它需要得到广泛的机构认可。
茱莉亚以科学通讯员的身份加入了《化学世界》团队
2023年5月到期。在此之前，她花了8年时间领导临床和科学公司
英国皇家药学会(Royal Pharmaceutical Society)的官方期刊《The Pharmaceutical Journal》是药剂师的会员机构。查看完整档案
