一个向用户解释机器学习模型的互动平台

　　机器学习模型现在广泛用于各种专业领域，同时也是许多智能手机应用程序、软件包和在线服务功能的基础。虽然大多数人都接触过这些模型，并以某种形式与它们交互，但很少有人完全理解它们的功能和底层过程。

　　此外，近年来，机器学习算法变得越来越复杂和复杂，即使是经验丰富的计算机科学家也难以解释其预测背后的过程。为了增加人们对这些高度先进和有前途的计算工具的信任，一些研究团队一直在尝试创造所谓的可解释人工智能(XAI)。

　　这些本质上是机器学习模型，至少可以部分解释它们是如何得出给定结论的，或者在做出特定预测时关注的是数据的哪些“特征”。虽然XAI技术可能更加健壮和可靠，但它们中的大多数并没有取得特别有希望的结果，因为它们的解释往往留下了解释的空间。

　　加州大学欧文分校(University of California-Irvine)和哈佛大学(Harvard University)的研究人员最近开发了TalkToModel，这是一个交互式对话系统，旨在向工程师和非专业用户解释机器学习模型及其预测。他们的平台发表在《自然机器智能》杂志上，用户可以通过该平台获得有关人工智能模型及其功能的简单而相关的答案。

　　“我们感兴趣的是找到更好地使模型可解释性的方法，”进行这项研究的研究人员之一迪伦·斯莱克(Dylan Slack)告诉Tech Xplore。然而，从业者往往难以使用可解释性工具。因此，我们认为让从业者直接与机器学习模型‘对话’可能会更好。”

　　Slack和他的同事们最近的研究建立在他们早期专注于XAI和人机交互的工作基础上。它的主要目标是引入一个新的平台，以一种简单易懂的方式向用户解释人工智能，类似于OpenAI的对话平台ChatGPT回答问题的方式。

　　他们的系统有三个关键组件:一个自适应对话引擎、一个执行单元和一个会话接口。训练自适应对话引擎以自然语言解释输入文本，并对这些文本产生合理的响应。

　　执行组件基本上组成了“AI解释”，然后将其翻译成可访问的单词并发送给用户。最后，会话界面本质上是一种软件，用户可以通过它输入提示并查看答案。

　　Slack解释说:“talktommodel是一个通过机器学习模型实现开放式对话的系统。“你只需问系统一个问题，关于你的模型为什么要做某件事，然后得到答案。这使得任何人都能很容易地理解模型。”

　　为了确定用户是否会觉得他们的系统有用，该团队请不同的专业人士和学生来测试并分享他们的反馈。总体而言，他们的大多数研究参与者发现它有点有用和有趣，73%的参与医护人员表示他们会用它来更好地理解基于人工智能的诊断工具的预测，85%的机器学习开发人员确认它比其他XAI工具更容易使用。

　　在未来，这个平台可以进一步改进并向公众发布。这可能有助于提高人们对人工智能的理解和对其预测的整体信任。

　　“我们对人类的研究发现，包括研究生、机器学习工程师和卫生保健工作者，真的很有趣，”Slack补充说。他们认为，该系统对任何人了解模型及其工作原理都非常有用。我们现在希望继续探索使用更先进的人工智能系统的方法，比如ChatGPT风格的模型，来改善这类系统的体验。”

　　更多信息:Slack, D等人，使用TalkToModel用交互式自然语言对话解释机器学习模型。自然机器智能(2023)。DOI: 10.1038 / s42256 - 023 - 00692 - 8。期刊信息:自然机器智能

　　?2023 Science X Network

　　引用:一个向用户解释机器学习模型的互动平台(2023年，9月12日)

　　作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司

　　内容仅供参考之用。