你信任机器人外科医生吗？飞行员、销售人员或急救人员怎么办？如果他们有能力适应和改变他们的运作方式，你会信任他们吗？如何让他们值得信任？这些是推动布里斯托大学社会科学家、伦理学家、计算机科学家和工程师团队的一些问题。

该团队由英国研究和创新(UKRI)出资300万英镑，正在汇集他们的专业知识，探索自主系统(决策机器独立于人类控制器)如何以安全、可靠和灵活的方式运行。11月，他们开始了一个为期三年半的项目，该项目将专注于设计和开发自治系统不断发展的功能的过程。

最终，这些发现可能会影响旨在帮助现代生活的技术的发展，从提高工业生产率，到应急系统，再到机器人手术。

系统实验室值得信赖的负责人、布里斯托机器人实验室机器人安全验证与研究课题负责人Kerstin Eder教授是参与研究的六位研究人员之一。她说：“从汽车的牵引力控制系统到手机电脑的AI助手，这项技术一直在我们身边。这些系统中的一些是非常可预测的，并且将只执行它们被编程来执行的操作，但是这意味着它们不能适应和改变不断变化的环境。其他人可以适应自己的功能，并实时响应环境变化或用户需求，而不仅仅是他们的初始设置。这可以让它们更有用，但也很难预测。”

该团队的另一名成员，布里斯托尔医学伦理中心副主任乔纳森艾夫斯博士解释说：“这提出了关于安全、责任和信任的重要问题。在可预见的情况下，我们学会信任技术。然而，可能很难学会信任功能正在变化的技术。我们如何信任一个设计不可预测的系统？”

英国康复研究所的资金是一个国家项目的一部分，该项目涉及六个与中央枢纽相连的独立团体。六个组或“节点”中的每一个都将探索自治系统的不同方面：信任、灵活性、安全性、功能性、可验证性以及治理和法规。

布里斯托尔团队将专注于功能性；创建流程来开发能够使其功能适应现实条件的技术。该团队将专注于三种技术，以根本不同的方式进行适应：群体系统(多个机器人一起工作来解决问题，就像一群蚂蚁或蜜蜂)、软机器人技术(类似于生物的柔性和自适应组件)和无人机。研究如此多样的技术挑战将使他们的发现具有广泛的影响和应用。

项目负责人、航空航天工程系受生物学启发的飞行动力学和控制领域专家Shane Windsor博士说：“对于常规系统，一旦它们离开工厂，我们就知道它们要做什么，因为有一套明确的规范，我们有一套必须达到的标准。对于自治系统，我们需要一种自适应的方法来响应系统性能或操作环境的变化，因为我们可以适应其环境和功能的变化。

“我们的主要重点是调查我们如何创建在这些系统中建立信任的流程，而不仅仅是技术本身。我们必须充满信心，并考虑了使它们在现实世界中有效工作所需的所有方面，这要求我们从开发过程的开始就开始。”

这个项目的主要优势之一是应用了“行动研究”模型——一种集成的方法，它将使来自多个领域的专家能够参与到周期性的反馈循环中，从而为项目、人员和流程执行每一步创造机会。

通过计划的公众参与活动和建立利益相关者和合作伙伴网络(他们最终将成为未来可靠的自治系统的开发者和用户)，这种方法将进一步扩大团队测试技术、社会和道德影响的能力。