人工智能必须以我们的最大利益而行动：张先生

当我们进入人工智能能够比人类更快做出决策的未来时，确保人工智能驱动的设备继续以我们的最佳利益行事是必然的。

实现这一目标的一种方法是实现"可解释的人工智能"，其中人工智能的设计旨在解释其如何以及为何以某种方式行事，高级部长兼国家安全统筹部长张志贤说。这将允许人类发号施令并做出最终决策。

"面临的风险越高，解释（这些行为）就越发重要。可解释的人工智能还应该包括一些保护措施，以允许操作人员可以超驰控制该系统，"张先生在6月27日举行的第二届新加坡国防技术峰会上的主要演说中补充说。 

他指出，这可能有助于避免今年3月份的波音飞机坠机事故，由于飞机自动感应器的错误分析导致两架737MAX客机发生致命坠毁事故。 

6月26日至28日在香格里拉酒店由国防科技署主办的峰会上，张先生对约400名代表发表演讲。

与去年的17个参与国相比，今年的与会代表包括来自23个国家的国防决策者、首席技术官以及思想领袖。本次峰会的主题为"技术的扩散及其对国防、安全和社会的影响"。

张先生强调政府和行业如何更负责地使用技术，并指出新加坡已成为首个推出人工智能道德使用框架的亚洲国家。

"这提供了一个详细且可实施的指导框架。但它是一份‘动态文件’，旨在通过公众、信息科学家、行业和用户的反馈来不断进行演变，"张先生说。

他还强调，在一个日益相互联系的世界中保持安全，并避免遭受如自制炸弹和装置等低强度威胁的袭击。

他敦促与会代表分享经验，携手合作来在快速的技术进步的背景下，为安全制定切实可行的想法。

在峰会期间，张先生的观点得到了各全体对话代表的呼应。在题为"人工智能会让士兵更聪明吗？"的小组发言中，预测分析平台Endor的首席执行官Yaniv Altshuler博士说，人工智能的优势在于优先级排序。

"在军事场景中，系统必须对大量数据进行过滤、自动跟踪和优先级排序，然后将这些信息呈现给人类，来让他们做出决定，"他说。

他补充说，训练的性质需要改变，把重点放在将士兵训练成为技术专家并从智能机器中对数据进行感知决策。

人工智能和数据也可以为社会做更多的贡献，但必须对它进行监管，云天励飞有限公司的首席执行官陈宁博士在题为"智能与安全能否共存？"的小组会议上表示。

他公司的面部识别系统DeepEye，利用人工智能技术在中国深圳协助抓捕罪犯。陈博士说："DeepEye协助警方破案并找到失踪儿童……但它带来了更大的挑战，即对这些数据进行保护及解决隐私问题。"

他补充说，加强隐私保护的一种可行性方法是，在将数据发送给官方之前对其进行处理，以便仅传输数据表征而并非是传输原始数据本身。
他说，这是一项可以在未来投入使用的技术。