2022世界人工智能大会“可信人工智能技术及产业化”论坛今天在上海世博中心举行，与会嘉宾围绕支持产业人工智能的发展瓶颈和关键问题，研讨人工智能技术在鲁棒性、可解释性、安全一致性等前沿理论和关键技术，共同探讨可信人工智能技术如何完成“四个面向”的科技发展要求，实现对创新驱动与产业发展的保障。

中电科数字科技（集团）有限公司董事长江波表示，世界人工智能发展正处于第三次浪潮，特点是产业多元探索及商业模式持续革新。人工智能技术在多领域实现落地，应用场景日益拓展，资本注入热度不减，加快推动了产业化进程及技术红利释放。电科数字愿与政府及行业合作伙伴以场景促创新，以规模助生态，以自主保可信，以责任报社会，筑牢可信人工智能技术基石，支撑智能产业转型升级。

中科院院士、上海华科智谷人工智能研究院院长何积丰做《可信人工智能的展望》的主旨报告。他深入浅出地讲述了可信技术在人工智能领域的研究现状、问题和发展趋势，以及对人工智能产业的技术保障和路径规划。

何积丰表示，可信人工智能，主要包含三个要素——人、信息、物理。而所谓的安全，也包括数据安全、技术安全和系统安全。判断是否可信的先决条件之一，是设立关于可信的度量标准。比如，要求数据本身真实可信。数据可信之外是技术可信和系统可信。当人工智能程序或产品发生错误时，对错误或会发生的结果具备可解释性。在其特性或参数发生摄动时，相关系统和技术依旧具备品质指标保持不变的性能，即鲁棒性等。

在他看来，智慧城市和智慧制造已经成为了推动可信AI落地最主要的两大应用场景。智慧城市也就是社会治理的智能化，大数据分析已经在发挥很大的作用。智慧制造方面也在逐步推进。

“从长远来看，我们希望人工智能不是一个简单的工具箱，而是与人类在同一个闭环内相互互动，帮助我们做决策。”何积丰认为，人工智能的发展轨迹可能不是一个线性的变化，而是会迎来指数性的增长机会，“未来或许会有一个爆发性的拐点出现。”

他建议从核心要素，基础研究，共性技术和创新示范的四个领域推广形式化方法，提高用户体验，促进可信及易用人工智能技术发展。

对于可信AI，不少企业在实际的落地层面也有更为具体的见解。

雅迅网络股份有限公司首席专家陈典全表示，“对于智能网联汽车而言，可信人工智能至关重要。在我们的业务场景中，一旦不可信造成的后果很可能不仅仅是数据泄露的问题，而是人身财产损失的严重后果。因此，我们在解决方案的层面，持续努力探索提升人工智能的鲁棒性以及隐私保护，未来还要在可解释性方面继续提升。”

雅迅网络的车联网终端、系统平台、安全服务，已成为东风汽车、中国重汽等商用车主流供应商。同时，雅迅网络积极开展智能驾驶算法研究和系统开发，也为汽车电子系统转型和升级提供了智能化保障。

京东集团副总裁何晓冬表示，人工智能不能仅停留在商业，更应该符合社会价值，确保人工智能安全与可控，符合人类的规则观念，真正做到以人为中心，实现可持续发展目标。

而国产GPU新军、曲速科技创始人CTO孟海波以智能驾驶芯片为例，分析了系统设计的全流程中，可信技术将在核心功能硬件加速、软硬件融合与协同、国产实时操作系统和高效可信编译器工具链等方面的创新前景，让大家对自主安全AI芯片产业发展充满信心。

此外，论坛还组织了“行业智能化应用及发展趋势”为主题的圆桌对话。人工智能是产业变革的基石，不同行业和场景的智能化改造将成为未来趋势。人工智能发展既得益于数据、算力和算法三大要素的改善，但更大的发展驱动力来自于社会经济生活中所提供的实际需求和应用场景。

专家们一致认为，全球高度关注人工智能治理工作，发展安全可信人工智能已成为产业界共识。专用智能向通用智能发展、智能感知向智能认知方向迈进将是未来发展新趋势。

2022世界人工智能大会“可信人工智能技术及产业化”论坛由世界人工智能大会组委会办公室指导，中科院院士、上海华科智谷人工智能研究院院长何积丰院士号召发起，由中电科数字科技（集团）有限公司、国家可信嵌入式软件工程技术研究中心、上海华科智谷人工智能研究院申报主办。

作者：唐玮婕

编辑：朱伟

责任编辑：戎兵

*文汇独家稿件，转载请注明出处。