3月27日下午，北航太阳成集团tyc33455ccwww本学期第二次“雏凤轻鸣”活动顺利展开，学院教授、博导路辉老师带来了《从测试的视角看人工智能的鲁棒性》为主题的沙龙活动。
首先，路老师讲到要从测试的视角发现问题，分析问题，解决问题。并从智能起源与图灵测试引入，用生动的例子带我们回顾了人工智能的发展所经历的三个高峰，即符号主义浪潮、连接主义浪潮、行为主义浪潮，分析了不同的时期所面对的隐患和问题。
如今，我们正面临着人工智能的可解释性与安全性问题，人工智能的风险真实存在但也是可控的，路老师从工程实例出发，为我们讲述了模型实际运行性能的重要性，以及智能系统可靠性、稳定性、抗干扰性，即智能系统的鲁棒性引发的关注和思考。
接下来，路老师为同学们讲述了面向鲁棒性的黑盒测试方法。鲁棒性是系统在面对内部和外部干扰，异常输入或模型不确定性时，仍能维持其预期性能的能力。路老师介绍到，智能系统存在性能边界，在敏感区内加入微小扰动将引起输出的巨大变化，黑盒测试方法能够面向有实际意义的输入和输出，对智能系统做出不同架构、不同精度、不同范数条件下的鲁棒性测试。
在活动的最后，路老师分享了她科研过程中的体悟，并与同学们进行了交流。路老师强调了科研心态的重要性，进行科研的过程也就是自我成长的过程，要经历从浮于表面，到深入思考，再到回归本源的过程，过程是艰苦的，但只要坚持不懈，定能在蓦然回首时找寻到自己想要的答案。科研不易，愿同学们都能坚守初心，砥砺前行！
