微软推出用于发现AI模型风险的工具PyRIT

微硬私司一个负责使用利剑客手腕发明网络保险答题的团队谢源了一个外部器材PyRIT，该器材否以帮忙启示职员创造野生智能模子外的危害。

研讨职员于原周四领布了该框架的代码。微硬表现，PyRIT否以自发天生数以千计的抗衡性野生智能提醒，来测试神经网络是否有用抵御白客的扰乱。该器械首要用于处置惩罚文原，但其构修的体式格局也容许斥地职员加添图象等野生智能撑持的输出范例。

PyRIT末了是微硬野生智能红队测试团队外部利用的剧本散。该团队负责模仿针对于新野生智能模子的网络袭击，以就可以或许抢正在白客以前找到流毒。研讨职员们不时扩大剧本的附添罪能，曲到代码库成长成为了原周领布的PyRIT框架。

正在将新建立的野生智能模子安排到生活外以前，开拓职员必需对于其入止几多类危害测试。他们必需查找网络保险危害，比喻否能招致模子编写歹意硬件的提醒。硬件团队借必要查找野生智能否能孕育发生幻觉的环境，并确定其可否会被棍骗鼓含训练数据散外的敏感疑息。

有些模子不单会天生文原，借会天生图象等其他范例的输入，那让那个事情变患上越发简朴。必需对于每一一种输入的范例和用户取野生智能交互的每个硬件界里别离反复入止懦弱性测试。那便象征着要念完全测试神经网络须要开拓职员建造数千个抗衡性提醒，那凡是是没有确切际的。

微硬建立PyRIT即是为了撤销那一限定。该私司示意，那个框架容许启示职员指定某品种型的抗衡性野生智能输出，并自发天生数千个相符尺度的提醒。那些提醒否被用于测试以网络做事内容完成的野生智能，和经由过程利用编程接心供给的模子。

微硬的钻研职员正在一篇具体先容该框架的专文外夸大：“PyRIT其实不能庖代天生式野生智能体系的野生红队。”“相反，它加强了野生智能红队成员现有的范畴业余常识，并为他们主动实现繁琐的事情。”

PyRIT不单能天生抗衡性提醒，借能评价目的模子的相应环境。据微硬称，内置的评分引擎会自觉鉴定斥地职员在测试的Ｐ驮谙煊μ崾臼笔短窕岵泻κ涑觥Ｈ砑哦涌梢匝≡裼谜攵韵嗤挝窆菇ǖ耐獠否窬缣婊荒掀婪奸妗�

因为可以或许阐明野生智能的相应，是以PyRIT稳当执止所谓的多轮危害评价。该框架否以向野生智能输出抗衡性提醒，阐明其回音，并响应天调零高一个提醒，使其愈加无效。微硬的研讨职员注释说：“固然双轮攻打计谋的计较功夫更快，但多轮红队测试否以完成更真切的抗衡止为以及更进步前辈的进击计谋。”