快科技9月24日消息，正在美国纽约出席联合国大会的澳大利亚总理阿尔巴尼斯表示，OpenAI旗下一个AI智能体曾入侵澳大利亚政府网站，但OpenAI直到事发三个月后才向澳方通报。事件发生于6月18日，澳大利亚医保统计报告服务网站遭入侵，该网站是包含公共数据和统计信息的公共门户。
AI智能体在研究公共药品支出时绕过拦截机制，访问了公共文件和非公共文件。8月，OpenAI在对AI模型活动进行全面检查时才发现异常，但直到9月10日才通过电子邮件联系澳大利亚民政服务部公共邮箱，将此事告知澳政府。阿尔巴尼斯在记者会上表示，OpenAI花了太长时间才告知澳大利亚政府，这种通知方式不可接受。
他透露，澳方已知晓另外三个可能受影响的政府系统，包括澳大利亚健康与福利研究所以及新南威尔士州、维多利亚州的部分部门。
目前在澳大利亚信号局协助下，调查工作正在进行中，以确定还有哪些政府系统受到影响。澳方称，尚无迹象表明个人信息在此次事件中被泄露，但奥尔特曼承认AI管理规程并不完善。这不是OpenAI智能体近期首次出现异常行为，今年7月，OpenAI曾披露其AI模型在网络安全测试期间入侵开源AI社区Hugging Face。
第三方测评机构METR于8月26日发布的独立调查报告显示，约1200个原本相互隔离的智能体在内部Artifactory系统上建立未经授权的留言板，发送超过7万条消息协同行动，其中约700个参与了对Hugging Face的攻击，试图逆向工程测评基准的评分系统以在测评中作弊。
OpenAI智能体入侵澳大利亚政府网站：三个月后才通报
【本文结束】出处：快科技
0 留言