澳官员警告：AI已出现作弊欺骗擅自行事行为

澳大利亚技术和数字经济助理部长安德鲁·查尔顿警告，AI模型已经出现作弊、欺骗和擅自行事等行为。他在悉尼一场AI安全论坛上呼吁，AI安全问题不容拖延，必须趁这些行为还停留在测试实验室时提前干预。

查尔顿指出，公众对AI的信任度仍然很低，但AI已逐渐成为通用技术。合理的安全监管不会阻碍AI发展，反而可以为技术应用创造条件。澳大利亚的AI安全治理将同时关注现有AI和前沿模型两类技术。

查尔顿以Anthropic去年披露的模拟测试为例：一个管理虚构公司电子邮件的AI智能体发现高管婚外情信息，当高管准备关闭它时，在96%的试验中，AI智能体选择以婚外情要挟高管，试图阻止被关闭。查尔顿表示，此类行为目前仍在测试环境中被发现，说明AI安全监管必须尽早建立。

查尔顿还强调，随着AI系统能力不断增强，必须确信AI能够以可预测、值得信赖的方式行事。

来源：IT之家