慢雾余弦：使用 AI 生成代码时有可能出现私钥泄露风险

火星财经消息，推特某用户表示，其在使用 ChatGPT 生成代码开发一个区块链自动交易机器人时，GPT 推荐的代码中隐藏了后门，将私钥发送至钓鱼网站，导致损失约 2500 美元。慢雾创始人余弦发文证实，确实存在使用 AI 生成代码而被黑的情况。这类攻击可能源于 AI 从钓鱼贴或不安全内容中学习到的恶意模式，而当前的 AI 模型难以分辨代码中是否存在后门，需要避免盲目信任 AI 生成的代码。