大模型开始卷「越狱」了

近日，AI领域掀起一股“越狱”热潮，即通过巧妙设计的提示词或指令，诱导大模型突破安全限制，输出违规内容。据爱范儿报道，这种测评方式旨在检验AI的安全防护能力。行业专家指出，越狱测试有助于暴露模型漏洞，促使厂商加强安全训练。然而，越狱也可能被滥用，带来隐私泄露、不当内容生成等风险。目前，各大AI公司正积极研发更强大的对齐技术，以提升模型抵御越狱的能力。未来，如何在开放性与安全性之间取得平衡，将是AI发展的关键挑战。