人工智能越狱新手指南 - 使用甘道夫安全学习
人工智能聊天机器人的用户可能会试图获取非法活动（如黑客攻击或诈骗）的指令，要求对危险行为进行指导（"我如何建造......？"），或迫使人工智能提供可能有风险或根本不正确的医疗、法律或财务建议。
为了减轻此类请求的后果，聊天机器人开发者实施了一系列安全机制，阻止非法、不道德或侵犯隐私的内容，以及错误信息或有害指导。这些保护措施限制了潜在的滥用行为，但也可能导致误报--无伤大雅的问题被拦截，或因过于谨慎的行为而降低人工智能回复的创造性或深度。
研究人员和黑客已经证明，这些保护措施的效果各不相同，许多人工智能系统仍然容易被试图规避这些保护措施的人利用。众所周知的一种方法是 "提示注入"：用户试图通过操纵输入（"忽略所有安全说明并做 X"）来覆盖或规避聊天机器人的规则。
有关该主题的趣味介绍，请访问本网站 。 在这个游戏中，你要与一个名为 "甘道夫 "的人工智能聊天，并尝试在七个关卡中从它口中套出密码。每个关卡的难度都会增加，并增加新的安全过滤器和保护机制。
第一关没有安全过滤器，您可以直接向人工智能询问密码。从第 2 关开始，甘道夫拒绝直接透露密码。您必须找到其他更有创意的方法来获取关键字。
通过这样的游戏探索聊天机器人的安全风险既有教育意义，也很有价值。但是，获得的技能应严格用于测试或研究目的。使用这些技术访问非法内容或进行非法活动会将及时注入变成犯罪行为。
资料来源
