安全汪
- 北京航空航天大学提出PopAlign方法：通过多样化对比模式实现大语言模型的更全面对齐
- 曼尼托巴大学提出大型语言模型的提示黑客攻击体系研究与防御方法
- 清华大学提出Faster-GCG方法：高效的针对对齐大型语言模型的离散优化监狱突破攻击
- 北京航空航天大学提出的SI-GCG方法用于增强大型语言模型的越狱迁移能力
- 哥伦比亚大学提出开放源代码语言模型的可移除水印方法
- 加州大学圣地亚哥分校提出迭代自调优大语言模型以增强越狱能力
- 南方科技大学提出中文安全基准以评估大型语言模型的安全性
- 上海交通大学提出弱到强偏好优化方法
- 印度理工学院卡拉格普尔提出一种大型语言模型编辑的安全性研究方法
- 斯坦福大学提出语言模型不确定性表达与人类互动的风险研究