内容持续更新中
蚂蚁集团 AI 安全实验室近日正式开源大模型内生式安全护栏技术 SingProbe。该技术区别于主流的外挂式安全审核模式，通过复用基座模型推理过程中的隐藏状态，以不足0.5% 的额外计算开销，实现 t…
一直以来以“安全卫士”自居的人工智能初创公司 Anthropic 正在经历一次戏剧性的立场大转变。近日，该公司宣布大幅放宽其长期坚持的“安全护栏”政策。这一变动被业内视为 AI 发展史上的分水岭：即使…
