中新网北京7月9日电 (记者 张素)以ChatGPT为代表的生成式人工智能广受关注,大模型亦在加速发展。科研团队近日发布新的AI安全平台,以期为大模型系好“安全带”、把好“方向盘”。
据介绍,人工智能安全平台RealSafe3.0版本由清华大学人工智能研究院孵化企业瑞莱智慧RealAI发布。该平台能够提供端到端的模型安全性测评解决方案,旨在解决当前通用大模型安全风险难以审计的“痛点”。
“大模型‘落地难’的本质在于,当前还没有找到场景、风险和规范三者之间的平衡点。”瑞莱智慧联合创始人、算法科学家萧子豪在受访时说,而在探寻这一平衡点的过程中缺少易用和标准化的工具。换言之,亟须在技术层面找到有力抓手,帮助人们科学评判大模型在场景中能否同时满足规范和低风险,助力大模型上线运行。
萧子豪介绍说,RealSafe3.0内部集成了多个自研模型和专家论证高质量数据集,来帮助用户修复模型中的问题。例如,对黑盒不可解释的通用大模型,自研红队对抗模型取代人工设计问题,显著提升攻击成功率和样本多样性。
再如,教练模型通过对被测大模型进行多轮次的“提问—回答训练”,并以训练好的评分模型对问答结果进行评分,再将评分结果反馈给大模型,使其不断强化学习到好坏答案的要点及区别,直至问答能力逐步迭代至最优。
值得一提的是,瑞莱智慧科研团队还研发出能够防范生成式人工智能恶意滥用的DeepReal2.0,即“生成式人工《加拿大pc微信二维码图片》智能内容检测平台”。该平台支持对图像、视频、音频、文本进行是否伪造的检测,应用场景包括打击网络诈骗和声誉侵害行为、检测网络内容合规性、检测音视频物证真实性等。
那么 ✊,伪造印章立案的进展如何?华昌达在前述交易所关注函♈的回复中继续披露,公司已就颜华伪造公司公章及陈泽私章一事,于2017年12月和2018年1月分别向上海和十堰两地公安部门 ➧报案,经过对华昌达在公安备案公章与国创资本提供资料中华昌达公 ⛅章加拿大pc微信二维码图片比对后,公安部门于2019年8月22日出具鉴定意见通知书, ♐明确写明上述两枚章系不同。但此后华昌达却未再获得更新的相关案 ➡件信息。
俄乌战争爆发后 ➦,欧元区去年冬季陷入温和衰退,但预计2023年会有反弹。官员们坚持认为 ➣,通胀降至目标水平,才能促进经 ♏济可持续增长。
本报记者 海兰珠 【编辑:袁昶 】