齐向东表示，以大模型为核心的人工智能技术是创新范式变革与产业升级的关键引擎，然而技术跃升与安全风险始终伴生演进。人工智能大模型面临四大安全挑战，包括数据安全挑战、应用安全挑战、基础环境安《好的彩票》全挑战和大模型自身安全挑战。
“以数据安全挑战为例，大模型在训练、推理、使用过程中涉及海量数据，通过数据投毒、数据污染等手段，会使大模型输出背离主流价值观或包含事实性错误的内容。一些不法分子还会借助提示词注入、劫持、爬虫等手段，窃取大模型用户重要信息、敏感数据。”齐向东称。
齐向东建议，从技术层面全面排查加固人工智能大模型基础设施，构建大模型红域，打造适用于人工智能的纵深防御体系，形成覆盖终端、应用、数据、大模型、算力与基础设施的多维度核心防护能力。同时，给予威胁情报、大网数据监测等情报赋能，有效抵御针对大模型的新型攻击和恶意访问，实现“对外防攻击、对内防内鬼”。
