7月7日下午，2023世界人工智能大会（WAIC）“聚焦·大模型时代AIGC新浪潮—可信AI”论坛在上海世博中心红厅举行，“产学研用”界共同发起AIGC可信倡议。 本文图均为 主办方供图
大模型时代的AI如何确保安全向善？
7月7日下午，2023世界人工智能大会（WAIC）“聚焦·大模型时代AIGC新浪潮—可信AI”论坛在上海世博中心红厅举行。中国信通院、上海人工智能实验室、武汉大学、蚂蚁集团等多家单位共同发起《AIGC可信倡议》，得到数十家单位参与，与会专家围绕人工智能可能引发的经济、安全、隐私和数据治理等问题，提出构建AIGC可信发展的全球治理合作框架，采用安全可信的数据资源、技术框架、计算方法和软件平台等，全面提升AIGC可信工程化能力，最大限度确保生成式AI的安全、透明、可释。
AIGC安全成为当前人工智能研究发展的重要议题。中国科学院院士何积丰发表《可信人工智能展望》主题演讲时认为，“不能再将人工智能视为简单的技术工作，而是成为整个组织的变革引擎。可信人工智能要致力于保障数据安全可信、系统行为可追责、算法模型可解释、网络环境可信、法律伦理可信等问题。”
图像是信息的主要载体之一，利用AI进行图像造假的行为，是AI可信化发展需要应对的重点问题。论坛上，合合信息带来的AI图像内容安全技术方案引起关注。该方案可精准定位截图篡改痕迹，对生成式图片进行智能判别，防止不法分子利用技术手段非法爬取图片上的信息。
合合信息智能创新事业部总经理唐琪介绍，去年的世界人工智能大会上，合合信息首次展示了“PS篡改检测”技术，在识别证件、票据等各类重要商业材料中的PS痕迹方面具有了“火眼金睛”。今年，AI图像篡改检测“黑科技”持续优化升级，应用面也拓展至“截图篡改检测”。升级后的AI图像篡改检测技术可检测包括转账记录、交易记录、聊天记录等多种截图，无论是从原图中“抠下”关键要素后移动“粘贴”至另一处的“复制移动”图片篡改手段，还是“擦除”“重打印”等方式，图像篡改检测技术均可“慧眼”识假。
合合信息AI图像篡改检测技术应用效果展示
“重打印”篡改图片检测示例：给定一张图片，输入到合合信息篡改检测模型中，便能够判别这张图像是否被篡改，并且定位出篡改图像的篡改区域。
论坛现场还发布了由中国信通院、清华大学、蚂蚁集团联合编撰的《可信AI技术和应用进展白皮书（2023）》。该报告基于统一的可信AI认知维度，梳理总结可信AI发展现状，提炼了面向新阶段的大模型和AIGC引发的新需求，形成以技术为保障的可信AI评估体系和工具，探索新一代可信人工智能发展。
暂无评论内容