首页 栏目首页 > 行业 > 正文

“可信AI”助力人工智能向善发展,AI图像篡改检测“黑科技”升级亮相人工智能大会


(资料图片)

近年来,人工智能场景化落地,高潮不断,成果显著。随之而来的是如何发展“可信AI”,实现可信、可靠、可控、可解释的人工智能也成为业界讨论焦点。

今天举行的2023世界人工智能大会“2023聚焦•大模型时代AIGC新浪潮”论坛,也将目光投向这一话题。论坛汇集人工智能领域政产学研的顶级专家、学者,围绕人工智能技术在鲁棒性、可解释性、安全性、公平性等前沿理论,从技术演进、应用场景、未来趋势、标准治理四大维度层层递进展开探讨,关注多模态基础大模型的可信体系,探讨AI新治理的局面,求解如何在保障技术创新和应用的同时,充分考虑社会伦理、法律和人权等方面的问题。

论坛指出,AIGC安全成为当前人工智能研究发展的重要议题。中国科学院院士何积丰表示:“不能再将人工智能视为简单的技术工作,而是成为整个组织的变革引擎。可信人工智能要致力于保障数据安全可信、系统行为可追责、算法模型可解释、网络环境可信等问题。”

论坛上,合合信息AI图像内容安全技术方案获得广泛关注。该方案可精准定位截图篡改痕迹,对生成式图片进行智能判别,防止不法分子利用技术手段非法爬取图片上的信息。

据悉,去年的人工智能大会上,合合信息首次展示了“PS篡改检测”技术。今年,AI图像篡改检测“黑科技”持续优化升级,应用面也拓展至“截图篡改检测”。

同时,合合信息还发布了关于AI生成图片鉴别技术,用于判断图片是否由AI生成,以及对OCR对抗攻击技术的创新性的研究。

论坛现场发布了由中国信通院、清华大学等联合编纂的《可信AI技术和应用进展白皮书(2023)》。该报告基于统一的可信AI认知维度,梳理总结可信AI发展现状,提练了面向新阶段大模型和AIGC引发的新需求,形成以技术为保障的可信AI评估体系和工具,探索新一代可信人工智能发展。同时,中国信通院、上海人工智能实验室、武汉大学等多家单位共同发起的《AIGC可信倡议》,围绕人工智能可能引发的经济、安全、隐私和数据治理等问题,提出构建AIGC可信发展的全球治理合作框架。

关键词:

最近更新

关于本站 管理团队 版权申明 网站地图 联系合作 招聘信息

Copyright © 2005-2023 创投网 - www.xunjk.com All rights reserved
联系我们:39 60 29 14 2@qq.com
皖ICP备2022009963号-3