ChatGPT遭“封杀”？AIGC安全引关注！东方通人工智能相关课题正式立项

微笑向暖 2024-01-12 15:19:33  66453 赞同 0 反对 0

分类：资源

几乎一夜之间，对ChatGPT的“禁令”开始冲向热搜。

当地时间2月22日，摩根大通宣布开始限制员工使用ChatGPT，随后，花旗集团和高盛集团也加入华尔街禁用ChatGPT之列。
3月2日，OpenAI刚刚宣布，允许第三方开发者通过API将ChatGPT进行集成，苹果应用商店却阻止了相关集成应用进行更新。
近日，就连微软也紧急发布新规定，每日使用New Bing与ChatGPT对话不得超过5次，且不能再和Bing讨论它自己。

这些举措，无一不反映出市场对以ChatGPT为代表的AIGC技术安全应用的担忧。首先是可能存在信息泄露和合规风险，与AI交互的大量素材，会被用作进一步迭代的训练数据，造成敏感信息的泄露；其次AIGC能力对网络和数据安全的威胁也值得关注，由于其更高阶的自然语言生成和理解的能力，也将面临编写恶意代码、垃圾邮件等恶意应用，对网络空间的安全也带来新的挑战。

AIGC产业的长远发展，亟待安全能力升级护航。

日前，“北邮-空天院-东方通”空天信息科技联合创新中心申报的课题《AIGC算法安全性检测方法研究》正式通过某部立项评审，作为网信安全的代表企业，东方通将率先在AIGC领域进行深入安全技术研究，为企业的安全应用提供保障。

此前，国家对于人工智能技术的监管力度也一直在不断加强，从早期的《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》到近期刚刚施行的《互联网信息服务深度合成管理规定》均对深度合成内容技术进行了全面严管。但与之前造成广泛影响的其他深度合成技术不同，ChatGPT、New Bing、Codex的AIGC已经展示出嵌入日常工作的能力，这意味着深度合成技术在未来可能会成为企业标准配置。面临着以ChatGPT为代表的新技术冲击，如何在法律框架下发挥新技术最大的潜力，会是企业合规新的难题，这也要求相关安全服务商需要具备技术研究、业务场景服务能力等多方面的综合积累。

“北邮-空天院-东方通”空天信息科技联合创新中心，由东方通与北京邮电大学、中科院空天院联合成立，致力于多方技术专家团队共同开展人工智能在网络信息安全领域的前沿应用研究，研究领域包括基于人工智能的文本分析与语义挖掘，图像处理、分析与识别，以及信息内容安全技术等。此前，对于部分AIGC算法存在鲁棒性、安全性方面的漏洞，如异常样本的定向攻击、交互内容的准确性干扰、合成内容的合规性风险等风险问题，也在进行持续关注研究。并且，东方通持续在网络信息安全领域深耕，其产品服务覆盖至政务、金融、企事业单位等多个行业领域，在技术转化落地方面具有深厚的实战经验。

此次立项课题主要目标为，研究针对ChatGPT等新型交互式AIGC算法的安全性评估测试方法和工具开发，课题组预计年底前发布可为行业客户开放使用的测试平台服务。届时，东方通也将凭借行业客户资源与实战经验，加快测试平台的广泛体验，帮助更多领域客户应对新技术的安全挑战，把握新风口，掘金数字时代。

如果您发现该资源为电子书等存在侵权的资源或对该资源描述不正确等，可点击“私信”按钮向作者进行反馈；如作者无回复可进行平台仲裁，我们会在第一时间进行处理！

评价 0 条

ChatGPT遭“封杀”？AIGC安全引关注！东方通人工智能相关课题正式立项

相关资源

关注我们