人民网：“天目智能识别系统”目前已经具备对生成文本、图片、视频、音频多模态内容的识别能力

同花顺（300033）金融研究中心08月20日讯，有投资者向人民网（603000）提问， 董秘您好：请问贵公司“天目智能识别系统”目前开发到什么进度，是否全面商业化？当下各类AI模型幻觉率高增，请介绍一下贵公司是如果利用AI治理AI的？公司的优势在哪里？谢谢。

公司回答表示，尊敬的投资者您好，人民网“天目智能识别系统”目前已经具备对生成文本、图片、视频、音频多模态内容的识别能力，特别针对生成检测的可解析问题，引入跨模态模型，不仅提高了检测的精度，同时可以用文字解释其原因。该系统已与相关单位进行了项目合作，初步验证了系统的能力，目前处于应用推广阶段。 当前，因为AI模型本身是一个概率模型，其幻觉无法根除，可能造成内外双层风险，即生成内容风险和模型被“越狱”风险，针对生成风险，我们采用增强语料和研制对抗模型进行防护，我们建设了主流价值语料库，同时也在模型研制中引入各种对抗手段，比如针对伪造人脸检测模型我们引入了双掩膜混合攻击方法取得了很好的效果。针对“越狱”风险，我们采用关键词库结合攻击行为识别模型来防御。安全防护，任重道远，这方面，公司在实际业务开展中，已经积累的大量高价值数据，有助于我们快速迭代相关防护方法和模型。

点击进入交易所官方互动平台查看更多