AIGC-X

AIGC-X官网,国内首个AI生成内容检测工具

什么是AIGC-X?

传播内容认知全国重点實验室、中国科学技術大学、合肥綜合性国家科学中心人工智能研究院联合推出的AI生成内容检测工具，可以快速分辨出内容是机器生成还是人工生成的。AIGC技術的突破，將会大大推动人工智能在内容领域的全面變革。然而，AIGC在虚假信息、学術造假、網路釣鱼等任務中的滥用，嚴重阻碍新技術在媒体和教育等领域的应用。

AIGC-X官网: http://ai.sklccc.com/AIGC-X/#/

AIGC-X起源

AIGC-X是實验室研究AI自我治理机制的重要成果，是探索如何从技術角度解决AIGC安全問题的初步尝試。結合内容辨識、内容溯源等技術，AIGC-X能够有效的推动AI風险管理、安全审查和評估技術的發展，為建立安全可信AIGC生態的基礎提供技術方案与支撑。

近年来，随着人工智能生成内容（AIGC）技術的迅速發展，从AI繪画、AI作曲到虚擬人，再到最近爆火的ChatGPT，内容生產方式迎来了巨大的變革。在这个不斷增长的互联网内容世界中，找到一种明确虚實、分辨真假的技術标尺成為行業长遠健康發展的關键。

為了应對这一挑戰，人民日報社传播内容认知全国重点實验室、中国科学技術大学和合肥綜合性国家科学中心人工智能研究院联合推出了国内首个AI生成内容检测工具——AIGC-X。该工具于今天正式開始全网公测.

AIGC-X怎么样?

据介绍，AIGC-X能够快速区分机器生成的文本和人工生成的文本，目前對中文文本的检测准确率已超过90%。

人民日報社传播内容认知全国重点實验室首席科学家張勇東表示，由于ChatGPT等AIGC技術在對话咨詢、文章寫作和内容潤色等方面具有广泛的应用場景，这一技術迎来了新的發展阶段。然而，倫理規范、内容侵權和信息造假等風险挑戰也變得不容忽視，因此迫切需要推出针對性的检测產品，提升對内容生產新范式的监管治理技術能力。

他介绍說，AIGC-X采用了算法融合与知識驱动的人工智能框架，透過深度建模来捕捉困惑度和突现频次等隐式特征。AIGC-X能够检测AI技術生成的假資訊、内容抄袭和垃圾郵件，具有广闊的应用前景，可应用于内容版權、網路釣鱼、虚假信息和学術造假检测等内容安全和内容風控领域。未来，AIGC-X还將擴展為對人工智能生成的文本、圖像甚至影片的通用智能辨識模型。

“對AIGC的适当引導和規范势在必行。”人民日報社传播内容认知全国重点實验室研究员靳国慶特别强调，我们必须重視防范AIGC在虚假信息、学術造假和網路釣鱼等灰色领域的滥用。他表示，“AIGC-X將推动AI風险管理和安全評测技術的發展，為建立安全可控的AIGC生態提供技術支持。”

据介绍，在推出AIGC-X之前，人民日報社传播内容认知全国重点實验室已經推出了基于人工智能的“智曉助”和“白澤”两个内容風控系統，并在百余家机构中得到应用。人民网信息技術公司，專注于内容風控業務，已開發了“捕獲AIGC”產品，并透過“人民审校”微信公眾号进行發布。

根据工業和信息化部公布的資料顯示，我国AI核心產業規模目前已超过4000亿元，企業數量接近4000家，帶动相關產業規模超过數万亿元，并將繼續快速增长。行業專家预测，作為數字經濟和實体經濟深度融合的新模式，AIGC將在產業創新發展方面發挥重要作用。

張勇東表示，“AIGC-X不是一个静態的技術，而是随着AIGC的發展而不斷發展的。”目前受限于时间和資源，AIGC-X在支持非常規問题和場景方面仍有待改进。例如，AIGC-X目前仅支持中文内容的检测，對英文的支持有待提高。此外，还需要进一步完善對圖像、音影片等内容的检测能力，以支持全媒体内容的检测，為AIGC的健康發展提供保障。