当前位置: 首页 > 资讯 > > 内容页

“AI小作文”吓崩股价 科大讯飞紧急辟谣 已有智能鉴别工具

发布时间:2023-05-24 18:56:11 来源:清一色财经

清一色财经5月24日讯(记者 崔铭)A股市场惊现“AI小作文”。科大讯飞(002230.SZ)今日午后一度下跌逾9%,公司紧急向媒体回应称,“股价下跌系某生成式AI写作虚假小作文导致,谣传风险为不实消息。”

近日一篇“小作文”流传在各大股吧,内容是关于科大讯飞重大风险警惕,其中提到“科大讯飞被曝涉嫌大量采集用户隐私数据,并将其用于人工智能研究……这一行为严重侵犯了用户的隐私权,引发了公众的强烈不满和抵制。”

受此消息影响,AI板块龙头科大讯飞今日午后开盘股价闪崩,一度下挫超9%。截至收盘,跌幅已经大幅收窄。


【资料图】

科大讯飞对此紧急回应,股价下跌是因为某生成式AI写作虚假小作文。根据市面上流传截图,该“虚假小作文”疑似由文心一言生成。截至发稿,百度方面暂无回应。

该事件迅速引起机构关注。国联证券指出,系AI撰写的科大讯飞风险警示,公司未发生相关事件。兴业证券亦表示,科大讯飞今日调整与基本面无关,由恶意舆情所致,纯属造谣,公司正积极处理。该机构同时强调:“政策及产业地位双受益龙头,坚定看好!”

随着生成式AI工具增多,“假内容”也开始充斥市场,对于网络安全和信息传播造成新的威胁。这之中,催生出不少AI内容检测工具。近期,人民日报社传播内容认知全国重点实验室、中国科学技术大学、合肥综合性国家科学中心人工智能研究院联合推出了一款AI生成内容检测工具——AIGC-X。

记者将上述“小作文”放入AIGC-X进行检测,几秒钟后,结果显示“该内容是机器生成的。”

AI并非法外之地,由AI生成的“虚假小作文”也可能触犯法律。根据《刑法修正案(十一)》,“有下列情形之一,操纵证券、期货市场,影响证券、期货交易价格或者证券、期货交易量,情节严重的,处五年以下有期徒刑或者拘役,并处或者单处罚金;情节特别严重的,处五年以上十年以下有期徒刑,并处罚金。”其中就包含利用虚假或者不确定的重大信息,诱导投资者进行证券、期货交易的情形。

如何应对AI小作文风险?清华大学新闻与传播学院教授沈阳向记者表示,生成式AI使得传播文本的创作成本大幅度下降,但其实传播渠道目前并没有太大的改变。信息公开是对抗信息谣言的最佳方案。

“目前来说,一方面要严控生成式AI本身产生的错误内容,规范大模型平台。另一方面更重要的是加强传播渠道的自我约束。对于传播渠道的管理带来了更高的要求,比如强化辟谣的机制,发现虚假内容后立即辟谣。”沈阳表示。

中信证券认为,应对AI生成内容进行标记,同时对AI生成内容的可靠性及传播链路进行把关。国盛证券提到,安全问题不能仅靠AI厂商自律解决,还需要外部力量监督。

(编辑 刘琰)

推荐阅读