隨著人工智能技術(shù)的快速發(fā)展，AI換臉應用因其趣味性和創(chuàng)新性迅速流行。這項技術(shù)也引發(fā)了社會廣泛擔憂。例如，未經(jīng)授權(quán)的換臉視頻可能侵犯個人肖像權(quán)和隱私，甚至被用于詐騙、誹謗等違法犯罪活動，嚴重威脅公共安全和社會秩序。

為應對這一問題，國家互聯(lián)網(wǎng)信息辦公室（網(wǎng)信辦）積極行動，制定并發(fā)布了《生成式人工智能服務管理暫行辦法》等相關(guān)規(guī)定，對AI換臉等深度合成技術(shù)進行嚴格監(jiān)管。新規(guī)強調(diào)，提供此類服務的平臺必須履行備案義務，確保數(shù)據(jù)來源合法，并設置顯著標識以提示用戶。禁止利用AI換臉技術(shù)從事?lián)p害國家利益、社會公共利益和他人合法權(quán)益的行為。

這些措施旨在加強互聯(lián)網(wǎng)安全服務，保護用戶個人信息，促進技術(shù)健康有序發(fā)展。隨著監(jiān)管體系的完善和技術(shù)的迭代，AI換臉有望在娛樂、教育等領域發(fā)揮更大價值，同時最大限度地降低潛在風險。