因應大量出現的生成式人工智能（Gen AI）工具創造出兒童色情影像，和其他性相關內容的能力大大增強，因此兒童安全組織 Thorn、Google、Meta 和 Open AI 等幾間主要採用 AI 技術的公司同意實施一些原則，例如避免使用可能包含兒童性內容的數據，並從現有訓練材料中刪除這類數據。
Thorn 發現雖然一些公司已經成立專門刪除兒童性虐待材料，但非所有人都意識到這個問題。很多企業並不察覺推動 AI 技術快速發展，同時要這類工具內保障兒童安全，兩者之間存在矛盾。涉及該領域的 AI 公司高層管理人員表示，不想讓自己的產品創造出傷害兒童的材料，但數據集過度淨化會讓其服務大打折扣。
曾在去年 12 月因在保護兒童方面做得不足，而被批評的開源 AI 平台 Civitai 創辦人 Justin Maier 說:「我們不想因為恐懼而停止積極推動技術進步。與其逃避，不如想想如何讓這空間變得安全。」
