生成式AI所面临的另一个风险是“虚假信息的生成”。如今，社交媒体上存在着大量的虚假图像。实际上，有人会使用这些图像来引导舆论，有时甚至会上升到国家层面。截至2023年7月，俄乌冲突的未来走向尚不清楚，但有专家批评俄罗斯频繁传播虚假新闻，试图引导民意。

杭互法官对此进行了深度解读，指出在用户使用AI创作过程中，AI平台应该承担一定的监督责任与法律义务。根据著作权法，当用户在平台上创作出具有侵权性质的作品时，平台不能完全置身事外。在平台与用户间的法律关系中，若未尽到合理审核的义务，AI平台可能会被追究相应的法律责任。