一方で、画像生成AIの技術は悪用される可能性も指摘されている。偽造された画像を使ってデマを広めることやプライバシーの侵害など、様々なリスクが議論されている。そのため、技術の進化と同時に適切な規制や倫理的な取り組みも必要とされている。