Luật Take It Down Act vừa được ký ban hành nhằm chống lại việc phát tán ảnh nhạy cảm không đồng thuận, bao gồm cả ảnh thật và deepfake do AI tạo ra. Luật yêu cầu các nền tảng trực tuyến phải gỡ bỏ nội dung trong vòng 48 giờ sau khi nhận được yêu cầu từ nạn nhân, nhưng quy định xác minh không chặt chẽ và thời gian xử lý ngắn có thể gây ra việc gỡ bỏ nội dung hợp pháp một cách tùy tiện. Nhiều nền tảng như Snapchat, Meta và Mastodon đã bày tỏ sự đồng thuận hoặc lo ngại về khả năng thực thi luật này. Các công ty công nghệ cũng đang sử dụng AI để phát hiện và ngăn chặn nội dung xấu ngay từ khi tải lên, ví dụ như startup Hive với công nghệ nhận diện deepfake và nội dung lạm dụng trẻ em. Tuy nhiên, luật có thể mở rộng đến việc quét nội dung mã hóa, tạo ra rủi ro về quyền riêng tư và tự do ngôn luận. Vấn đề này đặt ra thách thức lớn cho các nền tảng trong việc cân bằng giữa bảo vệ nạn nhân và tránh kiểm duyệt quá mức.
