Meta đã đệ đơn kiện Joy Timeline HK Ltd., một công ty có trụ sở tại Hồng Kông, chịu trách nhiệm phát triển ứng dụng gây tranh cãi CrushAI, ứng dụng sử dụng trí tuệ nhân tạo để tạo ra hình ảnh tình dục mà không có sự đồng ý.

Đơn kiện, được đệ trình tại Hồng Kông, cáo buộc công ty vi phạm các chính sách quảng cáo của Meta khi quảng bá ứng dụng thông qua các quảng cáo trên Facebook và Instagram, bất chấp việc bị xóa đi xóa lại và các biện pháp tuân thủ.

Theo Meta, Joy Timeline đã thực hiện nhiều nỗ lực để lách luật kiểm tra quảng cáo của họ, điều này đã dẫn đến hành động pháp lý nhằm ngăn cấm vĩnh viễn công ty quảng cáo trên các nền tảng của họ. "Đơn kiện này phản ánh mức độ nghiêm trọng mà chúng tôi coi trọng sự lạm dụng này và cam kết của chúng tôi trong việc bảo vệ cộng đồng của mình," Meta tuyên bố trong một thông cáo báo chí, hứa hẹn sẽ tiếp tục tìm kiếm các giải pháp pháp lý chống lại việc lạm dụng nền tảng.

CrushAI và các ứng dụng tương tự "cởi bỏ", đã tước đoạt kỹ thuật số những người ( thường nhắm đến phụ nữ và người nổi tiếng), đã bị chỉ trích rộng rãi vì khuyến khích quấy rối trực tuyến, tống tiền và khai thác trẻ em. Một cuộc điều tra gần đây của CBS News đã phát hiện hàng trăm quảng cáo như vậy trên các nền tảng của Meta, một số trong đó vẫn hiển thị ngay cả sau những nỗ lực gỡ bỏ.

Đáp lại, Meta đã tăng cường các công cụ kiểm soát của mình, triển khai công nghệ mới để phát hiện và chặn các quảng cáo có hại, ngay cả những quảng cáo không hiển thị khiêu dâm rõ ràng, và chia sẻ thông tin về các mối đe dọa với các công ty công nghệ khác.

Công ty cũng đã báo cáo đã triệt phá bốn mạng lưới phối hợp hoạt động các quảng cáo này và tiếp tục làm việc với các chuyên gia nội bộ và cộng tác viên bên ngoài để đối phó với các chiến thuật né tránh mới nổi.

Trước áp lực ngày càng tăng từ các nhà lập pháp và nhà nghiên cứu, Meta khẳng định sẽ theo dõi chặt chẽ và thực hiện tất cả các biện pháp cần thiết để ngăn chặn sự phát triển của các ứng dụng AI khai thác và bảo vệ an toàn cho người dùng.