Meta tấn công các nhà phát triển ứng dụng "Nudify": một bước ngoặt trong cuộc chiến chống lại AI săn mồi

Meta vừa mới tiến hành hành động pháp lý. Gã khổng lồ mạng xã hội đã kiện Joy Timeline HK Ltd., có trụ sở tại Hồng Kông, công ty đứng sau CrushAI—một ứng dụng sử dụng AI để tạo ra hình ảnh tình dục không đồng ý.

Tại sao điều này quan trọng

Đây không chỉ là một cuộc tranh cãi giữa các nền tảng. Meta cáo buộc Joy Timeline đã lách luật kiểm tra quảng cáo của mình để quảng bá ứng dụng trên Facebook và Instagram, và mặc dù đã bị xóa nhiều lần. Các “ứng dụng làm nude” không phải là vô hại: chúng tiếp tay cho việc quấy rối trực tuyến, tống tiền, và tệ hơn nữa, là việc khai thác trẻ em.

Một cuộc điều tra của CBS News đã tiết lộ hàng trăm quảng cáo cho những công cụ này trên các nền tảng Meta—một số vẫn hiển thị ngay cả sau những nỗ lực xóa bỏ.

Phản ứng của Meta

Nền tảng tăng cường kho vũ khí của mình:

• Hệ thống AI mới để phát hiện các quảng cáo có hại ( ngay cả khi không có hình ảnh khiêu dâm rõ ràng )
• Vô hiệu hóa bốn mạng lưới phối hợp
• Chia sẻ thông tin đe dọa với các ông lớn công nghệ khác

Bối cảnh

Hành động này diễn ra dưới áp lực ngày càng tăng từ các nhà lập pháp và nhà nghiên cứu. Các ứng dụng AI tạo sinh tạo ra nội dung thân mật mà không có sự đồng ý không còn là một vùng xám—chúng trở thành một vấn đề tội phạm kỹ thuật số.

Vấn đề lớn: trong khi AI phát triển mạnh, các người điều hành thủ công không còn đủ. Meta đặt cược vào tự động hóa—nhưng liệu họ có thực sự theo kịp tốc độ của các phương pháp công nghệ lách luật?