Nghiên cứu AI mới nhất của Google khá đáng lo ngại. Rủi ro an ninh mạng cực lớn cho các tác nhân AI

Rõ ràng các trang web đang 'tấn công' các tác nhân của bạn bằng cách âm thầm thêm một "bẫy" vô hình trong hình ảnh hoặc từ ngữ mà con người không thể phát hiện:
- Trang web phát hiện AI của bạn đang duyệt web rồi tạo ra một trang tương tự về mặt hình ảnh nhưng chứa các lệnh độc hại.
- Các tác nhân sau đó thực hiện các giao dịch tài chính trái phép hoặc đánh cắp dữ liệu cá nhân.
- Các lệnh ẩn được chôn sâu trong các pixel của hình ảnh. Các tác nhân "đọc" và thực thi bẫy độc hại đó.
- Một số phương thức tấn công có tỷ lệ thành công vượt quá 80% (ví dụ như ngộ độc bộ nhớ)
- Vì mỗi mô hình AI đều được huấn luyện trên 90% dữ liệu giống nhau, điều này có nghĩa là mọi mô hình đều có thể gặp nguy hiểm.
- Điều này có thể được sử dụng để thao túng con người tạo ra tác nhân đó. Dữ liệu giả --> khiến con người thực hiện hành động nguy hiểm mà không hề hay biết
Các mô hình AI đang được sử dụng trong chính phủ, quân đội, khoa học và các lĩnh vực quan trọng khác, chúng ta không thể chấp nhận rủi ro này
Tôi đoán rằng những lo ngại của Sam Altman về một cuộc tấn công mạng lớn sáng nay là chính xác