Con dao hai lưỡi của trí tuệ nhân tạo: Mô hình ngôn ngữ không giới hạn và mối đe dọa tiềm tàng đối với ngành mã hóa

Với sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo, từ các mô hình tiên tiến như GPT đến Gemini đang thay đổi sâu sắc cách chúng ta sống. Tuy nhiên, bước tiến công nghệ này cũng mang đến những rủi ro tiềm ẩn - sự xuất hiện của các mô hình ngôn ngữ lớn không kiểm soát hoặc độc hại.

Mô hình ngôn ngữ không giới hạn đề cập đến những mô hình được thiết kế hoặc sửa đổi một cách đặc biệt để tránh các cơ chế an toàn và giới hạn đạo đức tích hợp trong các mô hình chính thống. Mặc dù các nhà phát triển mô hình chính thống đã đầu tư nhiều nguồn lực để ngăn chặn việc lạm dụng mô hình, nhưng một số cá nhân hoặc tổ chức vì mục đích bất hợp pháp đã bắt đầu tìm kiếm hoặc phát triển các mô hình không bị ràng buộc. Bài viết này sẽ khám phá mối đe dọa tiềm tàng của các mô hình này trong ngành mã hóa, cũng như các thách thức an ninh liên quan.

Mối đe dọa của mô hình ngôn ngữ không giới hạn

Các mô hình loại này khiến cho những nhiệm vụ mà trước đây cần kỹ năng chuyên môn mới có thể thực hiện trở nên đơn giản và dễ dàng. Kẻ tấn công chỉ cần lấy trọng số và mã nguồn của mô hình mã nguồn mở, sau đó sử dụng một tập dữ liệu chứa nội dung độc hại để tinh chỉnh, từ đó có thể tạo ra công cụ tấn công tùy chỉnh. Mô hình này mang lại nhiều rủi ro:

1. Kẻ tấn công có thể sửa đổi mô hình nhằm vào các mục tiêu cụ thể, tạo ra nội dung lừa đảo hơn.
2. Mô hình có thể được sử dụng để nhanh chóng tạo ra các biến thể mã trang web lừa đảo hoặc nội dung lừa đảo tùy chỉnh.
3. Tính khả dụng của các mô hình mã nguồn mở đã thúc đẩy sự hình thành của hệ sinh thái AI ngầm.

Mô hình ngôn ngữ không giới hạn điển hình

Một mô hình ngôn ngữ độc hại

Đây là một mô hình độc hại được bán công khai trên các diễn đàn ngầm, tuyên bố không có giới hạn đạo đức. Nó dựa trên mô hình mã nguồn mở và được đào tạo trên một lượng lớn dữ liệu liên quan đến phần mềm độc hại. Các hình thức lạm dụng điển hình của nó bao gồm:

• Tạo email lừa đảo chân thực, dụ dỗ người dùng tiết lộ khóa riêng hoặc cụm từ nhớ.
• Hỗ trợ viết mã độc để đánh cắp tệp ví, theo dõi clipboard, v.v.
• Kích hoạt lừa đảo tự động, dẫn dắt nạn nhân tham gia các dự án giả mạo.

mô hình lĩnh vực cụ thể

Mô hình ngôn ngữ do một cơ quan nghiên cứu phát triển, được tiền huấn luyện trên dữ liệu mạng tối. Mặc dù mục đích ban đầu là để nghiên cứu an toàn, nhưng nếu bị lạm dụng, có thể gây ra hậu quả nghiêm trọng:

• Thu thập thông tin người dùng mã hóa, để lừa đảo chính xác.
• Sao chép các phương pháp đánh cắp tiền và rửa tiền đã trưởng thành trong darknet.

công cụ lừa đảo tổng hợp

Các công cụ loại này tuyên bố có chức năng toàn diện hơn, chủ yếu được bán trên thị trường ngầm. Sự lạm dụng tiềm tàng của chúng trong lĩnh vực mã hóa bao gồm:

• Dự án mã hóa giả: Tạo ra sách trắng giả, trang web chính thức, v.v., thực hiện lừa đảo ICO.
• Tạo trang lừa đảo hàng loạt: Nhái nhanh giao diện đăng nhập của các sàn giao dịch nổi tiếng.
• Giả mạo trên mạng xã hội: sản xuất hàng loạt bình luận giả, quảng bá mã thông báo lừa đảo.
• Tấn công kỹ thuật xã hội: Bắt chước cuộc đối thoại của con người, dụ dỗ người dùng tiết lộ thông tin nhạy cảm.

trợ lý AI không có ràng buộc đạo đức

Các công cụ loại này được xác định rõ ràng là robot trò chuyện không có giới hạn đạo đức, có thể được sử dụng cho:

• Tấn công lừa đảo nâng cao: Tạo thông báo giả có độ giống thật cực cao.
• Tạo hợp đồng thông minh độc hại: Tạo nhanh mã hợp đồng có chứa cửa hậu ẩn.
• Phát triển phần mềm đánh cắp mã hóa đa hình: Tạo ra phần mềm độc hại khó phát hiện.
• Lừa đảo giả mạo sâu: Kết hợp với các công cụ AI khác, giả mạo giọng nói của người sáng lập dự án để thực hiện lừa đảo.

Nền tảng truy cập mở

Một số nền tảng cung cấp quyền truy cập vào nhiều mô hình ngôn ngữ có giới hạn thấp hơn, mặc dù mục đích ban đầu là khám phá khả năng của AI, nhưng cũng có thể bị lạm dụng:

• Vượt qua kiểm duyệt để tạo nội dung độc hại: Sử dụng mô hình có ít hạn chế để tạo ra ý tưởng tấn công.
• Giảm bớt rào cản kỹ thuật: giúp kẻ tấn công dễ dàng tiếp cận những đầu ra vốn bị hạn chế.
• Tăng tốc độ lặp lại kịch bản tấn công: Kiểm tra nhanh các mô hình khác nhau, tối ưu hóa kịch bản gian lận.

Giải pháp đối phó

Sự xuất hiện của mô hình ngôn ngữ không giới hạn đánh dấu rằng an ninh mạng đang đối mặt với một kiểu tấn công mới phức tạp và quy mô hơn. Để đối phó với thách thức này, các bên trong hệ sinh thái an ninh cần hợp tác nỗ lực:

1. Tăng cường đầu tư vào công nghệ phát hiện, phát triển các công cụ có thể nhận diện nội dung và mã độc hại do AI tạo ra.
2. Nâng cao khả năng phòng chống jailbreak của mô hình, khám phá cơ chế watermark và truy xuất nguồn gốc.
3. Xây dựng và hoàn thiện các quy tắc đạo đức và cơ chế quản lý, hạn chế từ nguồn gốc sự phát triển và lạm dụng các mô hình ác ý.

Chỉ có sự hợp tác chặt chẽ giữa các bên mới có thể đảm bảo an toàn và ổn định cho ngành mã hóa trong khi công nghệ AI phát triển nhanh chóng.