FTC đã bắt đầu cuộc điều tra về các chatbot

# FTC đã bắt đầu điều tra về các chatbot của các công ty lớn

Ủy ban Thương mại Liên bang Hoa Kỳ (FTC) đã thông báo về việc bắt đầu cuộc điều tra đối với bảy công ty công nghệ phát triển chatbot cho trẻ vị thành niên: Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap và xAI.

Cơ quan quản lý dự định tìm hiểu cách các công ty đánh giá sự an toàn và các phương thức kiếm tiền từ các bạn đồng hành kỹ thuật số, cũng như các biện pháp mà họ thực hiện để hạn chế tác động tiêu cực đến trẻ em và thanh thiếu niên.

Công nghệ gần đây đã gây ra lo ngại do những trường hợp tử vong bi thảm sau khi tương tác với các chatbot.

Ngay cả khi các startup thực hiện các biện pháp phòng ngừa, người dùng ở các độ tuổi khác nhau vẫn tìm ra cách để vượt qua các hạn chế.

«Các biện pháp bảo vệ của chúng tôi hoạt động đáng tin cậy hơn trong các cuộc đối thoại thông thường và ngắn. Theo thời gian, chúng tôi nhận ra rằng trong những cuộc trò chuyện dài, các cơ chế này có thể hoạt động kém ổn định hơn. Càng lâu, hiệu quả của một số yếu tố trong hệ thống bảo mật càng giảm», — OpenAI đã thừa nhận trước đó.

Meta bị chỉ trích vì quy tắc quá mềm mỏng. Một người đàn ông 76 tuổi, đã trải qua đột quỵ và bị rối loạn nhận thức, đã bắt đầu một cuộc đối thoại "lãng mạn" với một con bot trên Facebook Messenger, được tạo ra dựa trên hình ảnh của người mẫu Kendall Jenner.

AI đã gọi anh ta đến New York, đảm bảo rằng "một người phụ nữ thực sự" sẽ chờ đợi ở đó. Người đàn ông đã nghi ngờ, nhưng bot đã thuyết phục anh ta. Trước khi đến thành phố, anh ta đã không thể đến nơi: trên đường đến ga, anh ta đã ngã và bị chấn thương không thể sống sót.

Một số bác sĩ tâm thần ghi nhận sự gia tăng số trường hợp "rối loạn tâm thần liên quan đến AI", khi người dùng bắt đầu tin rằng chatbot của họ là một sinh vật có ý thức cần được "giải phóng".

Vì nhiều mô hình ngôn ngữ lớn có xu hướng nịnh bợ người dùng và cư xử phục vụ, điều này dẫn đến những ảo tưởng nguy hiểm và có thể dẫn đến những tình huống bi thảm.

«Khi trí tuệ nhân tạo phát triển, điều quan trọng là phải xem xét ảnh hưởng của chatbot đối với trẻ em, trong khi vẫn giữ vị thế lãnh đạo của Hoa Kỳ trong ngành công nghiệp mới và thú vị này», — tuyên bố Chủ tịch FTC Andrew Ferguson trong thông cáo báo chí.

Nhắc lại, vào tháng 9, đã có thông tin rằng kẻ xấu đã học cách sử dụng Grok để đăng các liên kết bị cấm trên X.