Tiêu điểm:
① Cảnh giác với sự phát triển của AI và ngăn chặn AI vượt khỏi tầm kiểm soát đang trở thành “sự đúng đắn về chính trị” trong lĩnh vực khoa học và công nghệ trên toàn thế giới;
② Về vấn đề ngăn chặn triệt để sự tự tuyệt chủng của loài người, nhiều nguy cơ như chiến tranh hạt nhân, biến đổi khí hậu, lây lan virus chết người, lạm dụng công nghệ sinh học nên được xếp trên siêu AI;
③AI có thể dẫn đến các rủi ro xã hội khác nhau, giới học thuật từ lâu đã chỉ ra rằng các biện pháp đối phó khác nhau cũng đã được đưa ra, vấn đề hiện nay là thực hiện các biện pháp quản trị AI theo điều kiện quốc gia, không được đình chỉ nghiên cứu và phát triển;
④ Nếu không có sự sắp xếp chính sách tổng thể, ChatGPT chắc chắn sẽ dẫn đến một lượng lớn "thất nghiệp AI", do đó sẽ cản trở việc áp dụng ChatGPT trong tương lai.
Tác giả: Liu Yongmou, Giáo sư Trường Triết học, Đại học Nhân dân Trung Quốc, Nghiên cứu viên của Học viện Chiến lược và Phát triển Quốc gia
Vào tháng 3 năm 2023, hàng nghìn chuyên gia, trong đó có Elon Musk, đã cùng ký vào một bức thư ngỏ kêu gọi tạm dừng đào tạo các mô hình trí tuệ nhân tạo (AI) tiếp theo GPT-4 trong ít nhất 6 tháng. Ngay khi tin tức được đưa ra, nó đã làm nổ tung mạng lưới và phương tiện truyền thông toàn cầu, đồng thời nhanh chóng thu hút sự phản đối của Wu Enda và các "chuyên gia AI" khác. Cuối cùng, không có thêm thông tin nào về vấn đề này và việc đình chỉ GPT-4 bị nghi ngờ là một làn sóng cường điệu của OpenAI.
Vào tháng 4, có thông tin cho rằng Ý sẽ cấm hoàn toàn ChatGPT và kết quả là họ bị phạt.
Vào tháng 5, Tổng thống Hoa Kỳ Biden và Phó Tổng thống Harris cũng đã đến chung vui và tổ chức cuộc gặp với CEO của các công ty trí tuệ nhân tạo hàng đầu là Alphabet, Microsoft, OpenAI và Anthropic, công ty mẹ của Google, để gây áp lực buộc các công ty phải thực hiện các biện pháp bảo vệ xung quanh trí tuệ nhân tạo, nói rằng Hỗ trợ các quy định hoặc luật mới để giảm thiểu tác hại tiềm ẩn của các công nghệ AI.
"Musk và bạn gái AI của anh ấy" được tạo bởi người dùng sử dụng các công cụ AI tổng hợp Nguồn: Internet
Mọi thứ dường như sẽ sớm đến. Công nghệ AI Tình hình chung đã trải qua những thay đổi cơ bản và các chiến lược, biện pháp và phương pháp mới cần được áp dụng để đối phó với nó, chẳng hạn như đình chỉ hoàn toàn việc nghiên cứu và phát triển các công nghệ AI mới.
nó thực sự như thế này? KHÔNG.
Đầu tiên, GAI không tạo ra bất kỳ rủi ro mới nào và các vấn đề mà nó có thể gây ra đã được giới học thuật thảo luận và kêu gọi từ lâu. Thứ hai, không cần phương pháp mới để đối phó với rủi ro GAI.Chìa khóa để đối phó với rủi ro AI luôn là việc triển khai.
Vào ngày 11 tháng 4, Văn phòng Thông tin Internet của Cộng hòa Nhân dân Trung Hoa đã công khai "Các biện pháp quản lý dịch vụ trí tuệ nhân tạo sáng tạo (Dự thảo để bình luận)", đáp ứng việc quản trị GAI với tốc độ chưa từng thấy, chứng tỏ rằng ứng dụng GAI có tác động xã hội rất lớn. tác động, và phải được nghiên cứu cẩn thận và thực hiện cẩn thận.
01 Cẩn thận với AI ngoài tầm kiểm soát - "sự đúng đắn về chính trị" trong lĩnh vực công nghệ toàn cầu
Thất nghiệp, nghĩa là, nó có thể dẫn đến một số lượng lớn những người lao động trí óc thất nghiệp như người lập kế hoạch viết quảng cáo, nghệ sĩ gốc, nhà thiết kế công nghiệp, lập trình viên, người hành nghề truyền thông và dịch giả.
Vấn đề giáo dục, tức là nó có thể ảnh hưởng đến hệ thống giáo dục và nghiên cứu khoa học hiện có, ví dụ, học sinh có thể sử dụng ChatGPT thay vì làm bài tập về nhà.
Vấn đề bảo mật thông tin, tức là GAI tự động tạo ra một lượng lớn nội dung sản xuất bằng trí tuệ nhân tạo (AIGC, AI Generated Content) khó phân biệt thật giả, vị trí đáng ngờ, quyền sở hữu không rõ ràng, khó giải trình. thậm chí trở thành một thách thức đối với các giá trị chủ đạo và một công cụ nguy hiểm về ý thức hệ.
Rủi ro AI từ lâu đã được chính phủ các nước coi trọng và trở thành tâm điểm chú ý của toàn xã hội trong những năm gần đây. Rõ ràng, ba tác động lớn do GAI nêu trên không phải là vấn đề mới, đã được giới học thuật và chính phủ quan tâm, nghiên cứu ngay từ khi ChatGPT bùng nổ.
Trong mười năm qua, từ Internet of Things đến dữ liệu lớn, điện toán đám mây, blockchain, Metaverse, ChatGPT, giữa làn sóng bùng nổ của AI, chưa bao giờ thiếu tiếng nói quan tâm đến rủi ro.
Về mặt chuyên môn, tôi lo ngại về tác động xã hội của các công nghệ mới và đã dành nhiều công sức để nhắc nhở mọi người về những rủi ro kỹ thuật mà AI có thể gây ra. Ví dụ, anh ấy đã viết các chuyên khảo "Lý thuyết chung về quản trị công nghệ", "Internet vạn vật và sự xuất hiện của xã hội phổ biến", "Tôi không có thuốc chữa bệnh công nghệ", "Bẫy metaverse", "Mười bốn bài giảng về khoa học và công nghệ và Xã hội", nhắc nhở những người không chuyên về CNTT (Tác động xã hội và rủi ro công nghệ của công nghệ thông tin và truyền thông).
Có thể nói, cảnh giác trước sự phát triển của AI và ngăn chặn AI vượt khỏi tầm kiểm soát đang trở thành “sự đúng đắn về chính trị” trong lĩnh vực khoa học và công nghệ trên thế giới. Trong bầu không khí này, những tiếng nói công khai tuyên bố rằng "AI không có vùng cấm" đã bị dập tắt rất nhiều. Về vấn đề này, với tư cách là một nhà lý thuyết lựa chọn kiểm soát công nghệ, tôi hoàn toàn đồng ý.
Với tình hình phát triển như hiện nay, ChatGPT có những rủi ro nghiêm trọng nào mà phải xử lý theo cách “thừa cân nặng”, chẳng hạn như đình chỉ ít nhất 6 tháng?
Có người cho rằng ChatGPT là dấu hiệu xuất hiện của siêu AI, nếu không dừng ngay bây giờ (lưu ý: không chỉ là tạm dừng), một khi "Chiếc hộp Pandora" được mở ra, loài người sẽ sớm bị thống trị hoặc thậm chí là tuyệt chủng bởi siêu AI. Thật khó để mọi người xem xét những ý tưởng kỳ lạ như vậy một cách nghiêm túc. Đặc biệt, nhiều chuyên gia không nhận ra rằng ChatGPT là một AI nói chung chứ chưa nói đến nguyên mẫu của một siêu AI.
Siêu AI có thể là một vấn đề, nhưng khi nói đến việc ngăn chặn sự tự tuyệt chủng của con người, nhiều rủi ro, chẳng hạn như chiến tranh hạt nhân, biến đổi khí hậu, sự lây lan của các loại virus chết người và lạm dụng công nghệ sinh học, phải được xếp trước siêu AI. Chúng ta có ngăn chặn tất cả chúng trước không? Cho dù không dừng được thì tạm dừng cũng không sao, ít nhất có thể kêu gọi tạm dừng.
Vì không có gì mới, nên không cần phải dùng biện pháp quyết liệt là tạm dừng phát triển, tại sao?
Đầu tiên, việc đình chỉ là không chính đáng. Một số người nói rằng các biện pháp ứng phó với rủi ro ChatGPT đã không được suy nghĩ rõ ràng, vì vậy nó đã bị đình chỉ trước. sai! Không phải tôi không suy nghĩ thấu đáo, mà là tôi không thực hiện nó tại chỗ.
Thứ hai, lệnh cấm không thể thực sự đạt được, và chắc chắn sẽ có các công ty AI vi phạm lệnh cấm, và kết quả là cạnh tranh không lành mạnh.
Thứ ba, đình chỉ sẽ không giải quyết được vấn đề. Ngay cả khi tất cả các công ty AI thực sự đình chỉ nghiên cứu GAI, liệu vấn đề rủi ro có được giải quyết? KHÔNG! Trừ khi LLMs (Large Language Models, mô hình ngôn ngữ lớn) bị dừng và cấm hoàn toàn, rủi ro sẽ không biến mất. Khi khởi động lại, bạn vẫn phải đối mặt trực tiếp với rủi ro.
Ngày nay, công nghệ mới là công cụ quan trọng nhất để con người tồn tại và phát triển không thể bỏ lại phía sau. Vai trò của GAI trong việc thúc đẩy năng suất xã hội đã được bộc lộ rõ ràng, tại sao chúng ta phải ngừng ăn vì nghẹn, tại sao chúng ta không thể sử dụng nó một cách có kiểm soát?
Vào thế kỷ 20, một số người cho rằng công nghệ lúc đó đã đủ cho con người, tiếp tục phát triển sẽ dẫn đến nhiều vấn đề mới, công nghệ nên dừng lại, và các nhà khoa học nên ngừng nghiên cứu. Những ý tưởng cực kỳ phi lý như vậy chưa bao giờ được xã hội coi trọng.
02 Việc tạm dừng nghiên cứu và phát triển GAI là không thể thực hiện được, đó hoàn toàn là "khẩu súng"
AI có thể dẫn đến nhiều rủi ro xã hội, giới học thuật từ lâu đã chỉ ra rằng nhiều biện pháp đối phó cũng đã được đưa ra. Do đó, vấn đề đặt ra hiện nay là thực hiện các biện pháp quản trị AI phù hợp với điều kiện quốc gia, chứ không phải đình chỉ nghiên cứu và phát triển AI. Sự thật đã chứng minh rằng ý tưởng đình chỉ nghiên cứu và phát triển GAI là đơn giản và thô lỗ, ít tác dụng và không thể thực hiện được, hoàn toàn là "lời nói" không có giá trị.
Lấy vấn đề thất nghiệp AI làm ví dụ. Vấn đề thất nghiệp AI, tức là sự tiến bộ của trí tuệ nhân tạo đi kèm với ngày càng nhiều người mất việc làm, là vấn đề lớn nhất trong tác động xã hội của AI và liên quan đến sự đổi mới thể chế toàn diện của toàn xã hội. Các tài liệu hiện có thảo luận về vấn đề thất nghiệp AI, có thể được mô tả là quá mức và có nhiều biện pháp đối phó cụ thể, chẳng hạn như lập kế hoạch nghề nghiệp cho sinh viên, cải thiện kiến thức về AI của người lao động, an sinh xã hội và tái tuyển dụng người thất nghiệp, nâng cấp và chuyển đổi cơ cấu công nghiệp, v.v.
Kế hoạch chiến lược dài hạn cũng rất ấn tượng, chẳng hạn như giảm giờ làm việc của công nhân một cách có hệ thống (một số nơi đã cố gắng làm việc 4 ngày một tuần), thu thuế AI (AI là kết tinh của trí tuệ con người và các công ty AI bị đánh thuế nặng nề) để mọi người cùng chia sẻ), chế độ hưu trí linh hoạt (người lao động có thể nghỉ hưu ngắn hạn vài lần trong đời), v.v.
Tác động lớn nhất của ứng dụng AI đối với hoạt động quản trị đương đại nằm ở chỗ: mở rộng tự do kinh tế, tăng thời gian nhàn rỗi, thay đổi lớn các điều kiện tiên quyết đối với quản trị công và do đó thay đổi diện mạo cơ bản của hoạt động xã hội. Tuy nhiên, tác động này cũng đồng nghĩa với việc “bài toán thất nghiệp AI” ngày càng nghiêm trọng, đặt ra những thách thức nghiêm trọng đối với hoạt động quản trị của toàn xã hội và phải được xử lý một cách thận trọng. Quá trình công nghiệp hóa AIGC một lần nữa sẽ chứng minh mức độ nghiêm trọng của vấn đề thất nghiệp AI. Nếu không có sự sắp xếp chính sách tổng thể, ChatGPT chắc chắn sẽ dẫn đến một lượng lớn "thất nghiệp AI", do đó sẽ cản trở việc áp dụng ChatGPT trong tương lai.
Truyện tranh: Robot đảm nhận các công việc lặp đi lặp lại như sản xuất và đóng gói Nguồn: TC
Giải pháp cho "bài toán thất nghiệp do AI" phải xem xét cả góc độ và thực tế.
Từ góc độ dài hạn, giải pháp cho "bài toán thất nghiệp AI" liên quan đến sự thay đổi cơ bản trong hệ thống xã hội loài người và không thể chỉ giải quyết bằng sự phát triển của công nghệ thông minh và quản trị thông minh. Theo những nguyên lý cơ bản của chủ nghĩa Mác, "vấn đề thất nghiệp AI" phản ánh mâu thuẫn giữa sự phát triển của năng suất khoa học và công nghệ với quan hệ sản xuất hiện có. Khả năng robot thay thế sức lao động của con người không có nghĩa là nó thực sự thay thế sức lao động của con người, bởi vì sự thay thế như vậy có nghĩa là hủy bỏ hệ thống bóc lột trong đó một số ít người buộc phần lớn mọi người phải làm việc thông qua các thỏa thuận thể chế. Về bản chất, để giải quyết "bài toán thất nghiệp AI", chúng ta phải liên tục giảm giờ làm của người lao động, cho người dân nhiều thời gian nhàn rỗi hơn, cuối cùng là phải xóa bỏ hoàn toàn hệ thống bóc lột. Lịch sử lao động thế kỷ 20 cho thấy, việc áp dụng công nghệ hiện đại vào sản xuất tiếp tục giảm tổng thời gian lao động cần thiết cho xã hội, thúc đẩy ngày càng nhiều quốc gia thực hiện “chế độ làm việc 8 giờ” và “chế độ làm việc cuối tuần”. .
Từ góc độ thực tế mà nói, sự phát triển của hệ thống xã hội cần một thời gian dài, phải tiến lên dần dần và ổn định, đồng thời phải chờ sự phát triển không ngừng của công nghệ thông minh, vì vậy, vấn đề cấp bách nhất hiện nay là tìm việc làm mới cho những người lao động đã bị trí tuệ nhân tạo tác động, bảo đảm cho họ được hưởng của cải vật chất do tiến bộ công nghệ tạo ra.
Do đó, khi bắt đầu bùng nổ công nghiệp hóa AIGC, quốc gia, chính phủ và xã hội nên tiến hành nghiên cứu chuyên sâu, lập kế hoạch tổng thể và chủ động ứng phó với áp lực thất nghiệp và việc làm có thể phát sinh.
Ví dụ, cải thiện bảo hiểm thất nghiệp và cung cấp dịch vụ đào tạo việc làm lại, tăng cường lập kế hoạch nghề nghiệp và nâng cao chất lượng sáng tạo cho những người trẻ tuổi, điều chỉnh hướng đào tạo tài năng của trường, đặc biệt là về nhân văn, nghệ thuật và các ngành khác, và thúc đẩy nâng cấp công nghiệp để tạo việc làm mới một cách không phù hợp. Nói tóm lại, trước nguy cơ thất nghiệp mà AI có thể đi kèm, chúng ta phải từ bỏ lối suy nghĩ cực đoan hoặc, cố gắng tránh nó và điều chỉnh nó trong thời gian thực.
**03 Trí tuệ nhân tạo của Trung Quốc được quản lý như thế nào? **
Xây dựng một Trung Quốc kỹ thuật số là một động cơ quan trọng để thúc đẩy hiện đại hóa kiểu Trung Quốc trong thời đại kỹ thuật số, đồng thời là sự hỗ trợ mạnh mẽ để xây dựng những lợi thế mới trong cạnh tranh quốc gia.
Trong quá trình xây dựng Trung Quốc kỹ thuật số, cần thúc đẩy quản trị AI "lấy con người làm trung tâm" để AI thực sự mang lại lợi ích cho xã hội. Muốn vậy, trước hết phải kêu gọi toàn xã hội quan tâm đến vấn đề rủi ro AI, Chính phủ, doanh nghiệp, tổ chức phi chính phủ, giới khoa học công nghệ và công chúng, theo phân công trách nhiệm, hoàn thiện chính sách, biện pháp, tăng cường liên kết nguồn lực và phối hợp lực lượng, hình thành lực lượng hành động chung để kiểm soát rủi ro AI... Các chương trình đang được triển khai trên thực tế.
Ngoài ra, các đề xuất nguyên tắc sau đây cũng có thể được xem xét trong quản trị rủi ro AI:
Thứ nhất, thực hiện nguyên tắc công cụ hạn chế. Chúng ta phải nhận thức rõ vai trò của quản trị thông minh - quản trị thông minh không phải là “vũ khí hoàn hảo” chữa bách bệnh, trong nhiều trường hợp cũng sẽ “thất bại”, thậm chí đi đến tác dụng ngược là cản trở hiệu quả xã hội. Vì vậy, cần nhìn nhận vai trò của công nghệ thông minh trong việc nâng cao hiệu quả quản trị trong một số lĩnh vực, một số vấn đề, một số trường hợp nhất định và ưu tiên cho các phương tiện quản trị kỹ thuật để giải quyết vấn đề, đồng thời luôn ghi nhớ vai trò hạn chế của công nghệ thông minh. . Tuân thủ sự khiêm tốn của khoa học và công nghệ, cảnh giác với "sự mê tín dữ liệu lớn", có thái độ xem xét bối cảnh cụ thể và phân tích cụ thể, đồng thời chú ý đến hiệu quả thực tế phản hồi và kiểm soát rủi ro của các hoạt động quản trị.
Thứ hai, nhấn mạnh vào sự nhấn mạnh như nhau vào việc sử dụng và kiểm soát. Cần phải đóng vai trò quản trị thông minh, nhưng cũng phải kiểm soát việc quản trị thông minh cụ thể để ngăn chặn sức mạnh của các nền tảng thông minh và các chuyên gia quản trị kỹ thuật vượt khỏi tầm kiểm soát. Đồng thời, nên sử dụng các phương pháp thể chế-kỹ thuật để tránh những rủi ro xã hội có thể gây ra bởi quản trị thông minh.
Thứ ba, xử lý thỏa đáng "bài toán thất nghiệp AI". Tác động lớn nhất của việc ứng dụng công nghệ thông minh vào hoạt động quản trị đương đại nằm ở chỗ: mở rộng tự do kinh tế, tăng thời gian nhàn rỗi, thay đổi lớn các điều kiện tiên quyết cho quản trị công, và do đó thay đổi diện mạo cơ bản của vận hành xã hội. Tuy nhiên, tác động này cũng đồng nghĩa với việc “bài toán thất nghiệp AI” ngày càng nghiêm trọng, đặt ra những thách thức nghiêm trọng đối với hoạt động quản trị của toàn xã hội, thu hút sự quan tâm của toàn xã hội và cần phải được xử lý một cách thận trọng.
Bốn là, gắn kết chặt chẽ việc xây dựng “thành phố thông minh” và “làng số”. Điều hành thành phố một cách khoa học là một biện pháp chiến lược quan trọng để quản trị công nghệ đương đại và thành phố thông minh là một hình thức tiên tiến của thành phố khoa học. Do con người hiện chủ yếu sống ở các thành phố, đặc biệt là các thành phố lớn và siêu lớn, nên việc quản trị thông minh hiện nay chủ yếu được thúc đẩy xung quanh việc xây dựng "thành phố thông minh" hoặc xây dựng "thành phố thông minh" làm phương tiện chính. Đặc biệt, việc xây dựng Trung Quốc kỹ thuật số không thể bỏ qua việc xây dựng các làng kỹ thuật số và phải nỗ lực thu hẹp khoảng cách giữa thành thị và nông thôn thông qua số hóa.
Thứ năm, chú ý đến sự tích hợp của công nghệ thông minh và con người. Trong hoạt động quản trị công nghệ, sự kết hợp giữa công nghệ và con người càng tốt thì hiệu quả quản trị càng cao. Để tăng cường tích hợp các yếu tố con người và kỹ thuật trong các hoạt động quản trị thông minh, cần phản ánh một cách có hệ thống các đặc điểm của các công nghệ thông minh khác nhau và liên quan đến đạo đức, luật pháp, tâm lý học, quản lý khủng hoảng, v.v., để thúc đẩy xây dựng hệ thống, nghiên cứu và phát triển công nghệ , dự trữ nhân tài, và tăng cường lãnh đạo tổ chức, tham vấn chuyên gia và diễn tập chiến đấu thực tế, đồng thời cải thiện liên tục và có hệ thống khả năng quản trị thông minh của Trung Quốc.
Thứ sáu, phân biệt quản trị với thao túng trong những bối cảnh cụ thể. Có giới hạn đối với quản trị thông minh và nếu vượt quá giới hạn, nó sẽ trở thành thao túng thông minh và vi phạm các quyền cơ bản của công dân. Sự phát triển của quản trị thông minh trong tương lai phải đặc biệt xem xét giới hạn của các ứng dụng khác nhau, không chỉ liên quan đến mục tiêu quản trị mà còn liên quan đến phương tiện được sử dụng, chỉ có thể được xem xét một cách bình tĩnh, khách quan và thận trọng trong bối cảnh xã hội cụ thể. Để ngăn chặn quản trị thông minh tiến tới thao túng thông minh, một vấn đề rất quan trọng là hành vi chống lại quản trị của quản trị thông minh phải được dung thứ ở một mức độ nhất định.
Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Có phải Musk đang kêu gọi tạm dừng phát triển AI để trở thành "vòi phun nước"?
Tác giả: Liu Yongmou, Giáo sư Trường Triết học, Đại học Nhân dân Trung Quốc, Nghiên cứu viên của Học viện Chiến lược và Phát triển Quốc gia
Vào tháng 3 năm 2023, hàng nghìn chuyên gia, trong đó có Elon Musk, đã cùng ký vào một bức thư ngỏ kêu gọi tạm dừng đào tạo các mô hình trí tuệ nhân tạo (AI) tiếp theo GPT-4 trong ít nhất 6 tháng. Ngay khi tin tức được đưa ra, nó đã làm nổ tung mạng lưới và phương tiện truyền thông toàn cầu, đồng thời nhanh chóng thu hút sự phản đối của Wu Enda và các "chuyên gia AI" khác. Cuối cùng, không có thêm thông tin nào về vấn đề này và việc đình chỉ GPT-4 bị nghi ngờ là một làn sóng cường điệu của OpenAI.
Vào tháng 4, có thông tin cho rằng Ý sẽ cấm hoàn toàn ChatGPT và kết quả là họ bị phạt.
Vào tháng 5, Tổng thống Hoa Kỳ Biden và Phó Tổng thống Harris cũng đã đến chung vui và tổ chức cuộc gặp với CEO của các công ty trí tuệ nhân tạo hàng đầu là Alphabet, Microsoft, OpenAI và Anthropic, công ty mẹ của Google, để gây áp lực buộc các công ty phải thực hiện các biện pháp bảo vệ xung quanh trí tuệ nhân tạo, nói rằng Hỗ trợ các quy định hoặc luật mới để giảm thiểu tác hại tiềm ẩn của các công nghệ AI.
Mọi thứ dường như sẽ sớm đến. Công nghệ AI Tình hình chung đã trải qua những thay đổi cơ bản và các chiến lược, biện pháp và phương pháp mới cần được áp dụng để đối phó với nó, chẳng hạn như đình chỉ hoàn toàn việc nghiên cứu và phát triển các công nghệ AI mới.
nó thực sự như thế này? KHÔNG.
Đầu tiên, GAI không tạo ra bất kỳ rủi ro mới nào và các vấn đề mà nó có thể gây ra đã được giới học thuật thảo luận và kêu gọi từ lâu. Thứ hai, không cần phương pháp mới để đối phó với rủi ro GAI.Chìa khóa để đối phó với rủi ro AI luôn là việc triển khai.
Vào ngày 11 tháng 4, Văn phòng Thông tin Internet của Cộng hòa Nhân dân Trung Hoa đã công khai "Các biện pháp quản lý dịch vụ trí tuệ nhân tạo sáng tạo (Dự thảo để bình luận)", đáp ứng việc quản trị GAI với tốc độ chưa từng thấy, chứng tỏ rằng ứng dụng GAI có tác động xã hội rất lớn. tác động, và phải được nghiên cứu cẩn thận và thực hiện cẩn thận.
01 Cẩn thận với AI ngoài tầm kiểm soát - "sự đúng đắn về chính trị" trong lĩnh vực công nghệ toàn cầu
Thất nghiệp, nghĩa là, nó có thể dẫn đến một số lượng lớn những người lao động trí óc thất nghiệp như người lập kế hoạch viết quảng cáo, nghệ sĩ gốc, nhà thiết kế công nghiệp, lập trình viên, người hành nghề truyền thông và dịch giả.
Vấn đề giáo dục, tức là nó có thể ảnh hưởng đến hệ thống giáo dục và nghiên cứu khoa học hiện có, ví dụ, học sinh có thể sử dụng ChatGPT thay vì làm bài tập về nhà.
Vấn đề bảo mật thông tin, tức là GAI tự động tạo ra một lượng lớn nội dung sản xuất bằng trí tuệ nhân tạo (AIGC, AI Generated Content) khó phân biệt thật giả, vị trí đáng ngờ, quyền sở hữu không rõ ràng, khó giải trình. thậm chí trở thành một thách thức đối với các giá trị chủ đạo và một công cụ nguy hiểm về ý thức hệ.
Rủi ro AI từ lâu đã được chính phủ các nước coi trọng và trở thành tâm điểm chú ý của toàn xã hội trong những năm gần đây. Rõ ràng, ba tác động lớn do GAI nêu trên không phải là vấn đề mới, đã được giới học thuật và chính phủ quan tâm, nghiên cứu ngay từ khi ChatGPT bùng nổ.
Trong mười năm qua, từ Internet of Things đến dữ liệu lớn, điện toán đám mây, blockchain, Metaverse, ChatGPT, giữa làn sóng bùng nổ của AI, chưa bao giờ thiếu tiếng nói quan tâm đến rủi ro.
Về mặt chuyên môn, tôi lo ngại về tác động xã hội của các công nghệ mới và đã dành nhiều công sức để nhắc nhở mọi người về những rủi ro kỹ thuật mà AI có thể gây ra. Ví dụ, anh ấy đã viết các chuyên khảo "Lý thuyết chung về quản trị công nghệ", "Internet vạn vật và sự xuất hiện của xã hội phổ biến", "Tôi không có thuốc chữa bệnh công nghệ", "Bẫy metaverse", "Mười bốn bài giảng về khoa học và công nghệ và Xã hội", nhắc nhở những người không chuyên về CNTT (Tác động xã hội và rủi ro công nghệ của công nghệ thông tin và truyền thông).
Có thể nói, cảnh giác trước sự phát triển của AI và ngăn chặn AI vượt khỏi tầm kiểm soát đang trở thành “sự đúng đắn về chính trị” trong lĩnh vực khoa học và công nghệ trên thế giới. Trong bầu không khí này, những tiếng nói công khai tuyên bố rằng "AI không có vùng cấm" đã bị dập tắt rất nhiều. Về vấn đề này, với tư cách là một nhà lý thuyết lựa chọn kiểm soát công nghệ, tôi hoàn toàn đồng ý.
Với tình hình phát triển như hiện nay, ChatGPT có những rủi ro nghiêm trọng nào mà phải xử lý theo cách “thừa cân nặng”, chẳng hạn như đình chỉ ít nhất 6 tháng?
Có người cho rằng ChatGPT là dấu hiệu xuất hiện của siêu AI, nếu không dừng ngay bây giờ (lưu ý: không chỉ là tạm dừng), một khi "Chiếc hộp Pandora" được mở ra, loài người sẽ sớm bị thống trị hoặc thậm chí là tuyệt chủng bởi siêu AI. Thật khó để mọi người xem xét những ý tưởng kỳ lạ như vậy một cách nghiêm túc. Đặc biệt, nhiều chuyên gia không nhận ra rằng ChatGPT là một AI nói chung chứ chưa nói đến nguyên mẫu của một siêu AI.
Siêu AI có thể là một vấn đề, nhưng khi nói đến việc ngăn chặn sự tự tuyệt chủng của con người, nhiều rủi ro, chẳng hạn như chiến tranh hạt nhân, biến đổi khí hậu, sự lây lan của các loại virus chết người và lạm dụng công nghệ sinh học, phải được xếp trước siêu AI. Chúng ta có ngăn chặn tất cả chúng trước không? Cho dù không dừng được thì tạm dừng cũng không sao, ít nhất có thể kêu gọi tạm dừng.
Vì không có gì mới, nên không cần phải dùng biện pháp quyết liệt là tạm dừng phát triển, tại sao?
Đầu tiên, việc đình chỉ là không chính đáng. Một số người nói rằng các biện pháp ứng phó với rủi ro ChatGPT đã không được suy nghĩ rõ ràng, vì vậy nó đã bị đình chỉ trước. sai! Không phải tôi không suy nghĩ thấu đáo, mà là tôi không thực hiện nó tại chỗ.
Thứ hai, lệnh cấm không thể thực sự đạt được, và chắc chắn sẽ có các công ty AI vi phạm lệnh cấm, và kết quả là cạnh tranh không lành mạnh.
Thứ ba, đình chỉ sẽ không giải quyết được vấn đề. Ngay cả khi tất cả các công ty AI thực sự đình chỉ nghiên cứu GAI, liệu vấn đề rủi ro có được giải quyết? KHÔNG! Trừ khi LLMs (Large Language Models, mô hình ngôn ngữ lớn) bị dừng và cấm hoàn toàn, rủi ro sẽ không biến mất. Khi khởi động lại, bạn vẫn phải đối mặt trực tiếp với rủi ro.
Ngày nay, công nghệ mới là công cụ quan trọng nhất để con người tồn tại và phát triển không thể bỏ lại phía sau. Vai trò của GAI trong việc thúc đẩy năng suất xã hội đã được bộc lộ rõ ràng, tại sao chúng ta phải ngừng ăn vì nghẹn, tại sao chúng ta không thể sử dụng nó một cách có kiểm soát?
Vào thế kỷ 20, một số người cho rằng công nghệ lúc đó đã đủ cho con người, tiếp tục phát triển sẽ dẫn đến nhiều vấn đề mới, công nghệ nên dừng lại, và các nhà khoa học nên ngừng nghiên cứu. Những ý tưởng cực kỳ phi lý như vậy chưa bao giờ được xã hội coi trọng.
02 Việc tạm dừng nghiên cứu và phát triển GAI là không thể thực hiện được, đó hoàn toàn là "khẩu súng"
AI có thể dẫn đến nhiều rủi ro xã hội, giới học thuật từ lâu đã chỉ ra rằng nhiều biện pháp đối phó cũng đã được đưa ra. Do đó, vấn đề đặt ra hiện nay là thực hiện các biện pháp quản trị AI phù hợp với điều kiện quốc gia, chứ không phải đình chỉ nghiên cứu và phát triển AI. Sự thật đã chứng minh rằng ý tưởng đình chỉ nghiên cứu và phát triển GAI là đơn giản và thô lỗ, ít tác dụng và không thể thực hiện được, hoàn toàn là "lời nói" không có giá trị.
Lấy vấn đề thất nghiệp AI làm ví dụ. Vấn đề thất nghiệp AI, tức là sự tiến bộ của trí tuệ nhân tạo đi kèm với ngày càng nhiều người mất việc làm, là vấn đề lớn nhất trong tác động xã hội của AI và liên quan đến sự đổi mới thể chế toàn diện của toàn xã hội. Các tài liệu hiện có thảo luận về vấn đề thất nghiệp AI, có thể được mô tả là quá mức và có nhiều biện pháp đối phó cụ thể, chẳng hạn như lập kế hoạch nghề nghiệp cho sinh viên, cải thiện kiến thức về AI của người lao động, an sinh xã hội và tái tuyển dụng người thất nghiệp, nâng cấp và chuyển đổi cơ cấu công nghiệp, v.v.
Kế hoạch chiến lược dài hạn cũng rất ấn tượng, chẳng hạn như giảm giờ làm việc của công nhân một cách có hệ thống (một số nơi đã cố gắng làm việc 4 ngày một tuần), thu thuế AI (AI là kết tinh của trí tuệ con người và các công ty AI bị đánh thuế nặng nề) để mọi người cùng chia sẻ), chế độ hưu trí linh hoạt (người lao động có thể nghỉ hưu ngắn hạn vài lần trong đời), v.v.
Tác động lớn nhất của ứng dụng AI đối với hoạt động quản trị đương đại nằm ở chỗ: mở rộng tự do kinh tế, tăng thời gian nhàn rỗi, thay đổi lớn các điều kiện tiên quyết đối với quản trị công và do đó thay đổi diện mạo cơ bản của hoạt động xã hội. Tuy nhiên, tác động này cũng đồng nghĩa với việc “bài toán thất nghiệp AI” ngày càng nghiêm trọng, đặt ra những thách thức nghiêm trọng đối với hoạt động quản trị của toàn xã hội và phải được xử lý một cách thận trọng. Quá trình công nghiệp hóa AIGC một lần nữa sẽ chứng minh mức độ nghiêm trọng của vấn đề thất nghiệp AI. Nếu không có sự sắp xếp chính sách tổng thể, ChatGPT chắc chắn sẽ dẫn đến một lượng lớn "thất nghiệp AI", do đó sẽ cản trở việc áp dụng ChatGPT trong tương lai.
Giải pháp cho "bài toán thất nghiệp do AI" phải xem xét cả góc độ và thực tế.
Từ góc độ dài hạn, giải pháp cho "bài toán thất nghiệp AI" liên quan đến sự thay đổi cơ bản trong hệ thống xã hội loài người và không thể chỉ giải quyết bằng sự phát triển của công nghệ thông minh và quản trị thông minh. Theo những nguyên lý cơ bản của chủ nghĩa Mác, "vấn đề thất nghiệp AI" phản ánh mâu thuẫn giữa sự phát triển của năng suất khoa học và công nghệ với quan hệ sản xuất hiện có. Khả năng robot thay thế sức lao động của con người không có nghĩa là nó thực sự thay thế sức lao động của con người, bởi vì sự thay thế như vậy có nghĩa là hủy bỏ hệ thống bóc lột trong đó một số ít người buộc phần lớn mọi người phải làm việc thông qua các thỏa thuận thể chế. Về bản chất, để giải quyết "bài toán thất nghiệp AI", chúng ta phải liên tục giảm giờ làm của người lao động, cho người dân nhiều thời gian nhàn rỗi hơn, cuối cùng là phải xóa bỏ hoàn toàn hệ thống bóc lột. Lịch sử lao động thế kỷ 20 cho thấy, việc áp dụng công nghệ hiện đại vào sản xuất tiếp tục giảm tổng thời gian lao động cần thiết cho xã hội, thúc đẩy ngày càng nhiều quốc gia thực hiện “chế độ làm việc 8 giờ” và “chế độ làm việc cuối tuần”. .
Từ góc độ thực tế mà nói, sự phát triển của hệ thống xã hội cần một thời gian dài, phải tiến lên dần dần và ổn định, đồng thời phải chờ sự phát triển không ngừng của công nghệ thông minh, vì vậy, vấn đề cấp bách nhất hiện nay là tìm việc làm mới cho những người lao động đã bị trí tuệ nhân tạo tác động, bảo đảm cho họ được hưởng của cải vật chất do tiến bộ công nghệ tạo ra.
Do đó, khi bắt đầu bùng nổ công nghiệp hóa AIGC, quốc gia, chính phủ và xã hội nên tiến hành nghiên cứu chuyên sâu, lập kế hoạch tổng thể và chủ động ứng phó với áp lực thất nghiệp và việc làm có thể phát sinh.
Ví dụ, cải thiện bảo hiểm thất nghiệp và cung cấp dịch vụ đào tạo việc làm lại, tăng cường lập kế hoạch nghề nghiệp và nâng cao chất lượng sáng tạo cho những người trẻ tuổi, điều chỉnh hướng đào tạo tài năng của trường, đặc biệt là về nhân văn, nghệ thuật và các ngành khác, và thúc đẩy nâng cấp công nghiệp để tạo việc làm mới một cách không phù hợp. Nói tóm lại, trước nguy cơ thất nghiệp mà AI có thể đi kèm, chúng ta phải từ bỏ lối suy nghĩ cực đoan hoặc, cố gắng tránh nó và điều chỉnh nó trong thời gian thực.
**03 Trí tuệ nhân tạo của Trung Quốc được quản lý như thế nào? **
Xây dựng một Trung Quốc kỹ thuật số là một động cơ quan trọng để thúc đẩy hiện đại hóa kiểu Trung Quốc trong thời đại kỹ thuật số, đồng thời là sự hỗ trợ mạnh mẽ để xây dựng những lợi thế mới trong cạnh tranh quốc gia.
Trong quá trình xây dựng Trung Quốc kỹ thuật số, cần thúc đẩy quản trị AI "lấy con người làm trung tâm" để AI thực sự mang lại lợi ích cho xã hội. Muốn vậy, trước hết phải kêu gọi toàn xã hội quan tâm đến vấn đề rủi ro AI, Chính phủ, doanh nghiệp, tổ chức phi chính phủ, giới khoa học công nghệ và công chúng, theo phân công trách nhiệm, hoàn thiện chính sách, biện pháp, tăng cường liên kết nguồn lực và phối hợp lực lượng, hình thành lực lượng hành động chung để kiểm soát rủi ro AI... Các chương trình đang được triển khai trên thực tế.
Ngoài ra, các đề xuất nguyên tắc sau đây cũng có thể được xem xét trong quản trị rủi ro AI:
Thứ nhất, thực hiện nguyên tắc công cụ hạn chế. Chúng ta phải nhận thức rõ vai trò của quản trị thông minh - quản trị thông minh không phải là “vũ khí hoàn hảo” chữa bách bệnh, trong nhiều trường hợp cũng sẽ “thất bại”, thậm chí đi đến tác dụng ngược là cản trở hiệu quả xã hội. Vì vậy, cần nhìn nhận vai trò của công nghệ thông minh trong việc nâng cao hiệu quả quản trị trong một số lĩnh vực, một số vấn đề, một số trường hợp nhất định và ưu tiên cho các phương tiện quản trị kỹ thuật để giải quyết vấn đề, đồng thời luôn ghi nhớ vai trò hạn chế của công nghệ thông minh. . Tuân thủ sự khiêm tốn của khoa học và công nghệ, cảnh giác với "sự mê tín dữ liệu lớn", có thái độ xem xét bối cảnh cụ thể và phân tích cụ thể, đồng thời chú ý đến hiệu quả thực tế phản hồi và kiểm soát rủi ro của các hoạt động quản trị.
Thứ hai, nhấn mạnh vào sự nhấn mạnh như nhau vào việc sử dụng và kiểm soát. Cần phải đóng vai trò quản trị thông minh, nhưng cũng phải kiểm soát việc quản trị thông minh cụ thể để ngăn chặn sức mạnh của các nền tảng thông minh và các chuyên gia quản trị kỹ thuật vượt khỏi tầm kiểm soát. Đồng thời, nên sử dụng các phương pháp thể chế-kỹ thuật để tránh những rủi ro xã hội có thể gây ra bởi quản trị thông minh.
Thứ ba, xử lý thỏa đáng "bài toán thất nghiệp AI". Tác động lớn nhất của việc ứng dụng công nghệ thông minh vào hoạt động quản trị đương đại nằm ở chỗ: mở rộng tự do kinh tế, tăng thời gian nhàn rỗi, thay đổi lớn các điều kiện tiên quyết cho quản trị công, và do đó thay đổi diện mạo cơ bản của vận hành xã hội. Tuy nhiên, tác động này cũng đồng nghĩa với việc “bài toán thất nghiệp AI” ngày càng nghiêm trọng, đặt ra những thách thức nghiêm trọng đối với hoạt động quản trị của toàn xã hội, thu hút sự quan tâm của toàn xã hội và cần phải được xử lý một cách thận trọng.
Bốn là, gắn kết chặt chẽ việc xây dựng “thành phố thông minh” và “làng số”. Điều hành thành phố một cách khoa học là một biện pháp chiến lược quan trọng để quản trị công nghệ đương đại và thành phố thông minh là một hình thức tiên tiến của thành phố khoa học. Do con người hiện chủ yếu sống ở các thành phố, đặc biệt là các thành phố lớn và siêu lớn, nên việc quản trị thông minh hiện nay chủ yếu được thúc đẩy xung quanh việc xây dựng "thành phố thông minh" hoặc xây dựng "thành phố thông minh" làm phương tiện chính. Đặc biệt, việc xây dựng Trung Quốc kỹ thuật số không thể bỏ qua việc xây dựng các làng kỹ thuật số và phải nỗ lực thu hẹp khoảng cách giữa thành thị và nông thôn thông qua số hóa.
Thứ năm, chú ý đến sự tích hợp của công nghệ thông minh và con người. Trong hoạt động quản trị công nghệ, sự kết hợp giữa công nghệ và con người càng tốt thì hiệu quả quản trị càng cao. Để tăng cường tích hợp các yếu tố con người và kỹ thuật trong các hoạt động quản trị thông minh, cần phản ánh một cách có hệ thống các đặc điểm của các công nghệ thông minh khác nhau và liên quan đến đạo đức, luật pháp, tâm lý học, quản lý khủng hoảng, v.v., để thúc đẩy xây dựng hệ thống, nghiên cứu và phát triển công nghệ , dự trữ nhân tài, và tăng cường lãnh đạo tổ chức, tham vấn chuyên gia và diễn tập chiến đấu thực tế, đồng thời cải thiện liên tục và có hệ thống khả năng quản trị thông minh của Trung Quốc.
Thứ sáu, phân biệt quản trị với thao túng trong những bối cảnh cụ thể. Có giới hạn đối với quản trị thông minh và nếu vượt quá giới hạn, nó sẽ trở thành thao túng thông minh và vi phạm các quyền cơ bản của công dân. Sự phát triển của quản trị thông minh trong tương lai phải đặc biệt xem xét giới hạn của các ứng dụng khác nhau, không chỉ liên quan đến mục tiêu quản trị mà còn liên quan đến phương tiện được sử dụng, chỉ có thể được xem xét một cách bình tĩnh, khách quan và thận trọng trong bối cảnh xã hội cụ thể. Để ngăn chặn quản trị thông minh tiến tới thao túng thông minh, một vấn đề rất quan trọng là hành vi chống lại quản trị của quản trị thông minh phải được dung thứ ở một mức độ nhất định.