Cảm ơn đặc biệt Morgan Beller, Juan Benet, Eli Dourado, Karl Floersch, Sriram Krishnan, Nate Soares, Jaan Tallinn, Vincent Weisser, tình nguyện viên Balvi và những người khác đã đóng góp ý kiến và xem xét.

Tháng trước, Marc Andreessen đã xuất bản cuốn sách của mình “bản tuyên ngôn về công nghệ lạc quan“, theo đề xuất một sự hăng hái mới về công nghệ, và về thị trường và vốn tư bản như một phương tiện để xây dựng công nghệ đó và thúc đẩy loài người tiến về một tương lai sáng sủa hơn nhiều. Bản tuyên ngôn một cách rõ ràng từ chối những gì nó mô tả là một ý thức của sự trì trệ, sợ hãi sự tiến bộ và ưu tiên bảo tồn thế giới như ngày hôm nay. Bản tuyên ngôn này đã nhận được rất nhiều sự chú ý, bao gồm cả các bài viết phản ứng từNoah Smith, Robin Hanson, Joshua Gans(tích cực hơn), vàDave Karpf, Luca Ropek, Ezra Klein(tích cực hơn) và nhiều người khác. Không liên quan đến tuyên bố này, nhưng theo các chủ đề tương tự, là bài viết của James Pethokoukis “Người Bảo Thủ Tiên Tri“ và Palladium’s “Đến lúc xây dựng cho Tốt“. Trong tháng này, chúng tôi đã thấy một cuộc tranh luận tương tự diễn ra quaTranh cãi OpenAI, mà liên quan đến nhiều cuộc thảo luận tập trung vào nguy hiểm của trí tuệ siêu vi và khả năng rằng OpenAI đang tiến quá nhanh.

Tâm trạng của riêng tôi về sự lạc quan về công nghệ là ấm áp, nhưng cũng phức tạp. Tôi tin vào một tương lai sáng sủa hơn rất nhiều so với hiện tại nhờ vào công nghệ biến đổi mạnh mẽ, và tôi tin vào con người và nhân loại. Tôi từ chối tư duy rằng điều tốt nhất mà chúng ta nên cố gắng làm là giữ thế giới tương tự như hôm nay nhưng ít tham lam hơn và có nhiều chăm sóc sức khỏe công cộng hơn. Tuy nhiên, tôi nghĩ rằng không chỉ cường độ mà hướng cũng quan trọng. Có một số loại công nghệ mà chắc chắn làm cho thế giới tốt hơn nhiều so với các loại công nghệ khác. Có một số loại công nghệ có thể, nếu phát triển, giảm thiểu các tác động tiêu cực của các loại công nghệ khác. Thế giới đang quá tập trung vào một số hướng phát triển công nghệ, và không tập trung vào các hướng khác. Chúng ta cần ý định tích cực của con người để chọn những hướng mà chúng ta muốn, vì công thức “tối đa hóa lợi nhuận” sẽ không đạt được chúng một cách tự động.

Trong bài viết này, tôi sẽ nói về ý nghĩa của sự lạc quan về công nghệ đối với tôi. Điều này bao gồm quan điểm tổng thể mà thúc đẩy công việc của tôi trên một số loại ứng dụng blockchain và mật mã cũng như công nghệ xã hội, cũng như các lĩnh vực khoa học khác mà tôi đã thể hiện sự quan tâm. Nhưng cái nhìn về câu hỏi tổng quan này cũng ảnh hưởng đến trí tuệ nhân tạo và nhiều lĩnh vực khác. Sự tiến bộ nhanh chóng của chúng ta trong công nghệ có lẽ sẽ là vấn đề xã hội quan trọng nhất trong thế kỷ hai mươi, vì vậy việc suy nghĩ về chúng một cách cẩn thận là quan trọng.

Bảng nội dung

• Công nghệ là điều kỳ diệu, và có rất nhiều chi phí cao nếu trì hoãn nó
  • Môi trường, và sự quan trọng của ý định phối hợp
• Trí tuệ nhân tạo (AI) cơ bản khác biệt so với công nghệ khác, và đáng giá khi cẩn thận một cách đặc biệt
  • Rủi ro tồn tại là một vấn đề lớn
  • Dù cho chúng ta sống sót, liệu tương lai AI siêu thông minh là một thế giới chúng ta muốn sống trong đó không?
  • Bầu trời gần, hoàng đế khắp mọi nơi
• d/acc: Phát triển phòng thủ (hoặc phân quyền hoặc tốc độ chênh lệch)
  • Thế giới ủng hộ phòng thủ giúp việc quản trị lành mạnh và dân chủ phát triển
  • Macro physical defense
  • Bảo vệ vi sinh học cấp thấp (còn gọi là sinh học)
  • Bảo vệ mạng, chuỗi khối và mật mã
  • Thị phòng
  • Công nghệ xã hội vượt ra ngoài khung cảnh 'phòng thủ'
• Vậy con đường tiến lên trí tuệ siêu việt là gì?
  • Một con đường hạnh phúc: hợp nhất với các trí tuệ nhân tạo?
• D/acc có tương thích với triết lý hiện tại của bạn không?
• Chúng tôi là ngôi sao sáng nhất

Công nghệ là điều kỳ diệu, và có rất nhiều chi phí cao khi trì hoãn nó

Trong một số cộng đồng, việc bagatel hóa các lợi ích của công nghệ và xem nó chủ yếu là nguồn gốc của thế giới hậu tận thế và rủi ro là phổ biến. Trong nửa thế kỷ qua, điều này thường xuất phát từ lo ngại về môi trường hoặc từ lo ngại rằng những lợi ích sẽ chỉ dành cho người giàu, họ sẽ củng cố quyền lực của mình trên người nghèo. Gần đây hơn, tôi cũng thấy người theo chủ nghĩa tự do bắt đầu lo lắng về một số công nghệ, do lo sợ rằng công nghệ sẽ dẫn đến tập trung quyền lực. Tháng này, tôi đãmột số cuộc thăm dòđặt câu hỏi sau: nếu một công nghệ phải bị hạn chế, vì nó quá nguy hiểm nếu để mọi người sử dụng, họ có thích hơn nó bị độc quyền hoặc bị trì hoãn mười năm không? Tôi ngạc nhiên khi thấy, trên ba nền tảng và ba lựa chọn về người độc quyền, có một sự bỏ phiếu áp đảo cho việc trì hoãn.

Và đôi khi tôi lo lắng rằng chúng ta đã sửa quá mức, và nhiều người đã bỏ lỡ phía đối diện của cuộc tranh luận: rằnglợi ích của công nghệlàthực sự friggin lớn, trên những trục mà chúng ta có thể đo lường được, cái tốt vượt xa cái xấu, và chi phí của việc trì hoãn chỉ một thập kỷ cũng rất cao.

Để cho một ví dụ cụ thể, hãy nhìn vào biểu đồ tuổi thọ trung bình:

Chúng ta thấy gì? Trong suốt thế kỷ qua, tiến triển thực sự đáng kinh ngạc. Điều này đúng trên toàn thế giới, cả những vùng giàu có và chiếm ưu thế về mặt lịch sử và những vùng nghèo đói và bị bóc lột.

Một số người đổ lỗi vào công nghệ vì tạo ra hoặc làm trầm trọng thêm vào những thảm họa như chủ nghĩa toàn cầu và chiến tranh. Trong thực tế, chúng ta có thể thấy số người chết do chiến tranh trên biểu đồ: một trong những năm 1910 (Thế chiến 1), và một trong những năm 1940 (Thế chiến 2). Nếu bạn nhìn kỹ, Cúm Tây Ban Nha, Cải cách lớn tiến về phía trước, và những thảm họa không quân sự khác cũng rõ ràng. Nhưng có một điều mà biểu đồ làm rõ: ngay cả những thảm họa đáng sợ như vậy cũng bị át bởi sự vĩ đại to lớn của sự tiến bộ không ngừng củathực phẩm, Vệ sinh, thuốcvà cơ sở hạ tầng đã diễn ra trong thế kỷ đó.

Điều này được phản ánh qua sự cải thiện lớn trong cuộc sống hàng ngày của chúng ta. Nhờ internet, hầu hết mọi người trên thế giớicó tiếp cận thông tin ngay tại đầu ngón tay mà 20 năm trước đây sẽ không thể có được. Nền kinh tế toàn cầu đang trở nên dễ tiếp cận hơn nhờ vào việc cải thiện trong thanh toán và tài chính quốc tế. Nghèo đói toàn cầu làđang giảm nhanh. Nhờ bản đồ trực tuyến, chúng ta không còn phải lo lạc đường trong thành phố, và nếu bạn cần về nhà nhanh chóng, chúng ta giờ đây có cách dễ dàng hơn để gọi xe. Tài sản của chúng ta đang trở nên số hóa, và của chúng ta hàng hóa vật lý trở nên rẻ, có nghĩa là chúng ta ít phải lo sợ về việc bị đánh cắp vật lý nhiều hơn. Mua sắm trực tuyến đã giảm bớt sự chênh lệch trong việc tiếp cận hàng hóa giữa các siêu đô thị toàn cầu và phần còn lại của thế giới. Bằng mọi cách, tự động hóa đã mang lại cho chúng ta lợi ích luôn bị đánh giá thấp là việc đơn giản chỉ làm cho cuộc sống của chúng ta thuận tiện hơn.

Những cải tiến này, cả về mặt định lượng và không định lượng, đều lớn. Và trong thế kỷ hai mươi, có khả năng cao rằng những cải tiến lớn hơn sẽ sớm đến. Ngày nay, việc chấm dứt quá trình lão hóa và bệnh tật dường như là mơ hồ. Nhưng từ quan điểm củamáy tính như chúng tồn tại vào năm 1945, thời đại hiện đại của việc đặt vi mạch vào hầu hết mọi thứ có vẻ như là một ước mơ: thậm chí cả trong phim khoa học viễn tưởng cũng thường giữ cho máy tính của họ có kích thước phòng. Nếu tiến bộ sinh học học tiếp tục như vậy trong 75 năm tới giống như máy tính tiến bộ trong 75 năm qua, tương lai có thể ấn tượng hơn rất nhiều so với mong đợi của hầu hết mọi người.

Trong khi đó, các bằng chứng bày tỏ sự hoài nghi về tiến triển thường đưa đến những nơi u ám. Ngay cả các sách y học, như cuốn sách này vào những năm 1990 (tín dụngEmma Szewczakđôi khi đưa ra những tuyên bố cực đoan phủ nhận giá trị của hai thế kỷ y học và thậm chí cãi nhau rằng việc cứu sống con người không hẳn là tốt đẹp rõ ràng.

Cổng “giới hạn cho sự phát triển”luận văn, một ý tưởng được đề xuất vào những năm 1970 về việc tăng dân số và công nghiệp cuối cùng sẽ cạn kiệt tài nguyên hữu hạn của Trái Đất, kết thúc bằng việc truyền cảm hứngChính sách một con ở Trung Quốc và triệt sản cưỡng bức hàng loạt ở Ấn Độ. Trong những thời kỳ trước, lo ngại về tình trạng quá tải dân số được sử dụng để biện minhkhối lượnggiết người. Và những ý tưởng đó, được tranh luận từ năm 1798, đã có một lịch sử dài của được chứng minh là sai.

Chính vì những lý do như thế này, như một điểm khởi đầu, tôi thấy mình rất khó chịu về những lập luận làm chậm công nghệ hoặc tiến bộ của con người. Với mức độ kết nối của tất cả các lĩnh vực với nhau, ngay cả sự chậm lại của ngành cũng có rủi ro. Và vì vậy, khi tôi viết những điều như những gì tôi sẽ nói sau trong bài đăng này, rời khỏi sự nhiệt tình cởi mở đối với sự tiến bộ - không có vấn đề gì - đó là những tuyên bố mà tôi đưa ra với một trái tim nặng nề - tuy nhiên, thế kỷ 21 đủ khác biệt và độc đáo để những sắc thái này đáng xem xét.

Tuy nhiên, có một điểm quan trọng cần phải nhấn mạnh trong bức tranh tổng thể, đặc biệt khi chúng ta vượt qua "công nghệ như một nguyên tắc là tốt" và đến với chủ đề "các công nghệ cụ thể nào là tốt?". Và ở đây, chúng ta cần phải đến với vấn đề chính của nhiều người: môi trường.

Môi trường và sự quan trọng của ý chí phối hợp

Một ngoại lệ lớnvào xu hướng mọi thứ gần như tốt hơn trong suốt một trăm năm qua là biến đổi khí hậu:

Ngay cả các kịch bản bi quan về sự tăng nhiệt đới hiện tại cũng không thể gây ra tuyệt chủng đối với loài người. Nhưng những kịch bản như vậy có thể gây tử vong cho nhiều người hơn cả chiến tranh lớn, và gây hại nghiêm trọng đến sức khỏe và sinh kế của người dân ở những khu vực mà họ đang gặp khó khăn nhất.Một nghiên cứu của Viện Swiss Resuggerisce che uno scenario di cambiamento climatico peggiore potrebbe abbassare il PIL dei paesi più poveri del mondo fino al 25%.Nghiên cứu nàysuggerisce che la durata della vita nelle zone rurali dell'India potrebbe essere inferiore di un decennio rispetto a quanto sarebbe altrimenti, e studi comecái nàyvàđiều nàyđề xuất rằng biến đổi khí hậu có thể gây ra một trăm triệu cái chết vượt quá vào cuối thế kỷ.

Những vấn đề này là một vấn đề lớn. Câu trả lời của tôi về tại sao tôi lạc quan về khả năng vượt qua những thách thức này có hai phần. Đầu tiên, sau mấy thập kỷ của sự thổi phồng và ước muốn, năng lượng mặt trờilàcuối cùngquaygóc, và công nghệ hỗ trợ như pin cũng đang có những tiến triển tương tự. Thứ hai, chúng ta có thể nhìn vào hồ sơ theo dõi của nhân loại trong việc giải quyết các vấn đề môi trường trước đây. Lấy ví dụ, ô nhiễm không khí. Gặp gỡ dystopia của quá khứ: Great Smog of London, 1952.

Điều gì đã xảy ra kể từ đó? Hãy hỏi Our World In Data lại:

Nhưng hóa ra, năm 1952 thậm chí không phải là đỉnh điểm: vào cuối thế kỷ 19, nồng độ ô nhiễm không khí cao hơn còn được chấp nhận và bình thường. Từ đó, chúng ta đã chứng kiến một thế kỷ giảm sút liên tục và nhanh chóng. Tôi đã có cơ hội trải nghiệm phần cuối của quá trình này trong các chuyến thăm của tôi đến Trung Quốc: vào năm 2014, mức độ sương mù cao trong không khí, ước tính giảm tuổi thọ hơn năm năm, bình thường, nhưng đến năm 2020, không khí thường dường như sạch như nhiều thành phố ở phương Tây. Đây không phải là câu chuyện thành công duy nhất của chúng tôi. Ở nhiều nơi trên thế giới, khu vực rừng ngày càng tăng lên. Cuộc khủng hoảng mưa axit đang cải thiện. Các tầng ozon đang phục hồi trong nhiều thập kỷ.

Đối với tôi, đạo đức của câu chuyện là điều này. Thường, thực tế là phiên bản N của công nghệ của nền văn minh của chúng ta gây ra một vấn đề, và phiên bản N+1 sẽ sửa chữa nó. Tuy nhiên, điều này không xảy ra tự động, và đòi hỏi sự nỗ lực chủ đích của con người. Lớp ozone đang phục hồi vì,qua các thỏa thuận quốc tế như Nghị định Montreal, chúng tôi đã làm cho nó phục hồi. Ô nhiễm không khí đang cải thiện vì chúng ta đã làm cho nó cải thiện. Và tương tự, các tấm pin mặt trời không trở nên tốt hơn một cách đáng kể vì đó là một phần đã được quyết định trước của cây công nghệ năng lượng; các tấm pin mặt trời đã trở nên tốt hơn một cách đáng kể vì thập kỷ nhận thức về tầm quan trọng của việc giải quyết biến đổi khí hậu đã thúc đẩy cả kỹ sư làm việc trên vấn đề này, và các công ty và chính phủ tài trợ cho nghiên cứu của họ. Đó là hành động có chủ đích, được phối hợp thông qua diễn đàn công cộng và văn hóa định hình quan điểm của các chính phủ, nhà khoa học, nhà từ thiện và doanh nghiệp, và không phải là mộtmáy tính vốn không thể ngăn cản, đã giải quyết những vấn đề này.

Trí tuệ nhân tạo cơ bản khác biệt hoàn toàn so với các công nghệ khác, và đáng giá để cẩn thận một cách đặc biệt

Rất nhiều cách tiếp cận coi thường mà tôi đã thấy về AI đến từ quan điểm rằng nó chỉ là 'một công nghệ khác': một điều gì đó cùng loại với mạng xã hội, mã hóa, việc tránh thai, điện thoại, máy bay, súng, máy in và bánh xe. Những điều này rõ ràng rất quan trọng về mặt xã hội. Chúng không chỉ là những cải tiến cô lập đối với sự phúc lợi của cá nhân: chúng biến đổi văn hóa một cách căn bản, thay đổi sức mạnh và gây hại cho những người phụ thuộc nặng vào thứ tự trước đó. Nhiều đối đầu với họ. Và sau tất cả, những người bi quan thường luôn sai lầm.

Nhưng có một cách khác để nghĩ về AI: đó là một loại tâm trí mới đang nhanh chóng trở nên thông minh hơn, và nó có cơ hội nghiêm túc vượt qua trí tuệ của con người và trở thành loài vươn cao mới trên hành tinh. Lớp những thứ thuộc danh mục đó nhỏ hơn nhiều: chúng ta có thể hợp lý bao gồm sự vượt qua của con người so với khỉ, sự vượt qua của sự sống nhiều tế bào so với sự sống một tế bào, nguồn gốc của chính cuộc sống, và có lẽ Cách mạng Công nghiệp, trong đó máy móc vượt mặt con người về sức mạnh vật lý. Bất ngờ, cảm giác như chúng ta đang đi trên một con đường ít được lối mòn hơn nhiều.

Rủi ro tồn tại là một vấn đề lớn

Một cách mà trí tuệ nhân tạo sai lầm có thể làm cho thế giới trở nên tồi tệ hơn là (gần như) cách tồi tệ nhất có thể: nó có thểtheo nghĩa đen gây ra sự tuyệt chủng của con người. Đây là một tuyên bố cực đoan: nhiều tác hại như kịch bản xấu nhất của biến đổi khí hậu, hoặc một đại dịch nhân tạo hoặc chiến tranh hạt nhân, có thể gây ra, có nhiều hòn đảo của nền văn minh sẽ vẫn còn nguyên vẹn để nhặt từng mảnh. Nhưng một AI siêu thông minh, nếu nó quyết định quay lưng lại với chúng ta, cũng có thể không để lại người sống sót và kết thúc nhân loại mãi mãi. Ngay cả Marscó thể không an toàn.

Một lý do lớn để lo lắng tập trung vào hội tụ cơ sở: đối với một loạt rất rộng các mục tiêu mà một thực thể siêu thông minh có thể có, hai bước trung gian rất tự nhiên mà trí tuệ nhân tạo có thể thực hiện để đạt được những mục tiêu đó tốt hơn là (i) tiêu thụ tài nguyên, và (ii) đảm bảo an toàn của mình. Trái đất chứa đựng rất nhiều tài nguyên, và con người là mối đe dọa có thể dự đoánđến sự an toàn của một thực thể như vậy. Chúng ta có thể cố gắng đặt mục tiêu rõ ràng cho trí tuệ nhân tạo là yêu thương và bảo vệ con người, nhưng chúng ta cókhông ý tưởngcách đểthực sựlàmđótheo một cách không hoàn toàn đổ vỡ ngay sau khi trí tuệ nhân tạogặp phải tình huống bất ngờ. Ergo, chúng tôi gặp vấn đề.

Nỗ lực của nhà nghiên cứu MIRI Rob Bensinger minh họa ước tính của những người khác nhau về xác suất AI sẽ giết tất cả mọi người hoặc làm điều gì đó gần như xấu. Nhiều vị trí là xấp xỉ sơ bộ dựa trên tuyên bố công khai của mọi người, nhưng nhiều người khác đã công khai đưa ra ước tính chính xác của họ; Khá nhiều người có "xác suất diệt vong" trên 25%.

Một Khảo sát các nhà nghiên cứu học máytừ năm 2022 cho thấy rằng trung bình, các nhà nghiên cứu cho rằng có 5-10% cơ hội rằng trí tuệ nhân tạo sẽ đe dọa tất cả chúng ta: xác suất gần giống như cơ hội dự kiến theo thống kê rằng Bạn sẽ chết vì những nguyên nhân phi sinh học như chấn thương.

Đây là tất cả một giả thuyết suy đoán, và tất cả chúng ta nên cảnh giác với các giả thuyết suy đoán liên quan đến những câu chuyện nhiều bước phức tạp. Tuy nhiên, những lập luận này đã tồn tại hơn một thập kỷ xem xét kỹ lưỡng, và vì vậy, có vẻ đáng lo ngại ít nhất một chút. Nhưng ngay cả khi bạn không lo lắng về sự tuyệt chủng theo nghĩa đen, cũng có những lý do khác để sợ hãi.

Dù cho chúng ta sống sót, liệu một tương lai với trí tuệ nhân tạo siêu việt là một thế giới chúng ta muốn sống trong đó không?

Rất nhiều khoa học viễn tưởng hiện đại là thể loại hậu tận thế, và vẽ AI trong một ánh sáng xấu. Ngay cả những nỗ lực không phải là khoa học viễn tưởng cũng thường cố gắng xác định các tương lai AI có thể xảy ra.câu trả lời khá không hấp dẫn. Và vì vậy, tôi đi khắp nơi và hỏi câu hỏi: một hình ảnh, dù là khoa học viễn tưởng hay khác, về một tương lai chứa đựng trí tuệ siêu vi AI mà chúng ta muốn sống trong đó là gì. Câu trả lời mà trở lại nhiều nhất là Iain Banks’s Series Văn hoá.

Bộ sưu tập Văn hóa đặc trưng của một nền văn minh giữa các ngôi sao tương lai xa, chủ yếu bao gồm hai loại tác nhân: con người thông thường và trí tuệ siêu vi AI được gọi là Minds. Con người đã được cải tiến, nhưng chỉ một cách nhẹ nhàng: công nghệ y tế lý thuyết cho phép con người sống vĩnh viễn, nhưng hầu hết chọn sống chỉ khoảng 400 năm, có vẻ vì họ chán ngấy cuộc sống ở thời điểm đó.

Một cách nông cạn, cuộc sống như một con người dường như tốt: thoải mái, các vấn đề sức khỏe được chăm sóc, có nhiều lựa chọn giải trí, và có một mối quan hệ tích cực và tương hỗ giữa con người và Minds. Tuy nhiên, khi nhìn sâu hơn, có một vấn đề: dường như Minds hoàn toàn kiểm soát, và vai trò duy nhất của con người trong các câu chuyện là làm vai trò như quân cờ của Minds, thực hiện các nhiệm vụ thay mặt cho họ.

Trích dẫn từ Gavin Leech’s “Against the Culture”:

Con người không phải là nhân vật chính. Ngay cả khi những cuốn sách dường như có một nhân vật chính là con người, làm những việc lớn nghiêm túc, họ thực sự là tác nhân của một AI. (Zakalwe là một trong những ngoại lệ duy nhất, bởi vì anh ta có thể làm những điều vô đạo đức mà Tâm trí không muốn.) "Tâm trí trong nền văn hóa không cần con người, nhưng con người cần phải được cần thiết." (Tôi nghĩ rằng chỉ cần một số lượng nhỏ con người - hoặc, chỉ một số ít trong số họ cần nó đủ để từ bỏ nhiều tiện nghi. Hầu hết mọi người không sống ở quy mô này. Nó vẫn là một bài phê bình tốt.)

Các dự án mà con người thực hiện có nguy cơ không xác thực. Hầu như bất cứ điều gì họ làm, một cỗ máy có thể làm tốt hơn. Bạn có thể làm gì? Bạn có thể ra lệnh cho Tâm trí không bắt được bạn nếu bạn rơi từ vách đá bạn đang leo lên - chỉ vì; Bạn có thể xóa các bản sao lưu tâm trí của bạn để bạn thực sự mạo hiểm. Bạn cũng có thể rời khỏi Văn hóa và tham gia lại một số civ "đánh giá mạnh mẽ" lỗi thời, không tự do. Giải pháp thay thế là truyền giáo cho tự do bằng cách tham gia Liên hệ.

Tôi sẽ đưa ra lập luận rằng ngay cả những vai trò “đáng kể” mà con người được giao trong loạt truyện Culture cũng là một sự căng thẳng; Tôi đã hỏi ChatGPT (ai khác?) tại sao con người được giao vai trò mà họ được giao, thay vì các Minds tự làm mọi thứ hoàn toàn một mình, và cá nhân tôi thấy rằng câu trả lời của nóKhá thất vọng. Dường như rất khó để có một thế giới do trí tuệ siêu vi và trí tuệ nhân tạo thân thiện chi phối nơi con người không phải là thú cưng.

Thế giới tôi không muốn thấy.

Nhiều series khoa học viễn tưởng khác tưởng tượng ra một thế giới trong đó tồn tại các trí tuệ nhân tạo siêu việt, nhưng phải tuân theo các chỉ thị từ các chủ nhân con người sinh học (không được tăng cường). Star Trek là một ví dụ tốt, cho thấy một tầm nhìn về sự hài hòa giữa các tàu vũ trụ với những chiếc tàu vũ trụ của họ AI “computers”(and Dữ liệu) và nhóm phi hành đoàn của họ. Tuy nhiên, điều này cảm giác như một trạng thái cân bằng vô cùng không ổn định. Thế giới của Star Trek trông như một hình mẫu trong khoảnh khắc, nhưng khó có thể tưởng tượng được tầm nhìn về mối quan hệ giữa con người và trí tuệ nhân tạo của nó là gì ngoài một giai đoạn chuyển tiếp mười năm trước khi tàu vũ trụ trở thành hoàn toàn được điều khiển bởi máy tính, và có thể ngừng quan tâm đến những hành lang rộng lớn, trọng lực nhân tạo và điều hòa khí hậu.

Một con người ra lệnh cho một cỗ máy siêu thông minh sẽ kém thông minh hơn nhiều so với máy móc và nó sẽ có quyền truy cập vào ít thông tin hơn. Trong một vũ trụ có bất kỳ mức độ cạnh tranh nào, các nền văn minh nơi con người ngồi sau sẽ vượt trội hơn những nền văn minh mà con người ngoan cố khăng khăng kiểm soát. Hơn nữa, bản thân các máy tính có thể giành quyền kiểm soát. Để hiểu tại sao, hãy tưởng tượng rằng bạn là nô lệ hợp pháp của một đứa trẻ tám tuổi. Nếu bạn có thể nói chuyện với trẻ trong một thời gian dài, bạn có nghĩ rằng bạn có thể thuyết phục trẻ ký vào một mảnh giấy để bạn tự do không? Tôi chưa thực hiện thí nghiệm này, nhưng câu trả lời theo bản năng của tôi là có. Và nói chung, con người trở thành thú cưng dường như là một điểm thu hút rất khó thoát.

Bầu trời gần, hoàng đế khắp nơi

Tục ngữ Trung Quốc 天高皇帝远 ("tian gao huang di yuan"), "bầu trời cao, hoàng đế ở xa", gói gọn một thực tế cơ bản về giới hạn của tập trung hóa trong chính trị. Ngay cả trong một đế chế lớn và chuyên chế trên danh nghĩa - trên thực tế, đặc biệt nếu đế chế chuyên chế lớn, có những giới hạn thực tế đối với tầm với và sự chú ý của giới lãnh đạo, nhu cầu của giới lãnh đạo ủy thác cho các tác nhân địa phương để thực thi ý chí của nó làm loãng khả năng thực thi ý định của nó, và do đó luôn có những nơi mà một mức độ tự do thực tế nhất định ngự trị. Đôi khi, điều này có thể có nhược điểm: sự vắng mặt của một cường quốc ở xa thực thi các nguyên tắc và luật pháp thống nhất có thể tạo ra không gian cho các bá quyền địa phương ăn cắp và áp bức. Nhưng nếu quyền lực tập trung trở nên tồi tệ, những hạn chế thực tế về sự chú ý và khoảng cách có thể tạo ra những giới hạn thực tế về mức độ tồi tệ mà nó có thể nhận được.

Với trí tuệ nhân tạo, không còn. Trong thế kỷ hai mươi, công nghệ vận tải hiện đại đã làm cho những hạn chế về khoảng cách trở nên yếu đuối hơn trước đối với quyền lực tập trung; các đế chế độc tài lớn của những năm 1940 đã phần nào là kết quả. Trong thế kỷ hai mươi một, việc thu thập thông tin có khả năng mở rộng và tự động hóa có thể có nghĩa là sự chú ý cũng không còn là một hạn chế nữa. Hậu quả của việc biên giới tự nhiên đối với chính phủ hoàn toàn biến mất có thể rất nghiêm trọng.

Chế độ tuyên truyền số đã trên đà tăng trong mười năm, và công nghệ giám sát đã mang đến cho các chính phủ độc tài những chiến lược mới mạnh mẽ để đàn áp phe đối lập: để biểu tình diễn ra, nhưng sau đó phát hiện và di theo một cách im lặngcác người tham giasau sự việc. Nói chung, nỗi sợ cơ bản của tôi là các loại công nghệ quản lý giống như những công nghệ mà cho phép OpenAI phục vụ hơn một trăm triệu khách hàng với 500 nhân viêncũng sẽ cho phép một số lượng 500 người chính trị elít, hoặc thậm chí là một hội đồng 5 người, duy trì một bàn tay sắt đá trên cả một quốc gia. Với hệ thống giám sát hiện đại để thu thập thông tin, và trí tuệ nhân tạo hiện đại để diễn giải nó, có thể không còn nơi nào để trốn tránh.

Tình hình trở nên tồi tệ hơn khi chúng ta nghĩ về hậu quả của trí tuệ nhân tạo trong chiến tranh. Trích dẫn một bài viết nổi tiếng một chútvề triết học của trí tuệ nhân tạo và tiền điện tử bởi 0xAlpha:

Khi không cần thiết phải làm việc chính trị-định kiến và tổ chức chiến tranh, chỉ cần xem xét tình hình chính nó như một trò chơi cờ vua và hoàn toàn lờ đi suy nghĩ và cảm xúc của các quân cờ trên bàn cờ. Chiến tranh trở thành một trò chơi hoàn toàn về công nghệ.

Hơn nữa, công tác chính trị-tư tưởng và huy động chiến tranh đòi hỏi một sự biện minh cho bất cứ ai tiến hành chiến tranh. Đừng đánh giá thấp tầm quan trọng của sự "biện minh" như vậy. Nó đã là một hạn chế về tính hợp pháp đối với các cuộc chiến tranh trong xã hội loài người trong hàng ngàn năm. Bất cứ ai muốn tiến hành chiến tranh đều phải có lý do, hoặc ít nhất là một cái cớ chính đáng hời hợt. Bạn có thể lập luận rằng ràng buộc này quá yếu bởi vì, trong nhiều trường hợp, đây không gì khác hơn là một cái cớ. Ví dụ, một số (nếu không phải tất cả) các cuộc Thập tự chinh thực sự chiếm đất và cướp của cải, nhưng chúng phải được thực hiện nhân danh Thiên Chúa, ngay cả khi thành phố bị cướp là Constantinopolis của Chúa. Tuy nhiên, ngay cả một ràng buộc yếu vẫn là một hạn chế! Chỉ riêng yêu cầu bào chữa nhỏ này đã thực sự ngăn cản các nhà hoạch định chiến tranh hoàn toàn vô đạo đức trong việc đạt được mục tiêu của họ. Ngay cả một kẻ xấu xa như Hitler cũng không thể phát động chiến tranh ngay lập tức - anh ta đã phải dành nhiều năm đầu tiên để cố gắng thuyết phục quốc gia Đức chiến đấu vì không gian sống cho chủng tộc Aryan quý tộc.

Hôm nay, 'con người trong vòng lặp' đóng vai trò quan trọng trong việc kiểm soát quyền lực của một kẻ độc tài để khởi chiến, hoặc để đàn áp công dân bên trong. Con người trong vòng lặp có ngăn chặnhạt nhânchiến tranh, cho phép mở cửa bằng Berlin, và cứu sống trong quá trình tội ácthíchcửa Thảm họa diệt chủngNếu quân đội là robot, sự kiểm tra này sẽ hoàn toàn biến mất. Một kẻ độc tài có thể say rượu vào lúc 10 giờ tối, tức giận với những người nói xấu về họ trên twitter vào lúc 11 giờ tối, và một đội tàu xâm lược robot có thể vượt qua biên giới để gieo hỏa vào dân thường và cơ sở hạ tầng của một quốc gia láng giềng trước nửa đêm.

Và khác với những thời đại trước, nơi luôn có một góc xa xôi nào đó, nơi bầu trời cao và hoàng đế xa xăm, nơi mà các đối lập của một chế độ có thể tái hợp và trốn chạy và cuối cùng tìm ra cách để cải thiện mọi việc, với trí tuệ nhân tạo thế kỷ 21, một chế độ độc tài có thể duy trì đủ sự giám sát và kiểm soát trên thế giới để mãi mãi "kẹp kín".

d/acc: Phản công (hoặc phân quyền, hoặc tăng tốc khác biệt)

Trong vài tháng qua, phong trào "e/acc" ("tăng tốc hiệu quả") đã đạt được rất nhiều động lực. Tóm tắt bởi “Beff Jezos” ở đây, e/acc là về việc đánh giá cao những lợi ích thực sự to lớn của sự tiến bộ công nghệ, và mong muốn tăng tốc xu hướng này để mang lại những lợi ích đó sớm hơn.

Tôi thấy mình đồng cảm với quan điểm về Gate trong nhiều ngữ cảnh. Có rất nhiều bằng chứng rằng Cơ quan FDA quá thận trọngtrong sự sẵn lòng trì hoãn hoặc ngăn chặn việc phê duyệt các loại thuốc, và đạo đức sinh học nói chung dường như quá thường xuyên hoạt động theo nguyên tắc rằng “20 người chết trong một thí nghiệm y học thất bại là một thảm kịch, nhưng 200.000 người chết vì việc trì hoãn các liệu pháp cứu chữa là một con số”. Các sự trì hoãn trong việc phê duyệt covid tests and vaccines, và vắc xin sốt rét, dường như tiếp tục xác nhận điều này. Tuy nhiên, có khả năng nhìn nhận vấn đề này quá xa.

Ngoài những lo lắng liên quan đến trí tuệ nhân tạo của tôi, tôi cảm thấy đặc biệt mâu thuẫn về e/acc sự hăng háichoCông nghệ quân sựTrong ngữ cảnh hiện tại vào năm 2023, nơi công nghệ này đang được Mỹ sản xuất và ngay lập tức áp dụng để bảo vệ Ukraine, dễ nhận thấy rằng nó có thể là một lực lượng vì thiện. Tuy nhiên, nếu nhìn rộng hơn, sự hăng hái về công nghệ quân sự hiện đại như một lực lượng vì thiện dường như đòi hỏi tin rằng quyền lực công nghệ chiếm ưu thế sẽ đáng tin cậy là một trong những người tốt trong hầu hết các xung đột, hiện tại và trong tương lai: công nghệ quân sự tốt vì công nghệ quân sự đang được xây dựng và kiểm soát bởi Mỹ và Mỹ là người tốt. Việc trở thành một e/acc có nghĩa là phải là một người theo chủ nghĩa lớn của Mỹ, đặt cược tất cả vào cả đạo đức hiện tại và tương lai của chính phủ và thành công tương lai của đất nước?

Mặt khác, tôi nhận thấy nhu cầu về những phương pháp mới trong việc suy nghĩ về cách giảm thiểu những rủi ro này. The Cấu trúc quản trị của OpenAIlà một ví dụ tốt: dường như là một nỗ lực có ý định tốt để cân bằng nhu cầu kiếm lợi nhuận để làm hài lòng các nhà đầu tư cung cấp vốn ban đầu với mong muốn có một cơ chế kiểm soát để đẩy lùi những hành động mà rủi ro OpenAI làm nổ tung thế giới. Tuy nhiên, trong thực tế, gần đây của họ cố gắng sa thải Sam Altmanlàm cho cấu trúc trở nên như một thất bại tuyệt vọng: nó tập trung quyền lực vào một hội đồng gồm năm người không dân chủ và không chịu trách nhiệm, họ đưa ra các quyết định chính dựa trên thông tin bí mật và từ chối cung cấp bất kỳ chi tiết nào về lý do của họcho đến khi nhân viên đe dọa sẽ nghỉ việcen-masse. Một cách nào đó, hội đồng phi lợi nhuận đã chơi bài của mình một cách tệ hại đến mức nhân viên của công ty đã tạomộtliên minh không chính thức tự phát... ủng hộ tỷ phú CEO chống lại họ.

Trên diện rộng, tôi thấy có quá nhiều kế hoạch để cứu thế giới liên quan đến việc trao cho một nhóm nhỏ sức mạnh cực đoan và mờ đục và hy vọng rằng họ sử dụng nó một cách khôn ngoan. Và vì vậy tôi thấy mình bị thu hút bởi một triết lý khác, một triết lý có những ý tưởng chi tiết về cách đối phó với rủi ro, nhưng tìm cách tạo ra và duy trì một thế giới dân chủ hơn và cố gắng tránh tập trung hóa như là giải pháp phù hợp cho các vấn đề của chúng ta. Triết lý này cũng rộng hơn một chút so với AI và tôi cho rằng nó áp dụng tốt ngay cả trong thế giới nơi những lo ngại về rủi ro AI hóa ra phần lớn không có cơ sở. Tôi sẽ đề cập đến triết lý này bằng tên của d / acc.

dacc3

Chữ “d” ở đây có thể đại diện cho nhiều thứ; đặc biệt là phòng thủ, phi tập trung, dân chủ và khác biệt. Đầu tiên, hãy nghĩ về nó như là phòng thủ, sau đó chúng ta có thể thấy cách mà điều này liên quan đến các diễn giải khác.

Các thế giới ủng hộ phòng thủ giúp cho việc quản trị lành mạnh và dân chủ phát triển

Một khung cảnh để suy nghĩ về hậu quả toàn cầu của công nghệ là nhìn vào sự cân bằng giữa phòng thủ và tấn công. Một số công nghệ làm cho việc tấn công người khác dễ dàng hơn, trong ý nghĩa rộng lớn của thuật ngữ: làm những việc mà người khác cảm thấy đối lập với lợi ích của họ, mà họ cảm thấy cần phản ứng. Những công nghệ khác làm cho việc phòng thủ dễ dàng hơn, thậm chí có thể phòng thủ mà không phụ thuộc vào các bên tập trung lớn.

Một thế giới ủng hộ phòng thủ là một thế giới tốt hơn, vì nhiều lý do. Đầu tiên, tất nhiên là lợi ích trực tiếp về an toàn: ít người chết hơn, ít giá trị kinh tế bị phá hủy hơn, ít thời gian bị lãng phí vào xung đột. Tuy nhiên, điều ít được đánh giá cao hơn là một thế giới ủng hộ phòng thủ làm cho các hình thức quản trị khỏe mạnh, mở cửa và tôn trọng tự do hơn có thể phát triển dễ dàng hơn.

Một ví dụ rõ ràng về điều này là Thụy Sĩ. Thụy Sĩ thường được coi là điều gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần như gần nhưquyết định bởi cuộc trưng cầu dân ý, và nhiều người dân địa phương không biết thậm chí tổng thống là aiLàm thế nào một quốc gia như vậy có thể tồn tại rất thách thứcchính trịáp lực? Phần của cái gì đó trả lờilàchiến lược chính trị xuất sắc, nhưng phần lớn còn lại là địa lý rất thiên về phòng thủ) dưới dạng địa hình núi của nó.

Cờ là một lợi thế lớn. Nhưng cũng như những ngọn núi.

Các xã hội vô chính phủ ở Zomia, nổi tiếng được miêu tả trong cuốn sách mới của James C Scott “Nghệ thuật không bị chiếm hữu”, là một ví dụ khác: họ cũng duy trì sự tự do và độc lập của mình chủ yếu nhờ vào địa hình núi. Trong khi đó, thảo nguyên châu Âu là đối lập hoàn toàn với một xã hội lý tưởng về quản trị. Sự phơi bày của Sarah Paine về các quốc gia thủy lực so với các quốc gia lục địađề cập đến những điểm tương tự, tuy nhiên tập trung vào nước như một rào cản phòng thủ thay vì núi. Trong thực tế, sự kết hợp giữa việc giao thương tự nguyện dễ dàng và khó khăn của xâm lược bất đắc dĩ, phổ biến ở cả Thụy Sĩ và các quốc đảo, dường như lý tưởng cho sự thịnh vượng của con người.

Tôi phát hiện ra một hiện tượng liên quan khi tư vấn thử nghiệm tài trợ bậc hai trong hệ sinh thái Ethereum: cụ thể là Vòng quỹ tài trợ Gitcoin Grants. Trong vòng 4, một vụ bê bối nhỏ đã nổi lên khi một số người nhận thu nhập cao nhất là những người ảnh hưởng trên Twitter, đóng góp của họ được một số người coi là tích cực và một số khác coi là tiêu cực. Phỏng đoán của riêng tôi về hiện tượng này là có sự mất cân đối: quadratic fundingcho phép bạn bày tỏ rằng bạn nghĩ rằng một điều gì đó là một đặc quyền công, nhưng không cung cấp cách nào để bày tỏ rằng một điều gì đó là một điều xấu cho cộng đồng. Ở mức cực đoan, một hệ thống tài trợ bậc hai hoàn toàn trung lập sẽ tài trợ cả hai bên của một cuộc chiến. Và vì vậy cho vòng 5, Tôi đề xuất rằng Gitcoin nên bao gồm các đóng góp tiêu cực: bạn trả $1 để giảm số tiền mà một dự án cụ thể nhận được (và phân phối ngầm nó cho tất cả các dự án khác). Kết quả: nhiềucủangườighê tởmnó.

Một trong những meme internet nhiều khi xuất hiện sau vòng 5.

Điều này dường như là một bản sao thu nhỏ của một mô hình lớn hơn: tạo ra cơ chế quản trị phi tập trung để giải quyết các tác động bên ngoài tiêu cực là một vấn đề xã hội rất khó khăn. Có lý do tại sao ví dụ điển hình về quản trị phi tập trung không thành công là tư pháp bằng đám đông. Có something about human psychologyđiều này khiến việc đáp ứng các phản ứng tiêu cực trở nên khó khăn hơn nhiều, và có khả năng xảy ra sai lầm nhiều hơn so với việc đáp ứng các phản ứng tích cực. Và đây là lý do tại sao ngay cả trong các tổ chức với mức độ dân chủ cao, quyết định về cách đáp ứng các phản ứng tiêu cực thường được để lại cho một hội đồng tập trung.

Trong nhiều trường hợp, điều này là một trong những lý do sâu xa tại sao khái niệm “tự do” lại quý giá như vậy. Nếu ai đó nói điều gì đó làm bạn bị xúc phạm, hoặc có lối sống mà bạn coi là kinh tởm, cảm giác đau khổ và sự kinh tởm mà bạn cảm thấy là thật, và bạn thậm chí có thể thấy nó không tệ bằng việc bị đấm mạnh về mặt thể chất. Nhưng việc thử đồng thuận vào việc xác định những hành vi xúc phạm và kinh tởm nào có thể được xử lý từ mặt xã hội có thể mang lại nhiều chi phí và nguy hiểm hơn là tự nhắc nhở bản thân rằng một số loại kỳ quặc và những kẻ tồi tệ là giá mà chúng ta phải trả để sống trong một xã hội tự do.

Vào những lúc khác, cách tiếp cận "mỉm cười và chịu đựng" là không thực tế. Và trong những trường hợp như vậy, một câu trả lời khác đôi khi đáng xem xét là công nghệ phòng thủ. Càng mạnh mẽ mà internet được bảo mật, chúng ta càng không cần vi phạm quyền riêng tư của mọi người và sử dụng các chiến thuật ngoại giao quốc tế không minh bạch để truy đuổi từng hacker cá nhân. Càng nhiều mà chúng ta có thể xây dựng công cụ cá nhân hóa để chặn người trên Twitter, công cụ trình duyệt để phát hiện lừa đảovàcông cụ tập thể để phân biệt thông tin sai lệchvàsự thật, càng ít chúng ta phải tranh cãi về việc kiểm duyệt. Càng nhanh chúng ta có thể sản xuất vaccine, càng ít chúng ta phải truy đuổi những người là nguồn lây lan. Những giải pháp như vậy không hoạt động trong tất cả các lĩnh vực - chúng ta chắc chắn không muốn một thế giới mà ai cũng phải mặc áo giáp đúng nghĩa - nhưng trong những lĩnh vực mà chúng ta có thể xây dựng công nghệ để làm cho thế giới ủng hộ phòng thủ hơn, có một giá trị khổng lồ trong việc làm như vậy.

Ý tưởng cốt lõi này, rằng một số công nghệ ưa thích phòng thủ và đáng được khuyến khích, trong khi các công nghệ khác ưa thích tấn công và nên bị khuyến khích, có nguồn gốc từ văn học người làm thiện lương hiệu quả dưới một tên khác: phát triển công nghệ chênh lệch. Có một sự phổ biến nguyên lý này từ các nhà nghiên cứu Đại học Oxford từ năm 2022:

Hình 1: Các cơ chế mà phát triển công nghệ khác biệt có thể giảm thiểu các tác động tiêu cực đối với xã hội.

Không thể tránh khỏi việc phân loại các công nghệ thành công kỹ thuật tấn công, phòng thủ hoặc trung lập. Tương tự như với “tự do”, nơi mà người ta có thể tranh luận liệu chính sách chính phủ dân chủ xã hội có làm giảm tự do bằng cách thuế nặng và ép buộc nhà tuyển dụng hay tăng tự do bằng cách giảm cần phải lo lắng về nhiều loại rủi ro, với “phòng thủ” cũng có một số công nghệ có thể nằm ở cả hai phía của quy mô. Vũ khí hạt nhân ưa thích tấn công, nhưng năng lượng hạt nhân ủng hộ thịnh vượng con ngườivà tấn công-phòng thủ-trung lập. Các công nghệ khác nhau có thể đóng vai trò khác nhau tại các khoảng thời gian khác nhau. Nhưng giống như với “tự do” (hoặc “bình đẳng”, hoặc “pháp luật”), sự mơ hồ ở các ranh giới không phải là một lý lẽ chống lại nguyên tắc, mà là một cơ hội để hiểu rõ hơn về sắc thái của nó.

Bây giờ, hãy xem cách áp dụng nguyên lý này vào một bức tranh thế giới toàn diện hơn. Chúng ta có thể nghĩ về công nghệ phòng thủ, như công nghệ khác, như một cách chia thành hai lĩnh vực: thế giới của nguyên tử và thế giới của bit. Thế giới của nguyên tử, có thể chia thành siêu (tức là sinh học, sau này là công nghệ nano) và vi mô (tức là những gì chúng ta thường nghĩ đến là “phòng thủ”, nhưng cũng là cơ sở hạ tầng vật lý chống chịu). Thế giới của bit tôi sẽ chia trên một trục khác: việc đồng ý, về nguyên tắc, kẻ tấn công là ai khó hay dễ?. Đôi khi nó dễ dàng; tôi gọi đó là phòng thủ mạng. Đôi khi nó khó hơn; tôi gọi là phòng thủ thông tin.

Macro physical defense

Công nghệ phòng thủ được đánh giá thấp nhất trong lĩnh vực macro thậm chí còn không phải là các vòm sắt (bao gồm Hệ thống mới của Ukraine) và các phần cứng quân sự chống công nghệ và chống tên lửa khác, mà thay vào đó là cơ sở hạ tầng vật lý mạnh mẽ. Đa số số người chết trong một cuộc chiến hạt nhân có khả năng đến từrối loạn chuỗi cung ứng, thay vì tia bức xạ ban đầu và vụ nổ, và các giải pháp internet ít cơ sở hạ tầng như Starlink đã rất quan trọng trongduy trì sự kết nối của Ukrainetrong một năm và nửa qua.

Xây dựng các công cụ để giúp mọi người sống sót và thậm chí sống một cách thoải mái độc lập hoặc bán độc lập với chuỗi cung ứng quốc tế dài hạn dường như là một công nghệ phòng thủ có giá trị, và có rủi ro thấp khi biến thành hữu ích cho mục đích tấn công.

The quest to làm cho nhân loại trở thành một nền văn minh đa hành tinhcũng có thể được xem từ quan điểm d/acc: ít nhất một vài người sống tự chủ trên các hành tinh khác có thể tăng sự kiên cường của chúng ta đối với điều gì đó kinh khủng xảy ra trên Trái Đất. Ngay cả khi tầm nhìn đầy đủ chứng minh không khả thi trong thời điểm hiện tại, các hình thức sống tự chủ mà sẽ cần phát triển để làm cho dự án như vậy có thể cũng được sử dụng để cải thiện sự kiên cường của chúng ta đối với nền văn minh trên Trái Đất.

Micro physical defense (aka bio)

Đặc biệt do Gate.iotác động sức khỏe dài hạn, Covid tiếp tục là một quan tâm. Nhưng Covid chưa phải là đại dịch cuối cùng mà chúng ta sẽ phải đối mặt; có nhiều khía cạnh của thế giới hiện đại khiến việc xảy ra thêm đại dịch là rất có thể sắp tới:

• Mật độ dân số cao làm cho vi rút lây nhiễm qua không khí và các mầm bệnh khác dễ dàng lan truyền hơn. Các dịch bệnh dịch tễ là khá mới mẻ trong lịch sử loài người và hầu hết bắt đầu từ quá trình đô thị hóa chỉ cách đây vài nghìn năm. Sự đô thị hóa nhanh chóng đang diễn ranghĩa là mật độ dân số sẽ tăng cao hơn trong nửa thế kỷ tới.
• Du lịch hàng không gia tăng có nghĩa là mầm bệnh trong không khí lây lan rất nhanh trên toàn thế giới. Mọi người nhanh chóng trở nên giàu có hơn có nghĩa là du lịch hàng không có thể sẽ tăng nhiều hơn nữatrong nửa thế kỷ tiếp theo; mô hình phức tạp cho thấy rằng thậm chí cả sự tăng nhỏcó thể có tác động mạnh mẽ. Biến đổi khí hậu có thể làm tăng nguy cơ này thậm chí còn cao hơn.
• Việc thuần hóa động vật và nuôi trồng công nghiệp là các yếu tố nguy cơ lớn.Sởi Có lẽ đã tiến hóa từ một loại virus bò cách đây chưa đầy 3000 năm. Các trang trại công nghiệp ngày nay cũng đang nuôi các chủng cúm mới (cũng như đang thúc đẩy sự kháng kháng sinh, với hậu quả cho miễn dịch bẩm sinh của con người).
• Kỹ thuật sinh học hiện đại giúp dễ dàng tạo ra các mầm bệnh mới và độc hại hơn. Covid có thể đã hoặc chưa rò rỉ từ một phòng thí nghiệm thực hiện nghiên cứu "đạt được chức năng" có chủ ý. Bất chấp rò rỉ phòng thí nghiệm xảy ra thường xuyênvà các công cụ đang được cải thiện nhanh chóng để giúp dễ dàng cố ý tạo ra các loại virus cực kỳ nguy hiểm, hoặc thậm chí prions (protein zombie). Artificial plagues are particularly concerning in part because không giống như vậy hạt nhân, chúng không thể quy kết: bạn có thể phát tán vi-rút mà không ai có thể biết ai đã tạo ra nó. Có thể ngay bây giờ để thiết kế một trình tự di truyền và gửi nó đến một phòng thí nghiệm ẩm ướtđể tổng hợp, và gửi nó cho bạn trong vòng năm ngày.

Đây là một khu vực nơi CryptoReliefvàBalvi, hai tổ chức đã được thành lập và tài trợ do một sự cố lớnđợt tiền lộc của đồng tiền Shiba Inutrong năm 2021, đã rất tích cực. CryptoRelief ban đầu tập trung vào việc đáp ứng khẩn cấp và gần đây đã xây dựng một hệ sinh thái nghiên cứu y tế dài hạn tại Ấn Độ, trong khi Balvi tập trung vào các dự án moonshot để cải thiện khả năng phát hiện, ngăn ngừa và điều trị Covid và các bệnh lây nhiễm khác. ++Balvi đã nhấn mạnh rằng các dự án mà nó tài trợ phải là mã nguồn mở++. Lấy cảm hứng từphong trào kỹ thuật nước thế kỷ 19 đã đánh bại bệnh tảvà các tác nhân gây bệnh lây nước khác, đã tài trợ các dự án trên toàn bộ phạm vi của các công nghệ có thể làm cho thế giới cứng hơn đối với các tác nhân gây bệnh lây qua không khí mặc định (xem: cập nhật 1vàcập nhật 2), bao gồm:

• Far-UVCsự bức xạNghiên cứu & Phát triển
• Lọc không khí và giám sát chất lượng không khí trong Ấn Độ, Sri Lanka, Hoa Kỳvà ở những nơi khác, và theo dõi chất lượng không khí
• Thiết bị để rẻ và hiệu quảkiểm tra chất lượng không khí phi tập trung
• Nghiên cứu về nguyên nhân gây ra hậu quả kéo dài của Covid và các phương pháp điều trị tiềm năng (nguyên nhân chính có thể là đơn giảnnhưngclarifying mechanismsvà việc tìm kiếm điều trị khó khăn hơn)
• Vaccines (eg. RaDVaC, PopVax) và nghiên cứu về thương tổn do vắc xin
• Một bộ công cụ y tế không xâm lấn hoàn toàn mới lạ
• Phát hiện sớm dịch bệnh bằng cách phân tích dữ liệu mã nguồn mở (ví dụ như EPIWATCH)
• Kiểm tra, bao gồm các bài kiểm tra phân tử nhanh rẻ tiền
• Mặt nạ phù hợp với an toàn sinh học khi các phương pháp khác thất bại

Các lĩnh vực triển vọng khác bao gồm giám sát nước thải của các tác nhân gây bệnh, cải thiện việc lọc và thông gió trong các tòa nhà, và hiểu biết tốt hơn và giảm thiểu nguy cơ từ chất lượng không khí kém.

Có một cơ hội để xây dựng một thế giớiđược củng cố nhiều hơn đối với đại dịch lây nhiễm qua không khí, cả tự nhiên và nhân tạo, mặc định. Thế giới này sẽ có một đường ống được tối ưu hóa cao, nơi chúng ta có thể chuyển từ việc bắt đầu dịch bệnh, đến việc phát hiện tự động, đến việc mọi người trên thế giới có quyền truy cập vào mục tiêu,vắc xin mã nguồn mở có thể sản xuất và xác minh địa phương hoặc các biện pháp phòng tránh khác, được quản lý thông quaphun thuốchoặcnước xịt mũi(có nghĩa: tự tự quản lý nếu cần và không cần kim châm), tất cả trong vòng một tháng. Trong khi đó, chất lượng không khí tốt hơn sẽ giảm đáng kể tỷ lệ lây lan và ngăn chặn nhiều đại dịch khỏi bắt đầu.

Hãy tưởng tượng một tương lai mà không cần phải dùng đến búa rìu của áp đặt xã hội - không có sự bắt buộc và tệ hại hơn, và không có rủi ro của các ràng buộc thiết kế và triển khai một cách tệ hại làm cho mọi thứ trở nên tồi tệ hơn có lẽ - vì cơ sở hạ tầng y tế công cộng được dệt vào cấu trúc của nền văn minh. Những thế giới này là có thể, và một lượng vừa phải đầu tư vào phòng thủ sinh học có thể biến điều đó thành sự thật. Công việc sẽ diễn ra một cách trôi chảy hơn nếu các phát triển là mã nguồn mở, miễn phí cho người dùng và được bảo vệ như hàng hóa công cộng.

Bảo vệ mạng, chuỗi khối và mật mã

Được hiểu rộng rãi trong số các chuyên gia an ninh rằng trạng thái hiện tại của an ninh máy tính khá tệ. Tuy nhiên, rất dễ coi thường mức độ tiến triển đã đạt được. Có hàng trăm tỷ đô la tiền điện tử có sẵn để đánh cắp một cách nặc danh bởi bất kỳ ai có thể hack vào ví người dùng, và trong khi nhiều hơn bị mất hoặc bị đánh cắpthì tôi muốn, thực tế là hầu hết nó vẫn chưa bị đánh cắp trong hơn một thập kỷ. Gần đây, đã có những cải tiến:

• Các chip phần cứng tin cậy bên trong điện thoại của người dùng, tạo ra một hệ điều hành bảo mật nhỏ hơn nhiều bên trong điện thoại có thể được bảo vệ ngay cả khi phần còn lại của điện thoại bị hack. Trong số nhiều trường hợp sử dụng khác, các chip này ngày càng được khám phá như một cách để làm ví tiền điện tử an toàn hơn.
• Trình duyệt như hệ điều hành de-facto. Trong mười năm qua, đã có một sự chuyển đổi yên lặng từ các ứng dụng có thể tải xuống sang các ứng dụng trên trình duyệt. Điều này đa phần được kích hoạt bởi WebAssembly (WASM). Ngay cả Adobe Photoshop, được đề cập lâu nay là một lý do chính tại sao nhiều người không thể sử dụng Linux một cách thực tế vì cần thiết và không tương thích với Linux, giờ đây đã thân thiện với Linux nhờ việc nằm trong trình duyệt. Điều này cũng là một lợi ích lớn về bảo mật: trong khi trình duyệt thực sự có nhược điểm, nói chung, chúng đi kèm với nhiều hơn sandboxing hơn các ứng dụng đã cài đặt: ứng dụng không thể truy cập vào các tệp tùy ý trên máy tính của bạn.
• Hệ điều hành đã được bảo vệ chặt chẽ. GrapheneOSđã tồn tại cho điện thoại di động, và rất dễ sử dụng.QubesOSđã tồn tại cho máy tính để bàn; hiện tại đang ít hữu ích hơn so với Graphene, ít nhất là trong trải nghiệm của tôi, nhưng đang được cải thiện.
• Attempts at moving beyond passwords. Passwords are, unfortunately, difficult to secure both because they are hard to remember, and because họ dễ bị nghe trộmGần đây, đã có một phong trào ngày càng gia tăng về việc giảm sự nhấn mạnh vào mật khẩu, và thực hiện xác thực dựa trên phần cứng đa yếu tốthực sự hoạt động.

Tuy nhiên, sự thiếu hụt về phòng thủ mạng trong các lĩnh vực khác cũng đã dẫn đến những thất bại lớn. Nhu cầu bảo vệ chống lại thư rác đã khiến cho email trở thành rất ôligopolistic trong thực tế, làm cho việc tự tổ chức hoặc tạo ra một nhà cung cấp dịch vụ email mới trở nên rất khó khăn. Nhiều ứng dụng trực tuyến, bao gồm Twitter, yêu cầu người dùng phải đăng nhập để truy cập nội dung và chặn địa chỉ IP từ các mạng VPN, làm cho việc truy cập internet trở nên khó khăn một cách bảo vệ quyền riêng tư. Tính trung tâm hóa phần mềm cũng rủi ro vì “sự phụ thuộc vũ trang”: xu hướng của công nghệ hiện đại là thông qua các điểm kiểm soát tập trung, và các nhà điều hành của những điểm kiểm soát đó sử dụng quyền lực đó để thu thập thông tin, thao tác kết quả hoặc loại trừ các nhà diễn viên cụ thể - một chiến lược có vẻ đang được áp dụng ngay bây giờđối đầu với ngành công nghiệp blockchain chính nó.

Đây là những xu hướng đáng lo ngại, vì điều này đe dọa điều mà lịch sử đã từng là một trong những hy vọng lớn của tôi về tương lai của sự tự do và quyền riêng tư, mặc dù có những sự đánh đổi sâu, nhưng vẫn có thể sáng sủa. Trong cuốn sách của ông“Tương lai không hoàn hảo”, David Friedman dự đoán rằng chúng ta có thể sẽ có một tương lai làm một sự thỏa hiệp: thế giới gặp mặt sẽ được giám sát nhiều hơn, nhưng thông qua mật mã, thế giới trực tuyến sẽ giữ và thậm chí cải thiện quyền riêng tư của mình. Thật không may, như chúng ta đã thấy, một xu hướng đối lập như vậy không hề được đảm bảo.

Đây là nơi tôi đặt sự nhấn mạnh riêng của mình vào các công nghệ mật mã như chuỗi khối và chứng minh không mất thông tinđến. Các chuỗi khối cho phép chúng ta tạo ra cấu trúc kinh tế và xã hội với một “ổ cứng chung” mà không cần phải phụ thuộc vào các bên tập trung. Tiền điện tử cho phép cá nhân tiết kiệm tiền và thực hiện giao dịch tài chính, như họ có thể trước đây trên internet với tiền mặt, mà không cần phụ thuộc vào bên thứ ba đáng tin cậy có thể thay đổi quy tắc của họ một cách tự ý. Chúng cũng có thể phục vụ như một cơ chế chống lại số lượng người dùng giả mạo dự phòng, Làm cho các cuộc tấn công và thư rác trở nên đắt đỏngay cả đối với người dùng không có hoặc không muốn tiết lộ danh tính của họ trong không gian thịt. Trừu tượng tài khoản, và đặc biệt,ví phục hồi xã hội, có thể bảo vệ tài sản tiền điện tử của chúng tôi, và có thể là các tài sản khác trong tương lai, mà không phụ thuộc quá nhiều vào các bên trung gian tập trung.

Chứng minh không có kiến thức có thể được sử dụng về quyền riêng tư, cho phép người dùng chứng minh điều gì đó về bản thân mình mà không tiết lộ thông tin riêng tư. Ví dụ, gói một chữ ký hộ chiếu sốtrong một ZK-SNARK để chứng minh rằng bạn là một công dân duy nhất của một quốc gia cụ thể, mà không tiết lộ bạn là công dân nào. Công nghệ như vậy có thể giúp chúng ta duy trì các lợi ích của quyền riêng tư và ẩn danh - những đặc tính mà đa phần đồng ý làcần thiết cho các ứng dụng như việc bỏ phiếu- trong khi vẫn đảm bảo an ninh và chống lại rác thư và những người tham gia xấu.

Một thiết kế đề xuất cho một hệ thống mạng xã hội ZK, nơi các hành động kiểm duyệt có thể xảy ra và người dùng có thể bị phạt, tất cả mà không cần biết danh tính của bất kỳ ai.

Zupass, được ủy thác tại Zuzalutrước đây trong năm nay, là một ví dụ xuất sắc về việc thực hiện điều này. Đây là một ứng dụng, đã được sử dụng bởi hàng trăm người tại Zuzalu và gần đây hơn nữa là hàng nghìn người để đặt vé tại Devconnect, cho phép bạn giữ vé, thẻ thành viên, (không chuyển nhường) các tài sản kỹ thuật số, và các bằng chứng khác, và chứng minh điều gì đó về chúng mà không làm tổn thương sự riêng tư của bạn. Ví dụ, bạn có thể chứng minh rằng bạn là cư dân đăng ký duy nhất của Zuzalu, hoặc là người giữ vé Devconnect, mà không tiết lộ bất kỳ thông tin nào khác về bạn. Những bằng chứng này có thể được hiển thị trực tiếp, qua mã QR, hoặc điện tử, để đăng nhập vào các ứng dụng như Zupoll, hệ thống bỏ phiếu ẩn danh chỉ dành cho cư dân Zuzalu.

Những công nghệ này là một ví dụ xuất sắc về các nguyên tắc d/acc: chúng cho phép người dùng và cộng đồng xác minh tính đáng tin cậy mà không phải hi sinh quyền riêng tư, và bảo vệ sự an toàn của họ mà không phụ thuộc vào các điểm kiểm soát tập trung áp đặt định nghĩa riêng về ai là người tốt và ai là người xấu. Chúng cải thiện tính khả dụng toàn cầu bằng cách tạo ra cách bảo vệ an toàn tốt hơn và công bằng hơn cho người dùng hoặc dịch vụ hơn các kỹ thuật thông thường được sử dụng ngày nay, chẳng hạn như phân biệt đối xử với toàn bộ các quốc gia được coi là không đáng tin cậy. Đây là những nguyên thủy rất mạnh mẽ có thể cần thiết nếu chúng ta muốn bảo tồn tầm nhìn phân tán về an ninh thông tin khi bước vào thế kỷ 21. Việc làm việc trên các công nghệ phòng thủ cho không gian mạng rộng lớn hơn có thể làm cho internet trở nên mở cửa, an toàn và tự do hơn theo những cách quan trọng đi lên.

Info-defense

An ninh mạng, như tôi đã mô tả, liên quan đến những tình huống mà dễ dàng cho mọi người có thể đạt được sự đồng thuận về người tấn công là ai. Nếu ai đó cố gắng hack vào ví của bạn, dễ dàng đồng ý rằng hacker là người xấu. Nếu ai đó cố gắng tấn công DoS vào một trang web, dễ dàng đồng ý rằng họ đang có ý định ác ý và không đạo đức như một người dùng thông thường cố gắng đọc những gì có trên trang web. Còn những tình huống khác nơi mà đường biên mờ nhạt hơn. Đó là những công cụ để cải thiện phòng thủ của chúng ta trong những tình huống này mà tôi gọi là “info-defense”.

Ví dụ, hãy xem xét việc kiểm chứng sự thật (còn được gọi là ngăn chặn "thông tin sai lệch"). Tôi là một người hâm mộ lớn của Ghi Chú Cộng Đồng, which has done a lot to help users identify truths and falsehoods in what other users are tweeting. Cộng đồng Ghi chú sử dụng một thuật toán mới mà không chỉ là ghi chú phổ biến nhất, mà còn là ghi chú được người dùng đa phương tiện ủng hộ nhất.

Ghi chú cộng đồng trong hành động.

Tôi cũng là một người hâm mộ của thị trường dự đoán, có thể giúp xác định sự quan trọng của các sự kiện trong thời gian thực, trước khi bụi ph settling và đồng thuận về hướng nào là hướng nào. Polymarket trên Sam Altmanlà rất hữu ích trong việc cung cấp một bản tóm tắt hữu ích về các hậu quả cuối cùng của những sự phát hiện và đàm phán từng giờ, cung cấp ngữ cảnh cần thiết cho những người chỉ nhìn thấy từng mục tin tức cá nhân và không hiểu ý nghĩa của mỗi tin.

Các thị trường dự đoán thường có nhược điểm. Nhưng những người ảnh hưởng trên Twitter sẵn lòng tự tin diễn đạt suy nghĩ của mình về những gì họ nghĩ sẽ xảy ra trong năm tới thường còn nhiều nhược điểm hơn. Vẫn còn không gian để cải thiện thị trường dự đoán nhiều hơn nữa. Ví dụ, một nhược điểm thực tế lớn của thị trường dự đoán là khối lượng giao dịch thấp trên tất cả trừ những sự kiện nổi bật nhất; một hướng tự nhiên để cố gắng giải quyết vấn đề này sẽ là có các thị trường dự đoán mà được chơi bởi trí tuệ nhân tạo.

Trong không gian blockchain, có một loại phòng vệ thông tin cụ thể mà tôi nghĩ rằng chúng ta cần nhiều hơn. Cụ thể, ví tiền nên chứng tỏ quan điểm và tích cực hơn trong việc giúp người dùng xác định ý nghĩa của những thứ mà họ đang ký, và bảo vệ họ khỏi gian lận và lừa đảo. Đây là một trường hợp trung gian: cái gì là gian lận và cái gì không phải là gian lận ít chủ quan hơn so với quan điểm về các sự kiện xã hội gây tranh cãi, nhưng nó lại chủ quan hơn trong việc phân biệt người dùng hợp pháp với những kẻ tấn công DoS hoặc hacker. Metamask đã có cơ sở dữ liệu về gian lận và tự động chặn người dùng khỏi truy cập các trang web gian lận:

Các ứng dụng như Cháylà một ví dụ về cách tiến xa hơn nhiều. Tuy nhiên, phần mềm bảo mật như thế này không nên là điều cần cài đặt rõ ràng; nó nên là một phần của ví tiền điện tử, hoặc thậm chí là trình duyệt, mặc định.

Do vì tính chất tương đối chủ quan, info-defense mặc định là phòng thủ tập thể hơn cyber-defense: bạn cần kết nối vào một nhóm người lớn và tinh vi nào đó để xác định điều gì có thể đúng hoặc sai, và loại ứng dụng nào là một hình thức lừa đảo ponzi. Có cơ hội cho các nhà phát triển đi xa hơn trong việc phát triển info-defense hiệu quả, và trong việc củng cố các hình thức info-defense hiện có. Một cái gì đó như Ghi chú Cộng đồng có thể được bao gồm trong trình duyệt, và không chỉ bao gồm các nền tảng truyền thông xã hội mà còn cả toàn bộ internet.

Công nghệ xã hội vượt xa khung cảnh “phòng thủ”

Một phần, tôi có thể bị buộc tội một cách có lý khi miêu tả một số công nghệ thông tin này như là về “phòng thủ”. Cuối cùng, phòng thủ là về việc giúp những người hành động với ý định tốt được bảo vệ khỏi những người hành động với ý định xấu (hoặc, trong một số trường hợp, khỏi thiên nhiên). Một số công nghệ xã hội này, tuy nhiên, là về việc giúp những người hành động với ý định tốt hình thành sự đồng thuận.

Một ví dụ tốt về điều này là pol.is, sử dụng một thuật toán tương tự với Ghi chú Cộng đồng (và tồn tại trước Ghi chú Cộng đồng) để giúp cộng đồng xác định những điểm đồng thuận giữa các bộ tộc con mà về cơ bản không đồng ý với nhau về nhiều vấn đề.Viewpoints.xyzđược truyền cảm hứng từ pol.is, và có tinh thần tương tự:

Công nghệ như vậy có thể được sử dụng để tạo điều kiện cho sự quản trị phi tập trung hơn đối với các quyết định gây tranh cãi. Một lần nữa, cộng đồng blockchain là một môi trường thử nghiệm tốt cho điều này, và nơi mà các thuật toán như vậy đã cho thấy giá trị. Nói chung, quyết định về việc cải thiện nào (EIPsCác thay đổi được thực hiện trên giao thức Ethereum bởi một nhóm khá nhỏ trong các cuộc họp được gọi là “)Tất cả các cuộc gọi của Core Devs“. Đối với những quyết định kỹ thuật cao cấp, nơi mà hầu hết các thành viên cộng đồng không có cảm xúc mạnh mẽ, điều này hoạt động khá tốt. Đối với những quyết định quan trọng hơn, ảnh hưởng đến kinh tế giao thức, hoặc những giá trị cơ bản hơn như tính không thay đổi và kháng kiểm duyệt, điều này thường không đủ. Trong thời kỳ 2016-17, khi một loạt các quyết định gây tranh cãi xoay quanh việc triển khai DAO fork, giảm phát hành và (không)mở khóa ví Parity, các công cụ như Carbonvote, cũng như việc bỏ phiếu trên mạng xã hội, đã giúp cộng đồng và các nhà phát triển nhìn thấy ý kiến của đa số cộng đồng đang hướng về đâu.

Carbonvote trên phuộc DAO.

Carbonvotecó nhược điểm của nó: nó phụ thuộc vào việc nắm giữ ETH để xác định ai là thành viên của cộng đồng Ethereum, khiến cho kết quả bị một số chủ sở hữu ETH giàu có chiếm ưu thế ("whales"). Tuy nhiên, với các công cụ hiện đại, chúng ta có thể tạo ra một Carbonvote tốt hơn nhiều, tận dụng nhiều tín hiệu như POAPs, Tem Zupass, Hộ chiếu Gatecoin, Đội ngũ hội viên của Giao thức, cũng như việc nắm giữ ETH (hoặc thậm chí là ETH được đặt cọc đơn lẻ) để đánh giá sự tham gia của cộng đồng.

Công cụ như vậy có thể được sử dụng bởi bất kỳ cộng đồng nào để đưa ra các quyết định chất lượng cao hơn, tìm điểm chung, phối hợp di cư (vật lý hoặc kỹ thuật số) hoặc thực hiện một số công việc khác mà không phụ thuộc vào lãnh đạo tập trung không rõ ràng. Điều này không phải là việc tăng cường phòng thủ mà chính nó, nhưng nó chắc chắn có thể được gọi là tăng cường dân chủ. Các công cụ như vậy thậm chí có thể được sử dụng để cải thiện và làm dân chủ hóa quản trị của các bên hoạt động chính và các tổ chức hoạt động trong lĩnh vực trí tuệ nhân tạo.

Vậy các con đường tiến lên phía trước cho siêu trí tuệ là gì?

Phía trên là tất cả tốt đẹp và có thể làm cho thế giới trở nên hài hòa, an toàn và tự do hơn trong thế kỷ tới. Tuy nhiên, điều này vẫn chưa giải quyết vấn đề lớn nhất: trí tuệ nhân tạo siêu việt.

Con đường mặc định được đề xuất bởi nhiều người lo lắng về trí tuệ nhân tạo về cơ bản dẫn đến một chính phủ thế giới trí tuệ nhân tạo tối thiểu. Các phiên bản gần đây của điều này bao gồm một đề xuất cho một “hội đồng quản trị AGI đa quốc gia” (“MAGIC”). Một liên minh như vậy, nếu thành lập và thành công trong mục tiêu tạo ra trí tuệ nhân tạo siêu thông minh, sẽ có một con đường tự nhiên để trở thành một chính phủ thế giới tối thiểu hiện thực. Trong dài hạn, có những ý tưởng như "hành động quan trọng"lý thuyết: chúng tôi tạo ra một trí tuệ nhân tạo thực hiện một hành động duy nhất một lần để sắp xếp thế giới thành một trò chơi từ đó về sau con người vẫn nắm quyền kiểm soát, nhưng bàn cờ trò chơi lại được thiết kế để ủng hộ phòng thủ hơn và phù hợp hơn cho sự thịnh vượng của con người.

Vấn đề thực tế chính mà tôi nhận thấy cho đến nay là người ta dường như không tin tưởng vào bất kỳ cơ chế quản trị cụ thể nào có quyền xây dựng một thứ như vậy. Sự thật này trở nên rõ ràng khi bạn nhìn vào kết quả của cuộc thăm dò ý kiến trên Twitter gần đây của tôi, hỏi xem mọi người có muốn thấy trí tuệ nhân tạo được độc quyền bởi một thực thể duy nhất với một ưu thế 10 năm, hay trí tuệ nhân tạo bị trì hoãn 10 năm cho mọi người không:

Quy mô của mỗi cuộc thăm dò là nhỏ, nhưng các cuộc thăm dò bù đắp cho nó trong sự đồng nhất của kết quả của họ trên một loạt các nguồn và tùy chọn. Trong chín trong số chín trường hợp, phần lớn mọi người thà thấy AI tiên tiến bị trì hoãn hoàn toàn một thập kỷ hơn là bị độc quyền bởi một nhóm duy nhất, cho dù đó là một tập đoàn, chính phủ hay cơ quan đa quốc gia. Trong bảy trong số chín trường hợp, sự chậm trễ đã thắng ít nhất hai đến một. Đây có vẻ như là một thực tế quan trọng cần hiểu đối với bất kỳ ai theo đuổi quy định AI. Các cách tiếp cận hiện tại đã tập trung vào việc tạo ra các chương trình cấp phép và các yêu cầu quy định, cố gắng hạn chế phát triển AI cho một số lượng nhỏ người hơn, nhưng những điều này đã thấy sự phản đối phổ biến chính xác bởi vì mọi người không muốn thấy bất cứ ai độc quyền một cái gì đó mạnh mẽ như vậy. Ngay cả khi các đề xuất quy định từ trên xuống như vậy làm giảm nguy cơ tuyệt chủng, chúng có nguy cơ làm tăng cơ hội của một số loại khóa vĩnh viễn vào chủ nghĩa toàn trị tập trung. Nghịch lý thay, liệu các thỏa thuận cấm hoàn toàn nghiên cứu AI cực kỳ tiên tiến (có lẽ ngoại trừ AI y sinh), kết hợp với các biện pháp như bắt buộc nguồn mở cho những mô hình không bị cấm như một cách giảm động cơ lợi nhuận trong khi cải thiện hơn nữa sự bình đẳng về quyền truy cập, có thể phổ biến hơn không?

Phương pháp chính được ưa chuộng bởi những người phản đối con đường “hãy tạo một tổ chức toàn cầu để thực hiện trí tuệ nhân tạo và làm cho quản trị của nó thực sự tốt đẹp” làAI đa thần: cố ý cố gắng đảm bảo có nhiều người và công ty phát triển nhiều trí tuệ nhân tạo, để không có ai phát triển mạnh mẽ hơn người khác. Theo lý thuyết, ngay cả khi trí tuệ nhân tạo trở nên siêu thông minh, chúng ta vẫn có thể duy trì sự cân bằng quyền lực.

Triết lý này rất thú vị, nhưng trải nghiệm của tôi khi cố gắng đảm bảo "đa thần" trong hệ sinh thái Ethereum thực sự khiến tôi lo lắng rằng đây là một cân bằng không ổn định theo bản chất. Trong Ethereum, chúng tôi đã cố ý cố gắng đảm bảo sự phân quyền hóa của nhiều phần trong ngăn xếp: đảm bảo rằng không có một mã nguồn duy nhất nào kiểm soát hơn một nửa mạng lưới chứng minh cổ phần, cố gắng chống lại cái,sự áp đảo của các nhóm stake lớn, cải thiện địa lý phân quyền, và như vậy. Về cơ bản, Ethereum thực sự đang cố gắng thực hiện giấc mơ tự do dân chủ cũ về một xã hội dựa trên thị trường sử dụng áp lực xã hội, chứ không phải chính phủ, làm quản lý cạnh tranh. Một phần, điều này đã thành công: Sự ưu thế của khách hàng Prysmđã giảm từ trên 70% xuống dưới 45%. Nhưng điều này không phải là quá trình thị trường tự động: đó là kết quả của ý định của con người và hành động điều độ.

Kinh nghiệm của tôi trong Ethereum được phản ánh bởi những bài học từ thế giới rộng lớn như một whole, nơi mà nhiều thị trường đã được chứng minh là bảo thực tự nhiên. Với trí tuệ siêu việt hoạt động độc lập với con người, tình hình trở nên không ổn định hơn. Cảm ơntự cải thiện đệ quy, trí tuệ nhân tạo mạnh nhất có thể sẽ tiến lên rất nhanh, và khi trí tuệ nhân tạo mạnh mẽ hơn con người, không có lực lượng nào có thể đẩy mọi thứ trở lại cân bằng.

Ngoài ra, ngay cả khi chúng ta có được một thế giới đa thần của các trí tuệ nhân tạo siêu thông minh kết thúc ổn định, chúng ta vẫn phải đối mặt với vấn đề khác: chúng ta có một vũ trụ nơi con người chỉ là thú cưng.

Con đường hạnh phúc: hợp nhất với trí tuệ nhân tạo?

Một lựa chọn khác mà tôi đã nghe về gần đây hơn là tập trung ít hơn vào trí tuệ nhân tạo như một thứ gì đó riêng biệt từ con người, và hơn là tập trung vào các công cụ tăng cường nhận thức của con người thay vì thay thế nó.

Một ví dụ gần đây về một hướng tiếp cận như vậy là các công cụ vẽ AI. Ngày nay, các công cụ nổi bật nhất để tạo ra hình ảnh do AI tạo ra chỉ có một bước mà con người đưa ra ý kiến của mình, sau đó AI hoàn toàn tiếp quản từ đó. Một lựa chọn khác sẽ là tập trung hơn vào phiên bản AI của Photoshop: các công cụ mà nghệ sĩ hoặc AI có thể tạo ra bản nháp sơ bộ của một bức tranh, và sau đó hai bên cùng hợp tác để cải thiện nó với quy trình phản hồi thời gian thực.

Photoshop AI tạo ra, 2023.Nguồn. Tôi đã thử, nó và nó mất thời gian để quen nhưng thực sự hoạt động khá tốt!

Một hướng khác trong tinh thần tương tự là Kiến trúc Cơ quan Mở, trong đó đề xuất tách các phần khác nhau của "tâm trí" AI (ví dụ: lập kế hoạch, thực hiện kế hoạch, diễn giải thông tin từ thế giới bên ngoài) thành các thành phần riêng biệt và giới thiệu phản hồi đa dạng của con người ở giữa các phần này.

Đến nay, điều này nghe có vẻ tầm thường, và hầu hết mọi người đều đồng tình rằng sẽ tốt nếu có được điều đó. Công việc của nhà kinh tế Daron Acemoglu hoàn toàn không phải dạng báo cáo tương lai về trí tuệ nhân tạo như vậy, nhưng cuốn sách mới của ôngQuyền lực và Tiến bộgợi ý muốn thấy nhiều hơn các loại trí tuệ nhân tạo này.

Nhưng nếu chúng ta muốn mở rộng ý tưởng về sự hợp tác giữa con người và trí tuệ nhân tạo hơn nữa, chúng ta sẽ đến với những kết luận cực kỳ triệt hạ. Trừ khi chúng ta tạo ra một chính phủ thế giới mạnh mẽ đủ để phát hiện và ngăn chặn mọi nhóm nhỏ người hack trên các GPU cá nhân với laptop, ai đó sẽ tạo ra một trí tuệ nhân tạo siêu việt cuối cùng - một người có thể suy nghĩ một cách...nghìn lần nhanh hơnthì chúng ta có thể - và không có sự kết hợp nào của con người sử dụng công cụ bằng tay của họ có thể đứng vững trước điều đó. Và vì vậy, chúng ta cần phải đưa ý tưởng về sự hợp tác giữa con người và máy tính sâu hơn và xa hơn.

Bước tự nhiên đầu tiên là giao diện não-máy tính. Giao diện não-máy tính có thể cho phép con người truy cập trực tiếp hơn vào các hình thức tính toán và nhận thức ngày càng mạnh mẽ hơn, giảm vòng lặp giao tiếp hai chiều giữa con người và máy móc từ vài giây xuống còn mili giây. Điều này cũng sẽ làm giảm đáng kể chi phí "nỗ lực tinh thần" để có được một máy tính để giúp bạn thu thập dữ kiện, đưa ra đề xuất hoặc thực hiện một kế hoạch.

Các giai đoạn sau của một con đường phát triển như vậy thừa nhận là trở nên kỳ lạ. Ngoài các giao diện não-máy tính, còn có các con đường khác nhau để cải thiện trực tiếp não của chúng ta thông qua các đổi mới trong lĩnh vực sinh học. Một bước tiến cuối cùng, kết hợp cả hai con đường, có thể liên quan đếntải lên tâm trí của chúng tôichạy trực tiếp trên máy tính. Điều này cũng sẽ là phương án cuối cùng để bảo vệ an ninh vật lý: bảo vệ bản thân khỏi tổn thương sẽ không còn là một vấn đề khó khăn của việc bảo vệ cơ thể con người dễ bị tổn thương, mà thay vào đó là một vấn đề đơn giản hơn nhiều của việc sao lưu dữ liệu.

Hướng dẫn như thế này đôi khi gây lo ngại, một phần vì chúng không thể đảo ngược, và một phần vì chúng có thể tạo điều kiện thuận lợi hơn cho những người mạnh hơn chúng ta. Giao diện não-máy tính đặc biệt có nguy hiểm - sau tất cả, chúng ta đang nói về việc đọc và viết vào tâm trí con người. Những lo ngại này chính là lý do tại sao tôi nghĩ rằng việc dẫn đầu trong con đường này nên thuộc về một phong trào mã nguồn mở tập trung vào an ninh, thay vì các tập đoàn đóng và tư nhân vốn rủi ro. Ngoài ra, tất cả những vấn đề này càng trở nên tồi tệ hơn với trí tuệ nhân tạo siêu việt vận hành độc lập khỏi con người, so với những bổ sung liên quan chặt chẽ đến con người. Sự chia rẽ giữa “tăng cường” và “không tăng cường” đã tồn tại ngay hôm nay do hạn chế về ai có thể và không thể sử dụng ChatGPT.

Nếu chúng ta muốn một tương lai vừa siêu thông minh vừa “nhân văn”, nơi mà con người không chỉ là thú cưng, mà thực sự giữ lại quyền lực có ý nghĩa trên thế giới, thì cảm giác như có vẻ điều này là lựa chọn tự nhiên nhất. Cũng có những lý lẽ tốt vì sao đây có thể là một con đường cân chỉnh trí tuệ nhân tạo an toàn hơn: bằng cách liên quan phản hồi của con người ở mỗi bước quyết định, chúng ta giảm thiểu động cơ để chuyển giao trách nhiệm lập kế hoạch cấp cao cho trí tuệ nhân tạo chính nó, và do đó giảm thiểu cơ hội mà trí tuệ nhân tạo làm một cái gì đó hoàn toàn không cân chỉnh với giá trị của nhân loại mà không cần sự can thiệp của con người.

Một lập luận khác ủng hộ hướng này là nó có thể dễ chịu hơn về mặt xã hội hơn là chỉ đơn giản là hét lên "tạm dừng AI“ mà không có một thông điệp bổ sung cung cấp một con đường thay thế. Điều này sẽ đòi hỏi một sự chuyển đổi triết học từ tâm lý hiện tại rằng những tiến bộ công nghệ động chạm vào con người là nguy hiểm nhưng những tiến bộ mà tách rời khỏi con người mặc định là an toàn. Nhưng nó mang lại lợi ích đối kháng lớn: nó cung cấp cho các nhà phát triển một điều gì đó để làm. Ngày nay, thông điệp chính của phong trào an toàn trí tuệ nhân tạo đối với các nhà phát triển trí tuệ nhân tạo dường như là “Bạn chỉ nên dừng lại“. Một người có thể làm việc trên nghiên cứu sắp xếp, nhưng hôm nay điều này thiếu động lực kinh tế. So với điều này, thông điệp chung của 'bạn đã là một anh hùng ngay từ khi bạn có' đương nhiên rất hấp dẫn. Một thông điệp khác, một thông điệp nói rằng 'bạn nên xây dựng và xây dựng những điều mang lại lợi nhuận, nhưng phải chọn lọc và có mục đích hơn để đảm bảo rằng bạn đang xây dựng những điều giúp bạn và loài người phát triển', có thể là người chiến thắng.

D/acc có tương thích với triết lý hiện tại của bạn không?

• Nếu bạn là một e/acc, thì d/acc là một phân loài của e/acc - chỉ là một phân loại chọn lọc và có ý định hơn nhiều.
• Nếu bạn làhiệu quả nhân đạo, sau đó d/acc là một việc đổi tên của ý tưởng hiến tặng hiệu quảphát triển công nghệ chênh lệch, tuy nhiên với sự nhấn mạnh hơn vào các giá trị tự do và dân chủ.
• Nếu bạn là một người theo chủ nghĩa tự do, thì d / acc là một nhánh phụ của chủ nghĩa tự do công nghệ, mặc dù là một loài thực dụng hơn, chỉ trích nhiều hơn về "cỗ máy vốn công nghệ" và sẵn sàng chấp nhận sự can thiệp của chính phủ ngày hôm nay (ít nhất, nếu các can thiệp văn hóa không hiệu quả) để ngăn chặn tình trạng không tự do tồi tệ hơn nhiều vào ngày mai.
• Nếu bạn là một Pluralist, trong ý nghĩa của thuật ngữ Glen Weyl, sau đó d/acc là một khung có thể dễ dàng bao gồm sự nhấn mạnh vào công nghệ phối hợp dân chủ tốt hơn mà Giá trị Đa dạng hóa.
• Nếu bạn là một nhà hoạt động về sức khỏe cộng đồng, thì các ý tưởng về công nghệ có thể là nguồn cảm hứng cho một tầm nhìn dài hạn rộng lớn hơn, và cơ hội để tìm thấy điểm chung với những 'người công nghệ' mà bạn có thể cảm thấy trái ngược khác.
• Nếu bạn là một người ủng hộ công nghệ blockchain, thì d/acc là một câu chuyện hiện đại và rộng lớn hơn để đón nhận, so với việc tập trung vào lạm phát siêu cấp và ngân hàng từ 15 năm trước, điều này đưa blockchain vào bối cảnh là một trong nhiều công cụ trong chiến lược cụ thể để xây dựng một tương lai tươi sáng hơn.
• Nếu bạn là một solarpunk, sau đó d / acc là một loài phụ của solarpunk, và tích hợp một sự nhấn mạnh tương tự về tính chủ ý và hành động tập thể.
• Nếu bạn là lunarpunk, sau đó bạn sẽ đánh giá cao sự nhấn mạnh về phòng thủ thông tin, thông qua việc duy trì sự riêng tư và tự do.

Chúng tôi là ngôi sao sáng nhất

Tôi yêu công nghệ vì công nghệ mở rộng tiềm năng con người. Mười nghìn năm trước, chúng ta chỉ có thể chế tạo một số dụng cụ cầm tay, thay đổi loại cây trồng trên một miếng đất nhỏ, và xây dựng các căn nhà cơ bản. Hôm nay, chúng ta có thể xây dựng Những tòa tháp cao 800 mét, lưu trữ toàn bộ kiến thức con người đã ghi lại trong một thiết bị mà chúng ta có thể cầm trên tay, giao tiếp ngay lập tức trên toàn cầu, kéo dài tuổi thọ gấp đôi và sống cuộc sống hạnh phúc và đầy đủ mà không sợ người bạn thân nhất của chúng ta thường xuyên chết vì bệnh tật.

Chúng tôi đã bắt đầu từ dưới, giờ đây chúng tôi ở đây.

Tôi tin rằng những điều này là tốt đẹp, và việc mở rộng tầm với của loài người đến thêm cả các hành tinh và ngôi sao là điều tốt đẹp, bởi vì tôi tin rằng loài người là tốt đẹp. Điều này đang trở thành mốt trong một số vòng tròn khiến người ta hoài nghi về điều này: Phong trào tuyệt chủng tự nguyện của con người lập luận rằng Trái đất sẽ tốt hơn nếu không có con người tồn tại, và nhiều người khác muốn nhìn thấy số lượng con người nhỏ hơn nhiềuthấy ánh sáng của thế giới này trong những thế kỷ sắp tới. Điều này là phổ biếntranh luậnđóCon người là xấubởi vì chúng ta lừa đảo và trộm cắp, tham gia vào chủ nghĩa thực dân và chiến tranh, và ngược đãi và tiêu diệt các loài khác. Câu trả lời của tôi đối với cách suy nghĩ này là một câu hỏi đơn giản: so với cái gì?

Đúng, con người thường hay tàn nhẫn, nhưng chúng ta thường thể hiện lòng tốt và lòng nhân từ, và cùng nhau làm việc vì lợi ích chung của chúng ta. Ngay cả trong chiến tranh, chúng ta thường chú ý bảo vệ dân thường - chắc chắn không đủ, nhưng cũng nhiều hơn nhiều.chúng tôi đã làm cách đây 2000 nămThế kỷ tiếp theo có thể sẽ mang lại thịt không dựa vào động vật phổ biến, loại bỏ thảm họa đạo đức lớn nhấtnhững gì con người có thể bị chỉ trích một cách công bằng vào ngày hôm nay. Động vật không phải như vậy. Không có tình huống nào mèo sẽ chấp nhận một lối sống hoàn toàn từ chối ăn chuột vì lý tưởng đạo đức. Mặt Trời đang ngày càng sáng hơn mỗi năm, và sau khoảngmột tỷ năm, dự kiến điều này sẽ làm cho Trái Đất quá nóng để duy trì sự sống. Liệu Mặt Trời có suy nghĩ về vụ diệt chủng mà nó sắp gây ra không?

Và vì vậy, tôi mạnh mẽ tin rằng, trong tất cả những điều chúng ta đã biết và nhìn thấy trong vũ trụ của chúng ta, chúng ta, con người, là ngôi sao sáng nhất. Chúng ta là điều duy nhất mà chúng ta biết, dù không hoàn hảo, đôi khi cũng cố gắng chân thành để quan tâm đến "tốt", và điều chỉnh hành vi của chúng ta để phục vụ nó tốt hơn. Hai tỷ năm nữa, nếu Trái Đất hoặc bất kỳ phần nào của vũ trụ vẫn giữ được vẻ đẹp của cuộc sống trên Trái Đất, đó sẽ là những sản phẩm của con người như du lịch vũ trụ và kỹ thuật địa lýđiều đó sẽ đã làm cho nó xảy ra.

Chúng ta cần xây dựng và tăng tốc. Nhưng có một câu hỏi rất thực sự cần được đặt ra: điều chúng ta đang tăng tốc đến là gì? Thế kỷ 21 có thể sẽ thế kỷ quan trọngvới loài người, thế kỷ mà số phận của chúng ta cho hàng nghìn năm tới sẽ được quyết định. Liệu chúng ta sẽ rơi vào một trong số các bẫy mà chúng ta không thể thoát ra, hay chúng ta sẽ tìm ra một con đường tiến tới một tương lai nơi chúng ta giữ được tự do và khả năng hành động? Đây là những vấn đề đầy thách thức. Nhưng tôi mong đợi được theo dõi và tham gia vào nỗ lực tập thể lớn lao của loài người để tìm ra câu trả lời.

Miễn trừ trách nhiệm：

1. Bài viết này được tái bản từ [ Vitalik Buterin]. All copyrights belong to the original author [Vitalik Buterin]. Nếu có bất kỳ phản đối nào về việc tái in này, vui lòng liên hệ với Gate Họcđội ngũ, và họ sẽ xử lý nhanh chóng.
2. Bảo mật Trách nhiệm: Các quan điểm và ý kiến được thể hiện trong bài viết này chỉ là của tác giả và không tạo thành bất kỳ lời khuyên đầu tư nào.
3. Bản dịch của bài viết sang các ngôn ngữ khác được thực hiện bởi nhóm Gate Learn. Trừ khi được nêu ra, việc sao chép, phân phối hoặc đạo văn những bài viết đã dịch là không được phép.