VẤN ĐỀ KIỂM SOÁT

Alan Turing và Gordon Moore không bao giờ có thể dự đoán, chứ đừng nói đến việc thay đổi sự trỗi dậy của mạng xã hội, meme, Wikipedia, hay các cuộc tấn công mạng. Nhiều thập kỷ sau khi phát minh của họ, những kiến trúc sư của bom nguyên tử cũng không thể ngăn chặn một cuộc chiến tranh hạt nhân hơn là Henry Ford có thể ngăn chặn một vụ tai nạn ô tô. Thách thức không thể tránh khỏi của công nghệ là những người tạo ra nó nhanh chóng mất kiểm soát đối với con đường mà các phát minh của họ đi sau khi được giới thiệu ra thế giới.

Công nghệ tồn tại trong một hệ thống phức tạp, năng động (thế giới thực), nơi mà các hậu quả bậc hai, bậc ba và bậc n lan tỏa ra một cách không thể đoán trước. Những gì trên giấy tờ trông hoàn hảo có thể hoạt động khác đi trong thực tế, đặc biệt là khi bị sao chép và điều chỉnh thêm ở phía dưới. Tuy nhiên, những gì mọi người thực sự làm với phát minh của bạn, dù có ý định tốt đến đâu, cũng không bao giờ có thể được đảm bảo. Thomas Edison đã phát minh ra máy ghi âm để mọi người có thể ghi lại suy nghĩ của mình cho thế hệ sau và để giúp đỡ người mù. Ông đã kinh hoàng khi hầu hết mọi người chỉ muốn phát nhạc. Alfred Nobel dự định sử dụng thuốc nổ của mình chỉ trong khai thác mỏ và xây dựng đường sắt.

Gutenberg chỉ muốn kiếm tiền từ việc in Kinh Thánh. Tuy nhiên, máy in của ông đã kích thích Cách mạng Khoa học và Cải cách Tôn giáo, và do đó trở thành mối đe dọa lớn nhất đối với Giáo hội Công giáo kể từ khi thành lập. Các nhà sản xuất tủ lạnh không nhằm tạo ra một lỗ thủng trong tầng ozone với chlorofluorocarbons (CFCs), cũng như những người sáng tạo ra động cơ đốt trong và động cơ phản lực không nghĩ đến việc làm tan chảy các tảng băng. Thực tế, những người đam mê ô tô đầu tiên đã lập luận về lợi ích môi trường của chúng: động cơ sẽ loại bỏ những đống phân ngựa trên đường phố, điều này đã lan truyền bụi bẩn và bệnh tật khắp các khu vực đô thị. Họ không có khái niệm về sự nóng lên toàn cầu.

Hiểu biết về công nghệ một phần là cố gắng hiểu những hậu quả không mong muốn của nó, để dự đoán không chỉ những tác động tích cực mà còn cả “hiệu ứng trả thù.” Nói một cách đơn giản, bất kỳ công nghệ nào cũng có khả năng sai lệch, thường theo những cách trực tiếp mâu thuẫn với mục đích ban đầu của nó. Hãy nghĩ đến cách mà thuốc giảm đau theo toa đã tạo ra sự phụ thuộc, hoặc cách mà việc lạm dụng kháng sinh làm cho chúng kém hiệu quả hơn, hoặc cách mà sự gia tăng vệ tinh và mảnh vụn được gọi là “rác không gian” đe dọa đến chuyến bay vũ trụ.

Khi công nghệ phát triển mạnh mẽ, ngày càng nhiều người có thể sử dụng, điều chỉnh và hình thành nó theo cách mà họ muốn, trong những chuỗi nguyên nhân vượt ra ngoài sự hiểu biết của bất kỳ cá nhân nào. Khi sức mạnh của các công cụ của chúng ta tăng trưởng theo cấp số nhân và khi việc tiếp cận chúng nhanh chóng gia tăng, thì những mối nguy hại tiềm tàng cũng vậy, một mê cung các hậu quả đang diễn ra mà không ai có thể dự đoán hoặc ngăn chặn hoàn toàn. Một ngày nào đó, ai đó đang viết các phương trình trên bảng đen hoặc mày mò với một nguyên mẫu trong gara, công việc dường như không liên quan đến thế giới rộng lớn hơn. Chỉ trong vài thập kỷ, nó đã tạo ra những câu hỏi tồn tại cho nhân loại. Khi chúng ta đã xây dựng các hệ thống ngày càng mạnh mẽ, khía cạnh này của công nghệ đã trở nên cấp bách hơn bao giờ hết đối với tôi. Làm thế nào để chúng ta đảm bảo rằng làn sóng công nghệ mới này mang lại nhiều lợi ích hơn là tác hại?

Vấn đề của công nghệ ở đây là một vấn đề kiểm soát. Nếu khía cạnh này không thể bị loại bỏ, nó có thể bị hạn chế. Kiểm soát là khả năng tổng thể để kiểm soát, giới hạn và, nếu cần, đóng cửa các công nghệ ở bất kỳ giai đoạn nào trong quá trình phát triển hoặc triển khai của chúng. Điều này có nghĩa là, trong một số trường hợp, khả năng ngăn chặn một công nghệ không lan rộng ngay từ đầu, kiểm soát những tác động không mong muốn (cả tốt và xấu).

Càng mạnh mẽ một công nghệ, nó càng ăn sâu vào mọi khía cạnh của cuộc sống và xã hội. Do đó, các vấn đề của công nghệ có xu hướng leo thang song song với khả năng của nó, và vì vậy, nhu cầu kiểm soát ngày càng trở nên cấp bách theo thời gian.

Liệu có điều gì trong số này giúp các nhà công nghệ thoát khỏi trách nhiệm không? Không hề; hơn bất kỳ ai khác, chúng ta phải đối mặt với điều đó. Chúng ta có thể không kiểm soát được các điểm kết thúc cuối cùng của công việc hoặc tác động lâu dài của nó, nhưng đó không phải là lý do để từ bỏ trách nhiệm. Các quyết định mà các nhà công nghệ và xã hội đưa ra từ nguồn gốc vẫn có thể định hình kết quả. Chỉ vì các hậu quả khó dự đoán không có nghĩa là chúng ta không nên cố gắng.

Trong hầu hết các trường hợp, việc kiềm chế liên quan đến việc kiểm soát có ý nghĩa, khả năng dừng một trường hợp sử dụng, thay đổi hướng nghiên cứu hoặc từ chối quyền truy cập của các tác nhân có hại. Điều này có nghĩa là bảo tồn khả năng điều hướng các làn sóng để đảm bảo tác động của chúng phản ánh các giá trị của chúng ta, giúp chúng ta phát triển như một loài và không gây ra những tổn hại đáng kể vượt quá lợi ích của chúng.

Chương này cho thấy điều đó thực sự khó khăn và hiếm có đến mức nào.

KIỂM SOÁT LÀ NỀN TẢNG

Đối với nhiều người, từ "kiềm chế" gợi nhớ đến Chiến tranh Lạnh. Nhà ngoại giao Mỹ George F. Kennan lập luận rằng "yếu tố chính của bất kỳ chính sách nào của Hoa Kỳ đối với Liên Xô phải là một sự kiềm chế lâu dài, kiên nhẫn nhưng vững vàng và cảnh giác đối với những xu hướng mở rộng của Nga." Nhìn nhận thế giới như một lĩnh vực đấu tranh không ngừng biến đổi, Kennan cho rằng các quốc gia phương Tây phải giám sát và đối phó với sức mạnh của Liên Xô bất cứ khi nào họ tìm thấy, an toàn kiềm chế mối đe dọa Đỏ và các tentacle ý thức hệ của nó trên tất cả các phương diện.

Mặc dù cách tiếp cận kiềm chế này cung cấp một số bài học hữu ích, nhưng nó không đủ cho mục đích của chúng ta. Công nghệ không phải là một kẻ thù; nó là một thuộc tính cơ bản của xã hội loài người. Việc kiềm chế công nghệ cần phải là một chương trình cơ bản hơn nhiều, một sự cân bằng quyền lực không phải giữa các tác nhân cạnh tranh mà giữa con người và công cụ của chúng ta. Đây là một điều kiện tiên quyết cần thiết cho sự sống sót của loài chúng ta trong thế kỷ tới. Kiềm chế bao gồm quy định, an toàn kỹ thuật tốt hơn, các mô hình quản trị và sở hữu mới, và các phương thức trách nhiệm và minh bạch mới, tất cả đều là những yếu tố cần thiết (nhưng không đủ) để có công nghệ an toàn hơn. Đây là một khóa tổng thể kết hợp kỹ thuật tiên tiến, các giá trị đạo đức và quy định của chính phủ. Kiềm chế không nên được coi là câu trả lời cuối cùng cho tất cả các vấn đề của công nghệ; mà nó là bước đầu tiên, quan trọng, một nền tảng mà tương lai được xây dựng trên đó.

Hãy coi việc kiềm chế như một tập hợp các cơ chế kỹ thuật, văn hóa, pháp lý và chính trị liên kết và củng cố lẫn nhau nhằm duy trì sự kiểm soát của xã hội đối với công nghệ trong thời kỳ thay đổi theo cấp số nhân; một kiến trúc đủ khả năng để kiềm chế những gì trước đây có thể mất hàng thế kỷ hoặc hàng thiên niên kỷ để xảy ra, giờ đây diễn ra trong vài năm hoặc thậm chí vài tháng, nơi mà các hậu quả lan tỏa khắp thế giới chỉ trong vài giây.

Kiểm soát kỹ thuật đề cập đến những gì xảy ra trong một phòng thí nghiệm hoặc một cơ sở R&D. Trong AI, ví dụ, điều này có nghĩa là các khoảng không khí, hộp cát, mô phỏng, công tắc tắt, các biện pháp an toàn và bảo mật được xây dựng cứng nhắc—các quy trình để xác minh sự an toàn hoặc tính toàn vẹn hoặc bản chất không bị xâm phạm của một hệ thống và đưa nó ra khỏi mạng nếu cần. Sau đó là các giá trị và văn hóa xung quanh việc tạo ra và phân phối hỗ trợ các ranh giới, các lớp quản trị, chấp nhận giới hạn, sự cảnh giác đối với những tổn hại và hậu quả không mong muốn. Cuối cùng, kiểm soát bao gồm cả các cơ chế pháp lý quốc gia và quốc tế cho việc kiểm soát: các quy định được thông qua bởi các cơ quan lập pháp quốc gia và các hiệp ước hoạt động thông qua Liên Hợp Quốc và các cơ quan toàn cầu khác. Công nghệ luôn bị cuốn vào các luật lệ và phong tục, các chuẩn mực và thói quen, các cấu trúc quyền lực và tri thức của bất kỳ xã hội nào; mỗi điều này đều phải được giải quyết. Chúng ta sẽ trở lại vấn đề này chi tiết hơn trong phần 4.

Hiện tại, bạn có thể đang tự hỏi, liệu chúng ta đã bao giờ thực sự cố gắng làm điều này, cố gắng kiềm chế một làn sóng?

CHÚNG TA CÓ BAO GIỜ NÓI KHÔNG?

Khi máy in vang lên khắp châu Âu vào thế kỷ XV, Đế chế Ottoman có một phản ứng khá khác biệt. Họ cố gắng cấm nó. Không hài lòng với triển vọng sản xuất kiến thức và văn hóa hàng loạt không được kiểm soát, sultan coi máy in là một sáng kiến “phương Tây” xa lạ. Mặc dù có dân số cạnh tranh với các thành phố như London, Paris và Rome, Istanbul không có một máy in được cấp phép cho đến năm 1727, gần ba thế kỷ sau khi nó được phát minh. Trong một thời gian dài, các nhà sử học coi sự kháng cự của Đế chế Ottoman là một ví dụ điển hình về chủ nghĩa công nghệ dân tộc sớm, một sự từ chối có ý thức và nhìn về quá khứ đối với hiện đại.

Nhưng mọi thứ phức tạp hơn thế. Theo quy định của đế chế, chỉ có các ký tự Ả Rập bị cấm, không phải là việc in ấn hoàn toàn. Hơn cả một tư thế chống công nghệ cơ bản, lệnh cấm này xuất phát từ chi phí khổng lồ và sự phức tạp của việc vận hành các máy in tiếng Ả Rập; chỉ có sultan mới có khả năng tài trợ cho việc in ấn, và các sultan kế tiếp không mấy quan tâm đến điều đó. Vì vậy, ngành in ấn Ottoman đã bị đình trệ; trong một thời gian, đế chế đã nói không cảm ơn. Nhưng cuối cùng, giống như ở mọi nơi khác, việc in ấn đã trở thành một thực tế trong Đế chế Ottoman, trong các quốc gia kế thừa của nó, và thực sự trên toàn thế giới. Các quốc gia, có vẻ như, có thể nói không, nhưng khi mọi thứ trở nên rẻ hơn và được sử dụng rộng rãi hơn, họ không thể nói không mãi mãi.

Nhìn lại, những làn sóng có thể xuất hiện mượt mà và không thể tránh khỏi. Nhưng có một loạt các yếu tố nhỏ, địa phương và thường là tùy ý gần như vô hạn ảnh hưởng đến quỹ đạo của một công nghệ. Thực tế, không ai nên tưởng tượng rằng việc khuếch tán là dễ dàng. Nó có thể tốn kém, chậm chạp và rủi ro, hoặc yêu cầu những thay đổi lớn trong hành vi chỉ khả thi trong vài thập kỷ hoặc cả đời. Nó phải chống lại các lợi ích hiện có, kiến thức đã được thiết lập, và những người ghen tị giữ cả hai. Nỗi sợ hãi và nghi ngờ đối với bất cứ điều gì mới mẻ và khác biệt là phổ biến. Mọi người từ các hiệp hội thợ thủ công lành nghề đến các vị vua nghi ngờ đều có lý do để phản đối. Những người Luddite, các nhóm đã từ chối một cách bạo lực các kỹ thuật công nghiệp, không phải là ngoại lệ đối với sự xuất hiện của các công nghệ mới; họ là quy tắc.

Vào thời trung cổ, Giáo hoàng Urban II muốn cấm cung tên. Nữ hoàng Elizabeth I đã bác bỏ một loại máy đan mới vào cuối thế kỷ mười sáu với lý do nó có thể làm rối loạn các hội nghề. Các hội nghề đã quấy rối và phá hủy những loại khung dệt và máy tiện mới ở Nuremberg, Danzig, Hà Lan và Anh. John Kay, người phát minh ra chiếc thoi bay, đã làm cho việc dệt trở nên hiệu quả hơn và là một trong những công nghệ chính của Cách mạng Công nghiệp, đã sợ hãi trước những cuộc trả thù bạo lực đến nỗi ông phải trốn từ Anh sang Pháp.

Người dân trong suốt lịch sử đã cố gắng chống lại các công nghệ mới vì họ cảm thấy bị đe dọa và lo lắng rằng sinh kế và cách sống của họ sẽ bị phá hủy. Họ coi việc chiến đấu cho tương lai của gia đình mình là điều cần thiết, và nếu cần, họ sẽ phá hủy một cách thể xác những gì đang đến. Nếu các biện pháp hòa bình thất bại, những người Luddite muốn tháo dỡ làn sóng máy móc công nghiệp.

Dưới triều đại Tokugawa thế kỷ mười bảy, Nhật Bản đã đóng cửa với thế giới—và do đó là những phát minh man rợ của nó—trong gần ba trăm năm. Giống như hầu hết các xã hội trong suốt lịch sử, nó đã không tin tưởng vào cái mới, cái khác biệt và cái gây rối. Tương tự, Trung Quốc đã từ chối một phái đoàn ngoại giao của Anh và lời đề nghị công nghệ phương Tây vào cuối thế kỷ mười tám, với hoàng đế Càn Long lập luận, “Đế quốc Thiên Quốc của chúng ta sở hữu mọi thứ trong sự phong phú dồi dào và không thiếu sản phẩm nào trong biên giới của nó. Do đó, không cần thiết phải nhập khẩu hàng hóa của những kẻ man rợ bên ngoài.”

Không có gì trong số đó hoạt động. Nỏ đã tồn tại cho đến khi bị súng chiếm đoạt. Máy dệt của Nữ hoàng Elizabeth đã trở lại, hàng thế kỷ sau, dưới hình thức siêu nạp của các máy dệt cơ khí quy mô lớn để khơi mào Cách mạng Công nghiệp. Trung Quốc và Nhật Bản ngày nay là một trong những nơi tiên tiến về công nghệ và hội nhập toàn cầu nhất trên trái đất. Những người Luddite không thành công hơn trong việc ngăn chặn các công nghệ công nghiệp mới so với những người sở hữu ngựa và các nhà sản xuất xe ngựa trong việc ngăn chặn ô tô. Nơi nào có nhu cầu, công nghệ luôn bùng nổ, tìm được sức hút, xây dựng người dùng.

Một khi đã được thiết lập, các làn sóng gần như không thể dừng lại. Như người Ottoman đã phát hiện ra khi nói đến in ấn, sự kháng cự có xu hướng bị nghiền nát theo thời gian. Bản chất của công nghệ là lan tỏa, bất chấp các rào cản.

Nhiều công nghệ đến rồi đi. Bạn không thấy quá nhiều xe đạp penny-farthing hay Segway, cũng như không nghe nhiều băng cassette hay đĩa minidisc. Nhưng điều đó không có nghĩa là di chuyển cá nhân và âm nhạc không phổ biến; các công nghệ cũ chỉ đơn giản là đã được thay thế bằng những hình thức mới, hiệu quả hơn. Chúng ta không đi tàu hơi nước hay viết bằng máy đánh chữ, nhưng sự hiện diện ma quái của chúng vẫn sống mãi trong những người kế nhiệm, như Shinkansen và MacBook.

Hãy nghĩ về cách mà, như những phần của các làn sóng liên tiếp, lửa, sau đó là nến và đèn dầu, đã nhường chỗ cho đèn gas và sau đó là bóng đèn điện, và bây giờ là đèn LED, và tổng thể ánh sáng nhân tạo đã tăng lên ngay cả khi các công nghệ cơ bản thay đổi. Các công nghệ mới thay thế nhiều người tiền nhiệm. Cũng như điện đã thực hiện công việc của cả nến và động cơ hơi nước, điện thoại thông minh đã thay thế các thiết bị định vị vệ tinh, máy ảnh, PDA, máy tính và điện thoại (và tạo ra những loại trải nghiệm hoàn toàn mới: ứng dụng). Khi các công nghệ cho phép bạn làm nhiều hơn, với chi phí thấp hơn, sức hấp dẫn của chúng chỉ ngày càng tăng, cùng với việc áp dụng của chúng.

Hãy tưởng tượng việc cố gắng xây dựng một xã hội hiện đại mà không có điện, nước sạch hoặc thuốc men. Ngay cả khi bạn có thể, làm thế nào để thuyết phục ai đó rằng điều đó là đáng giá, mong muốn, một giao dịch hợp lý? Rất ít xã hội từng thành công trong việc tách mình ra khỏi ranh giới công nghệ; việc làm như vậy thường là một phần của sự sụp đổ hoặc dẫn đến một sự sụp đổ. Không có cách nào thực tế để rút lui.

Các phát minh không thể bị hủy bỏ hoặc chặn lại vô thời hạn, kiến thức không thể bị quên lãng hoặc ngăn cản sự lan tỏa. Những ví dụ lịch sử rải rác không cho thấy lý do nào để nghĩ rằng điều đó có thể xảy ra một lần nữa. Thư viện Alexandria đã bị bỏ mặc để héo úa, và cuối cùng nó đã bị thiêu rụi, những mảng kiến thức cổ điển bị mất mãi mãi. Nhưng cuối cùng, trí tuệ của thời cổ đại đã được phát hiện lại và đánh giá lại. Nhờ vào sự thiếu thốn các công cụ truyền thông hiện đại, Trung Quốc đã giữ bí mật về việc sản xuất lụa trong nhiều thế kỷ, nhưng cuối cùng nó đã bị lộ ra nhờ hai vị tu sĩ Nestorian quyết tâm vào năm 552 CN. Công nghệ là những ý tưởng, và ý tưởng không thể bị loại bỏ.

Công nghệ là một củ cà rốt treo lơ lửng mãi mãi, liên tục hứa hẹn nhiều hơn, tốt hơn, dễ hơn, rẻ hơn. Sự thèm khát phát minh của chúng ta là không thể thỏa mãn. Sự không thể tránh khỏi của các làn sóng không đến từ việc thiếu sự kháng cự mà từ nhu cầu áp đảo nó. Con người thường nói không, mong muốn công nghệ bị kiềm chế vì nhiều lý do. Chỉ là nó chưa bao giờ đủ. Không phải là vấn đề kiềm chế chưa được công nhận trong lịch sử; chỉ là nó chưa bao giờ được giải quyết.

Có những ngoại lệ không? Hay là sóng luôn vỡ ra ở mọi nơi, vào cuối cùng?

NGOẠI LỆ HẠT NHÂN?

Vào ngày 11 tháng 9 năm 1933, nhà vật lý Ernest Rutherford đã lập luận với Hiệp hội Anh vì sự tiến bộ của Khoa học tại Leicester rằng “bất kỳ ai nói rằng với các phương tiện hiện có và với kiến thức hiện tại của chúng ta, chúng ta có thể sử dụng năng lượng hạt nhân đều đang nói những điều vô nghĩa.” Đọc một báo cáo về lập luận của Rutherford tại một khách sạn ở London, người di cư Hungary Leo Szilard đã suy ngẫm về điều đó trong bữa sáng. Ông đã đi dạo. Ngày sau khi Rutherford gọi đó là điều vô nghĩa, Szilard đã hình dung ra một phản ứng chuỗi hạt nhân.

Vụ nổ hạt nhân đầu tiên xảy ra chỉ mười hai năm sau đó. Vào ngày 16 tháng 7 năm 1945, dưới sự bảo trợ của Dự án Manhattan, Quân đội Hoa Kỳ đã cho nổ một thiết bị mang mã hiệu Trinity ở sa mạc New Mexico. Vài tuần sau, một chiếc Boeing B-29 Superfortress, Enola Gay, đã thả một thiết bị mang mã hiệu Little Boy chứa sáu mươi bốn kilogram uranium-235 xuống thành phố Hiroshima, giết chết 140.000 người. Chỉ trong chốc lát, thế giới đã thay đổi. Tuy nhiên, từ đó, trong bối cảnh lịch sử rộng lớn hơn, vũ khí hạt nhân không phát triển vô hạn.

Vũ khí hạt nhân chỉ được kích nổ hai lần trong thời gian chiến tranh. Đến nay chỉ có chín quốc gia sở hữu chúng. Thực tế, Nam Phi đã từ bỏ công nghệ này hoàn toàn vào năm 1989. Theo những gì chúng tôi biết, không có các tác nhân phi nhà nước nào sở hữu vũ khí hạt nhân, và hiện nay tổng số đầu đạn khoảng mười nghìn, con số đáng sợ nhưng thấp hơn mức cao trong Chiến tranh Lạnh, khi con số đó dao động trên sáu mươi nghìn.

Vậy điều gì đã xảy ra? Vũ khí hạt nhân rõ ràng mang lại một lợi thế chiến lược đáng kể. Vào cuối Thế chiến II, nhiều người không ngạc nhiên khi cho rằng chúng sẽ lan rộng. Sau sự phát triển thành công của những quả bom hạt nhân đầu tiên, Hoa Kỳ và Nga đã đi trên con đường phát triển những vũ khí ngày càng hủy diệt hơn, như bom hydro nhiệt hạch. Cuộc thử nghiệm nổ lớn nhất từng được ghi nhận là một cuộc thử nghiệm của một quả bom H gọi là Tsar Bomba. Được kích nổ trên một quần đảo hẻo lánh ở Biển Barents vào năm 1961, vụ nổ tạo ra một quả cầu lửa dài ba dặm và một đám mây nấm rộng năm mươi chín dặm. Vụ nổ mạnh gấp mười lần tổng số tất cả các chất nổ thông thường được sử dụng trong Thế chiến II. Quy mô của nó đã làm mọi người sợ hãi. Về mặt này, nó có thể đã thực sự giúp ích. Cả Hoa Kỳ và Nga đã lùi lại khỏi việc gia tăng vũ khí của họ trước sức mạnh khủng khiếp của chúng.

Việc công nghệ hạt nhân vẫn được kiểm soát không phải là ngẫu nhiên; đó là một chính sách không phổ biến vũ khí hạt nhân có ý thức của các cường quốc hạt nhân, được hỗ trợ bởi thực tế rằng vũ khí hạt nhân cực kỳ phức tạp và tốn kém để sản xuất.

Một số đề xuất ban đầu để đạt được sự kiềm chế thật sự cao cả. Năm 1946, Báo cáo Acheson-Lilienthal đề xuất Liên Hợp Quốc thành lập một "Cơ quan Phát triển Hạt nhân" với quyền kiểm soát rõ ràng tất cả các hoạt động hạt nhân trên toàn thế giới. Điều đó tất nhiên đã không xảy ra, nhưng một loạt các hiệp ước quốc tế vẫn được ký kết. Mặc dù các quốc gia như Trung Quốc và Pháp đứng ngoài, Hiệp ước Cấm Thử Nghiệm Một Phần đã được ký vào năm 1963, giảm bớt tiếng trống của các vụ nổ thử nghiệm đã thúc đẩy sự cạnh tranh.

Một bước ngoặt đã đến vào năm 1968 với Hiệp ước về Không phổ biến Vũ khí Hạt nhân, một khoảnh khắc mang tính bước ngoặt khi các quốc gia đồng ý rõ ràng không bao giờ phát triển vũ khí hạt nhân. Thế giới đã cùng nhau quyết tâm ngăn chặn sự phổ biến vũ khí hạt nhân đến các quốc gia mới. Từ thử nghiệm đầu tiên, sức mạnh hủy diệt của chúng đã rõ ràng. Sự ghê tởm phổ biến trước khả năng xảy ra một thảm họa nhiệt hạch là động lực mạnh mẽ để ký kết hiệp ước. Nhưng những vũ khí này cũng đã được kiềm chế bởi tính toán lạnh lùng. Sự hủy diệt đảm bảo lẫn nhau đã ràng buộc những người sở hữu, vì sớm muộn gì cũng trở nên rõ ràng rằng việc sử dụng chúng trong cơn giận là một cách nhanh chóng để đảm bảo sự hủy diệt của chính mình.

Chúng cũng rất đắt đỏ và khó sản xuất. Không chỉ cần các vật liệu hiếm và khó xử lý như uranium-235 đã được làm giàu, mà việc duy trì và cuối cùng là tháo dỡ chúng cũng rất thách thức. Thiếu nhu cầu rộng rãi đã dẫn đến ít áp lực để giảm chi phí và mở rộng khả năng tiếp cận; chúng không chịu sự tác động của các đường cong chi phí cổ điển của công nghệ tiêu dùng hiện đại. Chúng sẽ không bao giờ lan rộng như transistor hay TV màn hình phẳng; việc sản xuất vật liệu phân hạch không giống như cuộn nhôm. Việc không phổ biến vũ khí hạt nhân phần nào là do thực tế rằng việc xây dựng một quả bom hạt nhân là một trong những nỗ lực lớn nhất, tốn kém nhất và phức tạp nhất mà một quốc gia có thể thực hiện.

Sẽ là sai lầm khi nói rằng họ không gia tăng, khi ngay cả bây giờ có rất nhiều vũ khí hạt nhân đang nằm trên các tàu ngầm tuần tra trên biển hoặc đang trong trạng thái sẵn sàng cao trong các silo lớn. Nhưng ở một mức độ đáng kể, và nhờ vào một loạt các nỗ lực kỹ thuật và chính trị trong nhiều thập kỷ, họ đã tránh được mô hình sâu sắc tiềm ẩn của công nghệ.

Và tuy nhiên, mặc dù khả năng hạt nhân đã được kiểm soát phần lớn, một ngoại lệ nhỏ, nhưng đó không phải là một câu chuyện an tâm. Lịch sử hạt nhân vẫn là một chuỗi sự cố, gần như tai nạn, và những hiểu lầm đáng sợ. Kể từ những cuộc thử nghiệm đầu tiên vào năm 1945, hàng trăm sự cố đáng lo ngại, từ những vấn đề quy trình tương đối nhỏ đến những leo thang đáng sợ có thể (và vẫn có thể) gây ra sự tàn phá ở quy mô thực sự khủng khiếp.

Sự thất bại có thể đến dưới nhiều hình thức khác nhau. Thế nếu phần mềm gặp sự cố thì sao? Sau cùng, chỉ mới vào năm 2019, các hệ thống chỉ huy và kiểm soát của Mỹ đã được nâng cấp từ phần cứng của những năm 1970 và đĩa mềm tám inch. Kho vũ khí tinh vi và hủy diệt nhất thế giới hoạt động trên công nghệ cổ xưa đến mức hầu hết mọi người sống ngày nay sẽ không nhận ra (và không thể sử dụng) nó.

Tai nạn thì rất nhiều. Vào năm 1961, chẳng hạn, một chiếc B-52 trên bầu trời Bắc Carolina đã bị rò rỉ nhiên liệu. Phi hành đoàn đã thoát ra khỏi chiếc máy bay đang gặp nạn, để lại nó và hàng hóa của nó rơi xuống mặt đất. Trong quá trình đó, công tắc an toàn của một quả bom hydro đang hoạt động đã chuyển sang chế độ "vũ trang" khi nó rơi xuống một cánh đồng. Trong bốn cơ chế an toàn của nó, chỉ còn một cái được giữ nguyên, và một vụ nổ đã được kỳ diệu tránh khỏi. Vào năm 2003, Bộ Quốc phòng Anh đã công bố hơn 110 vụ gần như va chạm và tai nạn trong lịch sử chương trình vũ khí hạt nhân của mình. Ngay cả Kremlin, một mô hình không dễ dàng mở cửa, cũng đã thừa nhận 15 vụ tai nạn hạt nhân nghiêm trọng giữa năm 2000 và 2010.

Các sự cố phần cứng nhỏ có thể tạo ra những rủi ro lớn. Vào năm 1980, một con chip máy tính bị lỗi trị giá bốn mươi sáu xu đã suýt gây ra một sự cố hạt nhân lớn ở Thái Bình Dương. Và có lẽ trong trường hợp nổi tiếng nhất, thảm họa hạt nhân chỉ được tránh khỏi trong cuộc khủng hoảng tên lửa Cuba khi một người đàn ông, đô đốc Nga tạm quyền, Vasili Arkhipov, từ chối ra lệnh phóng ngư lôi hạt nhân. Hai sĩ quan khác trên tàu ngầm, tin rằng họ đang bị tấn công, đã đưa thế giới đến gần một giây phút của cuộc chiến hạt nhân toàn diện.

Nỗi lo vẫn còn nhiều. Những thanh kiếm hạt nhân lại vang lên sau cuộc xâm lược của Nga vào Ukraine. Triều Tiên đã nỗ lực phi thường để có được vũ khí hạt nhân và dường như đã bán tên lửa đạn đạo cũng như hợp tác phát triển công nghệ hạt nhân với các quốc gia như Iran và Syria. Trung Quốc, Ấn Độ và Pakistan đang tăng cường kho vũ khí và có hồ sơ an toàn không minh bạch. Mọi quốc gia từ Thổ Nhĩ Kỳ và Ả Rập Saudi đến Nhật Bản và Hàn Quốc đều ít nhất đã bày tỏ sự quan tâm đến vũ khí hạt nhân. Brazil và Argentina thậm chí còn có các chương trình làm giàu uranium.

Tính đến nay, không có nhóm khủng bố nào được biết đến đã sở hữu đầu đạn thông thường hoặc đủ vật liệu phóng xạ cho một quả bom "bẩn". Nhưng các phương pháp để chế tạo một thiết bị như vậy hầu như không phải là bí mật. Một người trong cuộc bất chính có thể đáng tin cậy sản xuất một cái. Kỹ sư A. Q. Khan đã giúp Pakistan phát triển vũ khí hạt nhân bằng cách đánh cắp bản thiết kế máy ly tâm và trốn khỏi Hà Lan.

Có rất nhiều vật liệu hạt nhân không được kiểm soát, từ bệnh viện, doanh nghiệp, quân đội, thậm chí gần đây từ Chernobyl. Vào năm 2018, plutonium và cesium đã bị đánh cắp từ xe của một quan chức Bộ Năng lượng ở San Antonio, Texas, trong khi họ ngủ tại một khách sạn gần đó. Kịch bản ác mộng là một đầu đạn hạt nhân lỏng lẻo, bị đánh cắp trong quá trình vận chuyển hoặc thậm chí bị bỏ sót trong một cuộc kiểm toán. Nó có thể nghe có vẻ viển vông, nhưng thực tế là Hoa Kỳ đã mất ít nhất ba vũ khí hạt nhân.

Năng lượng hạt nhân là một ngoại lệ đối với sự lan rộng không thể ngăn cản của công nghệ, nhưng chỉ vì những chi phí khổng lồ và sự phức tạp liên quan, những nỗ lực đa phương khó khăn kéo dài hàng thập kỷ, sự khủng khiếp của tiềm năng gây chết người của nó, và sự may mắn thuần túy. Ở một mức độ nào đó, nó có thể đã đi ngược lại xu hướng rộng lớn hơn, nhưng nó cũng cho thấy cách mà trò chơi đã thay đổi. Xét đến những hậu quả tiềm tàng, xét đến sự hiện hữu đang đe dọa của nó, ngay cả việc kiềm chế tương đối, một phần, cũng là không đủ.

Sự thật đáng lo ngại của công nghệ đáng sợ này là nhân loại đã cố gắng nói không và chỉ thành công một phần. Vũ khí hạt nhân là một trong những công nghệ được kiểm soát nhất trong lịch sử, và tuy nhiên, vấn đề kiểm soát - theo nghĩa đen khó khăn nhất - thậm chí ở đây vẫn chưa được giải quyết một cách cấp bách.

ĐỘNG VẬT CÔNG NGHỆ

Những tia hy vọng về việc kiềm chế là hiếm hoi và thường có khuyết điểm. Chúng bao gồm lệnh tạm dừng đối với vũ khí sinh học và hóa học; Nghị định thư Montreal năm 1987, đã loại bỏ các chất gây hại cho tầng ozone của khí quyển, đặc biệt là CFC; lệnh cấm của EU đối với các sinh vật biến đổi gen trong thực phẩm; và một lệnh tạm dừng tự tổ chức về chỉnh sửa gen ở người. Có lẽ chương trình kiềm chế tham vọng nhất là giảm carbon, các biện pháp như Hiệp định Paris, nhằm hạn chế sự gia tăng nhiệt độ toàn cầu lên hai độ Celsius. Về bản chất, nó đại diện cho một nỗ lực toàn cầu để nói không với một loạt công nghệ cơ bản.

Chúng ta sẽ xem xét kỹ lưỡng những ví dụ hiện đại về sự kiềm chế trong phần 4. Tuy nhiên, hiện tại, điều quan trọng là lưu ý rằng, mặc dù có tính hướng dẫn, không thành tựu nào trong số này thực sự vững chắc. Vũ khí hóa học gần đây đã được sử dụng ở Syria. Những loại vũ khí này chỉ là một ứng dụng tương đối hẹp của các lĩnh vực đang phát triển không ngừng. Mặc dù có các lệnh cấm, khả năng hóa học và sinh học của thế giới vẫn tăng trưởng mỗi năm; nếu có ai đó cảm thấy cần thiết phải vũ khí hóa chúng, điều đó sẽ dễ dàng hơn bao giờ hết.

Trong khi EU cấm GMO trong nguồn thực phẩm, chúng lại phổ biến ở những nơi khác trên thế giới. Như chúng ta sẽ thấy, khoa học về chỉnh sửa gen đang tiến triển nhanh chóng. Lời kêu gọi về một lệnh tạm hoãn toàn cầu đối với chỉnh sửa gen ở người đã bị đình trệ. May mắn thay, những lựa chọn rẻ hơn và hiệu quả hơn đã sẵn có để thay thế CFC, mà trong bất kỳ trường hợp nào cũng không phải là công nghệ đa dụng. Nếu không có chúng, mô hình cho thấy tầng ozone có thể đã sụp đổ vào những năm 2040, tạo ra thêm 1,7 độ C ấm lên trong thế kỷ hai mươi mốt. Nói chung, những nỗ lực kiểm soát này bị giới hạn ở những công nghệ rất cụ thể, một số trong các khu vực pháp lý hẹp, tất cả đều chỉ có một sự hỗ trợ mong manh.

Trong khi Hiệp định Paris nhằm vượt qua những hạn chế này, liệu nó có hiệu quả không? Chúng ta phải hy vọng như vậy. Nhưng đáng lưu ý rằng sự kiềm chế này chỉ đến sau những thiệt hại đáng kể và một mối đe dọa ở cấp độ tồn tại ngày càng trở nên rõ ràng hơn từng ngày. Nó đến muộn, và sự thành công của nó còn xa mới được đảm bảo.

Đây không phải là sự kiềm chế đúng cách. Không nỗ lực nào trong số này đại diện cho việc ngăn chặn toàn diện một làn sóng công nghệ đa mục đích, mặc dù, như chúng ta sẽ thấy sau, chúng cung cấp những chỉ dẫn quan trọng cho tương lai. Nhưng những ví dụ này không mang lại sự an tâm nhiều như chúng ta mong đợi - hoặc cần thiết.

—

Luôn có những lý do chính đáng để chống lại hoặc hạn chế công nghệ. Mặc dù lịch sử của nó là một câu chuyện về việc giúp con người làm được nhiều hơn, tăng cường khả năng, thúc đẩy cải thiện phúc lợi, nhưng đó không phải là một câu chuyện một chiều: Công nghệ tạo ra những vũ khí chết chóc và hủy diệt hơn cũng như những công cụ tốt hơn. Nó tạo ra những người thua cuộc, loại bỏ một số công việc và cách sống, và gây hại đến quy mô toàn cầu, tồn tại của biến đổi khí hậu. Các công nghệ mới có thể gây lo lắng và bất ổn, xa lạ và xâm lấn. Công nghệ gây ra vấn đề, và luôn luôn như vậy.

Và tuy nhiên, không có điều nào trong số đó dường như quan trọng. Có thể mất thời gian, nhưng mô hình thì không thể nhầm lẫn: các công nghệ phát triển mạnh mẽ, rẻ hơn và hiệu quả hơn, từng đợt từng đợt. Miễn là một công nghệ hữu ích, được mong muốn, phải chăng, dễ tiếp cận và không thể vượt qua, nó sẽ tồn tại và lan rộng và những đặc điểm đó sẽ tích lũy. Trong khi công nghệ không cho chúng ta biết khi nào, hoặc như thế nào, hoặc liệu có nên bước qua những cánh cửa mà nó mở ra hay không, sớm hay muộn chúng ta dường như cũng bước qua chúng. Ở đây không có mối quan hệ cần thiết nào, chỉ có một liên kết thực nghiệm kiên trì xuyên suốt lịch sử.

Mọi thứ về một công nghệ nhất định đều phụ thuộc vào hoàn cảnh, phụ thuộc vào con đường; nó dựa trên một tập hợp các điều kiện phức tạp đến mức khó tin, những sự kiện ngẫu nhiên, vô số yếu tố địa phương, văn hóa, thể chế và kinh tế cụ thể. Khi phóng to, những cuộc gặp gỡ may mắn, các sự kiện ngẫu nhiên, những đặc điểm tính cách kỳ quặc và những hành động sáng tạo nhỏ bé—và đôi khi là sự phản kháng—trở nên nổi bật. Nhưng khi thu nhỏ lại, chúng ta thấy gì? Một quá trình kiến tạo hơn, nơi mà câu hỏi không phải là liệu những sức mạnh này có được khai thác hay không mà là khi nào, dưới hình thức nào và bởi ai.

Với sự hiếm có cực kỳ của nó, việc kiềm chế không có gì ngạc nhiên khi đã rơi ra khỏi từ vựng của các nhà công nghệ và các nhà hoạch định chính sách. Chúng ta đã cùng nhau từ bỏ câu chuyện của chương này vì nó đã ăn sâu vào tâm trí. Nói chung, chúng ta đã để cho những làn sóng cuốn trôi, quản lý một cách không phối hợp, tạm thời, chấp nhận rằng khả năng lan tỏa một cách không thể tránh khỏi và không thể kiểm soát là, dù được chào đón hay bị ghét bỏ, là một thực tế của cuộc sống.

Trong khoảng một trăm năm, những làn sóng liên tiếp đã đưa nhân loại từ một kỷ nguyên của nến và xe ngựa đến một kỷ nguyên của các nhà máy điện và trạm không gian. Một điều tương tự sẽ xảy ra trong ba mươi năm tới. Trong những thập kỷ tới, một làn sóng công nghệ mới sẽ buộc chúng ta phải đối mặt với những câu hỏi cơ bản nhất mà loài người từng phải đối diện. Chúng ta có muốn chỉnh sửa bộ gen của mình để một số người trong chúng ta có thể có con với khả năng miễn dịch đối với một số bệnh, hoặc với trí thông minh cao hơn, hoặc với tiềm năng sống lâu hơn không? Chúng ta có cam kết giữ vững vị trí của mình ở đỉnh kim tự tháp tiến hóa, hay chúng ta sẽ cho phép sự xuất hiện của các hệ thống AI thông minh và có khả năng hơn những gì chúng ta có thể đạt được? Những hậu quả không mong muốn nào sẽ xảy ra khi khám phá những câu hỏi như vậy?

Chúng minh họa một sự thật quan trọng về Homo technologicus trong thế kỷ hai mươi mốt. Trong hầu hết lịch sử, thách thức của công nghệ nằm ở việc tạo ra và giải phóng sức mạnh của nó. Điều đó giờ đây đã đảo ngược: thách thức của công nghệ ngày nay là về việc kiềm chế sức mạnh đã được giải phóng của nó, đảm bảo rằng nó tiếp tục phục vụ chúng ta và hành tinh của chúng ta.

Thách thức đó sắp sửa leo thang một cách quyết định.