Trí tuệ nhân tạo

KHÔNG THỂ THỰC HIỆN ĐƯỢC

Hầu như mọi nền văn hóa đều có một huyền thoại về lũ lụt.

Trong các văn bản cổ xưa của Ấn Độ giáo, người đàn ông đầu tiên trong vũ trụ của chúng ta, Manu, được cảnh báo về một trận lũ sắp xảy ra và trở thành người sống sót duy nhất. Epic của Gilgamesh ghi lại việc thần Enlil hủy diệt thế giới trong một trận lũ khổng lồ, một câu chuyện sẽ vang vọng với bất kỳ ai quen thuộc với câu chuyện về chiếc thuyền của Noah trong Cựu Ước. Plato đã nói về thành phố bị mất Atlantis, bị cuốn trôi trong một dòng nước khổng lồ. Thấm nhuần trong các truyền thuyết miệng của nhân loại và các văn bản cổ xưa là ý tưởng về một cơn sóng khổng lồ quét sạch mọi thứ trên đường đi của nó, để lại thế giới được tái tạo và tái sinh.

Lũ lụt cũng đánh dấu lịch sử theo nghĩa đen—các trận lũ theo mùa của những con sông lớn trên thế giới, sự dâng cao của các đại dương sau khi kết thúc Kỷ Băng Hà, cú sốc hiếm hoi của một trận sóng thần xuất hiện mà không có cảnh báo trên đường chân trời. Tiểu hành tinh đã tiêu diệt khủng long tạo ra một cơn sóng cao một dặm, làm thay đổi tiến trình tiến hóa. Sức mạnh thuần túy của những cơn sóng này đã in sâu vào ý thức tập thể của chúng ta: những bức tường nước, không thể ngăn cản, không thể kiểm soát, không thể chứa đựng. Đây là một trong những lực lượng mạnh mẽ nhất trên hành tinh. Chúng định hình các lục địa, tưới tiêu cho mùa màng của thế giới, và nuôi dưỡng sự phát triển của nền văn minh.

Các loại sóng khác cũng đã có tác động chuyển mình tương tự. Nhìn lại lịch sử, bạn có thể thấy nó được đánh dấu bởi một loạt các sóng ẩn dụ: sự thăng trầm của các đế chế và tôn giáo, và những bùng nổ thương mại. Hãy nghĩ đến Kitô giáo hoặc Hồi giáo, những tôn giáo bắt đầu như những gợn sóng nhỏ trước khi phát triển và đổ ập lên những vùng đất rộng lớn. Những sóng như vậy là một mô típ tái diễn, định hình sự lên xuống của lịch sử, những cuộc đấu tranh quyền lực lớn, và những cơn sốt và suy thoái kinh tế.

Sự gia tăng và lan rộng của các công nghệ cũng đã diễn ra dưới hình thức những làn sóng thay đổi thế giới. Một xu hướng chủ đạo duy nhất đã đứng vững qua thời gian kể từ khi phát hiện ra lửa và công cụ bằng đá, những công nghệ đầu tiên được loài người khai thác. Hầu hết mọi công nghệ nền tảng từng được phát minh, từ cuốc xẻng đến cày, gốm sứ đến nhiếp ảnh, điện thoại đến máy bay, và mọi thứ ở giữa, đều tuân theo một quy luật duy nhất, dường như không thay đổi: nó trở nên rẻ hơn và dễ sử dụng hơn, và cuối cùng nó lan rộng, khắp nơi.

Sự bùng nổ công nghệ theo từng làn sóng là câu chuyện của Homo technologicus—của loài động vật công nghệ. Khát vọng của nhân loại để cải thiện—bản thân, số phận, khả năng và ảnh hưởng của chúng ta đối với môi trường—đã thúc đẩy một sự tiến hóa không ngừng của ý tưởng và sáng tạo. Sáng chế là một quá trình mở ra, trải rộng, và nổi lên, được thúc đẩy bởi những nhà phát minh tự tổ chức và cạnh tranh cao, các học giả, doanh nhân, và lãnh đạo, mỗi người đều tiến về phía trước với động lực riêng của họ. Hệ sinh thái sáng chế này mặc định hướng tới sự mở rộng. Đó là bản chất vốn có của công nghệ.

Câu hỏi là, điều gì sẽ xảy ra từ đây? Trong các trang tiếp theo, tôi sẽ kể cho bạn câu chuyện về làn sóng vĩ đại tiếp theo của lịch sử.

—

Nhìn xung quanh bạn.

Bạn thấy gì? Nội thất? Tòa nhà? Điện thoại? Thức ăn? Một công viên được quy hoạch? Hầu như mọi vật thể trong tầm nhìn của bạn có khả năng đã được tạo ra hoặc thay đổi bởi trí tuệ con người. Ngôn ngữ - nền tảng của các tương tác xã hội, của các nền văn hóa, của các tổ chức chính trị, và có lẽ của những gì có nghĩa là con người - là một sản phẩm khác, và cũng là động lực, của trí tuệ chúng ta. Mỗi nguyên tắc và khái niệm trừu tượng, mỗi nỗ lực sáng tạo nhỏ hoặc dự án, mỗi cuộc gặp gỡ trong cuộc sống của bạn, đều đã được trung gian hóa bởi khả năng tưởng tượng, sáng tạo và lý trí độc đáo và vô cùng phức tạp của loài người. Sự sáng tạo của con người là một điều đáng kinh ngạc.

Chỉ có một lực lượng khác cũng hiện diện khắp nơi trong bức tranh này: chính sự sống sinh học. Trước thời hiện đại, ngoài một vài viên đá và khoáng sản, hầu hết các sản phẩm của con người - từ nhà gỗ đến quần áo cotton đến lửa than - đều đến từ những thứ từng sống. Mọi thứ đã xuất hiện trên thế giới kể từ đó đều bắt nguồn từ chúng ta, bắt nguồn từ thực tế rằng chúng ta là những sinh vật sinh học.

Không phải là phóng đại khi nói rằng toàn bộ thế giới nhân loại phụ thuộc vào các hệ thống sống hoặc trí tuệ của chúng ta. Và yet cả hai hiện đang ở trong một khoảnh khắc chưa từng có của sự đổi mới và biến động theo cấp số nhân, một sự gia tăng vô song sẽ để lại rất ít điều không thay đổi. Bắt đầu sụp đổ xung quanh chúng ta là một làn sóng công nghệ mới. Làn sóng này đang giải phóng sức mạnh để kiến tạo hai nền tảng phổ quát này: một làn sóng không gì khác ngoài trí tuệ và sự sống.

Làn sóng sắp tới được định nghĩa bởi hai công nghệ cốt lõi: trí tuệ nhân tạo (AI) và sinh học tổng hợp. Cùng nhau, chúng sẽ mang đến một bình minh mới cho nhân loại, tạo ra sự giàu có và thặng dư chưa từng thấy. Tuy nhiên, sự phát triển nhanh chóng của chúng cũng đe dọa trao quyền cho một loạt các tác nhân xấu khác nhau, gây ra sự gián đoạn, bất ổn và thậm chí là thảm họa ở quy mô không thể tưởng tượng nổi. Làn sóng này tạo ra một thách thức to lớn sẽ định hình thế kỷ hai mươi mốt: tương lai của chúng ta vừa phụ thuộc vào những công nghệ này vừa bị đe dọa bởi chúng.

Từ vị trí của chúng ta hôm nay, có vẻ như việc kiềm chế làn sóng này - tức là kiểm soát, hạn chế, hoặc thậm chí dừng lại - là không thể. Cuốn sách này đặt ra câu hỏi tại sao điều đó có thể đúng và điều đó có ý nghĩa gì nếu nó đúng. Những hệ quả của những câu hỏi này cuối cùng sẽ ảnh hưởng đến tất cả mọi người còn sống và mọi thế hệ tiếp theo sau chúng ta.

Tôi tin rằng làn sóng công nghệ sắp tới đang đưa lịch sử nhân loại đến một bước ngoặt. Nếu việc kiềm chế nó là không thể, hậu quả đối với loài người sẽ rất nghiêm trọng, có thể là thảm khốc. Tương tự, nếu không có những thành quả của nó, chúng ta sẽ trở nên dễ bị tổn thương và bấp bênh. Đây là một lập luận mà tôi đã đưa ra nhiều lần trong suốt thập kỷ qua sau những cánh cửa đóng kín, nhưng khi các tác động ngày càng trở nên không thể bỏ qua, đã đến lúc tôi phải công khai lập luận này.

SỰ TIẾN THOÁI LƯỠNG NAN

Suy ngẫm về sức mạnh sâu sắc của trí tuệ con người đã khiến tôi đặt ra một câu hỏi đơn giản, một câu hỏi đã chiếm lĩnh cuộc sống của tôi kể từ đó: Liệu chúng ta có thể chưng cất bản chất của những gì làm cho chúng ta trở thành con người sản xuất và có khả năng vào phần mềm, vào một thuật toán không? Tìm ra câu trả lời có thể mở khóa những công cụ mạnh mẽ không tưởng để giúp giải quyết những vấn đề khó khăn nhất của chúng ta. Đây có thể là một công cụ, một công cụ không thể nhưng phi thường, để giúp chúng ta vượt qua những thách thức to lớn của những thập kỷ tới, từ biến đổi khí hậu đến dân số già đến thực phẩm bền vững.

Với điều này trong tâm trí, trong một văn phòng cổ kính từ thời Regency nhìn ra Quảng trường Russell ở London, tôi đã đồng sáng lập một công ty có tên là DeepMind cùng với hai người bạn, Demis Hassabis và Shane Legg, vào mùa hè năm 2010. Đây là mục tiêu của chúng tôi, một mục tiêu mà khi nhìn lại vẫn cảm thấy đầy tham vọng, điên rồ và hy vọng như lúc đó: tái tạo chính điều làm cho chúng ta trở nên độc đáo như một loài, trí thông minh của chúng ta.

Để đạt được mục tiêu này, chúng tôi cần tạo ra một hệ thống có thể bắt chước và cuối cùng vượt trội hơn tất cả các khả năng nhận thức của con người, từ thị giác và lời nói đến lập kế hoạch và trí tưởng tượng, và cuối cùng là sự đồng cảm và sáng tạo. Vì một hệ thống như vậy sẽ được hưởng lợi từ việc xử lý song song khổng lồ của các siêu máy tính và sự bùng nổ của các nguồn dữ liệu mới rộng lớn từ khắp nơi trên web mở, chúng tôi biết rằng ngay cả những tiến bộ khiêm tốn hướng tới mục tiêu này cũng sẽ có những tác động sâu sắc đến xã hội.

Chắc chắn rằng vào thời điểm đó, cảm giác thật xa vời. Thời đó, việc áp dụng rộng rãi trí tuệ nhân tạo chỉ là những giấc mơ, nhiều hơn là thực tế, thuộc về một vài học giả sống tách biệt và những người hâm mộ khoa học viễn tưởng. Nhưng, khi tôi viết điều này và nghĩ lại về thập kỷ qua, tiến bộ trong AI đã không gì khác ngoài sự kinh ngạc. DeepMind đã trở thành một trong những công ty AI hàng đầu thế giới, đạt được một loạt các bước đột phá. Tốc độ và sức mạnh của cuộc cách mạng mới này đã khiến ngay cả những người trong chúng tôi gần gũi nhất với rìa cắt của nó cũng phải ngạc nhiên. Trong suốt quá trình viết cuốn sách này, tốc độ tiến bộ trong AI đã thật sự đáng kinh ngạc, với các mô hình và sản phẩm mới ra mắt mỗi tuần, đôi khi là mỗi ngày. Rõ ràng là làn sóng này đang tăng tốc.

Hôm nay, các hệ thống AI có thể nhận diện khuôn mặt và đối tượng gần như hoàn hảo. Chúng ta coi việc chuyển đổi giọng nói thành văn bản và dịch ngôn ngữ tức thì là điều hiển nhiên. AI có thể điều hướng đường và giao thông đủ tốt để lái xe tự động trong một số bối cảnh. Dựa trên một vài gợi ý đơn giản, một thế hệ mô hình AI mới có thể tạo ra hình ảnh mới lạ và soạn thảo văn bản với mức độ chi tiết và mạch lạc đáng kinh ngạc. Các hệ thống AI có thể sản xuất giọng nói tổng hợp với sự chân thực kỳ lạ và sáng tác nhạc với vẻ đẹp rực rỡ. Ngay cả trong những lĩnh vực khó khăn hơn, những lĩnh vực lâu nay được cho là chỉ phù hợp với khả năng của con người như lập kế hoạch dài hạn, trí tưởng tượng và mô phỏng các ý tưởng phức tạp, tiến bộ vẫn nhảy vọt.

AI đã leo lên bậc thang khả năng nhận thức trong nhiều thập kỷ, và giờ đây có vẻ như sẽ đạt được hiệu suất ở mức độ con người trên một loạt các nhiệm vụ trong vòng ba năm tới. Đó là một tuyên bố lớn, nhưng nếu tôi gần đúng, thì những hệ quả là thực sự sâu sắc. Những gì mà, khi chúng tôi thành lập DeepMind, cảm thấy là một điều viển vông đã trở thành không chỉ khả thi mà còn dường như là điều không thể tránh khỏi.

Từ đầu, tôi đã nhận ra rằng AI sẽ là một công cụ mạnh mẽ cho những điều tốt đẹp phi thường nhưng, giống như hầu hết các hình thức quyền lực, cũng đầy rẫy những nguy hiểm to lớn và những tình huống đạo đức. Tôi đã lo lắng từ lâu không chỉ về những hậu quả của việc phát triển AI mà còn về hướng đi của toàn bộ hệ sinh thái công nghệ. Ngoài AI, một cuộc cách mạng rộng lớn hơn đang diễn ra, với AI nuôi dưỡng một thế hệ công nghệ di truyền và robot mới mạnh mẽ. Sự tiến bộ hơn nữa trong một lĩnh vực sẽ thúc đẩy các lĩnh vực khác trong một quá trình hỗn loạn và tương tác chéo mà không ai có thể kiểm soát trực tiếp. Rõ ràng rằng nếu chúng ta hoặc những người khác thành công trong việc tái tạo trí thông minh của con người, thì đây không chỉ là một công việc kinh doanh có lợi như thường lệ mà là một sự chuyển mình mạnh mẽ cho nhân loại, khai mở một kỷ nguyên khi những cơ hội chưa từng có sẽ đi đôi với những rủi ro chưa từng có.

Khi công nghệ đã tiến bộ qua các năm, mối quan tâm của tôi đã gia tăng. Liệu sóng đó có thực sự là một cơn sóng thần không?

—

Vào năm 2010, hầu như không ai nói nghiêm túc về AI. Tuy nhiên, điều mà trước đây từng có vẻ như là một nhiệm vụ ngách cho một nhóm nhỏ các nhà nghiên cứu và doanh nhân giờ đây đã trở thành một nỗ lực toàn cầu rộng lớn. AI có mặt ở khắp mọi nơi, trên các bản tin và trong điện thoại thông minh của bạn, giao dịch cổ phiếu và xây dựng trang web. Nhiều công ty lớn nhất thế giới và các quốc gia giàu có nhất đang tiến về phía trước, phát triển các mô hình AI tiên tiến và các kỹ thuật kỹ thuật di truyền, được thúc đẩy bởi hàng chục tỷ đô la đầu tư.

Khi đã trưởng thành, những công nghệ mới nổi này sẽ lan rộng nhanh chóng, trở nên rẻ hơn, dễ tiếp cận hơn và được phổ biến rộng rãi trong toàn xã hội. Chúng sẽ mang lại những tiến bộ y tế mới lạ và những đột phá về năng lượng sạch, tạo ra không chỉ những doanh nghiệp mới mà còn những ngành công nghiệp mới và cải thiện chất lượng cuộc sống trong hầu hết mọi lĩnh vực có thể tưởng tượng.

Tuy nhiên, bên cạnh những lợi ích này, AI, sinh học tổng hợp và các hình thức công nghệ tiên tiến khác tạo ra những rủi ro đuôi ở quy mô đáng lo ngại. Chúng có thể tạo ra mối đe dọa tồn vong cho các quốc gia - những rủi ro sâu sắc đến mức có thể làm gián đoạn hoặc thậm chí lật đổ trật tự địa chính trị hiện tại. Chúng mở ra những con đường cho các cuộc tấn công mạng khổng lồ được tăng cường bởi AI, các cuộc chiến tranh tự động có thể tàn phá các quốc gia, các đại dịch được thiết kế, và một thế giới chịu sự chi phối của những lực lượng không thể giải thích và dường như có sức mạnh vô biên. Xác suất của mỗi điều này có thể nhỏ, nhưng hậu quả có thể rất lớn. Ngay cả một cơ hội mỏng manh cho những kết quả như vậy cũng cần được chú ý khẩn cấp.

Một số quốc gia sẽ phản ứng với khả năng xảy ra những rủi ro thảm khốc như vậy bằng một hình thức độc tài công nghệ để làm chậm sự lan rộng của những quyền lực mới này. Điều này sẽ đòi hỏi mức độ giám sát khổng lồ cùng với những xâm phạm lớn vào đời sống riêng tư của chúng ta. Việc kiểm soát chặt chẽ công nghệ có thể trở thành một phần của xu hướng mọi thứ và mọi người đều bị theo dõi, mọi lúc, trong một hệ thống giám sát toàn cầu dystopian được biện minh bởi mong muốn bảo vệ chống lại những kết quả cực đoan nhất có thể.

Phản ứng Luddite cũng có thể xảy ra. Các lệnh cấm, tẩy chay và hoãn lại sẽ diễn ra. Liệu có thể rút lui khỏi việc phát triển công nghệ mới và giới thiệu một loạt các lệnh hoãn không? Khó có khả năng. Với giá trị địa chiến lược và thương mại khổng lồ của chúng, thật khó để thấy các quốc gia hoặc tập đoàn sẽ bị thuyết phục từ bỏ một cách đơn phương sức mạnh biến đổi mà những đột phá này mang lại. Hơn nữa, việc cố gắng cấm phát triển công nghệ mới tự nó là một rủi ro: các xã hội trì trệ về công nghệ thường không ổn định và dễ sụp đổ. Cuối cùng, họ mất khả năng giải quyết vấn đề, để tiến bộ.

Cả việc theo đuổi và không theo đuổi công nghệ mới đều tiềm ẩn rủi ro. Cơ hội để vượt qua một "con đường hẹp" và tránh được một trong hai kết quả - một thế giới dystopia công nghệ độc tài ở một bên, và thảm họa do sự cởi mở gây ra ở bên kia - ngày càng nhỏ theo thời gian khi công nghệ trở nên rẻ hơn, mạnh mẽ hơn và phổ biến hơn, trong khi các rủi ro tích tụ. Tuy nhiên, việc rút lui cũng không phải là một lựa chọn. Ngay cả khi chúng ta lo lắng về những rủi ro của chúng, chúng ta cần những lợi ích to lớn của các công nghệ trong làn sóng sắp tới hơn bao giờ hết. Đây là nghịch lý cốt lõi: rằng, sớm hay muộn, một thế hệ công nghệ mạnh mẽ sẽ dẫn dắt nhân loại đến những kết quả thảm khốc hoặc dystopian. Tôi tin rằng đây là vấn đề lớn nhất của thế kỷ hai mươi mốt.

Cuốn sách này phác thảo chính xác lý do tại sao tình huống tồi tệ này trở nên không thể tránh khỏi và khám phá cách chúng ta có thể đối mặt với nó. Bằng cách nào đó, chúng ta cần khai thác tối đa công nghệ, điều này rất cần thiết để đối phó với một loạt thách thức toàn cầu đáng sợ, và cũng thoát khỏi tình thế tiến thoái lưỡng nan. Cuộc thảo luận hiện tại xung quanh đạo đức và an toàn công nghệ là không đủ. Mặc dù có nhiều cuốn sách, cuộc tranh luận, bài viết trên blog và các dòng tweet về công nghệ, bạn hiếm khi nghe thấy điều gì về việc kiềm chế nó. Tôi coi đây là một tập hợp liên kết của các cơ chế kỹ thuật, xã hội và pháp lý hạn chế và kiểm soát công nghệ hoạt động ở mọi cấp độ có thể: một phương tiện, về lý thuyết, để lẩn tránh tình thế tiến thoái lưỡng nan. Tuy nhiên, ngay cả những người chỉ trích công nghệ khắc nghiệt nhất cũng có xu hướng lảng tránh ngôn ngữ của việc kiềm chế cứng rắn này.

Điều đó cần phải thay đổi; tôi hy vọng cuốn sách này chỉ ra lý do tại sao, và gợi ý cách thực hiện.

CÁI BẪY

Vài năm sau khi chúng tôi thành lập DeepMind, tôi đã tạo ra một bộ slide về tiềm năng tác động kinh tế và xã hội lâu dài của AI. Trình bày trước một tá những người sáng lập, CEO và chuyên gia công nghệ có ảnh hưởng nhất trong ngành công nghiệp công nghệ tại một phòng họp sang trọng ở Bờ Tây, tôi đã lập luận rằng AI đã đưa ra một loạt các mối đe dọa cần có những phản ứng chủ động. Nó có thể dẫn đến những cuộc xâm phạm quyền riêng tư quy mô lớn hoặc kích hoạt một thảm họa thông tin sai lệch. Nó có thể bị vũ khí hóa, tạo ra một bộ vũ khí mạng mới chết người, giới thiệu những lỗ hổng mới vào thế giới mạng của chúng ta.

Tôi cũng nhấn mạnh tiềm năng của AI trong việc khiến một số lượng lớn người mất việc. Tôi đã yêu cầu mọi người trong phòng xem xét lịch sử dài của tự động hóa và cơ giới hóa trong việc thay thế lao động. Đầu tiên là những cách hiệu quả hơn để thực hiện các nhiệm vụ cụ thể, sau đó toàn bộ vai trò trở nên thừa thãi, và sớm thôi, toàn bộ các lĩnh vực cần ít công nhân hơn nhiều lần. Trong vài thập kỷ tới, tôi lập luận, các hệ thống AI sẽ thay thế "lao động trí óc" theo cách tương tự, và chắc chắn là trước khi robot thay thế lao động thể chất. Trong quá khứ, những công việc mới được tạo ra đồng thời với việc những công việc cũ trở nên lỗi thời, nhưng nếu AI có thể đơn giản thực hiện hầu hết những công việc đó thì sao? Tôi đã gợi ý rằng có rất ít tiền lệ cho những hình thức quyền lực tập trung mới đang đến. Mặc dù chúng có vẻ xa vời, nhưng những mối đe dọa tiềm tàng nghiêm trọng đang lao về phía xã hội.

Trong slide kết thúc, tôi đã trình bày một hình ảnh từ The Simpsons. Trong cảnh đó, người dân Springfield đã nổi dậy, và dàn nhân vật quen thuộc tiến về phía trước mang theo gậy và đuốc. Thông điệp rất rõ ràng, nhưng tôi vẫn nói rõ. “Những cái chĩa đang đến,” tôi nói. Đến để tìm chúng ta, những người tạo ra công nghệ. Chúng ta phải đảm bảo rằng tương lai tốt đẹp hơn điều này.

Xung quanh bàn, tôi nhận được những cái nhìn trống rỗng. Căn phòng không có phản ứng. Thông điệp không được tiếp nhận. Những sự bác bỏ đến dồn dập. Tại sao các chỉ số kinh tế không cho thấy dấu hiệu nào về những gì tôi đang nói? AI sẽ thúc đẩy nhu cầu mới, điều này sẽ tạo ra việc làm mới. Nó sẽ tăng cường và trao quyền cho mọi người để trở nên năng suất hơn. Có thể có một số rủi ro, họ thừa nhận, nhưng không quá nghiêm trọng. Mọi người đều thông minh. Giải pháp luôn được tìm ra. Không có gì phải lo lắng, họ dường như nghĩ vậy, tiếp tục với bài thuyết trình tiếp theo.

Vài năm sau, một thời gian ngắn trước khi đại dịch COVID-19 bùng phát, tôi đã tham dự một hội thảo về rủi ro công nghệ tại một trường đại học nổi tiếng. Cách bố trí tương tự: một bàn lớn khác, một cuộc thảo luận cao cả khác. Trong suốt cả ngày, một loạt các rủi ro đáng sợ đã được đưa ra trong khi thưởng thức cà phê, bánh quy và các bài thuyết trình PowerPoint.

Một sản phẩm nổi bật. Người thuyết trình đã chỉ ra cách giá của các máy tổng hợp DNA, có thể in ra các chuỗi DNA theo yêu cầu, đang giảm nhanh chóng. Với giá chỉ vài chục nghìn đô la, chúng đủ nhỏ để đặt trên một chiếc bàn trong gara của bạn và cho phép mọi người tổng hợp—tức là, sản xuất—DNA. Và tất cả những điều này giờ đây đều có thể cho bất kỳ ai có trình độ đào tạo sau đại học về sinh học hoặc đam mê học tập tự định hướng trực tuyến.

Với sự gia tăng khả năng tiếp cận các công cụ, người thuyết trình đã vẽ ra một viễn cảnh khủng khiếp: Ai đó có thể sớm tạo ra các tác nhân gây bệnh mới có khả năng lây lan và gây chết người cao hơn bất kỳ thứ gì có trong tự nhiên. Những tác nhân gây bệnh tổng hợp này có thể né tránh các biện pháp đối phó đã biết, lây lan không có triệu chứng, hoặc có khả năng kháng thuốc được tích hợp sẵn. Nếu cần, ai đó có thể bổ sung các thí nghiệm tự làm bằng DNA đặt hàng trực tuyến và lắp ráp tại nhà. Ngày tận thế, đặt hàng qua bưu điện.

Điều này không phải là khoa học viễn tưởng, người trình bày lập luận, một giáo sư được tôn trọng với hơn hai mươi năm kinh nghiệm; đó là một rủi ro thực tế, ngay bây giờ. Họ kết thúc với một suy nghĩ đáng lo ngại: một người đơn lẻ ngày nay có khả năng “giết chết một tỷ người.” Tất cả những gì cần là động lực.

Các người tham dự di chuyển không thoải mái. Mọi người ngọ nguậy và ho khan. Rồi những lời phàn nàn và do dự bắt đầu. Không ai muốn tin rằng điều này là có thể. Chắc chắn không phải như vậy, chắc chắn phải có một số cơ chế kiểm soát hiệu quả, chắc chắn các bệnh tật khó có thể tạo ra, chắc chắn các cơ sở dữ liệu có thể được khóa lại, chắc chắn phần cứng có thể được bảo mật. Và cứ như vậy.

Phản ứng tập thể trong hội thảo không chỉ đơn thuần là sự bác bỏ. Mọi người đơn giản từ chối chấp nhận tầm nhìn của người trình bày. Không ai muốn đối mặt với những hệ quả của những sự thật khó khăn và những xác suất lạnh lùng mà họ đã nghe. Tôi giữ im lặng, thật sự bị chấn động. Chẳng mấy chốc hội thảo đã kết thúc. Tối đó, chúng tôi đều ra ngoài ăn tối và tiếp tục trò chuyện như bình thường. Chúng tôi vừa trải qua một ngày nói về sự kết thúc của thế giới, nhưng vẫn còn pizza để ăn, những câu chuyện để kể, một văn phòng để trở về, và hơn nữa, sẽ có điều gì đó xuất hiện, hoặc một phần nào đó của lập luận chắc chắn sẽ sai. Tôi tham gia vào.

Nhưng bài thuyết trình đã ám ảnh tôi trong nhiều tháng sau đó. Tại sao tôi không, tại sao chúng ta không coi trọng nó hơn? Tại sao chúng ta lại lảng tránh thảo luận thêm? Tại sao một số người lại trở nên châm biếm và buộc tội những người đặt ra những câu hỏi này là bi quan hoặc "bỏ qua những điều tốt đẹp tuyệt vời" của công nghệ? Phản ứng cảm xúc rộng rãi mà tôi quan sát thấy là điều tôi đã gọi là cái bẫy tránh né chủ nghĩa bi quan: phân tích sai lầm phát sinh khi bạn bị choáng ngợp bởi nỗi sợ phải đối mặt với những thực tế có thể tăm tối, và xu hướng kết quả là nhìn sang hướng khác.

Hầu như ai cũng có một phiên bản của phản ứng này, và hậu quả là nó khiến chúng ta bỏ qua một số xu hướng quan trọng đang diễn ra ngay trước mắt. Đó gần như là một phản ứng sinh lý bẩm sinh. Loài người chúng ta không được lập trình để thực sự đối mặt với sự chuyển mình ở quy mô này, chưa nói đến khả năng công nghệ có thể thất bại theo cách này. Tôi đã trải qua cảm giác này trong suốt sự nghiệp của mình, và tôi đã thấy rất nhiều người khác cũng có phản ứng mạnh mẽ tương tự. Đối mặt với cảm giác này là một trong những mục đích của cuốn sách này. Để nhìn nhận một cách lạnh lùng và rõ ràng về sự thật, dù có khó chịu đến đâu.

Việc giải quyết đúng đắn làn sóng này, bao gồm công nghệ, và đảm bảo rằng nó luôn phục vụ nhân loại có nghĩa là vượt qua sự e ngại về chủ nghĩa bi quan. Điều đó có nghĩa là đối mặt trực diện với thực tế của những gì sắp đến.

—

Cuốn sách này là nỗ lực của tôi để làm điều đó. Để công nhận và làm sáng tỏ những đường nét của làn sóng sắp tới. Để khám phá xem liệu việc kiềm chế có khả thi hay không. Để đặt mọi thứ vào bối cảnh lịch sử, và nhìn nhận bức tranh rộng hơn bằng cách lùi lại khỏi những cuộc trò chuyện hàng ngày xung quanh công nghệ. Mục tiêu của tôi là đối mặt với tình huống khó xử và hiểu các quá trình cơ bản thúc đẩy sự xuất hiện của khoa học và công nghệ. Tôi muốn trình bày những ý tưởng này một cách rõ ràng nhất có thể đến với khán giả rộng rãi nhất. Tôi đã viết nó với tinh thần cởi mở và tìm tòi: quan sát, theo dõi các hệ quả của chúng, nhưng cũng luôn sẵn sàng cho việc bác bỏ và những diễn giải tốt hơn. Không có gì tôi mong muốn hơn là được chứng minh là sai ở đây, hơn là việc kiềm chế trở nên khả thi.

Một số người có thể hiểu rằng họ mong đợi một cuốn sách công nghệ-địa đàng hơn từ một người như tôi, một người sáng lập hai công ty AI. Là một nhà công nghệ và doanh nhân, tôi, theo mặc định, là một người lạc quan. Khi còn là một thiếu niên trẻ tuổi, tôi nhớ mình đã hoàn toàn bị cuốn hút sau khi cài đặt Netscape lần đầu tiên trên chiếc máy tính Packard Bell 486 của mình. Tôi đã bị mê hoặc bởi tiếng quạt quay và tiếng huýt sáo méo mó của modem quay số 56 Kbps của mình khi nó vươn tay ra với World Wide Web và kết nối tôi với các diễn đàn và phòng trò chuyện đã mang lại cho tôi tự do và dạy tôi rất nhiều điều. Tôi yêu công nghệ. Nó đã là động cơ của sự tiến bộ và là lý do để chúng ta tự hào và phấn khích về những thành tựu của nhân loại.

Nhưng tôi cũng tin rằng những người trong chúng ta đang thúc đẩy sự sáng tạo công nghệ phải có đủ can đảm để dự đoán - và chịu trách nhiệm về - nơi mà nó có thể đưa chúng ta đến trong vài thập kỷ tới. Chúng ta phải bắt đầu đề xuất những gì cần làm nếu có vẻ như có một rủi ro thực sự rằng công nghệ sẽ thất bại với chúng ta. Điều cần thiết là một phản ứng xã hội và chính trị, không chỉ là những nỗ lực cá nhân, nhưng nó cần bắt đầu từ những người đồng nghiệp của tôi và tôi.

Một số người sẽ lập luận rằng điều này là quá phóng đại. Rằng sự thay đổi thực sự diễn ra từng bước một. Rằng đây chỉ là một vòng xoay khác của chu kỳ cường điệu. Rằng các hệ thống đối phó với khủng hoảng và thay đổi thực sự khá vững chắc. Rằng quan điểm của tôi về bản chất con người là quá u ám. Rằng thành tích của nhân loại là, ừm, cho đến nay, vẫn tốt. Lịch sử đầy rẫy những tiên tri giả và những kẻ báo trước điều xấu đã bị chứng minh là sai. Tại sao lần này lại khác?

Sự né tránh chủ nghĩa bi quan là một phản ứng cảm xúc, một sự từ chối sâu sắc để chấp nhận khả năng xảy ra những kết quả gây mất ổn định nghiêm trọng. Nó thường xuất phát từ những người ở vị trí an toàn và quyền lực với những quan điểm thế giới đã ăn sâu, những người có thể đối phó bề ngoài với sự thay đổi nhưng gặp khó khăn trong việc chấp nhận bất kỳ thách thức thực sự nào đối với trật tự thế giới của họ. Nhiều người mà tôi cáo buộc bị mắc kẹt trong cái bẫy né tránh chủ nghĩa bi quan hoàn toàn chấp nhận những chỉ trích ngày càng tăng về công nghệ. Nhưng họ chỉ gật đầu mà không thực sự hành động. Chúng tôi sẽ quản lý được, chúng tôi luôn làm được, họ nói.

Dành thời gian trong các vòng tròn công nghệ hoặc chính sách, và nhanh chóng trở nên rõ ràng rằng tư tưởng "đầu trong cát" là tư tưởng mặc định. Tin tưởng và hành động khác đi có nguy cơ trở nên tê liệt bởi nỗi sợ hãi và sự phẫn nộ đối với những lực lượng khổng lồ, không thể tránh khỏi đến mức mọi thứ đều cảm thấy vô nghĩa. Vì vậy, nửa thế giới trí thức kỳ lạ của sự tránh né bi quan vẫn tiếp tục diễn ra. Tôi nên biết, tôi đã mắc kẹt trong đó quá lâu.

Trong những năm kể từ khi chúng tôi thành lập DeepMind và kể từ những bài thuyết trình đó, cuộc thảo luận đã thay đổi - đến một mức độ nào đó. Cuộc tranh luận về tự động hóa công việc đã được diễn ra vô số lần. Một đại dịch toàn cầu đã phơi bày cả rủi ro và sức mạnh của sinh học tổng hợp. Một loại "techlash" đã xuất hiện, với các nhà phê bình chỉ trích công nghệ và các công ty công nghệ trong các bài viết và sách, tại các thủ đô quy định của Washington, Brussels và Bắc Kinh. Những nỗi lo trước đây về công nghệ đã bùng nổ vào dòng chính, sự hoài nghi của công chúng về công nghệ gia tăng, và những chỉ trích từ học thuật, xã hội dân sự và chính trị trở nên sắc bén hơn.

Và thế nhưng, trước làn sóng sắp tới và tình thế khó khăn lớn, và trước một tầng lớp công nghệ tinh vi không thích bi quan, tất cả những điều này vẫn chưa đủ.

LẬP LUẬN

Sóng ở khắp mọi nơi trong cuộc sống con người. Đây chỉ là cái mới nhất. Thường thì mọi người có vẻ nghĩ rằng nó vẫn còn xa, quá tương lai và nghe có vẻ vô lý đến mức chỉ là lĩnh vực của một vài người đam mê và những nhà tư tưởng bên lề, nhiều phóng đại hơn, nhiều ngôn ngữ công nghệ hơn, nhiều sự cổ vũ hơn. Đó là một sai lầm. Đây là điều có thật, thực tế như cơn sóng thần xuất phát từ đại dương xanh mở.

Đây không chỉ là một điều tưởng tượng hay một bài tập trí tuệ để suy ngẫm. Ngay cả khi bạn không đồng ý với cách tôi trình bày và nghĩ rằng không có điều nào trong số này có khả năng xảy ra, tôi khuyến khích bạn tiếp tục đọc. Vâng, tôi có nền tảng về AI và đã sẵn sàng để nhìn thế giới qua lăng kính công nghệ. Tôi có thành kiến khi nói đến câu hỏi liệu điều này có quan trọng hay không. Tuy nhiên, sau khi đã chứng kiến cuộc cách mạng đang diễn ra này trong suốt mười lăm năm qua, tôi tin rằng chúng ta đang đứng trước ngưỡng cửa của sự chuyển biến quan trọng nhất trong cuộc đời của chúng ta.

Là một nhà xây dựng những công nghệ này, tôi tin rằng chúng có thể mang lại một lượng lớn lợi ích, thay đổi vô số cuộc sống theo hướng tốt đẹp hơn, và giải quyết những thách thức cơ bản, từ việc giúp mở khóa thế hệ năng lượng sạch tiếp theo đến việc sản xuất các phương pháp điều trị rẻ và hiệu quả cho những tình trạng y tế khó chữa nhất của chúng ta. Công nghệ có thể và nên làm phong phú cuộc sống của chúng ta; lịch sử đã chứng minh, những nhà phát minh và doanh nhân đứng sau chúng đã là những động lực mạnh mẽ cho sự tiến bộ, cải thiện mức sống cho hàng tỷ người trong chúng ta.

Nhưng nếu không có sự kiềm chế, mọi khía cạnh khác của công nghệ, mọi cuộc thảo luận về những thiếu sót đạo đức của nó, hoặc những lợi ích mà nó có thể mang lại, đều trở nên không quan trọng. Chúng ta cần những câu trả lời chắc chắn về cách mà làn sóng sắp tới có thể được kiểm soát và kiềm chế, cách mà các biện pháp bảo vệ và khả năng của nhà nước dân chủ có thể được duy trì, nhưng ngay bây giờ không ai có kế hoạch như vậy. Đây là một tương lai mà không ai trong chúng ta mong muốn, nhưng tôi lo ngại rằng nó ngày càng có khả năng xảy ra, và tôi sẽ giải thích lý do tại sao trong các chương tiếp theo.

Trong phần 1, chúng ta xem xét lịch sử dài của công nghệ và cách nó lan tỏa—những làn sóng tích tụ qua hàng thiên niên kỷ. Điều gì thúc đẩy chúng? Điều gì khiến chúng thực sự trở nên phổ quát? Chúng ta cũng đặt câu hỏi liệu có những ví dụ về các xã hội một cách có ý thức nói không với một công nghệ mới hay không. Thay vì quay lưng lại với các công nghệ, quá khứ được đánh dấu bởi một mô hình phát triển rõ rệt, dẫn đến những chuỗi kết quả cả có chủ đích lẫn không có chủ đích.

Tôi gọi đây là "vấn đề kiềm chế." Làm thế nào chúng ta giữ được sự kiểm soát đối với những công nghệ quý giá nhất từng được phát minh khi chúng ngày càng rẻ hơn và lan truyền nhanh hơn bất kỳ thời điểm nào trong lịch sử?

Phần 2 đi vào chi tiết của làn sóng sắp tới. Ở trung tâm của nó là hai công nghệ đa mục đích đầy hứa hẹn, sức mạnh và nguy cơ: trí tuệ nhân tạo và sinh học tổng hợp. Cả hai đã được ca ngợi từ lâu, và tuy nhiên, nếu có điều gì đó, tôi tin rằng quy mô của tác động của chúng vẫn thường bị đánh giá thấp. Xung quanh chúng phát triển một loạt các công nghệ liên quan như robot và điện toán lượng tử, sự phát triển của chúng sẽ giao thoa theo những cách phức tạp và hỗn loạn.

Trong phần này, chúng ta không chỉ xem xét cách mà tất cả chúng xuất hiện và chúng có thể làm gì mà còn lý do tại sao chúng lại khó kiểm soát đến vậy. Các công nghệ khác nhau mà tôi đang nói đến có bốn đặc điểm chính giải thích tại sao đây không phải là kinh doanh như thường lệ: chúng vốn dĩ là chung và do đó có thể sử dụng đa dạng, chúng tiến hóa siêu nhanh, chúng có tác động không đối xứng, và, ở một số khía cạnh, chúng ngày càng tự chủ hơn.

Sự sáng tạo của họ được thúc đẩy bởi những động lực mạnh mẽ: cạnh tranh địa chính trị, phần thưởng tài chính khổng lồ và một văn hóa nghiên cứu phân tán, cởi mở. Nhiều tác nhân nhà nước và phi nhà nước sẽ chạy đua để phát triển chúng bất chấp những nỗ lực để điều chỉnh và kiểm soát những gì sắp xảy ra, chấp nhận những rủi ro ảnh hưởng đến tất cả mọi người, dù chúng ta có thích hay không.

Phần 3 khám phá những hệ lụy chính trị của một cuộc phân phối lại quyền lực khổng lồ do một làn sóng không thể kiểm soát tạo ra. Nền tảng của trật tự chính trị hiện tại của chúng ta - và nhân tố quan trọng nhất trong việc kiềm chế các công nghệ - là quốc gia-dân tộc. Đã bị rung chuyển bởi các cuộc khủng hoảng, nó sẽ bị suy yếu thêm bởi một loạt các cú sốc được khuếch đại bởi làn sóng: khả năng xuất hiện các hình thức bạo lực mới, một cơn lũ thông tin sai lệch, sự biến mất của việc làm, và triển vọng của các tai nạn thảm khốc.

Xa hơn, làn sóng này sẽ buộc một loạt các thay đổi kiến tạo quyền lực, vừa tập trung hóa vừa phân quyền cùng một lúc. Điều này sẽ tạo ra những doanh nghiệp mới rộng lớn, củng cố chủ nghĩa độc tài, và đồng thời cũng trao quyền cho các nhóm và phong trào sống ngoài các cấu trúc xã hội truyền thống. Thỏa thuận tinh tế của nhà nước dân tộc sẽ bị đặt dưới áp lực khổng lồ ngay khi chúng ta cần những thể chế như vậy nhất. Đây là cách chúng ta rơi vào tình thế tiến thoái lưỡng nan.

Trong phần 4, cuộc thảo luận chuyển sang những gì chúng ta có thể làm về vấn đề này. Liệu có cơ hội nào cho việc kiềm chế, cho việc thoát khỏi tình thế tiến thoái lưỡng nan không? Nếu có, thì làm thế nào? Trong phần này, chúng tôi phác thảo mười bước, bắt đầu từ cấp độ mã và DNA đến cấp độ các hiệp ước quốc tế, hình thành một tập hợp các ràng buộc chặt chẽ, một kế hoạch phác thảo cho việc kiềm chế.

—

Đây là một cuốn sách về việc đối mặt với thất bại. Công nghệ có thể thất bại theo nghĩa thông thường là không hoạt động: động cơ không khởi động; cầu sập. Nhưng chúng cũng có thể thất bại theo một nghĩa rộng hơn. Nếu công nghệ gây hại cho cuộc sống con người, hoặc tạo ra những xã hội đầy tổn hại, hoặc khiến chúng không thể quản lý được vì chúng ta trao quyền cho một đuôi dài hỗn loạn của những tác nhân xấu (hoặc vô tình nguy hiểm) — nếu, tổng thể, công nghệ đang gây hại — thì có thể nói rằng nó đã thất bại theo một nghĩa khác, sâu sắc hơn, không sống đúng với lời hứa của nó. Thất bại theo nghĩa này không phải là bản chất của công nghệ; nó liên quan đến bối cảnh mà nó hoạt động, các cấu trúc quản trị mà nó phải tuân theo, các mạng lưới quyền lực và cách thức mà nó được sử dụng.

Sự sáng tạo ấn tượng đó mang lại rất nhiều điều bây giờ có nghĩa là chúng ta giỏi hơn trong việc tránh loại thất bại đầu tiên. Ít máy bay gặp nạn hơn, ô tô sạch hơn và an toàn hơn, máy tính mạnh mẽ hơn và vẫn an toàn hơn. Thách thức lớn của chúng ta là chúng ta vẫn chưa đối mặt với loại thất bại sau.

Trong suốt nhiều thế kỷ, công nghệ đã tăng cường đáng kể sự thịnh vượng của hàng tỷ người. Chúng ta khỏe mạnh hơn rất nhiều nhờ vào y học hiện đại, phần lớn thế giới sống trong sự phong phú về thực phẩm, con người chưa bao giờ được giáo dục nhiều hơn, hòa bình hơn, hoặc thoải mái về vật chất hơn. Đây là những thành tựu định hình được tạo ra một phần bởi động lực vĩ đại của nhân loại: khoa học và sự sáng tạo công nghệ. Đó là lý do tại sao tôi đã dành cả cuộc đời mình để phát triển an toàn những công cụ này.

Nhưng bất kỳ sự lạc quan nào mà chúng ta có được từ lịch sử phi thường này phải được dựa trên thực tế thẳng thắn. Bảo vệ chống lại thất bại có nghĩa là hiểu và cuối cùng đối mặt với những gì có thể sai sót. Chúng ta cần theo dõi chuỗi lý luận đến điểm kết luận hợp lý của nó, không sợ hãi về nơi đó có thể dẫn đến, và, khi chúng ta đến đó, hãy làm điều gì đó về nó. Làn sóng công nghệ sắp tới đe dọa sẽ thất bại nhanh hơn và trên quy mô rộng hơn bất kỳ điều gì đã chứng kiến trước đây. Tình huống này cần sự chú ý phổ biến trên toàn cầu. Nó cần những câu trả lời, những câu trả lời mà chưa ai có.

Việc kiềm chế, thoạt nhìn, dường như là không thể. Thế nhưng vì lợi ích của tất cả chúng ta, việc kiềm chế phải có thể.