Máy móc sẽ đi theo con đường giống như quá trình tiến hóa của con người. Tuy nhiên, cuối cùng thì các máy móc tự nhận thức và tự cải tiến sẽ tiến hóa vượt xa khả năng kiểm soát hoặc kể cả hiểu chúng của con người.

Ray Kurzweil

nhà phát minh, tác gia, nhà tương lai học

Trong trò chơi của cuộc sống và tiến hóa, có ba người chơi bên chiếc bàn: loài người, tự nhiên và máy móc. Tôi kiên định đứng về phe tự nhiên. Nhưng tôi ngờ rằng tự nhiên lại đang ở phe máy móc.

George Dyson

nhà sử học

Càng dành nhiều thời gian với các nhà chế tạo AI và các công trình của họ, tôi càng nghĩ rằng AGI sẽ đến sớm hơn. Và tôi tin khi nó đến, những người tạo ra nó sẽ khám phá ra rằng nó không phải là thứ mà họ muốn tạo ra, khi họ bắt đầu công cuộc tìm kiếm này nhiều năm trước đó. Đó là bởi, trong khi trí thông minh của nó có thể ở Cấp độ con người, thì nó sẽ không giống như con người, vì tất cả những lý do mà tôi đã trình bày. Sẽ có nhiều chuyện ầm ĩ về một giống loài mới được sinh ra trên hành tinh này. Sẽ có những sự ly kỳ. Nhưng sẽ không còn câu chuyện về AGI như một bước tiến hóa tiếp theo của Homo sapiens, và mọi hệ quả của nó. Ở một số khía cạnh quan trọng, chúng ta đơn giản sẽ không hiểu được nó là gì.

Trong lĩnh vực của nó, giống loài mới sẽ mạnh và nhanh như Watson trong trò chơi đố chữ. Nếu nó cùng tồn tại với chúng ta trong vai trò một công cụ, kiểu gì thì nó cũng sẽ vươn những cái vòi bạch tuộc của mình vào mọi mặt trong cuộc sống chúng ta, theo cách mà Google và Facebook đang muốn làm. Mạng xã hội có lẽ sẽ trở thành cái nôi, hoặc hệ thống phân phối của nó, hoặc cả hai. Nếu ban đầu nó là một công cụ, nó sẽ có câu trả lời trong khi chúng ta còn đang đặt câu hỏi, và sau đó, nó sẽ chỉ phục vụ cho bản thân. Trong suốt quá trình đó, nó sẽ không có cảm xúc. Nó sẽ không có nguồn gốc từ động vật có vú như chúng ta, không có thời niên thiếu học hỏi lâu dài như chúng ta, không có sự nuôi dưỡng bản năng như chúng ta, cho dù nó có được nuôi giả lập như một con người từ nhỏ đến tuổi trưởng thành đi nữa. Có thể sự quan tâm mà nó dành cho bạn sẽ chẳng nhiều hơn sự quan tâm của một cái máy nướng bánh mì.

Đó là AGI phiên bản 1.0. Nếu vì một vài sự may mắn kỳ quặc nào đó mà chúng ta tránh được sự bùng nổ trí thông minh và sống sót đủ lâu để gây ảnh hưởng lên việc chế tạo AGI 2.0, có lẽ nó sẽ có cảm xúc. Đến lúc đó, các nhà khoa học có lẽ sẽ tìm được cách mô phỏng điện toán các cảm xúc (với sự giúp đỡ của bản 1.0), nhưng cảm xúc sẽ chỉ quan trong thứ yếu, xếp sau mục tiêu chủ yếu là kiếm tiền. Các nhà khoa học có lẽ sẽ tìm ra cách huấn luyện những cảm xúc nhân tạo đó để tương thích với sự tồn tại của con người. Nhưng có lẽ 1.0 sẽ là phiên bản cuối cùng mà chúng ta còn được thấy, bởi chúng ta sẽ không sống được đến khi 2.0 ra đời. Giống như chọn lọc tự nhiên, chúng ta sẽ chọn những phương án khả thi đầu tiên, chứ không phải những phương án tốt nhất.

Stuxnet là một ví dụ cho điều đó. Các drone tự động giết chóc là một ví dụ khác. Với sự tài trợ của DARPA, các nhà khoa học tại Viện nghiên cứu Công nghệ Georgia đã phát triển một phần mềm cho phép những chiến xa không người lái xác định kẻ thù bằng phần mềm nhận dạng hình ảnh và các cách khác, sau đó phóng một drone chết người vào chúng. Tất cả sẽ diễn ra không cần có người ra lệnh. Tôi đã đọc được một bài báo về chuyện này, trong đó có một đoạn chứa ý tốt như sau: “Việc ủy quyền cho một cỗ máy ra quyết định trận mạc có tính sát thương phải tùy thuộc vào việc các nhà lãnh đạo chính trị và quân sự có giải quyết được những câu hỏi về pháp lý và đạo đức hay không.”1

Nó làm tôi nhớ lại một thành ngữ xưa “đã có vũ khí nào được phát minh ra mà không dùng chưa?” Chỉ cần tìm kiếm nhanh trên Google sẽ thấy một danh sách đáng sợ các robot được vũ khí hóa, được chuẩn bị đầy đủ để sát thương tự động, sẵn sàng chờ nhận lệnh (có một con do iRobot chế tạo, trang bị súng sốc điện).2 Tôi mường tượng là những máy móc này sẽ được dùng khá lâu trước khi bạn và tôi biết là chúng đã được dùng. Các nhà hoạch định chính sách, những người tiêu tiền dân, sẽ không cảm thấy họ cần phải có sự đồng thuận của chúng ta, giống như những gì họ đã làm trước khi liều lĩnh triển khai Stuxnet.

Khi viết cuốn sách này, tôi đã yêu cầu các nhà khoa học trò chuyện bằng từ ngữ dân dã dễ hiểu. Những người nổi tiếng nhất đã làm thế, và tôi tin rằng điều này nên là một yêu cầu cho những cuộc thảo luận thông thường về mối nguy AI. Ở trình độ cao hoặc tổng quan, đối thoại này không phải là lĩnh vực dành riêng cho các chuyên gia kỹ thuật và các diễn giả khoa trương, dù nếu đọc về nó trên web có lẽ bạn sẽ nghĩ vậy. Nó không đòi hỏi một vốn từ vựng đặc biệt nào của “người trong ngành.” Nó đòi hỏi một niềm tin rằng những nguy hiểm và cạm bẫy của AI là chuyện của tất cả chúng ta.

Tôi cũng đã gặp một thiểu số, thậm chí cả những nhà khoa học vốn tin tưởng tuyệt đối rằng hiểm họa AI là một câu chuyện hoang đường đến nỗi họ thậm chí không muốn nói về nó. Nhưng những người chối bỏ cuộc thảo luận này – dù là vì vô cảm, lười biếng, hoặc tin rằng không phải thế – lại không phải là số ít. Hầu như cả xã hội không khảo sát và theo dõi mối nguy này. Điều đó không làm giảm chút nào sự tăng trưởng đều đặn, không thể tránh khỏi của trí thông minh máy tính. Nó cũng không thay đổi được một sự thật, rằng chúng ta sẽ chỉ có một cơ hội để kiến tạo nên một sự cộng sinh tích cực với giống loài mới có trí thông minh vượt trội so với con người.