Năm 2017, tranh luận nổ ra giữa hai tỷ phú, Mark Zuckerberg - nhà sáng lập Facebook và Elon Musk - người sáng lập SpaceX và Tesla. Zuckerberg bảo vệ ý kiến rằng trí tuệ nhân tạo sẽ mang đến giàu có và thịnh vượng, giúp toàn xã hội đủ đầy hơn. Còn Musk có cái nhìn u ám hơn nhiều, nhận định rằng AI đang đặt ra nguy cơ sống còn cho toàn nhân loại và một ngày nào đó, phát minh của chúng ta sẽ tấn công ngược lại chính con người.

Vậy ai đúng? Nếu chúng ta quá phụ thuộc vào robot trong việc xây dựng và bảo trì căn cứ Mặt Trăng hay các đô thị trên Sao Hỏa, thì chuyện gì sẽ xảy ra nếu một ngày chúng quyết định không cần đến ta nữa? Ta thiết lập khu định cư ngoài không gian chỉ để dâng chúng cho người máy ư?

Nỗi sợ này không mới và thực ra đã được tiểu thuyết gia Samuel Butler nhắc đến năm 1863 với lời cảnh báo: “Chúng ta đang tạo ra những kẻ kế vị mình. Vị thế của con người đối với máy móc rồi sẽ giống như vị thế của ngựa và chó đối với con người.” Khi robot dần trở nên thông minh hơn con người, ta sẽ cảm thấy thất thế vì bị chính các phát minh của mình cho hít bụi. Chuyên gia AI Hans Moravec nói: “Đời còn ý nghĩa gì nữa nếu định mệnh của chúng ta là nghệt mặt nhìn lớp hậu bối siêu thông minh cố gắng mô tả cho chúng ta về những khám phá ngày càng vĩ đại của chúng bằng thứ ngôn ngữ như thể trò chuyện với con nít.” Nhà khoa học của Google Geoffrey Hinton thì nghi ngờ khả năng robot siêu thông minh sẽ tiếp tục nghe lời loài người. “Điều đó giống như hỏi con cái có thể kiểm soát cha mẹ không… không phải điều hay ho khi loài kém thông minh hơn kiểm soát những thứ của loài thông minh hơn.” Giáo sư Đại học Oxford Nick Bostrom thì nhận định: “trước viễn cảnh bùng nổ trí tuệ, loài người chúng ta giống như đám trẻ con đang chơi với một quả bom… Ta không biết khi nào quả bom phát nổ, nhưng nếu đưa nó vào sát gần tai, ta sẽ nghe tiếng tích tắc nho nhỏ.”

Một số người khác cho rằng robot nổi loạn chỉ là chuyện tiến hóa diễn ra theo tiến trình của nó. Loài phù hợp nhất sẽ thay thế các loài yếu hơn; quy luật tự nhiên là vậy. Một số nhà khoa học máy tính còn hoan nghênh cái ngày robot vượt mặt con người về nhận thức. Claude Shannon, cha đẻ của lý thuyết thông tin, từng khẳng định: “Tôi hình dung tương lai khi chúng ta đối với robot cũng giống như loài chó đối với con người, và tôi ủng hộ lũ người máy.”

Tôi từng phỏng vấn nhiều nhà nghiên cứu AI suốt những năm qua, tất cả họ đều quả quyết rằng đến một ngày kia máy móc AI sẽ đạt trí khôn loài người và trở nên cực kỳ hữu dụng cho chúng ta. Nhưng đa số họ do dự khi được hỏi về thời điểm chính xác hay tiến trình của bước tiến này. Giáo sư Marvin Minsky của Đại học MIT, tác giả một số bài nghiên cứu mở đường cho ngành trí tuệ nhân tạo, đã đưa ra các dự đoán đầy lạc quan trong những năm 1950 nhưng lại hé lộ với tôi trong một cuộc phỏng vấn gần đây rằng ông không còn sẵn sàng dự đoán ngày tháng chính xác nữa, bởi giới nghiên cứu AI đã đoán sai quá nhiều trong quá khứ. Edward Feigenbaum thuộc Đại học Stanford nhận định: “Thật nực cười khi nói về những việc này quá sớm – AI vẫn còn cách ta nhiều niên kỷ nữa.” Báo New Yorker thì dẫn lời một nhà khoa học máy tính: “Tôi không quan tâm đến nó [trí tuệ máy móc], cũng như không quan tâm đến chuyện quá tải dân số trên Sao Hỏa.”

Về tranh luận giữa Zuckerberg và Musk, theo quan điểm cá nhân, tôi thấy Zuckerberg đúng về mặt ngắn hạn. AI sẽ không chỉ giúp chúng ta xây dựng thành phố bên ngoài vũ trụ, mà còn giúp làm giàu cho xã hội khi khiến mọi thứ trở nên hiệu quả hơn, tốt hơn và rẻ hơn thông qua việc tạo ra những công việc mới xuất phát từ ngành công nghiệp robot. Có thể một ngày nào đó, ngành này sẽ còn phát triển hơn cả công nghiệp ô tô hiện tại. Nhưng về lâu dài, Musk đã đúng khi chỉ ra nguy cơ lớn hơn. Câu hỏi chính yếu của cuộc tranh luận này là: Đến khi nào robot sẽ phát triển tới mức độ nguy hiểm? Cá nhân tôi nghĩ bước ngoặt sẽ xảy ra chính vào lúc chúng biết tự nhận thức.

Hiện tại, robot không biết chúng là robot. Nhưng tới một ngày, có thể chúng sẽ tự tạo ra mục tiêu, thay vì chấp hành những mục tiêu do các nhà lập trình lựa chọn. Rồi chúng sẽ nhận ra chương trình của chúng khác với chương trình của con người. Nếu lợi ích của hai bên khác biệt, chúng có thể trở thành mối đe dọa. Khi nào chuyện đó sẽ xảy ra? Không ai biết. Hiện tại, robot có trí thông minh tương đương một con bọ. Nhưng có thể đến cuối thế kỷ này, chúng sẽ biết tự nhận thức. Khi đó chúng ta cũng đang có các khu định cư phát triển nhanh chóng trên Sao Hỏa. Bởi vậy, việc giải quyết vấn đề này ngay từ bây giờ là rất quan trọng, thay vì để đến khi sự sống còn của con người trên Hành tinh đỏ phụ thuộc vào chúng.

Để hiểu thêm về sự cấp bách của tình huống khẩn này, hãy thử xem xét những kịch bản tốt nhất và xấu nhất sau đây.