**Trí tuệ nhân tạo và sự ngu dốt tự nhiên**
Một tin tốt là ít nhất trong vài thập kỷ tới, chúng ta sẽ không phải đối mặt với cơn ác mộng khoa học viễn tưởng toàn diện về việc AI có được ý thức và quyết định nô dịch hay xóa sổ nhân loại. Chúng ta sẽ ngày càng dựa vào các thuật toán để đưa ra quyết định thay cho mình, nhưng không chắc các thuật toán sẽ bắt đầu thao túng chúng ta một cách có ý thức. Chúng sẽ không có bất kỳ ý thức nào.
Khoa học viễn tưởng có xu hướng nhầm lẫn trí tuệ với ý thức, và cho rằng để sánh bằng hoặc vượt qua trí tuệ con người, máy tính sẽ phải phát triển ý thức. Cốt truyện cơ bản của hầu hết các bộ phim và tiểu thuyết về AI đều xoay quanh khoảnh khắc kỳ diệu khi một chiếc máy tính hay một con robot có được ý thức. Một khi điều đó xảy ra, hoặc người hùng con người sẽ yêu con robot, hoặc con robot sẽ cố gắng giết tất cả con người, hoặc cả hai điều xảy ra đồng thời.
Nhưng trên thực tế, không có lý do gì để cho rằng trí tuệ nhân tạo sẽ có được ý thức, bởi vì trí tuệ và ý thức là hai thứ rất khác nhau. Trí tuệ là khả năng giải quyết vấn đề. Ý thức là khả năng cảm nhận những thứ như nỗi đau, niềm vui, tình yêu và sự giận dữ. Chúng ta có xu hướng nhầm lẫn hai thứ này vì ở con người và các loài động vật có vú khác, trí tuệ đi đôi với ý thức. Động vật có vú giải quyết hầu hết các vấn đề bằng cách cảm nhận mọi thứ. Tuy nhiên, máy tính lại giải quyết vấn đề theo một cách rất khác.
Đơn giản là có nhiều con đường khác nhau dẫn đến trí tuệ cao, và chỉ một số con đường trong đó liên quan đến việc có được ý thức. Cũng giống như máy bay bay nhanh hơn chim mà không bao giờ mọc lông vũ, máy tính có thể giải quyết vấn đề tốt hơn nhiều so với động vật có vú mà không bao giờ phát triển cảm xúc. Đúng là AI sẽ phải phân tích cảm xúc của con người một cách chính xác để chữa bệnh cho con người, nhận diện những kẻ khủng bố, gợi ý bạn đời và di chuyển trên một con phố đầy người đi bộ. Nhưng nó có thể làm như vậy mà không cần có bất kỳ cảm xúc nào của riêng mình. Một thuật toán không cần cảm thấy vui sướng, tức giận hay sợ hãi để nhận biết các mô hình sinh hóa khác nhau của những con vượn đang vui vẻ, tức giận hay sợ hãi.
Tất nhiên, không phải là hoàn toàn không thể AI sẽ phát triển cảm xúc của riêng mình. Chúng ta vẫn chưa biết đủ về ý thức để chắc chắn. Nhìn chung, có ba khả năng chúng ta cần xem xét:
1. Ý thức bằng cách nào đó gắn liền với sinh hóa hữu cơ theo cách mà sẽ không bao giờ có thể tạo ra ý thức trong các hệ thống phi hữu cơ.
2. Ý thức không gắn liền với sinh hóa hữu cơ, nhưng nó gắn liền với trí tuệ theo cách mà máy tính có thể phát triển ý thức, và máy tính sẽ phải phát triển ý thức nếu chúng muốn vượt qua một ngưỡng trí tuệ nhất định.
3. Không có mối liên hệ thiết yếu nào giữa ý thức với sinh hóa hữu cơ hay trí tuệ cao. Do đó, máy tính có thể phát triển ý thức – nhưng không nhất thiết phải vậy. Chúng có thể trở nên siêu thông minh trong khi vẫn hoàn toàn không có ý thức.
Với trình độ hiểu biết hiện tại của chúng ta, chúng ta không thể loại trừ bất kỳ lựa chọn nào trong số này. Tuy nhiên, chính vì chúng ta biết quá ít về ý thức, nên có vẻ như chúng ta khó có thể lập trình ra những chiếc máy tính có ý thức trong thời gian sớm. Do đó, bất chấp sức mạnh to lớn của trí tuệ nhân tạo, trong tương lai có thể dự đoán được, việc sử dụng nó sẽ tiếp tục phụ thuộc ở một mức độ nào đó vào ý thức của con người.
Nguy hiểm là nếu chúng ta đầu tư quá nhiều vào việc phát triển AI và quá ít vào việc phát triển ý thức của con người, thì trí tuệ nhân tạo vô cùng tinh vi của máy tính có thể chỉ phục vụ để trao quyền cho sự ngu dốt tự nhiên của con người. Chúng ta khó có thể phải đối mặt với một cuộc nổi dậy của robot trong những thập kỷ tới, nhưng chúng ta có thể phải đối phó với hàng loạt bot biết cách bấm vào các nút cảm xúc của chúng ta giỏi hơn cả mẹ của chúng ta, và sử dụng khả năng kỳ lạ này để cố gắng bán cho chúng ta thứ gì đó – dù là một chiếc xe hơi, một chính trị gia, hay cả một hệ tư tưởng. Các bot có thể xác định những nỗi sợ hãi, sự căm ghét và khao khát sâu thẳm nhất của chúng ta, và sử dụng những đòn bẩy nội tâm này để chống lại chúng ta. Chúng ta đã được nếm trước điều này trong các cuộc bầu cử và trưng cầu dân ý gần đây trên khắp thế giới, khi các tin tặc đã học cách thao túng từng cử tri bằng cách phân tích dữ liệu về họ và khai thác những thành kiến sẵn có của họ. Trong khi các bộ phim giật gân khoa học viễn tưởng bị thu hút bởi những ngày tận thế đầy kịch tính với lửa và khói, thì trên thực tế, chúng ta có thể đang phải đối mặt với một ngày tận thế tầm thường bằng cách nhấp chuột.
Để tránh những kết quả như vậy, với mỗi đô la và mỗi phút chúng ta đầu tư vào việc cải thiện trí tuệ nhân tạo, sẽ là khôn ngoan nếu đầu tư một đô la và một phút vào việc nâng cao ý thức của con người. Thật không may, hiện tại chúng ta không làm nhiều để nghiên cứu và phát triển ý thức của con người. Chúng ta đang nghiên cứu và phát triển khả năng của con người chủ yếu theo nhu cầu trước mắt của hệ thống kinh tế và chính trị, chứ không phải theo nhu cầu lâu dài của chính chúng ta với tư cách là những sinh vật có ý thức. Sếp của tôi muốn tôi trả lời email càng nhanh càng tốt, nhưng ông ấy ít quan tâm đến khả năng nếm và thưởng thức món ăn của tôi. Do đó, tôi kiểm tra email ngay cả trong bữa ăn, trong khi mất đi khả năng chú ý đến cảm giác của chính mình. Hệ thống kinh tế gây áp lực buộc tôi phải mở rộng và đa dạng hóa danh mục đầu tư của mình, nhưng nó không cho tôi bất kỳ động lực nào để mở rộng và đa dạng hóa lòng trắc ẩn của mình. Vì vậy, tôi cố gắng hiểu những bí ẩn của thị trường chứng khoán, trong khi nỗ lực ít hơn nhiều để hiểu những nguyên nhân sâu xa của đau khổ.
Về điều này, con người tương tự như các loài động vật đã được thuần hóa khác. Chúng ta đã lai tạo ra những con bò ngoan ngoãn sản xuất một lượng sữa khổng lồ, nhưng nếu không thì thua kém rất nhiều so với tổ tiên hoang dã của chúng. Chúng ít nhanh nhẹn hơn, ít tò mò hơn và ít tháo vát hơn. Giờ đây, chúng ta đang tạo ra những con người thuần phục sản xuất một lượng dữ liệu khổng lồ và hoạt động như những con chip rất hiệu quả trong một cỗ máy xử lý dữ liệu khổng lồ, nhưng những con bò dữ liệu này hardly tối đa hóa tiềm năng của con người. Thật vậy, chúng ta không biết tiềm năng đầy đủ của con người là gì, bởi vì chúng ta biết quá ít về tâm trí con người. Và thế mà chúng ta hardly đầu tư nhiều vào việc khám phá tâm trí con người, mà thay vào đó tập trung vào việc tăng tốc độ kết nối Internet và hiệu quả của các thuật toán Dữ liệu Lớn của chúng ta. Nếu chúng ta không cẩn thận, chúng ta sẽ kết thúc với những con người bị hạ cấp lạm dụng những chiếc máy tính được nâng cấp để gây ra sự tàn phá cho chính mình và cho thế giới.
Các chế độ độc tài kỹ thuật số không phải là nguy hiểm duy nhất đang chờ đợi chúng ta. Bên cạnh tự do, trật tự tự do cũng đã đặt rất nhiều giá trị vào sự bình đẳng. Chủ nghĩa tự do luôn trân trọng bình đẳng chính trị, và nó dần dần nhận ra rằng bình đẳng kinh tế cũng quan trọng gần như vậy. Vì nếu không có mạng lưới an sinh xã hội và một mức độ bình đẳng kinh tế vừa phải, tự do là vô nghĩa. Nhưng cũng giống như các thuật toán Dữ liệu Lớn có thể dập tắt tự do, chúng có thể đồng thời tạo ra những xã hội bất bình đẳng nhất từng tồn tại. Mọi của cải và quyền lực có thể tập trung trong tay một nhóm tinh hoa nhỏ bé, trong khi hầu hết mọi người sẽ không phải chịu đựng sự bóc lột, mà là thứ gì đó tồi tệ hơn nhiều – sự không còn liên quan.
