Chế độ độc tài kỹ thuật số
AI thường khiến mọi người sợ hãi vì họ không tin rằng AI sẽ giữ được sự phục tùng. Chúng ta đã xem quá nhiều phim khoa học viễn tưởng về những con robot nổi loạn chống lại chủ nhân con người, chạy loạn xạ trên đường phố và tàn sát tất cả mọi người. Tuy nhiên, vấn đề thực sự với robot lại hoàn toàn ngược lại. Chúng ta nên sợ chúng vì có lẽ chúng sẽ luôn phục tùng chủ nhân và không bao giờ nổi loạn.
Tất nhiên, sự phục tùng mù quáng chẳng có gì sai, miễn là những con robot đó phục vụ những chủ nhân nhân từ. Ngay cả trong chiến tranh, việc dựa vào robot sát thủ có thể đảm bảo rằng lần đầu tiên trong lịch sử, luật chiến tranh sẽ thực sự được tuân thủ trên chiến trường. Những người lính con người đôi khi bị cảm xúc chi phối dẫn đến giết chóc, cướp bóc và hãm hiếp, vi phạm luật chiến tranh. Chúng ta thường liên tưởng cảm xúc với lòng trắc ẩn, tình yêu và sự đồng cảm, nhưng trong thời chiến, những cảm xúc chiếm quyền kiểm soát thường là nỗi sợ hãi, lòng căm thù và sự tàn ác. Vì robot không có cảm xúc, chúng có thể được tin tưởng để luôn tuân thủ nghiêm ngặt các quy tắc quân sự và không bao giờ bị lung lay bởi nỗi sợ hãi hay lòng căm thù cá nhân.[Vi]
Vào ngày 16 tháng 3 năm 1968, một đại đội lính Mỹ đã mất kiểm soát tại ngôi làng Mỹ Lai ở miền Nam Việt Nam và tàn sát khoảng 400 thường dân. Tội ác chiến tranh này xuất phát từ sự tự ý của những người lính đã tham gia chiến tranh du kích trong rừng rậm suốt nhiều tháng. Nó không phục vụ bất kỳ mục đích chiến lược nào và đi ngược lại cả bộ luật lẫn chính sách quân sự của Hoa Kỳ. Đó là lỗi của cảm xúc con người. Nếu Hoa Kỳ triển khai robot sát thủ ở Việt Nam, vụ thảm sát Mỹ Lai đã không bao giờ xảy ra.
Tuy nhiên, trước khi vội vã phát triển và triển khai robot sát thủ, chúng ta cần tự nhắc nhở mình rằng robot luôn phản ánh và khuếch đại những phẩm chất trong mã nguồn của chúng. Nếu mã nguồn được kiềm chế và nhân từ – robot có lẽ sẽ là một sự cải tiến vượt bậc so với người lính bình thường. Nhưng nếu mã nguồn tàn nhẫn và độc ác – kết quả sẽ là thảm họa. Vấn đề thực sự với robot không phải là trí tuệ nhân tạo của chính chúng, mà là sự ngu ngốc và tàn ác tự nhiên của những chủ nhân con người của chúng.[Vi]
Vào tháng 7 năm 1995, quân đội người Serb ở Bosnia đã tàn sát hơn 8.000 người Hồi giáo Bosniak quanh thị trấn Srebrenica. Không giống như vụ thảm sát Mỹ Lai mang tính tự phát, các vụ giết người ở Srebrenica là một chiến dịch kéo dài và được tổ chức bài bản, phản ánh chính sách của người Serb ở Bosnia nhằm "thanh trừng sắc tộc" người Hồi giáo khỏi Bosnia. Nếu người Serb ở Bosnia có robot sát thủ vào năm 1995, điều đó có lẽ sẽ làm cho sự tàn bạo trở nên tồi tệ hơn chứ không phải tốt hơn. Không một con robot nào do dự dù chỉ một giây khi thực hiện bất kỳ mệnh lệnh nào mà nó nhận được, và nó sẽ không tha mạng cho một đứa trẻ Hồi giáo nào vì lòng trắc ẩn, sự ghê tởm hay đơn giản là vì sự thờ ơ.
Một nhà độc tài tàn nhẫn được trang bị những con robot sát thủ như vậy sẽ không bao giờ phải sợ rằng binh lính của mình sẽ quay lưng lại với hắn, bất kể mệnh lệnh của hắn có vô tâm và điên rồ đến mức nào. Một đội quân robot có lẽ đã bóp nghẹt cuộc Cách mạng Pháp ngay từ trong trứng nước vào năm 1789, và nếu vào năm 2011, Hosni Mubarak có một đội quân robot sát thủ, ông ta đã có thể thả chúng vào đám đông mà không sợ bị đào ngũ. Tương tự, một chính phủ đế quốc dựa vào đội quân robot có thể tiến hành những cuộc chiến tranh không được lòng dân mà không phải lo lắng rằng robot của họ có thể mất động lực, hay gia đình của chúng có thể tổ chức biểu tình. Nếu Hoa Kỳ có robot sát thủ trong Chiến tranh Việt Nam, vụ thảm sát Mỹ Lai có thể đã được ngăn chặn, nhưng bản thân cuộc chiến có thể đã kéo dài thêm nhiều năm nữa, bởi vì chính phủ Mỹ sẽ ít lo lắng hơn về những người lính mất tinh thần, các cuộc biểu tình phản chiến quy mô lớn, hay phong trào "cựu chiến binh robot phản chiến" (một số công dân Mỹ có thể vẫn phản đối cuộc chiến, nhưng nếu không có nỗi sợ bị gọi nhập ngũ, không có ký ức về việc đích thân gây ra tội ác, hay nỗi đau mất đi người thân yêu, những người biểu tình có lẽ sẽ ít hơn và ít quyết tâm hơn).[Vi]
Những loại vấn đề này ít liên quan hơn nhiều đến các phương tiện dân sự tự hành, bởi vì không nhà sản xuất ô tô nào lại cố tình lập trình cho phương tiện của mình để nhắm mục tiêu và giết người. Tuy nhiên, các hệ thống vũ khí tự hành là một thảm họa chực chờ xảy ra, bởi vì quá nhiều chính phủ có xu hướng tha hóa về mặt đạo đức, nếu không muốn nói là hoàn toàn xấu xa.
Mối nguy hiểm không chỉ giới hạn ở những cỗ máy giết người. Các hệ thống giám sát cũng có thể rủi ro không kém. Trong tay một chính phủ nhân từ, các thuật toán giám sát mạnh mẽ có thể là điều tốt đẹp nhất từng xảy ra với nhân loại. Tuy nhiên, các thuật toán Dữ liệu lớn (Big Data) tương tự cũng có thể trao quyền cho một "Anh Cả" (Big Brother) trong tương lai, khiến chúng ta có thể kết thúc trong một chế độ giám sát kiểu Orwell, nơi tất cả các cá nhân đều bị theo dõi mọi lúc mọi nơi.
Thật vậy, chúng ta có thể kết thúc với một thứ mà ngay cả Orwell cũng khó có thể tưởng tượng ra: một chế độ giám sát toàn diện không chỉ theo dõi mọi hoạt động và lời nói bên ngoài của chúng ta, mà thậm chí có thể đi sâu vào dưới da để quan sát những trải nghiệm nội tâm. Hãy xem xét ví dụ về những gì chế độ Kim ở Triều Tiên có thể làm với công nghệ mới. Trong tương lai, mỗi công dân Triều Tiên có thể được yêu cầu đeo một chiếc vòng tay sinh trắc học theo dõi mọi việc bạn làm và nói – cũng như huyết áp và hoạt động não bộ của bạn. Bằng cách sử dụng sự hiểu biết ngày càng tăng về não bộ con người và tận dụng sức mạnh to lớn của học máy, chế độ Triều Tiên có thể lần đầu tiên trong lịch sử đo lường được suy nghĩ của từng công dân trong từng khoảnh khắc. Nếu bạn nhìn vào bức ảnh của Kim Jong-un và các cảm biến sinh trắc học ghi nhận những dấu hiệu tố cáo sự tức giận (huyết áp cao hơn, hoạt động tăng lên ở hạch hạnh nhân) – bạn sẽ vào trại cải tạo vào sáng hôm sau.[Vi]
Phải thừa nhận rằng, do bị cô lập, chế độ Triều Tiên có thể gặp khó khăn trong việc tự phát triển công nghệ cần thiết. Tuy nhiên, công nghệ này có thể được tiên phong ở các quốc gia am hiểu công nghệ hơn, và được sao chép hoặc mua lại bởi Triều Tiên và các chế độ độc tài lạc hậu khác. Cả Trung Quốc và Nga đều đang không ngừng cải thiện các công cụ giám sát của họ, cũng như một số quốc gia dân chủ, từ Hoa Kỳ đến quê hương Israel của tôi. Được mệnh danh là "quốc gia khởi nghiệp", Israel có một lĩnh vực công nghệ cao cực kỳ sôi động và một ngành an ninh mạng tiên tiến. Đồng thời, quốc gia này cũng đang bị khóa chặt trong một cuộc xung đột chết người với người Palestine, và ít nhất một số nhà lãnh đạo, tướng lĩnh và công dân của họ có thể sẽ rất vui mừng khi tạo ra một chế độ giám sát toàn diện ở Bờ Tây ngay khi họ có công nghệ cần thiết.
Ngay ngày nay, bất cứ khi nào người Palestine thực hiện một cuộc gọi điện thoại, đăng nội dung gì đó lên Facebook hoặc di chuyển từ thành phố này sang thành phố khác, họ đều có khả năng bị theo dõi bởi micrô, camera, máy bay không người lái hoặc phần mềm gián điệp của Israel. Dữ liệu thu thập được sau đó được phân tích với sự hỗ trợ của các thuật toán Dữ liệu lớn. Điều này giúp lực lượng an ninh Israel xác định và vô hiệu hóa các mối đe dọa tiềm tàng mà không cần phải triển khai quá nhiều quân trên mặt đất. Người Palestine có thể quản lý một số thị trấn và làng mạc ở Bờ Tây, nhưng người Israel kiểm soát bầu trời, sóng vô tuyến và không gian mạng. Do đó, chỉ cần một số lượng đáng ngạc nhiên các binh sĩ Israel để kiểm soát hiệu quả khoảng 2,5 triệu người Palestine ở Bờ Tây.[Vi]
Trong một sự cố bi hài vào tháng 10 năm 2017, một công nhân người Palestine đã đăng lên tài khoản Facebook cá nhân của mình một bức ảnh chụp anh ta tại nơi làm việc, bên cạnh một chiếc máy ủi. Bên cạnh hình ảnh, anh viết "Chào buổi sáng!". Một thuật toán tự động đã mắc một lỗi nhỏ khi chuyển tự các chữ cái Ả Rập. Thay vì "Ysabechhum!" (có nghĩa là "Chào buổi sáng!"), thuật toán đã xác định các chữ cái đó là "Ydbachhum!" (có nghĩa là "Giết chúng nó!"). Nghi ngờ rằng người đàn ông này có thể là một kẻ khủng bố định dùng máy ủi để cán người, lực lượng an ninh Israel đã nhanh chóng bắt giữ anh ta. Anh ta được thả sau khi họ nhận ra rằng thuật toán đã mắc lỗi. Nhưng bài đăng Facebook gây tranh cãi đó vẫn bị gỡ bỏ. Bạn không bao giờ có thể quá cẩn thận. Những gì người Palestine đang trải qua ngày nay ở Bờ Tây có thể chỉ là bản xem trước sơ khai cho những gì hàng tỷ người cuối cùng sẽ trải qua trên khắp hành tinh.
Vào cuối thế kỷ XX, các nền dân chủ thường vượt trội hơn các chế độ độc tài vì các nền dân chủ giỏi hơn trong việc xử lý dữ liệu. Dân chủ phân tán quyền lực xử lý thông tin và đưa ra quyết định giữa nhiều người và tổ chức, trong khi chế độ độc tài tập trung thông tin và quyền lực vào một nơi. Với công nghệ thế kỷ XX, việc tập trung quá nhiều thông tin và quyền lực vào một nơi là không hiệu quả. Không ai có khả năng xử lý tất cả thông tin đủ nhanh và đưa ra quyết định đúng đắn. Đây là một phần lý do tại sao Liên Xô đưa ra những quyết định tồi tệ hơn nhiều so với Hoa Kỳ, và tại sao nền kinh tế Liên Xô tụt hậu rất xa so với nền kinh tế Mỹ.[Vi]
Tuy nhiên, chẳng bao lâu nữa AI có thể xoay chuyển tình thế theo hướng ngược lại. AI giúp việc xử lý lượng thông tin khổng lồ một cách tập trung trở nên khả thi. Thật vậy, AI có thể làm cho các hệ thống tập trung trở nên hiệu quả hơn nhiều so với các hệ thống phân tán, bởi vì học máy hoạt động tốt hơn khi nó có thể phân tích càng nhiều thông tin. Nếu bạn tập trung tất cả thông tin liên quan đến một tỷ người vào một cơ sở dữ liệu, bỏ qua mọi lo ngại về quyền riêng tư, bạn có thể huấn luyện các thuật toán tốt hơn nhiều so với việc bạn tôn trọng quyền riêng tư cá nhân và chỉ có thông tin một phần về một triệu người trong cơ sở dữ liệu của mình. Ví dụ, nếu một chính phủ độc tài ra lệnh cho tất cả công dân phải quét DNA và chia sẻ tất cả dữ liệu y tế của họ với một cơ quan trung ương nào đó, họ sẽ giành được lợi thế to lớn trong nghiên cứu di truyền và y tế so với các xã hội mà dữ liệu y tế được giữ kín hoàn toàn. Hạn chế chính của các chế độ độc tài trong thế kỷ XX – nỗ lực tập trung tất cả thông tin vào một nơi – có thể trở thành lợi thế quyết định của họ trong thế kỷ XXI.
Khi các thuật toán hiểu rõ chúng ta đến mức đó, các chính phủ độc tài có thể giành quyền kiểm soát tuyệt đối đối với công dân của họ, thậm chí còn hơn cả ở Đức Quốc xã, và sự phản kháng đối với các chế độ như vậy có thể trở nên hoàn toàn bất khả thi. Chế độ sẽ không chỉ biết chính xác bạn cảm thấy thế nào – nó có thể khiến bạn cảm thấy bất cứ điều gì nó muốn. Nhà độc tài có thể không cung cấp cho công dân dịch vụ chăm sóc sức khỏe hay sự bình đẳng, nhưng hắn có thể khiến họ yêu hắn và căm ghét những kẻ đối lập với hắn. Dân chủ ở hình thức hiện tại không thể tồn tại sau sự hợp nhất của công nghệ sinh học và công nghệ thông tin. Hoặc là nền dân chủ sẽ tự tái tạo thành công dưới một hình thức hoàn toàn mới, hoặc con người sẽ phải sống trong các "chế độ độc tài kỹ thuật số".[Vi]
Đây sẽ không phải là sự trở lại của thời kỳ Hitler và Stalin. Các chế độ độc tài kỹ thuật số sẽ khác với Đức Quốc xã cũng như Đức Quốc xã khác với nước Pháp thời ancien régime (chế độ cũ). Louis XIV là một nhà chuyên chế tập quyền, nhưng ông không có công nghệ để xây dựng một nhà nước toàn trị hiện đại. Ông không chịu sự phản đối nào đối với sự cai trị của mình, tuy nhiên khi thiếu đài phát thanh, điện thoại và tàu hỏa, ông có rất ít quyền kiểm soát đối với cuộc sống hàng ngày của nông dân ở các ngôi làng Breton xa xôi, hay thậm chí là của người dân thị trấn ở trung tâm Paris. Ông không có ý chí cũng như khả năng thành lập một đảng quần chúng, một phong trào thanh niên trên toàn quốc hay một hệ thống giáo dục quốc gia. Chính những công nghệ mới của thế kỷ XX đã mang lại cho Hitler cả động lực và quyền lực để làm những việc như vậy. Chúng ta không thể dự đoán động lực và quyền lực của các chế độ độc tài kỹ thuật số vào năm 2084 sẽ là gì, nhưng rất khó có khả năng chúng chỉ sao chép Hitler và Stalin. Những ai đang chuẩn bị để chiến đấu lại các trận chiến của những năm 1930 có thể sẽ bị bất ngờ bởi một cuộc tấn công từ một hướng hoàn toàn khác.[Vi]
Ngay cả khi nền dân chủ xoay xở để thích nghi và tồn tại, con người vẫn có thể trở thành nạn nhân của những hình thức áp bức và phân biệt đối xử mới. Ngay ngày nay, ngày càng nhiều ngân hàng, tập đoàn và tổ chức đang sử dụng các thuật toán để phân tích dữ liệu và đưa ra quyết định về chúng ta. Khi bạn nộp đơn xin vay vốn tại ngân hàng, nhiều khả năng đơn của bạn được xử lý bởi một thuật toán thay vì một con người. Thuật toán phân tích rất nhiều dữ liệu về bạn và số liệu thống kê về hàng triệu người khác, rồi quyết định xem bạn có đủ tin cậy để được vay hay không. Thông thường, thuật toán làm tốt hơn một nhân viên ngân hàng con người. Nhưng vấn đề là nếu thuật toán phân biệt đối xử với một số người một cách bất công, thì rất khó để biết điều đó. Nếu ngân hàng từ chối cho bạn vay, và bạn hỏi "Tại sao?", ngân hàng trả lời "Thuật toán nói không." Bạn hỏi "Tại sao thuật toán lại nói không? Tôi có vấn đề gì sao?", và ngân hàng trả lời "Chúng tôi không biết. Không con người nào hiểu được thuật toán này, vì nó dựa trên học máy tiên tiến. Nhưng chúng tôi tin tưởng thuật toán của mình, nên chúng tôi sẽ không cho bạn vay."[Vi]
Khi sự phân biệt đối xử nhắm vào toàn bộ các nhóm, chẳng hạn như phụ nữ hoặc người da đen, những nhóm này có thể tổ chức và phản đối sự phân biệt đối xử tập thể đối với họ. Nhưng bây giờ, một thuật toán có thể phân biệt đối xử với cá nhân bạn, và bạn không hề biết tại sao. Có lẽ thuật toán đã tìm thấy điều gì đó trong DNA, lịch sử cá nhân hoặc tài khoản Facebook của bạn mà nó không thích. Thuật toán phân biệt đối xử với bạn không phải vì bạn là phụ nữ, hay là người Mỹ gốc Phi – mà vì bạn là chính bạn. Có một điều gì đó cụ thể về bạn mà thuật toán không thích. Bạn không biết đó là gì, và ngay cả khi bạn biết, bạn cũng không thể tổ chức cùng những người khác để phản đối, bởi vì không có người nào khác phải chịu đựng chính xác định kiến đó. Chỉ có mình bạn. Thay vì chỉ là sự phân biệt đối xử tập thể, trong thế kỷ XXI, chúng ta có thể phải đối mặt với vấn đề ngày càng gia tăng về sự phân biệt đối xử cá nhân.[Vi]
Ở các cấp độ quyền lực cao nhất, chúng ta có lẽ vẫn sẽ giữ lại những người đứng đầu là con người, những người sẽ mang lại cho chúng ta ảo tưởng rằng các thuật toán chỉ là cố vấn, và quyền lực tối cao vẫn nằm trong tay con người. Chúng ta sẽ không bổ nhiệm một AI làm thủ tướng Đức hay CEO của Google. Tuy nhiên, các quyết định do thủ tướng và CEO đưa ra sẽ được định hình bởi AI. Thủ tướng vẫn có thể chọn giữa một vài phương án khác nhau, nhưng tất cả các phương án này sẽ là kết quả của việc phân tích Dữ liệu lớn, và chúng sẽ phản ánh cách AI nhìn thế giới nhiều hơn là cách con người nhìn thế giới.
Để lấy một ví dụ tương tự, ngày nay các chính trị gia trên khắp thế giới có thể chọn giữa một vài chính sách kinh tế khác nhau, nhưng trong hầu hết các trường hợp, các chính sách khác nhau được đưa ra đều phản ánh quan điểm kinh tế tư bản chủ nghĩa. Các chính trị gia có ảo tưởng về sự lựa chọn, nhưng những quyết định thực sự quan trọng đã được đưa ra từ rất lâu trước đó bởi các nhà kinh tế, chủ ngân hàng và doanh nhân, những người đã định hình các lựa chọn khác nhau trong thực đơn. Trong vòng vài thập kỷ nữa, các chính trị gia có thể thấy mình đang phải lựa chọn từ một thực đơn do AI viết ra.[Vi]
—ooOoo—