Kịch bản của việc ra quyết định
Điều đang bắt đầu xảy ra trong y học nhiều khả năng sẽ diễn ra trong ngày càng nhiều lĩnh vực khác. Phát minh then chốt chính là cảm biến sinh trắc học, thứ mà con người có thể đeo trên người hoặc cấy vào trong cơ thể, giúp chuyển đổi các quá trình sinh học thành thông tin điện tử để máy tính có thể lưu trữ và phân tích. Với đủ dữ liệu sinh trắc học và đủ sức mạnh tính toán, các hệ thống xử lý dữ liệu bên ngoài có thể "hack" mọi ham muốn, quyết định và quan điểm của bạn. Chúng có thể biết chính xác bạn là ai.
Hầu hết mọi người không thực sự hiểu rõ bản thân mình. Khi tôi hai mươi mốt tuổi, cuối cùng tôi cũng nhận ra mình là người đồng tính, sau vài năm sống trong sự chối bỏ. Điều đó chẳng có gì là ngoại lệ. Nhiều nam giới đồng tính dành trọn những năm tháng tuổi thiếu niên không chắc chắn về xu hướng tính dục của mình. Giờ hãy tưởng tượng tình huống vào năm 2050, khi một thuật toán có thể cho bất kỳ thiếu niên nào biết chính xác vị trí của cậu ấy trên phổ đồng tính-dị tính (và thậm chí vị trí đó có thể thay đổi linh hoạt đến mức nào). Có lẽ thuật toán sẽ hiển thị cho bạn hình ảnh hoặc video về những người đàn ông và phụ nữ hấp dẫn, theo dõi chuyển động mắt, huyết áp và hoạt động não bộ của bạn, rồi trong vòng năm phút sẽ đưa ra một con số trên thang đo Kinsey. Nó có thể đã giúp tôi tiết kiệm được nhiều năm thất vọng. Có lẽ cá nhân bạn sẽ không muốn thực hiện một bài kiểm tra như vậy, nhưng rồi có thể bạn thấy mình đang ở cùng một nhóm bạn trong bữa tiệc sinh nhật nhàm chán của Michelle, và ai đó gợi ý tất cả hãy thay phiên nhau kiểm tra bản thân bằng thuật toán mới thú vị này (với mọi người đứng xung quanh để xem kết quả – và bình luận về chúng). Liệu bạn có chỉ đơn giản bỏ đi không?[Vi]
Ngay cả khi bạn làm vậy, và ngay cả khi bạn tiếp tục trốn tránh bản thân và bạn bè, bạn cũng sẽ không thể trốn tránh Amazon, Alibaba hay cảnh sát mật. Khi bạn lướt Web, xem YouTube hoặc đọc bảng tin mạng xã hội, các thuật toán sẽ âm thầm theo dõi bạn, phân tích bạn và nói với Coca-Cola rằng nếu muốn bán cho bạn một loại nước giải khát có ga, tốt hơn hết họ nên sử dụng quảng cáo có chàng trai cởi trần thay vì cô gái cởi trần. Bạn thậm chí sẽ không biết. Nhưng họ sẽ biết, và thông tin như vậy sẽ đáng giá hàng tỷ đô la.
Nói đi cũng phải nói lại, có lẽ mọi thứ sẽ được công khai, và mọi người sẽ vui vẻ chia sẻ thông tin của mình để nhận được những gợi ý tốt hơn – và cuối cùng là để thuật toán đưa ra quyết định thay cho họ. Nó bắt đầu bằng những việc đơn giản, như quyết định xem bộ phim nào. Khi bạn ngồi xuống cùng một nhóm bạn để dành một buổi tối ấm cúng trước TV, trước tiên bạn phải chọn xem gì. Năm mươi năm trước bạn không có lựa chọn nào, nhưng ngày nay – với sự trỗi dậy của các dịch vụ xem theo yêu cầu – có hàng ngàn tựa phim sẵn có. Việc đạt được thỏa thuận có thể khá khó khăn, bởi vì trong khi cá nhân bạn thích phim kinh dị khoa học viễn tưởng, Jack lại thích phim hài lãng mạn, và Jill bỏ phiếu cho các bộ phim nghệ thuật của Pháp. Bạn rất có thể sẽ kết thúc bằng việc thỏa hiệp với một bộ phim hạng B tầm thường khiến tất cả các bạn thất vọng.[Vi]
Một thuật toán có thể giúp ích. Bạn có thể cho nó biết những bộ phim trước đây mà mỗi người trong nhóm thực sự thích, và dựa trên cơ sở dữ liệu thống kê khổng lồ của mình, thuật toán sau đó có thể tìm ra sự lựa chọn hoàn hảo cho cả nhóm. Thật không may, một thuật toán thô sơ như vậy rất dễ bị đánh lừa, đặc biệt là vì việc tự báo cáo vốn là một thước đo không đáng tin cậy cho sở thích thực sự của con người. Thường thì chúng ta nghe nhiều người ca ngợi một bộ phim nào đó là kiệt tác, cảm thấy bắt buộc phải xem nó, và ngay cả khi chúng ta ngủ gật giữa chừng, chúng ta cũng không muốn trông giống kẻ thiếu văn hóa, nên chúng ta nói với mọi người rằng đó là một trải nghiệm tuyệt vời.
Tuy nhiên, những vấn đề như vậy có thể được giải quyết nếu chúng ta chỉ cần cho phép thuật toán thu thập dữ liệu thời gian thực về chúng ta khi chúng ta thực sự xem phim, thay vì dựa vào những báo cáo tự thân đáng ngờ của chính mình. Để bắt đầu, thuật toán có thể theo dõi những bộ phim nào chúng ta đã xem hết, và bộ phim nào chúng ta đã ngừng xem giữa chừng. Ngay cả khi chúng ta nói với cả thế giới rằng Cuốn theo chiều gió là bộ phim hay nhất từng được thực hiện, thuật toán sẽ biết chúng ta chưa bao giờ xem quá nửa giờ đầu tiên, và chúng ta chưa bao giờ thực sự nhìn thấy Atlanta bốc cháy.[Vi]
Tuy nhiên, thuật toán có thể đi sâu hơn thế nhiều. Các kỹ sư hiện đang phát triển phần mềm có thể phát hiện cảm xúc con người dựa trên chuyển động của mắt và cơ mặt của chúng ta. Thêm một chiếc camera tốt vào tivi, và phần mềm như vậy sẽ biết những cảnh nào khiến chúng ta cười, cảnh nào khiến chúng ta buồn, và cảnh nào khiến chúng ta chán nản. Tiếp theo, kết nối thuật toán với các cảm biến sinh trắc học, và thuật toán sẽ biết mỗi khung hình đã ảnh hưởng đến nhịp tim, huyết áp và hoạt động não bộ của chúng ta như thế nào. Khi chúng ta xem, ví dụ, bộ phim Pulp Fiction của Tarantino, thuật toán có thể ghi nhận rằng cảnh cưỡng hiếp đã gây ra cho chúng ta một chút kích thích tình dục gần như không thể nhận thấy, rằng khi Vincent vô tình bắn vào mặt Marvin, nó đã khiến chúng ta cười một cách tội lỗi, và rằng chúng ta không hiểu trò đùa về chiếc Big Kahuna Burger – nhưng chúng ta vẫn cười, để không trông có vẻ ngu ngốc. Khi bạn ép mình cười, bạn sử dụng các mạch não và cơ bắp khác với khi bạn cười vì điều gì đó thực sự hài hước. Con người thường không thể phát hiện ra sự khác biệt. Nhưng một cảm biến sinh trắc học thì có thể.[Vi]
Từ "television" (truyền hình) bắt nguồn từ tiếng Hy Lạp ‘tele’, có nghĩa là ‘xa’, và tiếng Latin ‘visio’, tầm nhìn. Ban đầu nó được hình thành như một thiết bị cho phép chúng ta nhìn từ xa. Nhưng chẳng bao lâu nữa, nó có thể cho phép chúng ta bị nhìn thấy từ xa. Như George Orwell đã hình dung trong tác phẩm 1984, chiếc tivi sẽ theo dõi chúng ta trong khi chúng ta đang xem nó. Sau khi chúng ta xem xong toàn bộ các bộ phim của Tarantino, chúng ta có thể đã quên hầu hết nội dung. Nhưng Netflix, hoặc Amazon, hoặc bất cứ ai sở hữu thuật toán tivi đó, sẽ biết kiểu tính cách của chúng ta, và cách nhấn vào các nút cảm xúc của chúng ta. Dữ liệu như vậy có thể cho phép Netflix và Amazon chọn phim cho chúng ta với độ chính xác kỳ lạ, nhưng nó cũng có thể cho phép họ đưa ra những quyết định quan trọng nhất trong cuộc đời thay cho chúng ta – chẳng hạn như học gì, làm việc ở đâu, và kết hôn với ai.
Tất nhiên Amazon sẽ không đúng mọi lúc. Điều đó là không thể. Các thuật toán sẽ liên tục mắc sai lầm do dữ liệu không đầy đủ, lập trình lỗi, định nghĩa mục tiêu mơ hồ và bản chất hỗn loạn của cuộc sống. Nhưng Amazon sẽ không cần phải hoàn hảo. Nó chỉ cần trung bình tốt hơn con người chúng ta. Và điều đó không quá khó, bởi vì hầu hết mọi người không hiểu rõ bản thân mình, và hầu hết mọi người thường mắc những sai lầm khủng khiếp trong những quyết định quan trọng nhất của cuộc đời họ. Thậm chí còn hơn cả các thuật toán, con người phải chịu đựng sự thiếu hụt dữ liệu, sự lập trình lỗi (về mặt di truyền và văn hóa), các định nghĩa mơ hồ, và sự hỗn loạn của cuộc sống.[Vi]
Bạn có thể liệt kê rất nhiều vấn đề đang bủa vây các thuật toán, và kết luận rằng mọi người sẽ không bao giờ tin tưởng chúng. Nhưng điều này hơi giống như việc liệt kê tất cả những nhược điểm của nền dân chủ và kết luận rằng không một người tỉnh táo nào lại chọn ủng hộ một hệ thống như vậy. Winston Churchill từng có câu nói nổi tiếng rằng dân chủ là hệ thống chính trị tồi tệ nhất trên thế giới, ngoại trừ tất cả những hệ thống khác. Dù đúng hay sai, mọi người có thể đi đến kết luận tương tự về các thuật toán Dữ liệu lớn: chúng có rất nhiều trục trặc, nhưng chúng ta không có lựa chọn nào tốt hơn.
Khi các nhà khoa học hiểu sâu hơn về cách con người đưa ra quyết định, sự cám dỗ để dựa vào các thuật toán có khả năng sẽ tăng lên. Việc hack khả năng ra quyết định của con người sẽ không chỉ làm cho các thuật toán Dữ liệu lớn trở nên đáng tin cậy hơn, mà đồng thời sẽ làm cho cảm xúc con người trở nên ít đáng tin cậy hơn. Khi các chính phủ và tập đoàn thành công trong việc hack hệ điều hành của con người, chúng ta sẽ phải đối mặt với một loạt các thao túng, quảng cáo và tuyên truyền được dẫn đường chính xác. Việc thao túng quan điểm và cảm xúc của chúng ta có thể trở nên dễ dàng đến mức chúng ta sẽ buộc phải dựa vào các thuật toán theo cách mà một phi công đang bị chóng mặt phải phớt lờ những gì giác quan của chính mình đang mách bảo và đặt toàn bộ niềm tin vào máy móc.[Vi]
Ở một số quốc gia và trong một số tình huống, mọi người có thể không được trao bất kỳ lựa chọn nào, và họ sẽ buộc phải tuân theo các quyết định của thuật toán Dữ liệu lớn. Tuy nhiên, ngay cả trong các xã hội được cho là tự do, các thuật toán có thể giành được quyền lực bởi vì chúng ta sẽ học hỏi từ kinh nghiệm để tin tưởng chúng trong ngày càng nhiều vấn đề, và sẽ dần dần mất đi khả năng tự đưa ra quyết định cho chính mình. Chỉ cần nghĩ đến cách mà trong vòng vỏn vẹn hai thập kỷ, hàng tỷ người đã tin tưởng giao cho thuật toán tìm kiếm của Google một trong những nhiệm vụ quan trọng nhất: tìm kiếm thông tin phù hợp và đáng tin cậy. Chúng ta không còn tìm kiếm thông tin nữa. Thay vào đó, chúng ta "google". Và khi chúng ta ngày càng dựa vào Google để có câu trả lời, thì khả năng tự tìm kiếm thông tin của chúng ta cũng giảm đi. Ngay từ hôm nay, ‘sự thật’ đã được định nghĩa bởi các kết quả hàng đầu của tìm kiếm Google.[Vi]
Điều này cũng đã xảy ra với các khả năng thể chất, chẳng hạn như điều hướng không gian. Mọi người yêu cầu Google hướng dẫn họ đi lại. Khi họ đến một ngã tư, cảm giác trực giác của họ có thể mách bảo ‘rẽ trái’, nhưng Google Maps lại nói ‘rẽ phải’. Ban đầu họ nghe theo trực giác, rẽ trái, bị kẹt trong tắc đường và bỏ lỡ một cuộc họp quan trọng. Lần sau họ nghe theo Google, rẽ phải và đến nơi đúng giờ. Họ học từ kinh nghiệm để tin tưởng Google. Trong vòng một hoặc hai năm, họ mù quáng dựa vào bất cứ điều gì Google Maps bảo họ, và nếu điện thoại thông minh bị hỏng, họ hoàn toàn không biết gì. Vào tháng 3 năm 2012, ba du khách Nhật Bản tại Úc quyết định thực hiện một chuyến đi trong ngày đến một hòn đảo nhỏ ngoài khơi, và lái xe thẳng xuống Thái Bình Dương. Người lái xe, Yuzu Nuda, hai mươi mốt tuổi, sau đó nói rằng cô chỉ làm theo hướng dẫn của GPS và ‘nó bảo chúng tôi có thể lái xe xuống đó. Nó cứ nói rằng nó sẽ dẫn chúng tôi đến một con đường. Chúng tôi đã bị mắc kẹt.’ Trong một vài sự cố tương tự, mọi người đã lái xe xuống hồ, hoặc rơi khỏi một cây cầu đã bị phá hủy, do rõ ràng là làm theo hướng dẫn của GPS. Khả năng điều hướng giống như một cơ bắp – không dùng thì sẽ mất. Điều tương tự cũng đúng với khả năng chọn bạn đời hoặc nghề nghiệp.[Vi]
Mỗi năm, hàng triệu thanh thiếu niên cần quyết định xem nên học gì ở trường đại học. Đây là một quyết định rất quan trọng và rất khó khăn. Bạn đang chịu áp lực từ cha mẹ, bạn bè và giáo viên, những người có sở thích và quan điểm khác nhau. Bạn cũng có những nỗi sợ hãi và ảo tưởng của riêng mình để đối mặt. Khả năng phán đoán của bạn bị lu mờ và thao túng bởi các bộ phim bom tấn Hollywood, những cuốn tiểu thuyết rẻ tiền và các chiến dịch quảng cáo tinh vi. Đặc biệt khó để đưa ra một quyết định sáng suốt vì bạn không thực sự biết cần những gì để thành công trong các nghề nghiệp khác nhau, và bạn không nhất thiết phải có một hình ảnh thực tế về điểm mạnh và điểm yếu của chính mình. Cần những gì để thành công với tư cách là một luật sư? Tôi thể hiện như thế nào dưới áp lực? Tôi có phải là người làm việc nhóm tốt không?
Một sinh viên có thể bắt đầu học luật vì cô ấy có một hình ảnh không chính xác về kỹ năng của chính mình, và một cái nhìn thậm chí còn méo mó hơn về việc làm luật sư thực sự bao gồm những gì (bạn không được đưa ra những bài phát biểu kịch tính và hét lên ‘Phản đối, thưa Tòa!’ cả ngày). Trong khi đó, bạn của cô ấy quyết định thực hiện ước mơ thời thơ ấu và học múa ba lê chuyên nghiệp, mặc dù cô ấy không có cấu trúc xương hoặc kỷ luật cần thiết. Nhiều năm sau, cả hai đều vô cùng hối hận về lựa chọn của mình. Trong tương lai, chúng ta có thể dựa vào Google để đưa ra những quyết định như vậy thay cho chúng ta. Google có thể nói với tôi rằng tôi sẽ lãng phí thời gian ở trường luật hoặc trường múa ba lê – nhưng tôi có thể trở thành một nhà tâm lý học hoặc thợ sửa ống nước xuất sắc (và rất hạnh phúc).[Vi]
Một khi AI đưa ra quyết định tốt hơn chúng ta về sự nghiệp và thậm chí có thể là cả các mối quan hệ, khái niệm của chúng ta về nhân loại và cuộc sống sẽ phải thay đổi. Con người đã quen với việc nghĩ về cuộc sống như một kịch bản của việc ra quyết định. Nền dân chủ tự do và chủ nghĩa tư bản thị trường tự do coi cá nhân là một tác nhân tự chủ liên tục đưa ra các lựa chọn về thế giới. Các tác phẩm nghệ thuật – dù là kịch của Shakespeare, tiểu thuyết của Jane Austen, hay phim hài Hollywood rẻ tiền – thường xoay quanh việc người anh hùng phải đưa ra một quyết định đặc biệt quan trọng nào đó. Tồn tại hay không tồn tại? Nghe lời vợ và giết Vua Duncan, hay nghe theo lương tâm và tha cho ông ta? Kết hôn với ông Collins hay ông Darcy? Thần học Cơ đốc giáo và Hồi giáo cũng tập trung tương tự vào kịch bản của việc ra quyết định, lập luận rằng sự cứu rỗi hay đày đọa vĩnh viễn phụ thuộc vào việc đưa ra lựa chọn đúng đắn.[Vi]
Điều gì sẽ xảy ra với quan điểm về cuộc sống này khi chúng ta ngày càng dựa vào AI để đưa ra quyết định thay cho mình? Hiện tại chúng ta tin tưởng Netflix để gợi ý phim, và Google Maps để chọn rẽ phải hay trái. Nhưng một khi chúng ta bắt đầu dựa vào AI để quyết định học gì, làm việc ở đâu, và kết hôn với ai, cuộc sống con người sẽ không còn là một kịch bản của việc ra quyết định nữa. Các cuộc bầu cử dân chủ và thị trường tự do sẽ chẳng còn ý nghĩa gì. Hầu hết các tôn giáo và tác phẩm nghệ thuật cũng vậy. Hãy tưởng tượng Anna Karenina lấy điện thoại thông minh ra và hỏi thuật toán Facebook xem cô ấy nên tiếp tục kết hôn với Karenin hay bỏ trốn cùng Bá tước Vronsky hào hoa. Hoặc hãy tưởng tượng vở kịch Shakespeare yêu thích của bạn với tất cả các quyết định quan trọng đều do thuật toán Google thực hiện. Hamlet và Macbeth sẽ có cuộc sống thoải mái hơn nhiều, nhưng chính xác thì đó sẽ là loại cuộc sống gì? Chúng ta có mô hình nào để hiểu về một cuộc sống như vậy không?[Vi]
Khi quyền lực chuyển từ con người sang các thuật toán, chúng ta có thể không còn nhìn thế giới như sân chơi của những cá nhân tự chủ đang đấu tranh để đưa ra những lựa chọn đúng đắn. Thay vào đó, chúng ta có thể coi toàn bộ vũ trụ là một dòng dữ liệu, coi các sinh vật không hơn gì các thuật toán sinh hóa, và tin rằng sứ mệnh vũ trụ của nhân loại là tạo ra một hệ thống xử lý dữ liệu toàn diện – và sau đó hòa nhập vào đó. Ngay từ hôm nay, chúng ta đang trở thành những con chip nhỏ bé bên trong một hệ thống xử lý dữ liệu khổng lồ mà không ai thực sự hiểu rõ. Mỗi ngày tôi hấp thụ vô số bit dữ liệu thông qua email, tweet và bài báo; xử lý dữ liệu; và truyền ngược lại các bit mới thông qua nhiều email, tweet và bài báo hơn. Tôi không thực sự biết mình phù hợp ở đâu trong kế hoạch vĩ đại của mọi thứ, và các bit dữ liệu của tôi kết nối như thế nào với các bit được tạo ra bởi hàng tỷ con người và máy tính khác. Tôi không có thời gian để tìm hiểu, vì tôi quá bận rộn trả lời tất cả những email này.[Vi]
—ooOoo—