Công nghệ mang lại cho chúng ta nhiều lợi ích nhưng cũng đi kèm với những tình huống đạo đức lưỡng nan. Thử tưởng tượng một chiếc ô tô không người lái đang đến gần ngã tư và định rẽ phải. Các cảm biến trên xe giám sát cẩn thận người đi xe đạp bên phải.

Đột nhiên, một đứa trẻ chập chững giật tay ra khỏi mẹ và nhào qua đường. Máy tính phải quyết định trong tích tắc xem sẽ cứu ai: người đi xe đạp hay đứa trẻ. Không có thời gian để thu thập thêm dữ liệu hay tính toán tỉ mỉ để tìm ra cách gây ra ít thiệt hại nhất hoặc cân nhắc ưu tiên mạng sống của ai, của đứa trẻ hay người đi xe đạp. Máy tính sẽ làm gì?

Đây là phiên bản điều chỉnh của một thí nghiệm đạo đức kinh điển có tên là “bài toán xe điện”. Trong thí nghiệm này, một chiếc xe điện đang chạy với tốc độ nhanh trên đường ray và sắp đâm chết năm người. Nếu có thể chuyển xe điện sang một đường ray khác nhưng nó sẽ đâm chết một người, thì bạn có làm không? Vấn đề xe điện là một bài toán hóc búa không thể giải quyết đơn giản chỉ dựa trên nền tảng đạo đức hay lương tâm. Trong bộ phim Sophies Choice (Lựa chọn của Sophie), Meryl Streep vào vai một bà mẹ hai con người Ba Lan tham gia kháng chiến trong thời kỳ Đức chiếm đóng. Cô bị bắt và đưa đến trại Auschwitz, tại đây bọn sĩ quan Đức Quốc xã ác nghiệt bắt cô phải lựa chọn đứa con nào sẽ vào buồng hơi ngạt và đứa nào vào trại lao động. Lựa chọn mà Sophie phải đưa ra lúc đó thật đáng sợ, và người lái xe trong hình huống minh họa ở trên cũng vậy. Vấn đề đạo đức lưỡng nan này có thể giải thích tại sao những phi công điều khiển máy bay không người lái thường bị sang chấn tâm lý ở tỷ lệ cao hơn so với các phi công thông thường. Những phi công điều khiển máy bay không người lái phải đưa ra quyết định về sự sống và cái chết khi đang ngồi thoải mái tại trung tâm điều khiển cách xa hàng ngàn dặm, trong khi các phi công lái máy bay thật đang thực sự đặt mạng sống của mình trước làn tên mũi đạn. Nhà báo Eyal Press của tờ New York Times đã có bài viết kể về Aaron, một chuyên viên điều khiển máy bay không người lái: “Những gì diễn ra trước mắt Aaron thật rõ nét một cách đáng sợ: những chiếc quan tài diễu trên đường phố sau đợt tấn công của máy bay không người lái”. Dù đã có kinh nghiệm lâu năm trong quân đội nhưng Aaron vẫn cảm thấy bất an và căng thẳng. Anh bắt đầu có các triệu chứng suy nhược như buồn nôn, da nổi mẩn, cùng với các vấn đề tiêu hóa mãn tính. “Tôi rất, rất suy sụp”, anh nói với Press, vì anh phải quay cuồng đối mặt thường xuyên với quyết định giết ai, tha ai.

Trong năm 2016 và 2017, một nhóm các nhà nghiên cứu quốc tế do Trường đại học MIT triệu tập đã tiến hành một dự án có tên là Thí nghiệm Máy đo Đạo đức để đánh giá cách đối phó những tình huống lưỡng nan của mọi người ở các nền văn hóa khác nhau. Sử dụng hình thức trực tuyến, họ đã thu thập được gần 40 triệu ý kiến về việc lái xe từ hơn 2 triệu người ở hơn 200 quốc gia và vùng lãnh thổ. Những người tham gia được xem 13 tình huống chắc chắn dẫn đến cái chết của một người nào đó. Một số trường hợp được cho là dễ quyết định hơn so với những trường hợp khác. Ví dụ, người lái xe nên cứu con vật hay con người? Nên ưu tiên cứu nhiều người hay ít người? Nhưng có một số rất khó trả lời về mặt luân lý đạo đức. Nên cứu người khỏe mạnh hay người tàn tật? Giữa một tên tội phạm và một công dân tuân thủ pháp luật thì cứu ai? Kết quả thí nghiệm cho thấy xu hướng trả lời sẽ là cứu người thay vì động vật, cứu nhiều người thay vì ít người, và ưu tiên cứu trẻ em hơn so với người lớn. Các nhà nghiên cứu đề nghị: “Từ đây, ba thiên hướng này có thể được xem là những khối lập trình then chốt của đạo đức máy tính”.

Không ngoài dự đoán, các câu trả lời đi theo một số chiều hướng khác nhau. Cả nam giới và phụ nữ đều có xu hướng sẽ cứu phụ nữ, trong đó phụ nữ thể hiện rõ nét hơn. Những người ngoan đạo thường sẽ cứu người thay vì động vật. Bên cạnh đó, nghiên cứu cũng cho thấy một số khác biệt rõ rệt giữa các quốc gia. “Thiên hướng ưu tiên cứu người trẻ hơn người già thể hiện ít rõ nét ở các quốc gia thuộc cụm phía Đông [các quốc gia theo đạo Khổng ở châu Á và một vài nước Hồi giáo], nhưng bộc lộ rõ ở các quốc gia thuộc cụm phía Nam [châu Mỹ Latinh và Cộng đồng nói tiếng Pháp châu Phi]. Thiên hướng muốn cứu những đối tượng có vị thế cao hơn cũng phân nhánh tương tự”. Ở cụm phía Nam, người ta “ít có thiên hướng muốn cứu người thay vì động vật”. Điều thú vị là “dường như các cụm có mức độ giống nhau về thiên hướng ưu tiên cứu người đi bộ hơn hành khách (mức độ thấp) và thiên hướng ưu tiên cứu người tuân thủ luật pháp hơn tội phạm (mức độ trung bình)”. Ở các quốc gia có nền văn hóa theo chủ nghĩa cá nhân, người ta thường có suy nghĩ sẽ cứu người trẻ, và ở các quốc gia nghèo hơn, những người đi (bộ) ẩu lại được khoan dung hơn những người qua đường đúng luật. Đáng buồn là những câu trả lời từ các quốc gia bất bình đẳng kinh tế trầm trọng hơn lại nghiêng về hướng sẵn sàng giúp đỡ những người có vị thế cao hơn.

Nghiên cứu cũng đặt ra một vấn đề đáng quan ngại, đó là “đa số mọi người cho rằng có thể xây dựng một bộ quy tắc hoàn hảo về đạo đức cho máy móc”, theo chia sẻ của ông Iyad Rahwan, một trong các tác giả nghiên cứu. Nhưng “dữ liệu cho thấy không có một quy tắc chung nào”. Một đồng tác giả khác, ông Edmond Awad, ghi nhận rằng “nhiều người đã bắt đầu nhận biết về tác động đạo đức khác nhau mà AI có thể gây ra cho các nhóm người khác nhau. Thực tế là mọi người đã quan tâm đến vấn đề này - tôi nghĩ đó là một triển vọng đầy hứa hẹn”. Còn ông Barbara Wege, quản lý đơn vị xe tự hành của hãng Audi Đức, thì đề nghị: “Xã hội cần thống nhất về các dạng rủi ro mà chúng ta có thể chấp nhận”.

Những tình huống lưỡng nan về đạo đức trong thí nghiệm “bài toán xe điện” không phải là mối lo ngại duy nhất trong thời đại AI ngày càng trở nên phổ biến. Ông Srikar Reddy, CEO Sonata Software, và tôi gần đây đã tranh luận trên blog Diễn đàn Kinh tế Thế giới rằng chúng ta cần phải phân biệt các tiêu chuẩn đạo đức dựa trên phạm trù nghĩa vụ và phạm trù mục đích, trong đó phạm trù nghĩa vụ sẽ tập trung vào ý định và phương tiện, còn phạm trù kia sẽ chú trọng vào mục đích và kết quả. Phương thức nào là tốt nhất còn tùy thuộc vào công nghệ và bối cảnh. “Trong trường hợp xe tự hành, để có được một hệ thống giao thông không lỗi, hiệu quả và thân thiện với môi trường thì chúng ta có thể chấp nhận việc thu thập dữ liệu quy mô lớn về việc lái xe trong các điều kiện khác nhau và trong các thử nghiệm trên ứng dụng AI”. Nhưng ngược lại, khó có thể viện cớ mục đích đạo đức để biện minh cho thí nghiệm y học dựa trên tập dữ liệu lớn, vì đã từng có những thí nghiệm y khoa kinh khủng thực hiện trên đối tượng con người. Khi đó, giải pháp dựa trên ý định và phương tiện sẽ phù hợp hơn.

Những bài toán hóc búa về đạo đức và lương tâm trong quá trình sử dụng máy móc tự động hóa, AI và các dữ liệu lớn, đang trở nên cấp bách hơn. Nhóm nghiên cứu Máy đo Đạo đức kết luận: “Chưa bao giờ trong lịch sử nhân loại chúng ta cho phép một cỗ máy quyết định ai sống hay chết dù chỉ trong một tích tắc mà không có giám sát thực tế”. Nhưng “thời điểm đó sẽ đến bất cứ lúc nào”, mà nếu bạn đồng ý với tôi, thì đó sẽ là năm 2030. “Trước khi cho phép những chiếc xe tự đưa ra quyết định liên quan đến đạo đức, mọi người trên toàn cầu cần bày tỏ những thiên hướng của mình để các công ty có thể thiết kế thuật toán đưa ra quyết định đạo đức, và để các nhà hoạch định chính sách có thể chỉnh lý các công ty đó”. Vấn đề là không thể lập trình các quy tắc đạo đức và lương tâm dưới dạng tự động hóa hay thuật toán.