Để chế tạo người máy tự nhận thức, ta phải cho chúng một mục tiêu. Mục tiêu sẽ không nảy ra một cách thần kỳ trong đầu robot mà phải được lập trình từ bên ngoài. Điều kiện này chính là rào cản trọng yếu ngăn người máy nổi loạn. Vở kịch RUR công diễn lần đầu vào năm 1921 (từ “robot” được sử dụng lần đầu trong vở kịch này) có cốt truyện là người máy nổi dậy chống lại con người vì chúng thấy những người máy khác bị ngược đãi. Nhưng để kịch bản này thực sự xảy ra, chúng cần phải có trình độ lập trình rất cao. Robot không biết thương cảm, đau khổ hay tham vọng thống trị thế giới, trừ khi chúng được ra lệnh để làm những việc đó.
Nhưng ta cứ giả dụ một kẻ nào đó cấy cho robot mục tiêu hủy diệt nhân loại. Máy tính sẽ phải nghĩ ra những tình huống như thật để mô phỏng tương lai và đặt chính mình vào trong kế hoạch. Tới đây, ta gặp phải vấn đề then chốt. Muốn liệt kê được hết những tình huống và kết quả tiềm năng để đánh giá tính khả thi, người máy phải hiểu được hàng triệu quy luật về hiểu biết cơ bản – những quy luật đơn giản về vật lý, sinh học và hành vi con người mà chúng ta coi là đương nhiên. Ngoài ra, nó còn phải hiểu về nhân quả và dự kiến được các hậu quả khi thực hiện những hành vi nhất định. Con người học những quy luật trên từ nhiều thập kỷ kinh nghiệm. Một lý do lý giải vì sao tuổi thơ con người kéo dài rất lâu là bởi chúng ta có rất nhiều thông tin cần được nạp vào về xã hội con người và thế giới tự nhiên. Còn robot không được tiếp xúc với khối lượng lớn tình huống tương tác để rút kinh nghiệm.
Tôi thường liên tưởng đến một tên cướp nhà băng có kinh nghiệm. Hắn có thể lên kế hoạch chu đáo cho vụ cướp sắp tới và qua mặt được cảnh sát bởi hắn đã có cả một kho ký ức từ các vụ cướp trước đó và hiểu rõ tác động của từng quyết định đưa ra. Trái lại, để thực hiện một việc đơn giản như mang súng vào ngân hàng để cướp, máy tính sẽ phải phân tích chuỗi phức tạp gồm hàng nghìn sự kiện phụ, mỗi sự kiện lại cần hàng triệu dòng mã lệnh. Nó không nắm được bản chất thực của nhân quả.
Dĩ nhiên, vẫn có khả năng người máy biết tự nhận thức và mang những mục tiêu nguy hiểm, nhưng bạn sẽ thấy điều đó rất khó xảy ra, đặc biệt là trong tương lai gần. Nhập vào một người máy tất cả các phương trình mà nó cần để tiêu diệt loài người là việc vô cùng khó thực hiện. Vấn đề robot giết người có thể được loại bỏ bằng cách ngăn chặn bất kỳ ai lập trình cho chúng những mục tiêu gây nguy hại cho con người. Khi robot tự nhận thức xuất hiện, ta phải cài thêm chip an toàn để chúng sẽ bị ngắt nếu có ý định giết người. Ta có thể yên tâm khi biết mình sẽ không sớm bị nhốt vào sở thú, trong khi các robot hậu duệ ném lạc qua chấn song và bắt ta nhảy nhót cho chúng xem.
Như vậy nghĩa là khi thăm dò các hành tinh và những vì sao, ta có thể dùng robot xây dựng các hạ tầng cần thiết để làm khu định cư và thành phố trên các vệ tinh hay hành tinh, nhưng cẩn thận trọng để mục tiêu của chúng khớp với mục tiêu của ta và phải có cơ chế an toàn trong trường hợp chúng biến thành nguy hiểm. Tuy sẽ có những mối nguy khi robot biết tự nhận thức, nhưng chuyện đó sẽ không xảy ra cho tới cuối thế kỷ này hay đầu thế kỷ tới, do vậy ta vẫn còn thời gian để chuẩn bị.
