Tuy nhiên, vẫn có một trường hợp khiến các chuyên gia AI mất ngủ. Người máy có thể được nhận những mệnh lệnh mơ hồ hoặc không rõ nghĩa và nếu thực hiện, nó có thể gây ra thảm họa.
Trong phim I, Robot (Tôi, người máy), một máy tính chủ tên là VIKI giữ vai trò kiểm soát cơ sở hạ tầng thành phố. VIKI được ra lệnh phải bảo vệ loài người. Nhưng khi nghiên cứu cách con người đối xử với nhau, nó kết luận mối nguy hại lớn nhất của con người chính là con người. Nó tính toán và quyết định rằng cách duy nhất để bảo vệ con người là chính nó sẽ nắm quyền kiểm soát.
Một ví dụ khác là câu chuyện về vua Midas. Nhà vua xin thần Dionysus ban cho mình khả năng biến mọi thứ chạm vào thành vàng. Ban đầu, sức mạnh này dường như là cách hay nhất để đến với giàu có và vinh quang. Nhưng khi vua chạm vào con gái, cô liền biến thành vàng. Thức ăn, cũng tương tự, không thể ăn được. Nhà vua thấy mình trở thành nô lệ cho chính món quà mình khẩn cầu được.
HG. Wells cũng đưa ra tình huống tiến thoái lưỡng nan tương tự trong truyện ngắn The Man Who Could Work Miracles (Người có thể làm những điều kỳ diệu). Ngày nọ, một người thư ký bình thường bỗng thấy mình có năng lực lạ. Mọi thứ anh ta ước đều biến thành sự thật. Anh ta đi nhậu khuya với bạn bè, thực hiện phép màu suốt dọc đường. Họ muốn đêm kéo dài mãi không dứt, vậy là anh ta ngây ngô ước Trái Đất ngừng quay. Tức thì, gió nổi lên dữ dội và những dòng lũ lớn tràn xuống. Cả người, nhà cửa và các thành phố đều bị văng vào không gian với tốc độ hơn 1.600 kmgiờ, bằng vận tốc quay của Trái Đất. Nhận ra mình đang hủy hoại Trái Đất, anh ta ước điều cuối cùng là mọi thứ trở lại như cũ - như trước lúc anh ta có quyền năng.
Ở đây, khoa học viễn tưởng dạy chúng ta phải biết thận trọng. Trong quá trình phát triển AI, ta phải luôn cẩn trọng xem xét mọi hệ quả có thể xảy ra, đặc biệt là những hệ quả không thể thấy ngay tức thì. Rốt cuộc, khả năng tính toán trước mọi việc là một phần làm nên con người chúng ta.
