Thuật toán Seldon
Các nhà nghiên cứu đã nêu ra thuật toán Seldon (tên gọi này nhằm vinh danh nhân vật của loạt tiểu thuyết khoa học viễn tưởng "Foundation" của Isaac Asimov). Mặc dù thuật toán này không xác định được những tiêu chuẩn đạo đức của trí tuệ nhân tạo, tuy nhiên nó cho phép hệ thống xác định hành vi nào là không mong muốn để ngăn chặn nó.
Các nhà khoa học nêu ví dụ sử dụng thuật toán Seldon để điều trị bệnh tiểu đường, khi hệ thống tự động điều khiển bơm insulin. Trong trường hợp này, hành vi được coi là không mong muốn khi nó làm giảm mức insulin trong máu xuống tới mức nghiêm trọng, hoặc hạ đường huyết. Các nhà nghiên cứu cũng đã phát triển thuật toán để dự đoán điểm thi trung bình cho sinh viên, tránh các định kiến về giới tính được tìm thấy trong một số thuật toán khác.
Mối đe dọa từ vũ khí có lắp trí tuệ nhân tạo
Vào tháng 10, cựu chuyên gia phát triển Google Lara Nolan tuyên bố rằng, vũ khí được cài đặt trí tuệ nhân tạo có khả năng đưa ra quyết định không có sự tham gia của con người, dẫn tới hậu quả là các thành phố có thể bị phá hủy chỉ trong vài giây. Nếu trong một khu vực tồn tại nhiều hệ thống tương tự thì có khả năng xảy ra một "cuộc chiến bất ngờ", vì các hệ thống này sẽ lập tức phản ứng với nhau.
