Ông Denis Davydov, người đứng đầu Secure Internet League, đã bày tỏ ý kiến với Sputnik:
— Facebook sợ mất uy tín vì chưa ai rõ những chat-bot hôm nay tạo ra ngôn ngữ riêng sẽ hành xử như thế nào vào ngày mai. Hiện chúng mới bắt đầu giao tiếp giữa nhau nhưng ngày mai chúng có thể đồng loạt tung ra những tin nhắn nguy hiểm. Chẳng hạn, như mang nội dung xúc phạm, thóa mạ người dùng. Để tránh tổn thất về uy tín và tài chính, Facebook quyết định khóa các bot này. Có lẽ ít nhất là trong thời gian họ tìm hiểu nguyên nhân…
Các chuyên gia lo ngại càng ngày các chat-bot sẽ trở nên độc lập hơn và hoạt động vượt ngoài sự kiểm soát của chuyên gia CNTT. Hơn nữa, đây không phải là lần đầu tiên nảy sinh vấn đề với trí thông minh nhân tạo. Cụ thể là với chính các chat-bot, ông Denis Davydov cho biết:
— Đã từng có chuyện các chat-bot của Microsoft tự động giao tiếp lẫn nhau. Cuối cùng chúng trở nên cực kỳ dân tộc cực đoan và như những tên đầu trọc với ngôn từ tục tĩu. Như vậy các người máy được thiết kế để giao tiếp với người dùng trên mạng rất có thể gây những chuyện hiểu lầm. Thậm chí theo đuổi người dùng trong không gian thông tin. Vì vậy, trường hợp với Facebook là một tiếng chuông cảnh báo nữa rằng trí thông minh nhân tạo đòi hỏi sự khai thác rất thận trọng và có tiến hóa. Lúc này con người chưa nắm được cách kiểm soát hệ thống được sinh ra do sự học hỏi của máy tính.
Liệu có thể "giáo dục" các chat-bot? Facebook quả thực đã khóa hai chat-bot nhưng không phải vì họ sợ hãi. Như một trong những người tham gia thử nghiệm giải thích, vẫn chưa đạt được mục tiêu cuối cùng là dạy các chat-bot giao tiếp với người dùng chứ không phải giữa nhau.
— Ngày nay ít ai chú ý đến việc xây dựng Internet như một môi trường thân thiện, — Denis Davydov nhận xét. — Các đối tượng của trí thông minh nhân tạo được đào tạo phần lớn trong "điều kiện chiến đấu" của Twitter. Chúng vấp phải thực tế chủ đề thông tin mà chúng "được học" có thể là những nội dung mang tính bài ngoại và phân biệt chủng tộc xuất hiện trên mạng chủ yếu từ những người dùng ẩn danh. Thưc tế các máy tính được "huấn luyện" trên khối lượng khổng lồ thông tin. Nếu trong khối lượng ấy có chứa những nội dung khiêu dâm, về ma túy hoặc bạo lực, thì tất nhiên các chat-bot sẽ thừa hưởng môi trường với ngôn ngữ mà người bình thường không thể hiểu nổi…
Trí tuệ nhân tạo thực sự có thể là người trợ giúp trong những tình huống gay go. Vì vậy, các nhà nghiên cứu của Facebook dạy các chat-bot khả năng trao đổi vấn đề và đi đến thỏa hiệp. Nhưng hệ thống còn cần sự nghiên cứu rất sâu và kỹ lưỡng, — Denis Davydov tiếp tục nói:
— Ví dụ, Facebook đã tạo ra một hệ thống đặc biệt cho phép xác định những đối tượng có tư duy tự sát. Có nghĩa trí tuệ nhân tạo tiếng Anh của Facebook có khả năng phân tích tâm trạng của người dùng. Sau đó, người ta sẽ điều nhân viên từ nhóm hỗ trợ của Facebook tham gia chat với đối tượng để động viên về tâm lý. Nhưng thử tưởng tượng đó không phải là một người mà là máy tính được "huấn luyện" trong môi trường tiêu cực và học cách nói những cảm xúc tiêu cực bằng ngôn ngữ của riêng mình. Kết quả của sự giao lưu như vậy sẽ hoàn toàn trái với ý muốn.
Tuy nhiên Mark Zuckerberg khẳng định, con người sẽ thấy những tác động tích cực từ sự phổ cập trí tuệ nhân tạo trong vòng 5-10 năm tới. Quan trọng là đừng biến những thành tựu ấy thành sự gây hại cho con người, không để chúng tự tiện xâm nhập không gian cá nhân.
Còn lúc này, dư luận đang hồi hộp chờ các báo cáo của Facebook về việc đình chỉ trí thông minh nhân tạo trong mạng xã hội.
