Có vẻ như một tháng không trôi qua mà không có người cao cấp nào bình luận về tiềm năng cho các máy có Trí tuệ nhân tạo chiếm lĩnh thế giới. Elon Musk được ghi nhận rằng các hệ thống AI có khả năng nguy hiểm hơn cả vũ khí hạt nhân. Tuy nhiên, ông không phải là người duy nhất, Stephen Hawking cũng lo ngại, Sự phát triển của trí tuệ nhân tạo đầy đủ có thể đánh vần sự kết thúc của loài người, Giáo sư Hawking nói với BBC. Sau đó, nó sẽ tự cất cánh và tự thiết kế lại với tốc độ ngày càng tăng. Ngay cả Bill Gates cũng lo lắng, tôi đang ở trong trại quan tâm đến siêu trí thông minh. Tôi đồng ý với Elon Musk và một số người khác về điều này và không hiểu tại sao một số người không quan tâm.
Tất cả họ đều bày tỏ lo ngại về khả năng các hệ thống AI mạnh mẽ có những hậu quả không lường trước, hoặc thậm chí có khả năng gây ra thảm họa. Trở lại vào tháng 1, Elon Musk đã quyên góp 10 triệu đô la cho Viện tương lai của cuộc sống (FLI) để điều hành một chương trình nghiên cứu toàn cầu nhằm giữ cho AI có lợi cho nhân loại.
Hôm nay, Viện Tương lai của Cuộc sống đã thông báo rằng họ đã trao 7 triệu đô la cho 37 nhóm nghiên cứu trên khắp thế giới để xã hội có thể gặt hái những lợi ích của AI, đồng thời tránh được ngày tận thế và sự kết thúc của cuộc sống trên trái đất.
Mối nguy hiểm với kịch bản Terminator là điều đó sẽ xảy ra, nhưng nó làm sao lãng những vấn đề thực sự do AI tương lai đặt ra.
Jaan Tallin, một trong những thành viên sáng lập của FLI và là người đã viết phiên bản gốc của Skype, cho biết về nghiên cứu mới, xây dựng AI tiên tiến của AI giống như phóng một tên lửa. Thử thách đầu tiên là tối đa hóa khả năng tăng tốc, nhưng một khi nó bắt đầu tăng tốc, bạn cũng cần tập trung vào việc điều khiển.
Trong số 37 dự án, có ba dự án sẽ xem xét các kỹ thuật để cho phép các hệ thống AI tìm hiểu những gì con người thích từ việc quan sát hành vi của chúng ta. Một trong những dự án này sẽ được điều hành tại UC Berkeley, và một dự án sẽ ở Đại học Oxford.
Benja Fallenstein, tại Viện nghiên cứu trí thông minh máy móc, đang nhận được 250.000 đô la để nghiên cứu các cách để giữ lợi ích của các hệ thống siêu thông minh phù hợp với giá trị của con người. Trong khi nhóm Manuela Veloso, từ Đại học Carnegie-Mellon, sẽ nhận được 200.000 đô la để xem xét cách làm cho các hệ thống AI giải thích quyết định của họ với con người.
Các dự án khác bao gồm một nghiên cứu của Michael Webb thuộc Đại học Stanford về cách giữ cho các tác động kinh tế của AI có lợi, một dự án về cách giữ vũ khí điều khiển bằng AI dưới sự kiểm soát của con người có ý nghĩa, Hồi giáo và một trung tâm nghiên cứu mới của Oxford-Cambridge để nghiên cứu AI chính sách liên quan.
Nói về Hollywood, FLI đang cố gắng tự phân tách mình với ngày tận thế. FLI rất muốn nhấn mạnh tầm quan trọng của việc tách thực tế khỏi tiểu thuyết. Max Tegmark, chủ tịch FLI cho biết, mối nguy hiểm với kịch bản Terminator là điều đó sẽ xảy ra, nhưng nó làm mất tập trung vào các vấn đề thực sự do AI giỏi trong tương lai. Tập trung, chúng tôi tập trung và 37 đội được hỗ trợ bởi các khoản tài trợ ngày hôm nay sẽ giúp giải quyết các vấn đề thực sự như vậy.
Bạn nghĩ sao? Tiền chi tiêu tốt?
