Công tắc ngăn AI xóa sổ thế giới

Sự bùng nổ của AI sáng tạo đã đặt ra một câu hỏi lớn cho thế giới công nghệ: Phải chăng con người đang lập trình số phận của chính mình? Suleyman đưa ra gợi ý để tránh kịch bản trí tuệ nhân tạo hủy diệt nền văn minh nhân loại.

Dựa theo Đánh giá công nghệ Suleyman tin rằng các nhà phát triển nên khóa khả năng tự nâng cấp của AI. “Bạn sẽ không muốn để AI tự động dừng và cập nhật mã nguồn của chính nó mà không có sự giám sát. Tương tự như việc xử lý những căn bệnh nguy hiểm hay vật liệu hạt nhân, việc này cần có sự kiểm soát của con người”.

Suleyman mô tả việc thiết lập các lệnh bổ sung trong hệ thống để ngăn AI tự động nâng cấp như một “công tắc” đảm bảo an toàn cho nhân loại trong thời đại đang phát triển nhanh chóng. trí tuệ nhân tạo kỷ nguyên.

Tuần trước, một số công ty công nghệ hàng đầu như Bill Gates , Sam Altman , Elon Musk Và Mark Zuckerberg tập trung tại Washington để tham dự một diễn đàn kín về AI. Suleyman tin rằng đây là một động thái quan trọng để cộng đồng ngồi lại và đặt ra giới hạn cho việc sử dụng dữ liệu cá nhân.

Ông nói: “Về cơ bản, chúng ta cần đặt ra ranh giới, phân định rõ ràng các ranh giới mà AI không thể vượt qua”. Các quy định cần được thiết lập từ mã hóa đến tương tác giữa con người với AI.

Năm ngoái, Suleyman đồng sáng lập công ty khởi nghiệp Inflection AI. Công ty sở hữu chatbot Pi, được thiết kế để trở thành người nghe trung lập và cung cấp hỗ trợ về mặt cảm xúc. Suleyman cho biết Pi không phổ biến như các chatbot khác nhưng nó có thể được kiểm soát một cách tối đa. Đó là lý do tại sao anh ấy lạc quan về tương lai mà AI có thể được điều chỉnh một cách hiệu quả.

Khi nói về những mối lo ngại hiện có với trí tuệ nhân tạo, nhà đồng sáng lập DeepMind cho rằng có 101 vấn đề thực sự cần được giải quyết ngay lập tức, từ quyền riêng tư của người dùng, sự thiên vị AI trong nhận dạng khuôn mặt đến kiểm soát duyệt web trực tuyến.

Suleyman là một trong nhiều chuyên gia AI đã cảnh báo việc xây dựng các quy định rõ ràng liên quan đến công nghệ này. Demis Hassabis, một đồng sáng lập khác của DeepMind, cũng cho rằng việc phát triển AI cần được thực hiện cẩn thận, sử dụng các phương pháp khoa học, dưới sự giám sát chặt chẽ của các thí nghiệm và thử nghiệm thay vì chạy đua. ồ ạt của các công ty.

Theo CEO Microsoft Satya Nadella, để tránh kịch bản “AI tuột khỏi tay con người”, các nhà phát triển cần đưa ra mức phân loại rõ ràng cho các mô hình minh bạch, đáng nghi ngờ và có trách nhiệm giải trình. đóng…

Vào tháng 3, hàng chục chuyên gia, trong đó có cả “bố già AI” Geoffrey Hinton Và Yoshua Bengio , đã ký một bức thư ngỏ, yêu cầu các phòng thí nghiệm ngừng đào tạo các mô hình mạnh hơn GPT-4 của OpenAI trong vòng 6 tháng. tháng.

Khương Nha (dựa theo Người trong cuộc )