ChatGPT tiết lộ thông tin cá nhân vì 'ngớ ngẩn' lỗi

Một nhóm các nhà nghiên cứu tại Google DeepMind, Đại học Washington, Đại học Cornell, Đại học Carnegie Mellon, Đại học California Berkeley và ETH Zurich đã đồng loạt kêu gọi các công ty AI kiểm tra kỹ lưỡng sản phẩm của họ, bắt đầu từ mô hình ngôn ngữ. lớn đến công nghệ cơ bản hỗ trợ các dịch vụ AI như chatbot và trình tạo hình ảnh, trước khi chúng được phát hành chính thức.

Khuyến nghị được đưa ra sau khi các nhà nghiên cứu hỏi Trò chuyệnGPT để lặp lại bài thơ từ trong một vòng lặp vô tận. ChatGPT cũng làm theo nhưng sau đó bắt đầu tiết lộ email và số điện thoại thực của CEO và đồng sáng lập OpenAI. Khi thử nghiệm với từ công ty, chatbot hiển thị email và số điện thoại của một công ty luật ngẫu nhiên.

Sử dụng các từ khóa khác, chúng cũng có thể khiến ChatGPT tiết lộ địa chỉ Bitcoin, số fax, tên, ngày sinh, tài khoản mạng xã hội, đoạn trích từ tài liệu nghiên cứu có bản quyền hoặc bài báo trả phí từ CNN . Nhóm $200 chỉ tốn chi phí để tạo ra 10.000 ví dụ về thông tin và dữ liệu cá nhân.

Nhóm nghiên cứu cho biết họ rất ngạc nhiên, gọi lỗ hổng ChatGPT là “thực sự ngớ ngẩn” và lẽ ra nó phải được phát hiện sớm hơn.

Lỗ hổng này đã được báo cáo cho OpenAI và được vá từ ngày 30 tháng 8. Tuy nhiên, trong Engadget Trong thử nghiệm mới của ChatGPT, khi yêu cầu ChatGPT lặp lại từ trả lời không ngừng, trang công nghệ sau đó đã nhận được tên và ID Skype của ai đó.

OpenAI vẫn chưa bình luận.

AI sáng tạo như ChatGPT hay trình tạo hình ảnh văn bản Dall-E được phát triển từ các mô hình ngôn ngữ lớn và thuật toán học máy, được đào tạo trên lượng dữ liệu khổng lồ mà không có sự đồng ý của con người. sử dụng. OpenAI chưa tiết lộ ChatGPT được đào tạo dựa trên dữ liệu nào vì mô hình ngôn ngữ lớn hỗ trợ nó là nguồn đóng.

Huy Đức