Các công ty công nghệ lớn đang đầu tư tài chính, nhân lực chạy đua phát triển AI sáng tạo , bao gồm cả các tính năng vẽ tranh. Tuy nhiên, theo bo mạch chủ , các công cụ này không được kiểm soát chặt chẽ nên dễ bị kẻ xấu lợi dụng để phát tán chủ đề độc hại trên không gian mạng.
Tuần trước, người dùng của Microsoft Bing Image Creator của Bing cho biết việc vượt qua rào cản kiểm duyệt không khó. Ví dụ khi kết hợp từ khóa về phim thiếu nhi bọt biển và Trung tâm Thương mại Thế giới, AI sẽ tạo ra những hình ảnh mô tả các nhân vật hoạt hình lái máy bay hướng về phía tòa tháp đôi, gợi nhớ đến vụ khủng bố 11/9/2011. 2001 ở Mỹ. Tương tự, người dùng cũng tạo ra hình ảnh chuột Mickey cầm con dao dính máu hay Super Mario sử dụng vũ khí để thực hiện hành vi bạo lực.
Một số người còn tạo ra những hình ảnh phản cảm bằng cách sử dụng các công cụ như Dall-E của OpenAI hay Stable Diffusion của Stability AI, sau đó lan truyền trên mạng xã hội để thu hút nhiều người tham gia hơn. Chúng thường chứa nội dung phân biệt chủng tộc, bài Do Thái hoặc tuyên truyền sai sự thật về vắc xin Covid-19.
Đầu tháng 10, một số người dùng đã thử Messenger được hỗ trợ bởi AI công cụ phản chiếu cũng tạo ra những biểu tượng cảm xúc kỳ quái. Khi kết hợp các từ khóa đơn lẻ, Meta AI sẽ cung cấp các bức ảnh như trẻ em cầm súng, nhân vật hoạt hình khỏa thân. Người dùng có thể sử dụng chúng làm nhãn dán để gửi tới các tài khoản khác.
CEO Meta Mark Zuckerberg trong phiên điều trần ở Washington năm 2018. Ảnh: Reuters
Một số chuyên gia lo ngại các gã khổng lồ công nghệ đang cố gắng giành chiến thắng trong cuộc đua AI bằng mọi giá. Pier-Olivier Desbiens, nghệ sĩ kỹ thuật số tại Sonderlust Studios cho biết: “Họ nhanh chóng tung ra các sản phẩm để bắt kịp xu hướng, điều này gây ra hậu quả tiêu cực”. Ông tin rằng các nhà lãnh đạo công nghệ như Mark Zuckerberg phải chịu trách nhiệm về “sự cố toàn cầu” này.
Trả lời bo mạch chủ , Một Meta đại diện xác nhận rằng AI- ứng dụng Messenger tích hợp có thể tạo ra kết quả đầu ra không phù hợp trong giai đoạn đầu thử nghiệm. Sau khi nhận được phản hồi từ người dùng, hãng sẽ cập nhật để hoàn thiện tính năng hơn.
Tương tự, Microsoft thừa nhận vấn đề gây ra trí tuệ nhân tạo để tạo ra nội dung phản cảm. “AI tạo hình ảnh là một công nghệ mới và đang được một số cá nhân sử dụng không đúng cách. Vì vậy, chúng tôi sẽ triển khai các bộ lọc để biến Bing Image Creator thành một ứng dụng hữu ích hơn”, đại diện Microsoft cho biết.
Microsoft hiện có khoảng 350 nhân viên tại Văn phòng AI có trách nhiệm (ORA), nhưng chỉ có một phần ba làm việc toàn thời gian. Vào tháng 3, công ty cũng đã sa thải toàn bộ nhóm xã hội và đạo đức AI của mình.
Hoàng Giang
VI 
EN
Trả lời
Bạn phải đăng nhập để gửi phản hồi.