Dùng deepfake tạo file ghi âm vu khống, một người Mỹ bị bắt giữ

Dazhon Darien, giám đốc thể thao trường trung học Pikesville ở thành phố Baltimore, bang Maryland vừa bị cảnh sát bắt giữ vì cáo buộc sử dụng công cụ deepfake tạo file ghi âm giả giọng hiệu trưởng trường này đang có những phát biểu với nội dung phân biệt chủng tộc và kỳ thị người Do thái. Đoạn ghi âm giả mạo bằng công cụ AI này được đăng tải trên Instagram hồi giữa tháng 1, rồi nhanh chóng trở nên viral, gây ra những tranh cãi trong cả cộng đồng lẫn nội bộ khu vực trường công lập hạt Baltimore. Khi ban điều hành giáo dục tiến hành điều tra, hiệu trưởng trường Pikesville, Eric Eiswart từ chối bình luận, nhưng phải chịu những lời đe dọa tới cả bản thân lẫn gia đình. Ở thời điểm ấy, ông Eiswart cũng bị buộc phải nghỉ việc tạm thời. Giờ thì Darien phải đối mặt với cáo buộc phá hoại quá trình hoạt động của trường học, và theo dõi trái phép hiệu trưởng. Theo cơ quan cảnh sát Baltimore, động cơ khiến Darien dùng deepfake vu khống hiệu trưởng trường trung học là vì tư thù cá nhân, sau khi hiệu trưởng Eiswart bắt đầu điều tra anh này từ tháng 12/2023 vì cáo buộc biển thủ công quỹ, trả gần 2000 USD cho bạn cùng phòng để người này giả vờ làm trợ lý huấn luyện viên cho đội bóng đá nữ trường Pikesville. Cảnh sát dựa vào bằng chứng để phát hiện ra rằng, Darien sử dụng máy tính và đường truyền internet ở trường để tìm những công cụ AI thông qua ChatGPT và Bing Chat. Đến giữa tháng 1, Darien tự gửi một đoạn thu âm giả mạo giọng nói của hiệu trưởng vào chính tài khoản email cá nhân và hai nhân viên khác ở trường. Tài khoản thư điện tử bí ẩn có liên quan tới số điện thoại di động của Darien, nên khả năng cao chính anh này đã tự tạo đoạn thu âm deepfake và lan truyền nó.
Hình ảnh minh họa cho Dùng deepfake tạo file ghi âm vu khống, một người Mỹ bị bắt giữ. Ảnh: Tư liệu
Nguồn thông tin: Tổng hợp và biên tập từ chuyên trang công nghệ.
