21 tháng 11, 2026
Phần mềm

OpenAI phát triển công cụ chống gian lận, gây ra tranh cãi nội bộ

Home›Phần mềm›OpenAI phát triển công cụ chống gian lận, gây ra tranh cãi nội bộ

OpenAI đã phát triển một cách thức để xác định liệu một bài viết, bài luận có được viết bởi ChatGPT hay không.

Vấn đề gian lận

ChatGPT ra mắt năm 2022 đã tạo nên một cơn sốt toàn cầu về tính ứng dụng của nó. Giáo dục là một lĩnh vực mà ChatGPT có tác động lớn khi với học sinh, sinh viên nó dần trở thành một công cụ hữu ích giúp đỡ việc học, việc làm bài tập. Tuy nhiên, mục đích tốt ban đầu có thể trở thành một hướng đi hoàn toàn khác khi sau một thời gian, các bạn có thể nghĩ rằng: chắc là thầy cô không biết đâu. ChatGPT với khả năng viết luận, làm bài trong nháy mắt đã trở thành công cụ giúp đỡ các bạn gian lận. Thật ra trên thị trường có những công cụ từ công ty thứ 3 như Sribbbr AI Detector, Winston AI, v.v. Nhưng thường thì hiệu quả của những công cụ này không cao.

OpenAI phát triển công cụ chống gian lận, gây ra tranh cãi nội bộ - Sharevina.com

Hình ảnh minh họa cho OpenAI phát triển công cụ chống gian lận, gây ra tranh cãi nội bộ. Ảnh: Tư liệu

ChatGPT có thể hỗ trợ viết luận trong một thời gian rất ngắn

Giải pháp

Với quan ngại đó, OpenAI đã phát triển cách thức xác định gian lận thông qua cơ chế “watermarking”. Về cơ bản, ChatGPT vận hành trên mô hình ngôn ngữ lớn (LLM) trước tiên sẽ phân chia toàn bộ các text thành các mảnh token, lưu dưới dạng vector. Kèm theo đó là một cơ chế đo lường để giúp mô hình xác định các từ – cụm từ sẽ được viết tiếp trong một câu. Cơ chế chống gian lận mà hãng phát triển sẽ thay đổi một chút cách các token được lựa chọn, qua đó để lại một dấu vết gọi là watermark.

Tranh cãi nội bộ

Dự án này đã được thực hiện trước đó và đã sẵn sàng để ra mắt khoảng 1 năm trước đây. Tuy nhiên, trong suốt thời gian phát triển, nó đã tạo nên một cuộc tranh cãi nội bộ không dứt ở OpenAI.

OpenAI phát triển công cụ chống gian lận, gây ra tranh cãi nội bộ - Sharevina.com

Hình ảnh minh họa cho OpenAI phát triển công cụ chống gian lận, gây ra tranh cãi nội bộ. Ảnh: Tư liệu

Sam Altman có tham gia vào quá trình phát triển nhưng không thúc đẩy ra mắt công cụ Về cơ bản, rất nhiều nhân viên trong OpenAI quan ngại về tính minh bạch mà công ty hứa hẹn. Vì thế, với họ, công cụ này là cách để hiện thực hoá điều đó. Tuy nhiên, một khảo sát mà OpenAI thực hiện đã chỉ ra rằng 69% người dùng tin rằng công nghệ xác định gian lận sẽ dẫn tới việc đưa ra những cáo buộc không đúng đắn về cách sử dụng AI. Hơn nữa, 1/3 số người dùng được khảo sát khẳng định sẽ bớt sử dụng nếu công cụ này được đưa vào thực thế. Những con số này là một phần khiến Sam Altman ban đầu ủng hộ dự án, nhưng lại không thúc đẩy nó một cách mạnh mẽ. Một quan ngại khác nữa là công cụ này có thể làm giảm chất lượng viết lách mà ChatGPT có được nhưng các bài kiểm tra năng lực dựa trên công cụ này đã chứng minh điều ngược lại Hiện tại, OpenAI không đưa ra quá nhiều bình luận mà chỉ khẳng định rằng nội bộ vẫn đang tìm kiếm thêm các góc nhìn, các giải pháp khác trước khi đưa ra quyết định. Nguồn: WSJ

Nguồn thông tin: Tổng hợp và biên tập từ chuyên trang công nghệ.