21 tháng 11, 2026
Phần mềm

Tốc độ nghiên cứu đang khiến những công cụ benchmark AI trở nên lỗi thời

Home›Phần mềm›Tốc độ nghiên cứu đang khiến những công cụ benchmark AI trở nên lỗi thời

Nếu không có những biện pháp kiểm soát và đảm bảo an toàn thuật toán AI trong vận hành hàng ngày, thì tốc độ phát triển của những mô hình trí thông minh nhân tạo như hiện tại có thể tạo ra những thử thách để giới hạn nguy cơ mà nội dung do máy móc tạo ra trong những ứng dụng tiêu dùng và doanh nghiệp. Điều này đang khiến cả các doanh nghiệp, các tổ chức lẫn các cơ quan quản lý gặp khó khăn trong việc tìm ra những biện pháp hợp lý để quản lý công nghệ AI, thứ công nghệ đang có tốc độ phát triển nhanh đến chóng mặt. Những phương pháp đánh giá thuật toán đang được tin tưởng sử dụng đã bắt đầu nảy sinh những nhược điểm trong việc xác định mức độ chính xác và tính an toàn của thông tin. Đây là quan điểm chung của cả những người góp công sức nghiên cứu phát triển, thử nghiệm và đầu tư vào những công cụ AI. Theo họ, sự phức tạp của những mô hình AI đang bộc lộ khả năng eo hẹp cũng như việc dễ bị thao túng của những phương pháp đánh giá an toàn.

Aidan Gomez, nhà sáng lập kiêm CEO startup AI Cohere nói: “Công cụ đánh giá cũng có thời hạn sử dụng. Chúng chỉ hữu ích cho tới khi mọi người tìm ra cách tối ưu mô hình và thuật toán để thỏa mãn riêng yêu cầu của những bài đánh giá, hoặc tìm ra được lỗ hổng trong công cụ đánh giá để lợi dụng. Trước đây mất vài năm để con người làm được một trong hai điều đó. Giờ có lẽ chỉ mất vài tháng là công cụ đánh giá trở nên lỗi thời.”

Áp lực phải tạo ra những phương pháp đánh giá AI đủ mạnh để không bỏ sót những trường hợp như đã xảy ra với Google Gemini, giờ là nỗi lo của các nhà quản lý tại các tập đoàn công nghệ và các doanh nghiệp, chứ không còn chỉ của riêng những học giả và những nhà nghiên cứu khoa học máy tính nữa. Nỗi lo này được khuếch đại giữa lúc các chủ doanh nghiệp đang cố gắng bám theo trào lưu AI để bắt kịp với thời đại, tăng năng suất lao động và giảm chi phí vận hành. Theo khảo sát gần đây của KPMG, lấy ý kiến của hơn 1300 CEO trên toàn thế giới, 70% trong số đó cho biết AI đang là ưu tiên đầu tư hàng đầu trong doanh nghiệp của họ. Shelley McKinley, giám đốc pháp chế nền tảng lưu trữ code lập trình GitHub, được Microsoft sở hữu: “Mọi người sẽ không dùng những công nghệ mà họ không tin tưởng. Nhiệm vụ của các tập đoàn và công ty là tạo ra những công nghệ và sản phẩm đáng tin cậy cho mọi người.” Rồi đến lượt các chính phủ cũng đang gặp khó khăn trong việc kiểm soát nguy cơ mà những mô hình AI mới nhất có thể gây ra. Tuần trước Anh Quốc và Mỹ đã ký thỏa thuận chung, hợp tác đảm bảo công nghệ AI vận hành an toàn. Năm ngoái thì tổng thống Mỹ Joe Biden đã ký sắc lệnh yêu cầu những cơ quan thuộc chính phủ Mỹ như viện tiêu chuẩn và công nghệ quốc gia tạo ra những công cụ đánh giá và kiểm soát, giới hạn nguy cơ mà AI có thể gây ra. Nhiệm vụ này khó ở chỗ, con người, những người làm quản lý hay thử nghiệm AI luôn luôn phải chạy đua với những tiến bộ công nghệ, với những mô hình mới sở hữu hàng chục, hàng trăm tỷ tham số, để tạo ra những benchmark đáng tin cậy và có giá trị giúp ích cho con người, cả cộng đồng và thị trường công nghệ. Từ việc đảm bảo thông tin không bị AI bóp méo hoặc bị lợi dụng để cung cấp tin giả, hay những nội dung giả mạo khiến mọi người tin là sự thật, cho đến đảm bảo hiệu năng của thuật toán, những công cụ benchmark và kiểm soát an toàn là hàng rào bảo vệ rất cần thiết. Chẳng hạn tấm hình dưới đây, được đăng tải trên nhiều MXH hôm nước Mỹ và Canada được chiêm ngưỡng nhật thực toàn phần ít ngày trước, thực ra đây là tác phẩm của AI, nhưng đã và đang gây sốt trên MXH:

Tốc độ nghiên cứu đang khiến những công cụ benchmark AI trở nên lỗi thời - Sharevina.com

Hình ảnh minh họa cho Tốc độ nghiên cứu đang khiến những công cụ benchmark AI trở nên lỗi thời. Ảnh: Tư liệu

Hiện giờ, những công cụ đánh giá và kiểm soát AI như vậy đều đang gặp khó khăn trong việc bắt kịp với sự phức tạp của những mô hình mới nhất, những AI hứa hẹn có thể thực hiện một chuỗi những lệnh có kết nối với nhau của con người đưa ra. Đánh giá mức độ chính xác và khả năng hoàn tất những nhiệm vụ dạng chuỗi như vậy sẽ là nhiệm vụ rất khó đối với những công cụ benchmark. Mike Volpi, đối tác đầu tư của quỹ Index Ventures: “Điều đầu tiên có thể nhận ra là đánh giá mô hình AI giờ khó không khác gì đánh giá nhân sự một cách cẩn trọng và chính xác. Nếu bạn nhìn vào một vài khía cạnh chẳng hạn như ”người ta nhảy có cao hay chạy có nhanh không” thì rất dễ. Nhưng đánh giá toàn diện trí thông minh con người thì lại rất khó.”

Tốc độ nghiên cứu đang khiến những công cụ benchmark AI trở nên lỗi thời - Sharevina.com

Hình ảnh minh họa cho Tốc độ nghiên cứu đang khiến những công cụ benchmark AI trở nên lỗi thời. Ảnh: Tư liệu

Gần đây, startup nền tảng AI mã nguồn mở Hugging Face đã thiết lập bảng xếp hạng mô hình AI, dựa trên hệ thống do LMSys của đại học UC Berkeley phát triển. Công cụ này đánh giá mô hình ngôn ngữ dựa trên khả năng hoàn thành một nhóm những nhiệm vụ cụ thể được người dùng đặt ra, thay vì một loạt những câu hỏi bắt AI trả lời. Nhờ việc để người dùng tự đánh giá, kết quả cũng trở nên khách quan hơn. Theo CEO Gomez của Cohere, bảng xếp hạng này có giá trị hữu ích với từng người dùng đơn lẻ, nhưng với các doanh nghiệp thì ít giá trị hơn. Các doanh nghiệp đều có một bộ những yêu cầu cụ thể về khả năng vận hành của AI. Theo anh Gomez, các doanh nghiệp nên tự xây dựng bộ công cụ đánh giá AI nội bộ, chỉ cần chừng vài trăm vấn đề để AI giải quyết, không cần tới hàng nghìn vấn đề: “Chúng tôi luôn coi việc đánh giá từ con người là hoàn hảo nhất. Nó là cách đánh giá hiệu suất có tính đại diện cao nhất.” Theo FT

Nguồn thông tin: Tổng hợp và biên tập từ chuyên trang công nghệ.