Điểm Chính

  • Hiệu Quả Token: Mức tiêu thụ giảm từ 884.000 xuống chỉ còn 1.160 token cho mỗi truy vấn, cùng với mức tăng 50% độ chính xác trên các tác vụ phức tạp.
  • Công Nghệ: Framework SkillWeaver dựa trên Skill-Aware Decomposition (SAD), được xây dựng trên mô hình Qwen2.5 với 7 tỷ tham số.
  • Giới Hạn Vận Hành: Bộ lập kế hoạch không xử lý lỗi thời gian thực; một lỗi API giữa chuỗi xử lý sẽ làm gián đoạn toàn bộ quá trình thực thi.

Vấn đề nhiễu thông tin

Khi một mô hình ngôn ngữ phải điều phối hàng nghìn công cụ bên ngoài, phương pháp thô sơ không mang lại hiệu quả. Việc đưa toàn bộ thư viện chức năng có sẵn vào một prompt duy nhất tạo ra tải trọng không thể chịu đựng được: trong các thử nghiệm tại phòng thí nghiệm, con số đã chạm mức đỉnh 884.000 token chỉ để cho phép tác nhân "nhìn thấy" các tùy chọn khả dụng. Đây là một nút thắt cổ chai mà SkillWeaver hứa hẹn sẽ loại bỏ triệt để, chuyển đổi cách tiếp cận từ tĩnh sang động.



SkillWeaver: Giảm 99% Token và Tăng 50% Độ Chính Xác Tron... - Foto 1

SkillWeaver: Giảm 99% Token và Tăng 50% Độ Chính Xác Tron... - Foto 2

Logic của quá trình phân rã

Trái tim của hệ thống chính là Skill-Aware Decomposition. Thay vì tải toàn bộ, thuật toán chia nhỏ yêu cầu của người dùng thành một đồ thị thực thi dạng nút. Đối với mỗi mục tiêu con riêng lẻ, hệ thống chỉ truy xuất các công cụ thực sự liên quan, bỏ qua nhiễu nền. Kết quả thử nghiệm, được thực hiện trên một bộ benchmark độc quyền gồm 300 yêu cầu đa bước, khai thác từ 2.209 công cụ thực tế trong hệ sinh thái MCP, cho thấy rõ ràng: mức tiêu thụ giảm xuống còn 1.160 token và độ chính xác tăng vọt 50%. Một dữ liệu kỹ thuật quan trọng xuất hiện: các mô hình quy mô lớn, nếu không được hướng dẫn cấu trúc như SAD, có xu hướng phân mảnh các nhiệm vụ thành những bước siêu nhỏ và thừa thãi, làm giảm hiệu suất cuối cùng thay vì cải thiện nó.

Mã nguồn đóng, mẫu mở

Được phát triển tại các phòng thí nghiệm ở Thượng Hải, dự án vẫn chưa công bố mã nguồn đầy đủ. Tuy nhiên, các mẫu prompt được sử dụng đã được công khai và có thể tái tạo thông qua các thư viện tiêu chuẩn như LangChain hoặc thông qua các script Python tùy chỉnh. Tuy vậy, vẫn còn một khoảng trống cấu trúc đáng kể: việc xử lý lỗi thời gian thực hoàn toàn vắng mặt trong bộ lập kế hoạch. Nếu một lệnh gọi API thất bại trong quá trình thực thi một bước trung gian, toàn bộ chuỗi logic sẽ bị gián đoạn mà không có giao thức khôi phục tự động.