Tool Calling: Phép màu hay cú lừa?

Tôi nhớ mình đã ngồi trân trân nhìn màn hình quản lý chi phí API tuần trước, tự hỏi làm thế nào một cái script agent bé tí lại đốt sạch 43.50 USD chỉ trong một buổi chiều. Hoá ra, việc cấp quyền cho AI tự do “bấm nút” không hề rẻ, cũng chẳng thần kỳ như cái cách mạng xã hội đang bơm thổi.

🧠 Tool calling thực sự là gì?

Thực dụng mà nói, tool calling không phải là việc AI tự mọc tay ra gõ phím hay trực tiếp query vào database của bạn. Nó chỉ là một thỏa thuận ngầm giữa bạn và mô hình ngôn ngữ.

Tôi đã từng nghĩ rằng khi cấu hình tool, AI sẽ trực tiếp thực thi các tác vụ như gửi email hay đọc file. Nhưng sau 3 tháng dùng thực tế với GPT-5.2, hoá ra mọi thứ thô sơ hơn nhiều: AI chỉ đơn giản là trả về một đoạn text định dạng JSON. Code của bạn sẽ nhận cục JSON đó, bóc tách dữ liệu, và chính server của bạn mới là kẻ thực thi hàm tương ứng.

Nếu đoạn JSON đó sai định dạng, hoặc AI tự bịa ra một tham số không tồn tại, toàn bộ hệ thống của bạn sẽ văng lỗi.

📉 Cái giá cắt cổ của sự tiện lợi

Sự phình to của context window

Mỗi lần bạn đưa cho AI một công cụ mới, bạn phải đính kèm toàn bộ mô tả (schema) của công cụ đó vào prompt hệ thống. Nếu bạn có 10 công cụ, prompt của bạn tự nhiên cõng thêm hàng ngàn token vô nghĩa cho mỗi lần chat.

Hồi tháng 3, tôi test một agent tự động crawl dữ liệu chứng khoán. Khi ghép thêm 4 tools phụ trợ, lượng token đầu vào tăng vọt. Thay vì phản hồi trong 3 giây, hệ thống bắt đầu mất tới 14.8 giây cho mỗi request đơn giản nhất.

Rủi ro về kiến trúc

Giao phó luồng điều khiển (control flow) cho một mô hình ngôn ngữ là hành động đầy rủi ro. Bạn đang thay thế những câu lệnh if/else chạy trong 1 mili-giây bằng một network call mất 3 giây, tốn tiền, và có tỷ lệ sai số ngẫu nhiên. Đây là kiểu thiết kế rất cồng kềnh mà tôi từng nhắc đến khi bàn về Tư Duy Kiến Trúc Hệ Thống: Đừng Mắc Bẫy — việc lạm dụng AI vào những chỗ có logic cố định chỉ làm hệ thống rác thêm.

⚖️ Bảng so sánh phương pháp

Tiêu chí	Hardcoded Logic (Code thường)	Tool Calling (AI Agent)	Ghi chú
Độ trễ	< 0.1 giây	2 - 15 giây	LLM phụ thuộc vào mạng và server
Chi phí	Gần như bằng 0	Vài cent đến vài đô / run	Token schema tính tiền mỗi lần gọi
Độ tin cậy	100% (nếu code đúng)	~85-95%	AI có thể ảo giác tham số
Độ linh hoạt	Kém (chỉ hiểu input cứng)	Cực cao	Xử lý tốt ngôn ngữ tự nhiên lộn xộn

🛠️ Cách triển khai thực tế không đốt tiền

1. Gom nhóm và tối giản Schema

Đừng vứt cho AI một cái tool có 15 tham số tùy chọn. Chia nhỏ chúng ra, hoặc tốt hơn là gom các bước lặt vặt lại. Tôi từng tối ưu một luồng agent cá nhân, ép nó gộp các bước xử lý text lại, giảm từ 28 API calls rườm rà xuống chỉ còn đúng 3 lần gọi mạng. Chi phí giảm hẳn 90%.

2. Luôn có Fallback Logic

Đừng tin tưởng tuyệt đối vào JSON mà Claude Sonnet 4.6 hay GPT-5 trả về. Dù mô hình có xịn đến đâu, bạn vẫn phải viết code try/catch cẩn thận. Nếu AI gọi tool với một email không đúng định dạng, code của bạn phải chặn lại ngay lập tức và yêu cầu AI sửa lỗi, thay vì đâm đầu gọi API bên thứ ba.

3. Test bằng model nhỏ trước

Bạn không cần dùng những model khổng lồ để test logic gọi hàm. Bạn có thể thiết lập môi trường giả lập ngay trên máy cá nhân. Đọc lại bài Ollama: Đừng vội bỏ GPT-5.2 để chạy LLM local để nắm cách đẩy các task định tuyến đơn giản về cho máy tính tự chạy mà không tốn cắc nào.

❓ Câu hỏi thường gặp

AI có tự chạy code được không?

Không. AI chỉ dự đoán và xuất ra văn bản. Môi trường thực thi (như Python server hay Node.js của bạn) mới là nơi chạy code dựa trên hướng dẫn của AI.

Model nào gọi tool tốt nhất hiện nay?

Claude Opus 4.6 đang làm rất tốt việc tuân thủ schema JSON phức tạp, ít bịa tham số hơn GPT-5.2. Tuy nhiên, tốc độ của Gemini 3.1 Pro lại nhỉnh hơn nếu bạn chỉ cần gọi các tool đơn giản, ít rẽ nhánh.

Làm sao để tránh AI gọi nhầm tool?

Viết mô tả (description) cho tool thật rõ ràng. Đừng đặt tên hàm là process_data. Hãy đặt là extract_user_email_from_text. Tên hàm và mô tả càng cụ thể, AI càng ít bị nhầm lẫn.

🎯 Kết luận

Tool calling là một cây cầu nối tuyệt vời giữa ngôn ngữ tự nhiên rườm rà và thế giới dữ liệu có cấu trúc. Nhưng nó hoàn toàn không phải là một phép thuật vạn năng. Nó giống như việc bạn thuê một thực tập sinh rất thông minh nhưng thỉnh thoảng lại buồn ngủ: họ có thể làm được việc khó, nhưng bạn tuyệt đối không được giao cho họ chìa khóa kho tiền mà không kiểm tra lại từng tờ hóa đơn.