← Về trang chủ

Từ Prompt Engineering sang Context Engineering cho AI Agent

Hồi mới bắt đầu dựng bot tư vấn bán hàng trong n8n, mình từng mắc một sai lầm kinh điển: nhét hết tất cả những gì có thể vào System Prompt.

Từ bảng giá 20 sản phẩm, chính sách đổi trả 10 trang, FAQ cho tới hướng dẫn xử lý từ chối... mình dán một cục dài ngoằng vào prompt. Chưa hết, mỗi lượt khách nhắn tin mới, workflow lại load nguyên lịch sử 40 tin nhắn cũ đẩy ngược lại cho AI đọc.

Hậu quả là:

  1. Chi phí token tăng vọt theo từng câu chat, ví tiền bốc hơi nhanh chóng.
  2. Tốc độ bot trả lời chậm như rùa vì model phải nhai lại cả núi chữ.
  3. Tệ nhất là AI bắt đầu bị "ngáo" — nó nhớ đầu quên đuôi (hiện tượng Lost-in-the-Middle), lấy giá của món A gán vào món B, bịa luôn cả chính sách khuyến mãi không có thật.

Đến năm 2026, khi chuyển sang làm việc với các hệ thống Agent tự chủ, mình mới nhận ra: Prompt Engineering dài dòng đã lỗi thời. Thứ quyết định một con bot chạy ngon hay dở nằm ở "Context Engineering" — tức là kỹ thuật kiểm soát và nạp đúng dữ liệu vào đúng thời điểm.

Thay vì bắt AI nhớ mọi thứ trong đầu, mình tái cấu trúc lại theo 3 nguyên tắc:

  1. Tối giản System Prompt: Giữ prompt dưới 250 từ, chỉ để định hình phong cách xưng hô và các giới hạn an toàn bắt buộc.
  2. Cắt lát ngữ cảnh (Context Slicing): Dùng code node trong n8n chỉ lọc lấy 3 tin nhắn gần nhất kèm một bảng tóm tắt ngắn gọn trạng thái khách hàng hiện tại (đang quan tâm món gì, đã chốt đơn chưa).
  3. Tra cứu đúng lúc (Just-In-Time Tool Call): Bảng giá, tồn kho và chính sách được đẩy vào Database/Sheets. Khi khách hỏi cụ thể món nào, Agent mới tự gọi Tool để tra cứu món đó.

Sau khi đổi cách làm, hóa đơn API giảm hơn một nửa, bot trả lời nhanh hơn hẳn và quan trọng nhất là không còn tình trạng báo giá lung tung cho khách.

Mình có tóm tắt chi tiết cách chia 3 tầng dữ liệu ngữ cảnh trong ảnh infographic đính kèm và các lưu ý kỹ thuật bên dưới phần bình luận.

Có anh em nào đang dựng AI chatbot trong n8n bị dính quả "nhồi prompt quá tay" khiến bot trả lời ngáo ngơ chưa?

Bình luận

Vì sao nhồi cả catalogue vào prompt luôn khiến AI bị "loạn não"? Nhiều anh em nghĩ đưa càng nhiều thông tin vào prompt thì AI càng thông minh. Nhưng các model ngôn ngữ lớn đều có điểm yếu gọi là "Lost-in-the-Middle" (bị lọt thông tin ở đoạn giữa). Khi bạn nhét 15 trang tài liệu vào, model thường chỉ chú ý đoạn đầu và đoạn cuối, còn các điều khoản quan trọng ở giữa rất dễ bị bỏ qua hoặc hiểu nhầm. Thay vì nhét văn bản thô, hãy chuyển dữ liệu thành cấu trúc bảng hoặc JSON và để Agent gọi Tool khi cần.

Cấu trúc 3 tầng Context chuẩn cho một Agent chạy n8n Để workflow chạy mượt và không bị phình token, mình chia context làm 3 phần độc lập:

  • Tầng 1 (Tĩnh - Persona): Nằm ở System Prompt. Quy định danh xưng, mục tiêu hội thoại và những điều TUYỆT ĐỐI KHÔNG ĐƯỢC LÀM.
  • Tầng 2 (Động - State): Được cập nhật liên tục sau mỗi tin nhắn qua Code node. Chỉ lưu các trường cần thiết như: { customer_name, interested_product, budget_range, current_intent }.
  • Tầng 3 (Truy xuất - Tool Data): Dữ liệu chi tiết từ Google Sheets, Notion, Vector DB. Agent chỉ đọc khi có câu hỏi phát sinh.

Cách xử lý lịch sử chat dài mà không làm nổ hóa đơn API Nếu để bot n8n gửi lại toàn bộ lịch sử trò chuyện qua node Memory mặc định, càng chat lâu chi phí mỗi câu càng đắt đỏ. Cách xử lý thực tế: Sau mỗi 5-7 lượt chat, cho chạy một luồng tóm tắt ngầm (Summarizer) để nén toàn bộ câu chuyện cũ thành 2-3 câu ngắn gọn ghi vào State. Luồng chat chính chỉ nạp bản tóm tắt đó + 3 tin nhắn mới nhất. Vừa giữ trọn vẹn ngữ cảnh mà token luôn ở mức tối thiểu.

Gợi ý phần cứng tối ưu để tự host n8n & Local AI Agent tại nhà:

Cộng đồng AI Automation: Facebook: https://www.facebook.com/groups/1668350474264397 Zalo: https://zalo.me/g/wspol24zm6ckrwzvstc5 📚 Khoá học: Combo AI Automation System + OpenClaw Agentic System: https://aiauto.salekit.store/product/combo-khoa-hoc-ai-automation-system-va-openclaw-agentic-system?ref=tyauto AI Automation Coaching: https://aiauto.salekit.store/product/khoa-hoc-ai-automation-coaching?ref=tyauto 2 tài liệu tham khảo cho người muốn học sâu hơn: OpenClaw Agentic System: https://aiauto.unica.vn/openclaw/?ref=tyauto AI Automation: https://aiauto.unica.vn/?ref=tyauto Lưu ý minh bạch: Đây là các link affiliate. Nếu bạn đăng ký qua link, mình có thể nhận hoa hồng giới thiệu. Hãy xem kỹ nội dung chương trình, học phí, lịch học và chính sách của đơn vị cung cấp trước khi quyết định.

Kết quả

Ket qua

🎮
Đề xuất phần cứng Local AI

Gigabyte RTX 5060 Ti Windforce MAX OC 16GB

Card đồ họa tối ưu chi phí tốt nhất để tự host Local LLMs (DeepSeek, Llama 3) và chạy n8n mượt mà tại nhà.

🛒 Xem trên Shopee
✅ Đã sao chép đoạn code JS vào clipboard!