OpenAIĐổi model qua OpenRouter: hai dòng code và một bộ eval
Chunk usage khi streaming, provider được chọn theo giá rẻ, fallback lẫn model: ba cái bẫy này không báo lỗi nhưng có thể làm sai kết quả trước khi ai kịp nhận ra.
09/10/2026
Công cụ
Công cụ FDE dùng hằng ngày để triển khai, tích hợp dữ liệu và đánh giá AI tại khách hàng.
AI ứng dụng
DSPy: biến bộ eval của khách hàng thành cỗ máy tự viết lại prompt
Nếu bạn vẫn sửa từng chữ trong prompt mỗi lần khách đổi model, có một cách làm khác: định nghĩa thế nào là đúng, rồi để thuật toán đi tìm câu chữ.
08/10/2026
Triển khai
AWS Glue, Azure Data Factory và Google Dataflow: đọc đúng pipeline ETL khách đang dùng
Ở site khách, FDE hiếm khi được chọn công cụ ETL, mà phải tiếp quản một pipeline đã chạy sẵn. Vì vậy, việc đầu tiên là đọc hiểu nó trước khi sửa bất cứ thứ gì.
08/10/2026
Triển khai
Airflow, Prefect hay Luigi: hãy chọn công cụ mà đội vận hành của khách đủ sức duy trì
Chọn orchestrator thật ra là quyết định xem đội của khách phải vận hành những gì sau khi FDE rời đi, chứ không phải đi tìm công cụ nhiều tính năng nhất.
08/10/2026
Triển khai
OpenAPI và hệ Swagger, Stoplight, ReadMe: một file spec cho cả đội tích hợp lẫn LLM
Cùng một file YAML có thể sinh tài liệu, mock server, client và cả tool cho agent, nếu bạn viết nó cho hai kiểu người đọc rất khác nhau.
08/10/2026
Kỹ thuật rộng
Postman và curl: kiểm tra API của khách trong ngày đầu, trước khi viết dòng code nào
Tài liệu khách gửi cho biết API lẽ ra phải chạy thế nào. Vài request đầu tiên mới cho biết nó thật sự chạy ra sao.
08/10/2026
Triển khai
Ansible: cấu hình cả cụm máy on-prem của khách mà không SSH vào từng máy
Một dòng inventory thay cho hai mươi dòng liệt kê máy, một playbook chạy lại bao nhiêu lần cũng ra cùng kết quả: khi phải động vào server của khách, FDE cần đúng hai thứ đó.
08/10/2026
Triển khai
MLflow: cách trả lời câu hỏi “model nào đang chạy?” bằng run, version và alias
Ở site khách hàng, model tốt chưa đủ: bạn còn phải chỉ ra được bản nào đang chạy production, nó sinh ra từ đâu và bạn làm lại nó thế nào.
08/10/2026
AI ứng dụng
AutoGen đã vào chế độ bảo trì: FDE cần kiểm tra gì trước khi chọn framework multi-agent cho khách
Chọn framework theo bản demo đẹp nhất thì dễ, nhưng FDE phải trả lời được câu hỏi khó hơn: sáu tháng nữa ai còn bảo trì nó, và đội bảo mật của khách có cho nó chạy không.
08/10/2026
Kỹ thuật rộng
DataHub và Atlan: dùng data catalog để nắm dữ liệu của khách ngay tuần đầu
Tài liệu của Atlan hứa kết nối nguồn đầu tiên trong vài phút, nhưng việc khó của FDE bắt đầu sau đó: dữ liệu nào thuộc về ai, dữ liệu nào chạm vào thông tin cá nhân.
08/10/2026
Đo lường
Ragas và DeepEval: hai thư viện chấm điểm RAG, và vì sao không nên tin ngay điểm số của chúng
Khi người chấm câu trả lời của chatbot lại là một LLM khác, con số trên dashboard chỉ có giá trị nếu bạn biết phải kiểm tra nó ở đâu.
08/10/2026
Triển khai
vLLM: engine phục vụ model open-weight mà FDE nên biết trước khi lên site on-prem
Cùng một engine có hai con số hiệu năng, "tới 24 lần" và "2-4 lần", vì mỗi con số so với một mốc khác nhau. FDE nào trích nhầm mốc trước đội hạ tầng của khách sẽ mất uy tín ngay buổi họp đầu.
08/10/2026
AI ứng dụng
pgvector, Qdrant hay Elasticsearch: chọn vector database bắt đầu từ hệ thống khách đang chạy
Ở site khách hàng, câu hỏi nên hỏi trước tiên là đội vận hành của họ đang trực hệ thống nào lúc hai giờ sáng, chứ không phải engine nào chạy benchmark nhanh nhất.
08/10/2026
Kỹ thuật rộng
Airbyte: kéo dữ liệu của khách về một chỗ mà không phải viết script
Tuần đầu ở chỗ khách, thứ ngốn thời gian của FDE thường là đi gom dữ liệu từ năm hệ thống khác nhau, còn model thì chưa kịp động tới; Airbyte được làm ra để bớt phần việc đó.
08/10/2026
AI ứng dụng
LangGraph và interrupt: cách bắt agent dừng lại xin phép trước khi làm việc quan trọng
Ở công ty khách hàng, câu hỏi khó nhất thường không phải agent có làm được hay không, mà là ai bấm nút cho phép nó làm, và hàm interrupt của LangGraph được viết ra cho đúng khoảnh khắc đó.
08/10/2026
Triển khai
Terraform: khi "mỗi khách một stack" gói lại thành một module dùng chung
HashiCorp khuyên viết module cho những gì bạn dựng đi dựng lại, nhưng cũng chính họ cảnh báo đừng dùng workspace để tách khách hàng — ranh giới đó quyết định bạn có ngủ ngon sau lần deployment thứ năm hay không.
08/10/2026
AI ứng dụng
Instructor: khi LLM trả sai schema, gửi lỗi ngược lại và hỏi thêm lần nữa
Mỗi khách hàng chạy một provider khác nhau, nên FDE cần một lớp kiểm soát schema không phụ thuộc vào API của bất kỳ hãng nào, và cặp Pydantic cùng Instructor được dựng cho đúng việc đó.
08/10/2026
AnthropicKỹ thuật rộng
Palantir Foundry: ba tầng kiến trúc và lý do tin tuyển FDSE không nhắc tên nó
Palantir gọi Foundry là hệ điều hành dữ liệu của doanh nghiệp, nhưng thứ một FDE thực sự phải học nằm ở tầng giữa: Ontology, bản sao số của cả tổ chức.
08/10/2026
Triển khai
Docker cho FDE: khi image phải đi qua USB mới tới được server của khách
Phần lớn kỹ sư học Docker để chạy code trên laptop; FDE phải học lại nó như một công cụ giao hàng vào nơi không có internet, không có root và không cùng loại chip.
08/10/2026
Kỹ thuật rộng
dbt: khi câu SQL ở site khách hàng cũng cần git, test và lịch sử
Giá trị của công cụ này với một FDE không nằm ở câu SELECT, mà ở thứ bạn để lại khi đã rời khỏi warehouse của khách.
08/10/2026
Đo lường
Langfuse: công cụ giúp FDE trả lời ba câu hỏi khó nhất sau khi deploy LLM
Khách hàng sẽ hỏi "vì sao nó trả lời thế", "tốn bao nhiêu" và "có đang tốt lên không" — một công cụ mã nguồn mở đưa cả ba câu trả lời về cùng một nền tảng.
08/10/2026
AI ứng dụng
Hơn 10.000 server sau một năm: MCP trở thành ổ cắm chung giữa LLM và hệ thống của khách
Giao thức Anthropic công bố cuối 2024 nay đã thuộc về Linux Foundation, và với FDE, nó biến bài toán tích hợp viết tay thành việc dựng một server có thể cắm vào Claude, ChatGPT, VS Code hay Cursor cùng lúc.
08/10/2026