Applied AI Systems Lab

Mình xin giới thiệu Applied AI Systems Lab - một Next.js 16 starter mình xây dựng để demo các pattern tích hợp AI vào production thực tế.

Mục đích

Dự án này sinh ra từ nhu cầu thực tế: khi làm việc với AI, mình gặp nhiều vấn đề như:

- Làm sao để switch giữa nhiều model/provider dễ dàng?

- Làm sao kiểm soát chi phí khi dùng chung API key?

- Làm sao cache responses để không tốn token cho những request trùng lặp?

- Làm sao đảm bảo an toàn (rate limit, budget cap) khi open cho nhiều người dùng?

Thay vì viết đi viết lại, mình quyết định build một "lab" mở - vừa để học, vừa để làm boilerplate cho các dự án AI khác.

Tính năng nổi bật

Multi-Provider Orchestrator

Một API duy nhất cho OpenAI, Anthropic, Gemini, Groq. Không cần quan tâm bên dưới dùng provider nào, cứ gọi theo model ID thân thiện.

BYOK (Bring Your Own Key)

Người dùng có thể tự cung cấp API key của mình (lưu trong localStorage). Khi dùng BYOK, budget limits của lab được bỏ qua - chi phí tính vào tài khoản user. Rất phù hợp cho demo hoặc teaching.

Safety Guardrails

- Per-request cap: max 10k characters input, 4k tokens output, ~$0.20/call

- Daily budget: mặc định $5/ngày cho shared keys (bảo vệ wallet của chủ lab)

- Rate limit: 5 requests/phút/IP

Intelligent Caching

Dùng SHA-256 hash input với TTL caching. Request trùng lặp sẽ không tốn token.

Cost & Token Tracking

Hiển thị real-time token usage và estimated cost trong UI.

Type Safety

End-to-end TypeScript + Zod cho mọi input/output của experiments.

Built-in Experiments

- Vietnamese Text Analyzer - phân tích sentiment, tone, key phrases cho tiếng Việt

- SQL Generator - natural language → SQL

- Code Insight Engine - phân tích độ phức tạp code

- Structured Data Extractor - JSON extraction với Zod validation

- Model Arena - so sánh nhiều model side-by-side

- Intent Classifier - map commands → structured intents

- Lottery Probability Lab - công cụ giáo dục về xác suất xổ số (có disclaimer rõ ràng)

Tech Stack

Next.js 16 (App Router), Vercel AI SDK, Tailwind CSS + shadcn/ui, Zod, next-intl (EN/VI), Redis (optional).

---

Repo hoàn toàn open source (MIT License). Ai muốn fork về làm template, thêm experiments, hoặc contribute đều welcome!

Cảm ơn mọi người !