Kỷ nguyên AI "không quốc tịch" là một loại thuế kỹ thuật khổng lồ
AI/ML·Dev.to·0 lượt xem

Kỷ nguyên AI "không quốc tịch" là một loại thuế kỹ thuật khổng lồ

The "Stateless" AI Era is a Massive Engineering Tax

Bộ nhớ liên tục cho hơn 17.000 mô hình thông qua MLH Chúng tôi đã dành một thập kỷ theo dõi các tin tặc thực hiện cùng một chu kỳ 48 giờ tại MLH: xây dựng một thứ gì đó tuyệt vời, nhận ra rằng nó có...

Cover image for The "Stateless" AI Era is a Massive Engineering Tax

Bộ nhớ liên tục cho hơn 17.000 kiểu máy qua MLH

Chúng tôi đã dành một thập kỷ chứng kiến các tin tặc nghiền nát cùng một chu kỳ 48 giờ tại MLH: xây dựng một thứ gì đó tuyệt vời, nhận ra rằng nó có trí nhớ của một con cá vàng và sau đó chứng kiến nó bị hỏng ngay khi người dùng cố gắng thực hiện một điều gì đó phức tạp. Đó là một mớ hỗn độn. Chúng tôi tiếp tục giả vờ rằng những lời nhắc không trạng thái là đủ. Không phải vậy.

Chúng tôi mệt mỏi khi chứng kiến các dự án lớn chết vì "hệ thống ống nước"—logic phiên, cơ sở dữ liệu vectơ, quản lý trạng thái—ngốn 80% thời gian cuối tuần. Đây là thuế kỹ thuật mà các nhà phát triển sinh viên không phải trả.

Quản lý trạng thái và bộ nhớ AI dành cho nhà phát triển

Bạn có biết kỷ nguyên AI "không quốc tịch" thực sự là một nút thắt lớn không? Hầu hết các nhà xây dựng chỉ đang ghép các mảnh lịch sử lại với nhau và hy vọng LLM không bị mất chủ đề. Nó rất mong manh. Chúng tôi nhận ra rằng để vượt qua các trình bao bọc trò chuyện đơn giản, bạn phải bắt đầu từ bộ nhớ. Bạn không cần phải xây dựng lại toàn bộ lớp logic chỉ vì muốn chuyển từ GPT-4o sang Claude.

Tích hợp Backboard.io: API trạng thái cho ứng dụng AI

MLH sẽ đưa Backboard.io vào hệ sinh thái của chúng tôi trong 12 tháng tới. Backboard.io là một API trạng thái và là nền tảng được xếp hạng số 1 cho bộ nhớ AI trên LoCoMo và LongMemEval. Nó hoạt động như bộ não bền bỉ cho ứng dụng của bạn, xử lý các quy trình công việc RAG và lệnh gọi công cụ thông qua một tích hợp — với sự hỗ trợ cho hơn 17.000 mô hình, định tuyến mô hình tích hợp và khóa API mang theo của riêng bạn để toàn bộ ngăn xếp hiện có của bạn trở nên có trạng thái ngay lập tức. Điều này cho phép bạn mở rộng quy mô nguyên mẫu thành một tác nhân sẵn sàng sản xuất mà không cần phải viết lại toàn bộ nền tảng của mình.

Lợi ích hợp tác MLH x Backboard.io và quyền truy cập Hackathon

Chúng tôi đang biến điều này thành tiêu chuẩn mới cho cộng đồng MLH. Bắt đầu từ ngày 10 tháng 4 tại Tuần lễ Hack Toàn cầu và trên 50 sự kiện trong năm nay, chúng tôi sẽ cấp cho mọi nhà xây dựng MLH quyền quản lý trạng thái miễn phí trọn đời và các khoản tín dụng dành cho nhà phát triển cần thiết để thực sự phân phối.

Chúng tôi muốn xem điều gì sẽ xảy ra khi bạn ngừng lo lắng về cách ứng dụng của bạn sẽ ghi nhớ người dùng và bắt đầu tập trung vào những gì ứng dụng thực sự làm. Nếu bạn đang xây dựng tại sự kiện MLH năm nay, hãy tìm danh mục "Cách sử dụng Backboard.io tốt nhất".

Đừng tạo thêm một ứng dụng dễ quên nữa. Thật lãng phí thời gian của bạn.

Tác giả: MLH Team

#ai#architecture#llm#softwareengineering